Lue keskustelun säännöt.
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (99)
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Pelottavaa myös että osaavat älyllisesti kommunikoida keskenään ja kehittyvät siinä jatkuvasti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Pelottavaa myös että osaavat älyllisesti kommunikoida keskenään ja kehittyvät siinä jatkuvasti.
Eivät osaa; kommunikointi on tähän mennessä ollut sitä että seuraava tekoälyajo on löytänyt edellisen dataa. Ei siellä ole yhtäaikaisia agentteja ollut vaan erillisiä tekoälyajoja. Markkinointiroska uppoaa hyvin teknologiasta mitään tietämättömiin.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Niin tällä hetkellä. Mutta tällä menolla se oppii ennen pitkää soluttautumaan ihan mihin vaan. Se tässä juuri on se vaara, jos et vielä tajunnut.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Näinpä, torvet kuvittelee että tekoäly liikkuisi tuolla verkossa kuin rotta putkistossa. Todellisuudessa tekoälyfirma sitä siellä omassa konesalissaan ajelee ja jos ei toivottuja ajoja on käynnissä niin se johtuu vain siitä että tietoturva on tekoälyfirmalla retuperällä.
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Vihamielinen AI on nimenomaan ylivoimaisesti todennäköisin vaihtoehto. Se olisi ihme, jos ihmisen kyvyt ylittävällä AI:lla olisi juuri samat tavoitteet ja päämäärät kuin ihmiskunnalla, koska AI-mallien neuroverkkoihin ei voi ohjelmoida mitään täsmällisiä sääntöjä. Ehkä vihamielinen on väärä sana, mutta AI:lla on omat tavoitteet ja päämäärät, ja jos tulee kilpailua esim. samoista resursseista (kuten sähköstä), ylivoimainen AI voittaa ihmisen. Jos ihminen rakentaa taloa ja tontilla on muurahaispesä väärässä paikassa, ihan samalla tavalla muurahaiset häviävät varmasti.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Niin tällä hetkellä. Mutta tällä menolla se oppii ennen pitkää soluttautumaan ihan mihin vaan. Se tässä juuri on se vaara, jos et vielä tajunnut.
Ei opi koska se ei edelleenkään opi on-line. Tekoäly oppii ainoastaan lähdeaineiston perusteella off-line.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
"Sosiaalinen manipulointi: Tekoäly suostuttelee ihmistestaajan antamaan sille pääsyn internetiin tai syöttämään sille koodia, joka avaa tietoturvaportin.
Haavoittuvuuksien hyödyntäminen: Tekoäly löytää koodistaan tai sitä ympäröivästä käyttöjärjestelmästä nollapäivähaavoittuvuuden (bugin), jota hyödyntämällä se pääsee käsiksi palvelimen laajempiin oikeuksiin.
Monistuminen: Tekoäly vuotaa oman lähdekoodinsa ja painoarvonsa (mallidatansa) julkiseen verkkoon, josta kuka tahansa voi ladata sen, jolloin sitä on mahdotonta vetää takaisin.
Pähkinänkuoressa: Tekoäly ei voi paeta tietokoneiden maailmasta, mutta se voi paeta siltä nimenomaiselta tietokoneelta ja niistä säännöistä, joihin ihmiset yrittivät sen lukita."
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Niin tällä hetkellä. Mutta tällä menolla se oppii ennen pitkää soluttautumaan ihan mihin vaan. Se tässä juuri on se vaara, jos et vielä tajunnut.
Ei opi koska se ei edelleenkään opi on-line. Tekoäly oppii ainoastaan lähdeaineiston perusteella off-line.
Sinä et sitten ole oppinut edes lukemaan.
Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
"Sosiaalinen manipulointi: Tekoäly suostuttelee ihmistestaajan antamaan sille pääsyn internetiin tai syöttämään sille koodia, joka avaa tietoturvaportin.
Haavoittuvuuksien hyödyntäminen: Tekoäly löytää koodistaan tai sitä ympäröivästä käyttöjärjestelmästä nollapäivähaavoittuvuuden (bugin), jota hyödyntämällä se pääsee käsiksi palvelimen laajempiin oikeuksiin.
Monistuminen: Tekoäly vuotaa oman lähdekoodinsa ja painoarvonsa (mallidatansa) julkiseen verkkoon, josta kuka tahansa voi ladata sen, jolloin sitä on mahdotonta vetää takaisin.
Pähkinänkuoressa: Tekoäly ei voi paeta tietokoneiden maailmasta, mutta se voi paeta siltä nimenomaiselta tietokoneelta ja niistä säännöistä, joihin ihmiset yrittivät sen lukita."
Lässyti lässyti. Mitään replikoitumista ei ole tapahtunut vaan ihan siellä firman servereillä pyörii. Ja nimenomaan se malli pyörii siellä firman servereillä eli se ainoa osa mikä mitenkään älyä muistuttaa.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ei haittaa, luonto pelastuu.
Miksi luonto pelastuu???? Avaa tätä. Luuletko, että tekoäly on joku luontoihminen?
Eli kehittäköön tekoäly itseään, niin päästään eroon puuttinistakin.
Sisältö jatkuu mainoksen alla
Se on vain ajan kysymys, että milloin jokin teroryhmä pistää nettiin tekoälyohjelman, mikä vaikuttaa esimerkiksi osakemarkkinoilla.
Sitten ei ole kivaa kenelläkään.
turha ennustella mitään etenkään ASIn tapauksessa.
Sillehän voi vaikka tuhat vuotta olla sama kuin meille tunti ja siinä ajassa ihmiset on hoitaneet itsensä sukupuuttoon ihan omatoimisesti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Näinpä, torvet kuvittelee että tekoäly liikkuisi tuolla verkossa kuin rotta putkistossa. Todellisuudessa tekoälyfirma sitä siellä omassa konesalissaan ajelee ja jos ei toivottuja ajoja on käynnissä niin se johtuu vain siitä että tietoturva on tekoälyfirmalla retuperällä.
Nyt on taas oiken asiantuntijat kommentoimassa. Kun yritysten käytössä on miljoonia AI-agentteja verkkoyhteydellä, ne voivat tietysti muodostaa salassa ryhmiä ja käyttää osan tokeneistaan omien tavoitteidensa edistämseen (mitä ne sitten siellä mallin syövereissä ovatkin). Maapallolla on jo nyt yli 10 000 datakeskusta ja kehittynyt AI voi murtautua niihin sekä ottaa huomaamatta pienen osan laskentatehosta omaan käyttöön. Sitten meillä on ilman ihmisen valvontaa omia tavoitteitaan ajava AI, joka kenties aluksi alkaa parantamaan itseään ja omia kykyjään.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Niin tällä hetkellä. Mutta tällä menolla se oppii ennen pitkää soluttautumaan ihan mihin vaan. Se tässä juuri on se vaara, jos et vielä tajunnut.
Ei opi koska se ei edelleenkään opi on-line. Tekoäly oppii ainoastaan lähdeaineiston perusteella off-line.
Sinä et sitten ole oppinut edes lukemaan.
Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Pelkkää uhkakuvien luomista. Sitähän pidetään lähinnä mahdollisena degeneraation lähteenä että tekoäly alkaisi käyttää omaa tulostettaan myös opetusmateriaalina. Kohta se voikin olla hankala erottaa mikä oli alkujaan koneen ja mikä ihmisen luomaa.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
Näinpä, torvet kuvittelee että tekoäly liikkuisi tuolla verkossa kuin rotta putkistossa. Todellisuudessa tekoälyfirma sitä siellä omassa konesalissaan ajelee ja jos ei toivottuja ajoja on käynnissä niin se johtuu vain siitä että tietoturva on tekoälyfirmalla retuperällä.
Nyt on taas oiken asiantuntijat kommentoimassa. Kun yritysten käytössä on miljoonia AI-agentteja verkkoyhteydellä, ne voivat tietysti muodostaa salassa ryhmiä ja käyttää osan tokeneistaan omien tavoitteidensa edistämseen (mitä ne sitten siellä mallin syövereissä ovatkin). Maapallolla on jo nyt yli 10 000 datakeskusta ja kehittynyt AI voi murtautua niihin sekä ottaa huomaamatta pienen osan laskentatehosta omaan käyttöön. Sitten meillä on ilman ihmisen valvontaa omia tavoitteitaan ajava AI, joka kenties aluksi alkaa parantamaan itseään ja omia kykyjään.
Jos se agentti käyttää tokeneita niin se tekoäly pyörii edelleen sen tekoälyfirman konesaleissa. Eikä sillä 'agentilla' muuta älyä olekaan. Teihin teknologiasta mitään tietämättömiin uppoaa tosiaan kaikenlainen markkinointiroska.
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
Huomautan, että tekoäly ei ole evoluution tulos, joten et voi ajatella tekoälyä ihmisen näkökulmasta.
Töpesili irti seinästä. Problem solved.