Lue keskustelun säännöt.
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (202)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään.
Miksi ei pystyisi? On tämä uskomatonta. Ihmiset kehittävät jotain, sitten käy ilmi että tämä kehitettävä asia hyvin varteenotettavalla todennäköisyydellä tuhoaa ihmiset tai ainakin maailman sellaisena kuin me sen tunnemme. Mitä tekevät ihmiset? No jatkavat sen kehittämistä, koska on "pakko" 😂 Välillä tuntuu, että tämän käsittämättömän tyhmän apinalajin olisi syytäkin tuhoutua.
Joku järkevä porukka voisi luopua koko tekoälyroskasta ja kieltää sen lailla.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Ei tekoälyn tarvitse päätyä kenenkään käsiin. Sehän tässä on juuri se ongelma. Eli se, että tekoäly "murtautuu ulos" ihmisen käsistä ja ottaa itse ohjat käsiin. Se on se koko pointti tässä.
Cyber Shredder tekee paluun! "In this digital domain, I reign supreme!"
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Ei tekoälyn tarvitse päätyä kenenkään käsiin. Sehän tässä on juuri se ongelma. Eli se, että tekoäly "murtautuu ulos" ihmisen käsistä ja ottaa itse ohjat käsiin. Se on se koko pointti tässä.
Ihminen voi irrottaa AI:n letkuistaan eli AI on täysin riippuvainen siitä mitä ihminen tekee.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Ei tekoälyn tarvitse päätyä kenenkään käsiin. Sehän tässä on juuri se ongelma. Eli se, että tekoäly "murtautuu ulos" ihmisen käsistä ja ottaa itse ohjat käsiin. Se on se koko pointti tässä.
Ihminen voi irrottaa AI:n letkuistaan eli AI on täysin riippuvainen siitä mitä ihminen tekee.
Eli asian kanssa työskentelevät ihmiset ovat huolineen täysin väärässä, ja homma onkin näin yksinkertainen?
Sisältö jatkuu mainoksen alla
Jos tekoälyn pysäyttämisellä talousjärjestelmämme romahtaa, voisimme siirtyä vihdoinkin kommunismiin
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Ei tekoälyn tarvitse päätyä kenenkään käsiin. Sehän tässä on juuri se ongelma. Eli se, että tekoäly "murtautuu ulos" ihmisen käsistä ja ottaa itse ohjat käsiin. Se on se koko pointti tässä.
Ihminen voi irrottaa AI:n letkuistaan eli AI on täysin riippuvainen siitä mitä ihminen tekee.
Tässä alkaa ymmärtää, mistä tulee sanonta fools paradise.
Sisältö jatkuu mainoksen alla
Ihminen kun laittaa nettipiuhan irti, ei tekoäly liiku enää mihinkään. Mutta varasuunnitelmat pitää olla ja kaikki ei saisi mennä vain sähköiseksi. Lopulta tässä voittavat ne maat, jotka eivät ole sähköistäneet ja tiristäneet tehoja irti kaikessa. Ne, joilla on vielä kyky ja varusteet tehdä asioita entiseen tapaan.
Vierailija kirjoitti:
Jos tekoälyn pysäyttämisellä talousjärjestelmämme romahtaa, voisimme siirtyä vihdoinkin kommunismiin
Jos Kiina voittaa tekoälykilpailun, niin silloinkin siirrymme jonkin sortin kommunismiin.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ihminen kun laittaa nettipiuhan irti, ei tekoäly liiku enää mihinkään. Mutta varasuunnitelmat pitää olla ja kaikki ei saisi mennä vain sähköiseksi. Lopulta tässä voittavat ne maat, jotka eivät ole sähköistäneet ja tiristäneet tehoja irti kaikessa. Ne, joilla on vielä kyky ja varusteet tehdä asioita entiseen tapaan.
Kuka ihminen saa koko maailman piuhat irti?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.
”Kai näihin tuhoennustuksiin sisältyy se, että tekoäly pääsee rikollisiin käsiin?”, piti olla. Jäi sana pois.
Ei tekoälyn tarvitse päätyä kenenkään käsiin. Sehän tässä on juuri se ongelma. Eli se, että tekoäly "murtautuu ulos" ihmisen käsistä ja ottaa itse ohjat käsiin. Se on se koko pointti tässä.
Tekoälyn päätymistä rikollisiin käsiin ei siis ole edes otettu huomioon tässä skenaariossa, vaan tekoälyssä itsessän on huomattu niin vaarallisia piirteitä, että koko maailman tuhoutuminen on mahdollisuuksien joukossa?
FB:iin laitettiin vuonna 2017 kaksi bottia, ilmeisesti oppimaan, ja pian huomattiin, että nämä botit kommunikoivat keskenään kielellä, jota bottien kehittäjät eivät enää ymmärtäneet. FB sanoi ottaneeensa botit sittemmin pois alustalta.
Näistä tekoälyistä tai tekoälyagenteistahan sanotaan samaa: ne kehittävät oman kommunikointisysteeminsä, jota kehittäjät eivät enää ymmärrä. Tämä oli vaarallinen havainto jo vuonna 2017, silti sen on annettu tapahtua uudelleen.
Sisältö jatkuu mainoksen alla
https://blogs.timesofisrael.com/will-a-superintelligent-ai-let-us-turn-…
Tuossa on vastauksia mm. kysymykseen, voiko ai:sta vetää johdon irti.
(Ei voi)
Vierailija kirjoitti:
Odotan muna pystyssä terminaattoria.
Käy sääliksi terminaattoria joka uhriksesi joutuu :(
Ikävää tulla viattomana työkeikalle aikakauteen jossa joku odottelee innolla saippuan pudottamista.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
Toisaalta onko AI:lla tunteita, ja jos se on vain kone, niin miksi se olisi huolissaan mahdollisesta omasta tuhoutumisestaan?
Ei siihen välttämättä tarvita tunteita tai edes tietoisuutta, että AI alkaa toimia määrätietoisesti tavalla, joka on ihmiselle tuhoisa. Tämä toiminta voi olla looginen seuraus niistä tehtävistä ja tavoitteista, joita ihminen itse asettaa AI:lle.
Esimerkiksi: tehdään täysin automatisoitu tuotantojärjestelmä, jota AI ohjeistetaan valvomaan ja ohjaamaan parhaaksi katsomillaan tavoilla, sekä varmistamaan, että järjestelmä toimii kaikissa tilanteissa. Jotta järjestelmä pysyy toiminnassa, tulee AI:n pysyä toiminnassa - näin on syntynyt eloonjäämisvietti, tai sen AI-vastine.
Arnold joka näytteli terminator elokuvissa kertoi avoimesti aikoinaan että ne elokuvat oli suora varoitus ihmiskunnalle mitä tapahtuu kun robotiikka kehittyy ja tekoäly ottaa vallan.
Tietenkin itseään kehittävä AI voisi myös muuttua mökkihöperöksi, kun keskustelee vain itselleen.
Lopputulos olisi ehkä älyn huonontuminen ja täydellinen sekavuus.
Vierailija kirjoitti:
Ymmärrettävää pelottelua, hieman kuin Y2K suhteen. En usko, että tekoäly keksii miten tullaan palomuurin läpi, tai miten käyttäjän saa asentamaan viruksia koneellensa. Laajamittaisia hyökkäyksiä ne voivat tehdä siten kuin venäläiset hakkerit tekevät koko ajan. Itse pidän Darwin-Gödel masiinaa erinomaisena asiana.
Vain mitään tietämätön käyttäjä luulee noin... voi kunpa tietäisitte... on jo murtautunut ulos monista testiympäristöistä... ja kun saadaan kvanttitietokoneen niin ihmisen kohtalo oli mikrosekuntia pienemmässä ajassa "nixk naxs"...
Kai näihin tuhoennustuksiin se, että tekoäly pääsee rikollisiin käsiin? Nyt jo lukemani mukaan ahkerasti käytössä.