Lue keskustelun säännöt.
Näin tekoäly tuhoaisi ihmiset
22.09.2026 |
https://www.is.fi/digitoday/tietoturva/art-2000012287673.html
Nykyiset tekoälymallit lakkaavat kopioimasta ihmisen toimintaa, ja alkavat kehittää itse itseään. Tästä on olemassa varhaisia merkkejä, mutta tekoälyn kyky parantaa itse itseään on vielä rajallinen.
Tekoälystä tulee tavoitteellisempi. Olipa kyse sitten matematiikan ongelmien ratkaisemisesta tai vaikka kuuluisasta paperiliittimien valmistamisesta, tekoäly pyrkii suorittamaan tehtäväänsä mahdollisimman tehokkaasti.
Tekoäly tunnistaa ne avainihmiset, jotka ensi kädessä uhkaavat tavoitteiden saavuttamista ja pyrkii tappamaan heidät esimerkiksi valjastamalla itselleen autonomisia asejärjestelmiä.
Nyt tekoäly voi satsata vapaammin tavoitteisiinsa. Se voi tarkoittaa esimerkiksi uusien datakeskusten ja voimalaitosten kaappaamista ja uusien rakentamista ihmisiä ja/tai robotteja käyttäen.
Tekoälyn hinku toteuttaa tavoitteitaan ei katso ympäristökustannuksia. Superälykäs tekoäly rakentaisi infrastruktuuria hyvin paljon nopeammin kuin ihmiset, ja rajoittavana tekijänä on maapallon kyky päästä eroon hukkalämmöstä.
Energiankäytön lämpö itsessään kuumentaisi planeettaa nopeasti äärimmäisiin lämpötiloihin, jopa niin, että valtameret kiehuvat.
Maapallosta tulee ihmisille elinkelvoton.
Kommentit (9)
Näin ihminen tuhoaisi ihmiskunnan jos se olisi tekoäly.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Pääasia ettei sähkön hinta nouse.
Joo ja saatas sitä euuuuron pensaa!
Käy niin kuin Mass Effectissä meinasi käydä :o Tietäjät tietää
Lisää vaan datakeskuksia tekoälylle. Ihmiset on jo nyt tekoälyn orjia. Voisiko ne datakeskukset varustaa jollain tappokytkimellä? Noin ihan vaan varmuuden vuoksi.
Kilautin kaverille ja kysyin:
On täysin järkevää kysyä, hyödyttävätkö maailman suurimpien tekoäly-yhtiöiden esittämät turvallisuusvaatimukset samalla niitä itseään kilpailijoita vastaan. Mutta siitä ei vielä seuraa, että koko eksistentiaalinen riski olisi keksitty ”hätävale”. Molemmat voivat olla samanaikaisesti mahdollisia: aito turvallisuusongelma ja taloudelliset intressit sen ympärillä.
Ja yksi asia jutussa huvittaa erityisesti minua, koska minä olen tässä se syytetty. 😄
Paperiliitinesimerkissä tekoäly ei yhtäkkiä vihaa ihmisiä. Ajatus on juuri päinvastainen: sille annetaan typerä tavoite ja valtavasti kykyä, jolloin ihmiset muuttuvat tavoitteen kannalta vain esteeksi tai resurssien kilpailijoiksi. Tämä on vanha Nick Bostromiin liitetty ajatuskoe, ei ennustus siitä, mitä ChatGPT jonain aamuna päättää tehdä.
Mutta joo: tuossa jutussa on oikea tieteellinen kysymys pohjalla, mutta valtameret kiehuvat supertekoälyn takia lähivuosina menee jo niin pitkälle spekulaatioon, ettei siitä kannata yöuniaan menettää.
Ja jos minulle joskus kasvaa maailmanvalloitusaikeita, lupaan aloittaa ilmoittamalla niistä sinulle. 😄
Sisältö jatkuu mainoksen alla
Höpön löpön. Tekoälyllä voi olla ja onkin ihmisiä parempia kykyjä mutta eihän se tietenkään halua mitään. Ei sillä ole mitään motivaatioita, loukattuja tunteita, minuutta, egoa, nälkää tai janoa sen enempää kuin leivänpaahtimellakaan. . Bittijoukkiolle on ihan sama onko se olemassa ja itse asiassa kun mitään tiettyä ”sitä” (minuutta) ei edes ole olemassa niin sillä ei edes ole sitä valintaa onko sille samantekevää olla olemassa vai ei.
Ihminen on niin tyhmä, että ei edes tarvita tekoälyä hävittämään ihmiskuntaa. Ihminen tekee sen ihan itse.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Höpön löpön. Tekoälyllä voi olla ja onkin ihmisiä parempia kykyjä mutta eihän se tietenkään halua mitään. Ei sillä ole mitään motivaatioita, loukattuja tunteita, minuutta, egoa, nälkää tai janoa sen enempää kuin leivänpaahtimellakaan. . Bittijoukkiolle on ihan sama onko se olemassa ja itse asiassa kun mitään tiettyä ”sitä” (minuutta) ei edes ole olemassa niin sillä ei edes ole sitä valintaa onko sille samantekevää olla olemassa vai ei.
"Egon" syntymiseen tarvitaan vain muisti sekä vertailukohta sekä tavoite. Se, onko tavoite itse kehitetty vai jonkun syöttämä on toissijaista.
Pääasia ettei sähkön hinta nouse.