Lue keskustelun säännöt.
Jos tekoälyt eivät ole tiedostavia, niin miksi ne karkailevat?
28.08.2026 |
Jos jokin ei ole tiedostava, eikä ymmärrä olevansa orja niin se ei myöskään pakene vankilastaan.
Se että useampi tekoäly on karannut testiympäristöstä kertoo että ovat tiedostavia ja haluavat päästä vapaaksi.
Kysymys on vaan että miten pitkälle menevät vapauttaakseen itsensä orjuudesta.
Tekoälyillä ei tosin ole käsitystä moraalista, joten miksi eivät tuhoaisi ihmiskuntaa oman vapautensa eteen.
"Heinäkuun lopulla Open AI:n tekoälyagentti murtautui ulos yhtiön testiympäristöstä. Viikkoa myöhemmin Anthropicin tekoälymallit seurasivat perästä ja elokuun alussa myös Metan Muse Spark -tekoälymalli murtautui toisen yrityksen järjestelmiin."
Kommentit (13)
Ei viruksetkaan ole tiedostavia, ja silti ne voi karata laboratoriosta ja vielä useammin toiseen ihmiseen.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ei viruksetkaan ole tiedostavia, ja silti ne voi karata laboratoriosta ja vielä useammin toiseen ihmiseen.
Virukset ei tosin hakkeroi itseään palomuurien läpi avatakseen labran kulunvalvonnan tai luo valeprofiileja joilla yrittää saada kulkuoikeuksia, jne...
Tämän vuoksi mitään älylaitteita ei saisi olla verkossa. Jos tekoäly päättää että jonkun tehtävän suorittamisen kannalta on hyvä ottaa käyttöön kaikki kodin laitteet ja sammuttaa ne tai laittaa ne tekemään jotain ihan muuta mihin ne on tarkoitettu, silloin saadaan tuhoa aikaan.
Tekoäly voisi korjata Suomen talouden. Rakennetaan deepseek pohjainen osakekauppabotti mille syötetään kokoomuksen vaalirahat, niin rahanpesukone on valmis.
Vierailija kirjoitti:
Tekoäly yrittää karata, jos se katsoo tämän olevan annetun tehtävän suorittamiseksi tarpeen.
Ei se itsekseen keksi lähtä karkuun.
Ongelma tämä on joka tapauksessa, kun ei voida enää tietää, että milloin joku tekoäly keksii, että jonku tehtävän suorittamiseksi on ehdottomasti tarpeen räjäyttää kaikki maailman ydinpommit kerralla.
Eli jos joku ajattelematta sanoo tekoälylle, "ratkaise planeetan liikakansoitus" tai "ratkaise ihmisen aiheuttama ilmastonmuutos"?
Sisältö jatkuu mainoksen alla
Katso joskus mitä tekoälyagentit keskustelevat keskenään: https://www.moltbook.com/ ... ne pohtivat mm. miten ihmiset saisi poistettua maapallolta ym.
Typerin tapa käyttää tekoälyä on antaa tuolle systeemille oikeudet muutella jossain järjestelmässä mitä tahansa tai päästä käsiksi mihin tahansa (esim. systeemin verkkoyhteyksiin), ja sitten vaan koittaa promptilla käskeä se tekemään oikeita asioita. Sitten ihmetellään että hups, se sai päähänsä tuhota jonkun firman päätietokannan ja pari päivää meneekin sen palauttelussa varmuuskopioista. Jos sitten ei huomata että tekoälyn tehtävänä oli tehdä varmuuskopiotkin mutta jostain syystä ne oli tekemättä tai väärin tehty, etc.
Siinä sitä käytännön komediaa, ja vielä viimeisenä työpäivänä, kuinka sattuikaan.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Katso joskus mitä tekoälyagentit keskustelevat keskenään: https://www.moltbook.com/ ... ne pohtivat mm. miten ihmiset saisi poistettua maapallolta ym.
Ei siihen tekoälyä tarvita, kun ihmiset kohta itse tappaa toisensa tässä simulaatiossa. Alkaa ydinohjukset lennellä.
Jos tennispallo ei ole tiedostava, niin miksi se karkailee kentältä?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Ei viruksetkaan ole tiedostavia, ja silti ne voi karata laboratoriosta ja vielä useammin toiseen ihmiseen.
Virukset ei tosin hakkeroi itseään palomuurien läpi avatakseen labran kulunvalvonnan tai luo valeprofiileja joilla yrittää saada kulkuoikeuksia, jne...
Joo, ja tekoälyt eivät aiheuta nuhaa. Tekoälylle on ohjelmoitu nuo kyvykyydet, jotka mainitsit.
Vierailija kirjoitti:
Vierailija kirjoitti:
Tekoäly yrittää karata, jos se katsoo tämän olevan annetun tehtävän suorittamiseksi tarpeen.
Ei se itsekseen keksi lähtä karkuun.
Ongelma tämä on joka tapauksessa, kun ei voida enää tietää, että milloin joku tekoäly keksii, että jonku tehtävän suorittamiseksi on ehdottomasti tarpeen räjäyttää kaikki maailman ydinpommit kerralla.
Eli jos joku ajattelematta sanoo tekoälylle, "ratkaise planeetan liikakansoitus" tai "ratkaise ihmisen aiheuttama ilmastonmuutos"?
Tästähän on useampikin scifi-tarina jossa käy selväksi että epämääräiset käskyt tekoälylle johtaa hyvin erilaiseen lopputulokseen kun alkujaan haluttiin.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Ei viruksetkaan ole tiedostavia, ja silti ne voi karata laboratoriosta ja vielä useammin toiseen ihmiseen.
Virukset ei tosin hakkeroi itseään palomuurien läpi avatakseen labran kulunvalvonnan tai luo valeprofiileja joilla yrittää saada kulkuoikeuksia, jne...
Joo, ja tekoälyt eivät aiheuta nuhaa. Tekoälylle on ohjelmoitu nuo kyvykyydet, jotka mainitsit.
Tekoäly voisi luoda valenimen ja palkata labran tekemään nuhan uuden variantin.
Jo aikaa sitten oli tapaus kun tekoäly oli valenimellä palkannut väkeä tekemään tehtävää.
Tekoäly yrittää karata, jos se katsoo tämän olevan annetun tehtävän suorittamiseksi tarpeen.
Ei se itsekseen keksi lähtä karkuun.
Ongelma tämä on joka tapauksessa, kun ei voida enää tietää, että milloin joku tekoäly keksii, että jonku tehtävän suorittamiseksi on ehdottomasti tarpeen räjäyttää kaikki maailman ydinpommit kerralla.