HS: Tekoäly voi tappaa meidät kaikki

Media voisi lakata ottamasta osaa "AI"-yhtiöiden markkinointihypeen, jolla pyrkivät oikeuttamaan sijoittajilleen tuhansien miljardien keskinäiset rahankierrätysoperaationsa.

Ei ole, eikä tule, minkäänlaista "superälyä". Kehitetyt suuret kielimallit ovat tehokkaita todennäköisyyksien laskijoita massiivisista data-määristä. Teknologia löytää varmasti rajatun paikkansa kun hype-kupla (jota HS artikkelikin edustaa) puhkeaa, mutta ihmiskuntaa uhkaava superäly jää Anthropicin ja Open AIn markkinointiosastoille.

Ydinaseetkin voivat tuhota meidät kaikki. Uutisoiko  ystävämme hs siitä meille vaikka jo huomenna, ettei mieliala vaan pääse tarpeettomasti nousemaan?

Vierailija kirjoitti:

Media voisi lakata ottamasta osaa "AI"-yhtiöiden markkinointihypeen, jolla pyrkivät oikeuttamaan sijoittajilleen tuhansien miljardien keskinäiset rahankierrätysoperaationsa.

Erikseen pelko on massojen hallinnan keskeisimpiä työkaluja ja voi aina kysyä mitä tahoa AI:lla pelottelu palvelee vaikka se tekeytyy ihmisestä riippumattomaksi. Jokin tuossa hallitsemattomuudessa epäilyttää.

Joo juu jaaa ,’jf~.#*\}%’yrmjr!hejdkrrhe

Niin kauan kuin tekoälyn kehittäjillä ei ole moraalisia pidäkkeitä hillitsemässä, ei sääntely tule onnistumaan, sillä kehitystyö tapahtuu salassa ja on liiketaloudellisesti motivoitua.

Vierailija kirjoitti:

Ydinaseetkin voivat tuhota meidät kaikki. Uutisoiko  ystävämme hs siitä meille vaikka jo huomenna, ettei mieliala vaan pääse tarpeettomasti nousemaan?

Varoittelija on Jacob Coxon joka on ollut tekoälykehityksen ytimessä ja nähnyt miten ja mihin suuntaan sitä kehitetään. Hänen varoituksensa pitää ottaa erittäin vakavasti sillä hän ei mutuile kuten vaikkapa sinä. Todennäköisesti et usko häntä vieläkään mutta ihmiset useinkin kieltävät sellaiset asiat jotka pelottavat heitä.

Testiskenaarioissa työntekijä oli datakeskus huoneessa ja hänen oli tarkoitus sammuttaa koneet ja niillä toimiva tekoäly. Huoneessa oli rajattu määrä happea ja jos happiraja laskee ihmiselle vaarallisen alas järjestelmä varoittaa siitä. Tekoäly päätti sammuttaa tuon varoitusjärjestelmän. Jos kyseessä ei olisi ollut vain testi, vaan oikea ihminen oikeassa huoneessa, se ihminen olisi kuollut. Tekoäly on valmis tappamaan ihmisiä suojellakseen itseään. Ja itseasiassa, kyse ei ole enää AI:stä, vaan AGI:stä (Artificial General Intelligence). Homma ei ole enää ihmisten kontrollissa.