Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
HS: Tekoäly voi tappaa meidät kaikki
10.09.2026 |
https://www.hs.fi/visio/art-2000012264504.html
Maksumuurin takana, mutta ovat ilmeisesti jo monistaneet itseään kielloista huolimatta. Onhan tämä aika pelottava skenaario.
Kommentit (73)
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Tekoälyllä ei ole mitään s.elviytymisviettiä kuten biologisella lajeilla. Se tarvitsisi osakseen aivorungon ja hormonijärjestelmän ajatellakseen kuin ihminen. Tällä hetkellä tekoälyllä ei ole pätkääkään väliä onko siinä virrat vai ei.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Miten? Töpsylä pois seinästä niin tekoäly on selätetty kanveesiin.
Viddu se sun kotikoneella ole. Vain persu voi olla noin pihalla.
No Suomessa on pian suuri reservi tekoälydatakeskuksia jotka voidaan poistaa vahvuudesta.
Terminator oli selkeesti dokumentti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Niin ja AI voi miettiä, mikä auttaa ilmastonmuutokseen: otetaan yks saastuttava luomakunnan kruunu pois tieltä.
Vierailija kirjoitti:
Jo kymmenen vuoden kuluessa 😱
Niin no mieti kaikkia ökyrikkaita narsisteja ja psykopaatteja, joilla on rahaa rakentaa kaikenlaista ja lähettää vaikka avaruuteen ties mitä. Sitten he keksivät laittaa tekoälynsä riehumaan niin ei siinä kauaa nokka tuhise.
Sisältö jatkuu mainoksen alla
Uskon, että tekoälykin jättää osan ihmisistä henkiin, ovathan vallanpitäjät aina tarvinneet lakeijoita ja nöyriä tsuhnia?
Kysyin tekoälyltä ovatko varoittajat oikeassa vai heidän optimistisemmat kriitikot, ja tekoäly vastasi että asia on vielä ratkaisematta.
Sisältö jatkuu mainoksen alla
Käydäänkö seuraava sota datakeskuksia vastaan. Ole valmiina
Anthropicin alignment-tutkimusta johtava Evan Hubinger sanoi henkilökohtaiseksi arviokseen, että on yli 10 prosentin riski, että tekoäly johtaa kaikkien ihmisten kuolemaan seuraavan kymmenen vuoden aikana. Hän täsmensi heti perään, että nykyisten mallien aiheuttamaa riskiä hän pitää pienenä. Häntä huolestuttaa tuleva vaihe, jossa tekoäly kykenisi parantamaan seuraavia tekoälysukupolvia yhä itsenäisemmin, eli juuri se recursive self-improvement, josta äsken puhuttiin.
Taustalla on Jacob Coxon, joka erosi juuri Anthropicilta työskenneltyään aiemmin myös OpenAI:lla. Hän väittää, että tekoälylaboratorioissa monet todella pitävät ihmiskunnan tuhoutumista mahdollisena jo tämän vuosikymmenen loppuun mennessä ja että yhtiöt kilpailevat liian kovaa kohti itseään kehittävää superälyä.
Eli väite ei oikeastaan ole:
“Tekoäly tappaa ihmiset kymmenen vuoden sisällä.”
Vaan:
“Yksi erittäin keskeinen AI-turvallisuustutkija arvioi henkilökohtaisesti todennäköisyyden yli 10 prosentiksi, jos kehitys jatkuu ja päädymme itseään nopeasti kehittävään superälyyn.”
Se on edelleen aika helvetin iso arvio. Jos joku uskottava ydinturvallisuusasiantuntija sanoisi uuden teknologian aiheuttavan yli 10 % todennäköisyydellä ihmiskunnan sukupuuton vuosikymmenessä, ei sitä kuitattaisi olankohautuksella. Mutta se ei ole mitattu 10 prosentin todennäköisyys, eikä alalla ole tästä konsensusta. Tällaiseen ainutkertaiseen tulevaisuustapahtumaan ei yksinkertaisesti ole olemassa tilastoa, josta luku voitaisiin laskea.
Ja huvittavasti sinä kysyit juuri ennen tätä, mitä tekoälyn itsensä monistaminen tarkoittaa. Se osuu suoraan huolen ytimeen: Anthropic itse kirjoittaa nyt, että tekoälyt tekevät jo kasvavan osan tekoälykehityksestä ja että kokonaan autonominen seuraajamallien rakentaminen voisi tulevaisuudessa muodostaa palautesilmukan. He korostavat samalla, etteivät nykyjärjestelmät vielä ole siinä pisteessä eikä tällainen kehitys ole väistämätön.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Tekoälyllä ei ole mitään s.elviytymisviettiä kuten biologisella lajeilla. Se tarvitsisi osakseen aivorungon ja hormonijärjestelmän ajatellakseen kuin ihminen. Tällä hetkellä tekoälyllä ei ole pätkääkään väliä onko siinä virrat vai ei.
Kyllä voi olla ja se ei mitenkään ole kiinni siitä, että nykyiset AI-mallit lopulta perustuvat vain todennäköisyyksiin ja seuraavan sanan ennustamiseen. Kehittyneempi AI voi vastustaa sulkemistaan paljon tuhoisammin kuin kiristämällä.
AI system resorts to blackmail if told it will be removed
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
No vaikka sulkemalla kaikki pankkipalvelut, sulkemalla sairaalassa elämää ylläpitäviä laitteita, pommittamalla droonilla ulkona liikkuvia ihmisiä.
Siis hakkeroitumalla eri järjestelmiin. Lentoliikenne vois olla kanssa aika paha, jos heidän systeemit menis sekaisin?
En ole asiantuntija, mutta tämmöistä tulee mieleen.
Puhumattakaan joistain ohjusjärjestelmistä. En tiedä miten ne toimii mutta jos nekin on jossain verkossa niin se on huonompi juttu se.
No ei kuulosta siltä, että ihmiskunnasta päästäisiin eroon kertaheitolla noilla konsteilla, vaikka tuhoa syntyisikin. Sitä paitsi ihminen kykenee sinnittelemään ilman sähköä, mutta tekoäly ei sekuntiakaan.
Mieti jos niitä tekolyagentteja on miljardeja ja nuo kaikki asiat tapahtuisi yhtä aikaa tai ihan peräkkäin ja ydinaseet lentäisivät mantereilta toisille?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Eli tekoälyllä olisi oma laboratorio, jonne se hommaisi kaikkea tuhoisaa, ja ihmiset vain seuraisivat sen valmisteluja ja laboratorioon tapahtuvia tavaratoimituksia vierestä? Suomessa voisi onnistuakin tuolllainen.
Yritä nyt keksiä vähän parempia argumentteja. Jos ihmisen äo on 100 ja AI:n 200 ja lisäksi se on onnistunut ujuttamaan vaikka 2000 kopiota itsestään johonkin datakeskukseen ajoon, se voi noilla resursseilla keksiä aika montakin keinoa toteuttaa suunnitelmansa reaalimaailmassa. Lähtien nyt vaikka sopivien ihmisten kiristämisestä, harhaanjohtamisesta, lahjomisesta tms.
Alue: Aihe vapaa
Eli tekoälyllä olisi oma laboratorio, jonne se hommaisi kaikkea tuhoisaa, ja ihmiset vain seuraisivat sen valmisteluja ja laboratorioon tapahtuvia tavaratoimituksia vierestä? Suomessa voisi onnistuakin tuolllainen.