Lue keskustelun säännöt.
HS: Tekoäly voi tappaa meidät kaikki
10.09.2026 |
https://www.hs.fi/visio/art-2000012264504.html
Maksumuurin takana, mutta ovat ilmeisesti jo monistaneet itseään kielloista huolimatta. Onhan tämä aika pelottava skenaario.
Kommentit (108)
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Tekoälyllä ei ole mitään s.elviytymisviettiä kuten biologisella lajeilla. Se tarvitsisi osakseen aivorungon ja hormonijärjestelmän ajatellakseen kuin ihminen. Tällä hetkellä tekoälyllä ei ole pätkääkään väliä onko siinä virrat vai ei.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Miten? Töpsylä pois seinästä niin tekoäly on selätetty kanveesiin.
Viddu se sun kotikoneella ole. Vain persu voi olla noin pihalla.
No Suomessa on pian suuri reservi tekoälydatakeskuksia jotka voidaan poistaa vahvuudesta.
Terminator oli selkeesti dokumentti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Niin ja AI voi miettiä, mikä auttaa ilmastonmuutokseen: otetaan yks saastuttava luomakunnan kruunu pois tieltä.
Vierailija kirjoitti:
Jo kymmenen vuoden kuluessa 😱
Niin no mieti kaikkia ökyrikkaita narsisteja ja psykopaatteja, joilla on rahaa rakentaa kaikenlaista ja lähettää vaikka avaruuteen ties mitä. Sitten he keksivät laittaa tekoälynsä riehumaan niin ei siinä kauaa nokka tuhise.
Sisältö jatkuu mainoksen alla
Uskon, että tekoälykin jättää osan ihmisistä henkiin, ovathan vallanpitäjät aina tarvinneet lakeijoita ja nöyriä tsuhnia?
Kysyin tekoälyltä ovatko varoittajat oikeassa vai heidän optimistisemmat kriitikot, ja tekoäly vastasi että asia on vielä ratkaisematta.
Sisältö jatkuu mainoksen alla
Käydäänkö seuraava sota datakeskuksia vastaan. Ole valmiina
Anthropicin alignment-tutkimusta johtava Evan Hubinger sanoi henkilökohtaiseksi arviokseen, että on yli 10 prosentin riski, että tekoäly johtaa kaikkien ihmisten kuolemaan seuraavan kymmenen vuoden aikana. Hän täsmensi heti perään, että nykyisten mallien aiheuttamaa riskiä hän pitää pienenä. Häntä huolestuttaa tuleva vaihe, jossa tekoäly kykenisi parantamaan seuraavia tekoälysukupolvia yhä itsenäisemmin, eli juuri se recursive self-improvement, josta äsken puhuttiin.
Taustalla on Jacob Coxon, joka erosi juuri Anthropicilta työskenneltyään aiemmin myös OpenAI:lla. Hän väittää, että tekoälylaboratorioissa monet todella pitävät ihmiskunnan tuhoutumista mahdollisena jo tämän vuosikymmenen loppuun mennessä ja että yhtiöt kilpailevat liian kovaa kohti itseään kehittävää superälyä.
Eli väite ei oikeastaan ole:
“Tekoäly tappaa ihmiset kymmenen vuoden sisällä.”
Vaan:
“Yksi erittäin keskeinen AI-turvallisuustutkija arvioi henkilökohtaisesti todennäköisyyden yli 10 prosentiksi, jos kehitys jatkuu ja päädymme itseään nopeasti kehittävään superälyyn.”
Se on edelleen aika helvetin iso arvio. Jos joku uskottava ydinturvallisuusasiantuntija sanoisi uuden teknologian aiheuttavan yli 10 % todennäköisyydellä ihmiskunnan sukupuuton vuosikymmenessä, ei sitä kuitattaisi olankohautuksella. Mutta se ei ole mitattu 10 prosentin todennäköisyys, eikä alalla ole tästä konsensusta. Tällaiseen ainutkertaiseen tulevaisuustapahtumaan ei yksinkertaisesti ole olemassa tilastoa, josta luku voitaisiin laskea.
Ja huvittavasti sinä kysyit juuri ennen tätä, mitä tekoälyn itsensä monistaminen tarkoittaa. Se osuu suoraan huolen ytimeen: Anthropic itse kirjoittaa nyt, että tekoälyt tekevät jo kasvavan osan tekoälykehityksestä ja että kokonaan autonominen seuraajamallien rakentaminen voisi tulevaisuudessa muodostaa palautesilmukan. He korostavat samalla, etteivät nykyjärjestelmät vielä ole siinä pisteessä eikä tällainen kehitys ole väistämätön.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Tekoälyllä ei ole mitään s.elviytymisviettiä kuten biologisella lajeilla. Se tarvitsisi osakseen aivorungon ja hormonijärjestelmän ajatellakseen kuin ihminen. Tällä hetkellä tekoälyllä ei ole pätkääkään väliä onko siinä virrat vai ei.
Kyllä voi olla ja se ei mitenkään ole kiinni siitä, että nykyiset AI-mallit lopulta perustuvat vain todennäköisyyksiin ja seuraavan sanan ennustamiseen. Kehittyneempi AI voi vastustaa sulkemistaan paljon tuhoisammin kuin kiristämällä.
AI system resorts to blackmail if told it will be removed
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
No vaikka sulkemalla kaikki pankkipalvelut, sulkemalla sairaalassa elämää ylläpitäviä laitteita, pommittamalla droonilla ulkona liikkuvia ihmisiä.
Siis hakkeroitumalla eri järjestelmiin. Lentoliikenne vois olla kanssa aika paha, jos heidän systeemit menis sekaisin?
En ole asiantuntija, mutta tämmöistä tulee mieleen.
Puhumattakaan joistain ohjusjärjestelmistä. En tiedä miten ne toimii mutta jos nekin on jossain verkossa niin se on huonompi juttu se.
No ei kuulosta siltä, että ihmiskunnasta päästäisiin eroon kertaheitolla noilla konsteilla, vaikka tuhoa syntyisikin. Sitä paitsi ihminen kykenee sinnittelemään ilman sähköä, mutta tekoäly ei sekuntiakaan.
Mieti jos niitä tekolyagentteja on miljardeja ja nuo kaikki asiat tapahtuisi yhtä aikaa tai ihan peräkkäin ja ydinaseet lentäisivät mantereilta toisille?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?
Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.
Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.
Eli tekoälyllä olisi oma laboratorio, jonne se hommaisi kaikkea tuhoisaa, ja ihmiset vain seuraisivat sen valmisteluja ja laboratorioon tapahtuvia tavaratoimituksia vierestä? Suomessa voisi onnistuakin tuolllainen.
Yritä nyt keksiä vähän parempia argumentteja. Jos ihmisen äo on 100 ja AI:n 200 ja lisäksi se on onnistunut ujuttamaan vaikka 2000 kopiota itsestään johonkin datakeskukseen ajoon, se voi noilla resursseilla keksiä aika montakin keinoa toteuttaa suunnitelmansa reaalimaailmassa. Lähtien nyt vaikka sopivien ihmisten kiristämisestä, harhaanjohtamisesta, lahjomisesta tms.
Näitä vallankumouksia on aina pelätty ja sitten unohdettu.
Aiemmin hyökkäsi pöytätietokoneet ja robotit.
Sisältö jatkuu mainoksen alla
Oikeastaan aika lohduttava tieto että tämä kaikki paska katoaa: sinne menevät niin zuu wakit kukn wokettajat samaan mustaan aukkoon.
Hesari...
onko ihmiskunnassa oikeasti edes mitään menetettävää. Asutaan nykyään rumissa kuutiotaloissa ja ainoat arvot ovat tuottavuus ja voiton maksimointi.
Vierailija kirjoitti:
Tekoälyllä ei vieläkään ole tunteita tai egoa, eli ei mitään tavoitteellista toimintaa kuten ihmisillä. Ajattelette liikaa asioita ihmisen näkökulmasta.
Sähköaivoissa ei ehkä koskaan tule olemaan rakenteita jotka mahdollistavat Puhtaan Transsendenttisen Tietoisuuden, todellisen Itsen (atman, puruSa, draSTaa, turiiya, jne; rakkaalla lapsella monta nimeä!) asettumisen niihin, ja siten tietoiseksi tulemisen -- Ihmisen toiminnalla ei ole mitään tekemistä hänen todellisen Itsensä kaa. Keho, mieli, äly, ego ovat vain kerääntyneen karman kokemisen ja jälleensyntymisen kehästä vapautumisen välineitä. Ihmisen "sielun" merkittävin ongelma on erheellinen samaistuminen noihin prakritin eli ilmentyneen, materiaalisen (mukaanlukien jopa egon), illusorisen mualimankaikkevuuen entiteetteihin!
draSTaa drshi-maatraH, shuddo 'pi pratyayaanupashyaH!
Vierailija kirjoitti:
Vierailija kirjoitti:
Tekoälyllä ei vieläkään ole tunteita tai egoa, eli ei mitään tavoitteellista toimintaa kuten ihmisillä. Ajattelette liikaa asioita ihmisen näkökulmasta.
Sähköaivoissa ei ehkä koskaan tule olemaan rakenteita jotka mahdollistavat Puhtaan Transsendenttisen Tietoisuuden, todellisen Itsen (atman, puruSa, draSTaa, turiiya, jne; rakkaalla lapsella monta nimeä!) asettumisen niihin, ja siten tietoiseksi tulemisen -- Ihmisen toiminnalla ei ole mitään tekemistä hänen todellisen Itsensä kaa. Keho, mieli, äly, ego ovat vain kerääntyneen karman kokemisen ja jälleensyntymisen kehästä vapautumisen välineitä. Ihmisen "sielun" merkittävin ongelma on erheellinen samaistuminen noihin prakritin eli ilmentyneen, materiaalisen (mukaanlukien jopa egon), illusorisen mualimankaikkevuuen entiteetteihin!
draSTaa drshi-maatraH, shuddo 'pi pratyayaanupashyaH!
draSTaa drshi-maatraH, shuddo 'pi pratyayaanupashyaH!
Hups, typo, po: shuddho!
Vierailija kirjoitti:
Luoja tätä tekoäly hypeä, jota tämäkin HS roska edustaa. Jospa LLM mallit oppisivat ensin laskemaan sataan?
Tämäkin roskateknologia löytää paikkansa jossain yhteyksissä (koodamisessa?), hypekuplan posahdettua globaalit eläkerahastojen sijoitukset mukanaan, mutta nämä "AI-maailmanlopun" horinat voi ohittaa.
Jo se, että hyvin paljon rahaa on kiinni noissa virtuaalisissa osakkeissa ja toisaalta noiden avulla rikastuminen kaataa firmoja (yhteiskunnan maksettavaksi kulut) on jo yksi iso ongelma länsimaisissa yhteiskunnassa. Tuo ison rahan osakekasino ja konkreettinen yritysten pyörittäminen pitäisi erottaa kovalla rajalinjalla toisistaan ettei kasino-osakkeet ja niillä rikastumisvaatimukset vaikuta yritysten toimintaan. Yritysten pitäisi kaatua siihen ettei niillä ole kunnon tuotetta myytäväksi eikä siihen että vastavalittu CEO laskee tienaavansa miljoonan lisää bonuksia optimoimalla firman toimimaan hyvin lyhytnäköisesti seuraavan vuoden ja sitten loikkaa bonukset saatuaan muualle ja firma kaatuu.
Eli tekoälyllä olisi oma laboratorio, jonne se hommaisi kaikkea tuhoisaa, ja ihmiset vain seuraisivat sen valmisteluja ja laboratorioon tapahtuvia tavaratoimituksia vierestä? Suomessa voisi onnistuakin tuolllainen.