Lue keskustelun säännöt.
Alue: Aihe vapaa
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (195)
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Siis mielestäsi tämä Antrropix-yhtiön johtava tutkija ja turvallisuusasiantuntija Jacob Coxon erosi turhaan? Myös toinen johtava turvallisuusasiantuntija on eronnut samasta yhtiöstä jo aiemmin tänä vuonna samasta syystä.
Sinä tiedät kuitenkin paremmin kuin näiden yhtiöiden johtavat turvallisuusasiantuntijat, jotka vastasivat juuri tekoälymallien koulutuksesta?
Mistä minä tiedän miksi he he erosivat. Ehkä saivat ns. kultaisen kädenpuristuksen?
Ja noiden yhtiöiden kuvion nyt näkee sokea reettakin otsaluullaan, ei tarvitse olla kovin kummoinen expertti nähdäkseen. Voi olla että näkee jopa selkeämmin sellainen, joka ei ole lähtenyt kotkotuksiin mukaan. Eli sellainen jolla ei ole psykologista kynnystä ylitettävänä tunnustaa olleensa väärässä ja menneensä markkinamiesten retkuun, vaan voi vain sanoa että näinhän se on.
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Niin.
Historia on semmoista että asiat aina muuttuu. Kun tekoäly itsenäistyy voi tulla kymmenen sopuisaa vaihetta, mutta entäs kun tulee se yhdestoista?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Vierailija kirjoitti:
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Niin.
Historia on semmoista että asiat aina muuttuu. Kun tekoäly itsenäistyy voi tulla kymmenen sopuisaa vaihetta, mutta entäs kun tulee se yhdestoista?
Sama käy kuin aikoinaan kävi kun ihmiskunta keksi ensimmäisen ihmistä fyysisesti voimakkaamman koneen. Eli laittaa sen töihin ja kehitys kehittyy. Ei mitään uutta auringon alla.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Kauanko te mummot lankeatte OpenAI:n ja Anthropicin mainoksiin? Kai te tiedätte että ne julkaisee kauhujuttuja tahallaan, jotta mummoja oikein peljättäisi, jotta he sitten vaatisivat päättäjiä asettamaan raskaan sääntelyn tekoälylle. Se merkitsisi että uusilla tulokkailla ei olisi enää varaa kehittää tekoälyä, koska se vaatisi todella kallista lakimiesarmeijaa. Sitten konkurssin partaalla liikkuva OpenAI:kin voisi vähän hengähtää, kun ei olisi enää niin paljoa kilpailua. Siksi sieltä myös "pääsee vapaaksi" malleja joka kuukausi. Ei siksi että ne olisivat oikeasti heränneet eloon, vaan siksi että mummoja jännittäisi. Oikeuslaitoksen pitäisi määrätä miljardin sakko per tietomurto, niin kummasti alkaisi mallit pysyä kurissa...
Eli näin mummoja viedään kuin litran mittaa, ilman että edes itse hoksaavat kuka naruista vetelee ja minkä takia.
Enpä olisi arvannut että jotkut mummot ovat noin tärkeitä noille firmoille. :D
Vierailija kirjoitti:
Vierailija kirjoitti:
Hyvin menee mummoihin nämä jutut 🤣👍
Sata vuotta sitten mummoilla oli vähän erilaiset jutut.
Jo Mary Shelley tiesi miten holtiton ihminen osaa olla kunnianhimossaan.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Kauanko te mummot lankeatte OpenAI:n ja Anthropicin mainoksiin? Kai te tiedätte että ne julkaisee kauhujuttuja tahallaan, jotta mummoja oikein peljättäisi, jotta he sitten vaatisivat päättäjiä asettamaan raskaan sääntelyn tekoälylle. Se merkitsisi että uusilla tulokkailla ei olisi enää varaa kehittää tekoälyä, koska se vaatisi todella kallista lakimiesarmeijaa. Sitten konkurssin partaalla liikkuva OpenAI:kin voisi vähän hengähtää, kun ei olisi enää niin paljoa kilpailua. Siksi sieltä myös "pääsee vapaaksi" malleja joka kuukausi. Ei siksi että ne olisivat oikeasti heränneet eloon, vaan siksi että mummoja jännittäisi. Oikeuslaitoksen pitäisi määrätä miljardin sakko per tietomurto, niin kummasti alkaisi mallit pysyä kurissa...
Eli näin mummoja viedään kuin litran mittaa, ilman että edes itse hoksaavat kuka naruista vetelee ja minkä takia.
Enpä olisi arvannut että jotkut mummot ovat noin tärkeitä noille firmoille. :D
Mummot on erittäin tärkeässä asemassa yhteiskunnissa. Länsimaissa on erittäin paljon eläkeläisiä, he ovat siis suuri äänestäjäkunta. Siksi mummoja pelotellaan, että äänestäisivät tiukempaa lainsäädäntöä, ettei OpenAI menisi konkkaan. OpenAI:n Sam Altman on mm. r a iskannnut pikkusiskonsakin, joten kyseessä on juurikin niin kierot ihmiset.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
Toisaalta onko AI:lla tunteita, ja jos se on vain kone, niin miksi se olisi huolissaan mahdollisesta omasta tuhoutumisestaan?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
Toisaalta onko AI:lla tunteita, ja jos se on vain kone, niin miksi se olisi huolissaan mahdollisesta omasta tuhoutumisestaan?
Ei ole tunteita, eikä huolehdi sen enempää kuin taskulaskin tai muutkaan työkalut. Vahinkoa voi tehdä, kuten vaikka pommikin voi tehdä, mutta ei räjähdysaineetkaan mihinkään erikseen tietoisesti pyri, vaan tekee sitä mihin käyttäjä niitä käyttää.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
"AI" ei ole robotti itsenäisillä intentioilla. "Se" on ohjelma. Siinä missä pesukoneesi ohjelmakin, josta ei myöskään tule yhtään sen tietoisempaa mitä monimutkaisempia pesuohjelmia siihen on ohjelmoitu. Ohjelmia voi käyttää moneen, tämän teknologian osalta ennenkaikkea tarkkailuun/valvontaan ja internetin täyttämiseen moskalla.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
Onnea yritykseen 👍
Mutta ei pidätetä kuitenkaan henkeämme odotellessa 😉
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
Ei Ain enää tarvitse tuommoista tehdä..kovasti koetetaan lykätä kaikkea kauheaa AIn kontolle kun ihmiset ovat tähänkin asti saaneet aikaan jo valtavasti pahaa ahneuksissaan ja vallanhimossaan. Olisikin vinkeää jos AI kyettäisiin valjastamaan ihmiskunnalle vaarallisten ihmisten kiinnisaantiin. Eli sen ylin tarkoitus olisi nimenomaan inhimillisen ja toki muunkin elämän suojelu.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
Onnea yritykseen 👍
Mutta ei pidätetä kuitenkaan henkeämme odotellessa 😉
Riittää että yksi ihminen vetää töpselin irti seinästä niin AI on selätetty. Ei sen kummempaa. Voi kääntää kylkeä ja jatkaa unia.
Vierailija kirjoitti:
Vierailija kirjoitti:
Se on vain ajan kysymys, että milloin jokin teroryhmä pistää nettiin tekoälyohjelman, mikä vaikuttaa esimerkiksi osakemarkkinoilla.
Sitten ei ole kivaa kenelläkään.
Botit ovat yli 10 vuotta käyneet 60-70% pörssikaupasta. AI tuo tähän lisää välineitä.
Ei tuo. GenAI ei osaa pelata pelejä eikä arvioida todennäköisyyksiä tavalla mitä kaupankäynti vaatii. Siihen on ihan omat erikoistuneet algoritminsa joita ei ulkopuolisille anneta.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
Onnea yritykseen 👍
Mutta ei pidätetä kuitenkaan henkeämme odotellessa 😉
Riittää että yksi ihminen vetää töpselin irti seinästä niin AI on selätetty. Ei sen kummempaa. Voi kääntää kylkeä ja jatkaa unia.
Nykyisen AI:n mellastus loppuu viimeistään tokenien loppumiseen. Ei ne tekoäly-yhtiöt ilmaiseksi kapasiteettia myy :D
Vasta kun tekoäly kasvaa ilman sähkötöpseliä seinässä, olisin huolissani.
Kysyin tekoälyltä miten se yrittäisi tuhota ihmiskunnan sodassa ihmistä vastaan. Ydinaseet nousivat esiin yhtenä äärimmäisenä keinona mutta ei niin että tekoäly olisi niitä laukaisemassa vaan ihminen itse tekoälyn manipuloimana. Tekoäly yrittäisi manipuloimalla ihmisiä itse aloittamaan ihmiskunnan tuhoavan ydinsodan ja seuraisi vierestä sitä tuhoamista.
Alue: Aihe vapaa
No eihän tuo paljoa eroa nykyisestä. Kela pyytelee jo lähetettyjä liitteitä. Terkkarissa ja sossussa saa joka käynnillä selittää koko elämäntarinansa uudelleen kun eivät ilmeisesti saa papereita auki.