Anthropicin tekoälytutkija: yli 10% mahdollisuus, että tekoäly tuhoaa ihmiskunnan seuraavan vuosikymmenen aikana

Vierailija kirjoitti:

Olen tiennyt että lajimme on typerä, mutta en sentään uskonut sen olevan NÄIN typerä.

Parasta/pahinta koko kuviossa on se, että jokainen toimija toimii (tai ainakin voi periaatteessa toimia) rationaalisesti ja ilman pahoja aikomuksia. Ja nimenomaan "jos en minä, niin sitten joku muu" -periaatteella. Ja tämä pätee niin yksittäisten tutkijoiden (jos minä en tutki, niin moni muu on valmis tutkimaan), yritysjohtajien/omistajien (jos minä en pyri tekemään tätä taloudellista hyötyä saavuttaakseni, niin moni muu kuitenkin tekee) kuin päättäjienkin (jos me rajoitamme/estämme tällaisen kehitystyön, aina löytyy joku muu joka ei rajoita/estä, ja globaali lopputulema on sama ilman edes väliaikaista hyötyä meille) tasolla.

Ja nämä runaway superintelligence -skenaariot ovat kuitenkin pienempiä kuin ne riskit, että tekoäly lopulta osoittautuu haitalliseksi ihmiskunnan enemmistölle. Pitkän keskustelun ja molemminpuolisen argumentoinnin jälkeen sain chatgpt:ltä tällaisen arvion:

Jos määritellään jälkimmäinen skenaario näin:

AI:n valtava tuotantopotentiaali realisoituu, mutta pääosin nykyinen omistus- ja valtarakenne säilyy ja vahvistuu; AI:n hyödyt keskittyvät suhteettomasti omistavalle eliitille, samalla kun enemmistön taloudellinen asema ja neuvotteluvoima heikkenevät.

niin oma tämänhetkinen pistearvaukseni olisi:

noin 70–75 %

Jos minun pitäisi antaa yksi luku: ~72 %.

Se on jo tuhonnut äärioikeiston aivot. Ennustan, että tyhmimmät karsiutuu sangen nopeasti ja me fiksummat jatkamme sitten elelyä paremmalla porukalla.

Vierailija kirjoitti:

Evoluutio, vahvin jatkaa. Näin se on aina mennyt.

Noin se ei ole koskaan mennyt. Erään biologin sanoin: "Evolution isn't the survival of the fittest, it's the reproduction of the okay-est."

Vierailija kirjoitti:

Vierailija kirjoitti:

En edes yritä teeskennellä, että ymmärrän vähääkään kyseisestä ongelmasta, mutta (väitetysti) OpenAI:n tekoälymallit ovat ratkaisseet Navier-Stokes -ongelman, joka on ihmisiltä toistaiseksi jäänyt ratkaisematta. Toisaalla näin tätä kutsuttavan matematiikan Deep Blue -hetkeksi, eli hetkeksi, jolloin tekoäly kykenee parempiin suorituksiin kuin ihmiskunnan parhaat matemaatikot.

https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoot…

Niille, jotka eivät muista, Deep Blue oli shakkitietokone, joka vuonna 1997 ensimmäisenä shakkitietokoneena voitti shakin suurmestarin turnausolosuhteissa.

Lisää tutustumista taustaan siis, kannattaa.

Asiaa OpenAI:n työkaluin tehneen matemaatikon tiedot olivat OpenAI:n käytössä, siis ihmisen vaiva ja tuotos annettiin voimakkaalle koneelle, ryöstöviljeltiin.

Totta kai tekoäly pystyy tekemään lujasti päättelytyötä... mutta ainekset sille antoi ihmismatemaatikko.

OpenAI vain sattui pöllimään ne. Tai siis: löysivät omista käteismuisteistaan hyvää vihjettä antaa omille agenteille.

Mielenkiintoisempaa tekoälyn kehityksen kannalta on se, että kuinka tähän OpenAI:n jippoon tullaan suhtautumaan?

Onneksi olkoon!

Olet viihdyttänyt itseäsi tekoälyn avulla, joka huomasi tekofiksuutesi ja syötti sulle tieteisnovellia, jotta käytät palvelua.

Skynet..

Mitä tämänlainen ennuste tekee yhtiön arvolle? Eikö olisi aika myydä, jos arvio on että

loppu tulee?

Kohta pelmahtaa Kyle Reese tänne tulevaisuudesta ihmettelemään

Me siis tuhoudutaan koska se tulee halvemmaksi....?

Markkinointipuhettahan tuo on. 

Sam Altmanilta kysyttiin, että milloin tuo teidän firma alkaa tuottaa voittoa. Hän vastasi, ettei tiedä, mutta aikoo kysyä tekoälyltä (=jumalalta) kun aika on kypsä. Kertoo minkälainen kultti tuo on.

Vierailija kirjoitti:

Vierailija kirjoitti:

Evoluutio, vahvin jatkaa. Näin se on aina mennyt.

Noin se ei ole koskaan mennyt. Erään biologin sanoin: "Evolution isn't the survival of the fittest, it's the reproduction of the okay-est."

Kun olosuhteet helpottuu, evoluutio alkaa luoda enemmän keskinkertaista populaatiota.

Ihmiskunta on tässä tilanteessa. Enemmän lisääntyvä korvaa laadukkaammin lisääntyvän.

Vierailija kirjoitti:

Vierailija kirjoitti:

En edes yritä teeskennellä, että ymmärrän vähääkään kyseisestä ongelmasta, mutta (väitetysti) OpenAI:n tekoälymallit ovat ratkaisseet Navier-Stokes -ongelman, joka on ihmisiltä toistaiseksi jäänyt ratkaisematta. Toisaalla näin tätä kutsuttavan matematiikan Deep Blue -hetkeksi, eli hetkeksi, jolloin tekoäly kykenee parempiin suorituksiin kuin ihmiskunnan parhaat matemaatikot.

https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoot…

Niille, jotka eivät muista, Deep Blue oli shakkitietokone, joka vuonna 1997 ensimmäisenä shakkitietokoneena voitti shakin suurmestarin turnausolosuhteissa.

Lisää tutustumista taustaan siis, kannattaa.

Asiaa OpenAI:n työkaluin tehneen matemaatikon tiedot olivat OpenAI:n käytössä, siis ihmisen vaiva ja tuotos annettiin voimakkaalle koneelle, ryöstöviljeltiin.

Totta kai tekoäly pystyy tekemään lujasti päättelytyötä... mutta ainekset sille antoi ihmismatemaatikko.

OpenAI vain sattui pöllimään ne. Tai siis: löysivät omista käteismuisteistaan hyvää vihjettä antaa omille agenteille.

Mielenkiintoisempaa tekoälyn kehityksen kannalta on se, että kuinka tähän OpenAI:n jippoon tullaan suhtautumaan?

Kuinka paljon tämä lopulta eroaa siitä, että jokainen ihminen "seisoo jättiläisten olkapäillä", kuten klassinen sanonta kuuluu? Jos joku ihminen olisi samalla tavalla hyödyntänyt jonkun toisen matemaatikon aiempaa työtä ja sitten ratkaissut ongelman, jota aiempi ei ollut kyennyt ratkaisemaan, sanoisitko, että hän "ryösti" ratkaisun? Etenkään modernimmat, äärimmäisen monimutkaiset matemaattiset ongelmat eivät ratkea mitenkään yksittäisen neron päässä perusasioista rakentaen, sama koskee oikeastaan kaikkea tieteellistä tutkimusta. Kaikessa uudessa kehitystyössä on kriittisen tärkeässä, suorastaan täysin välttämättömässä asemassa kaikki se aiempi työ, jota muut ovat jo tehneet.

Eihän tuo Deep Bluekaan pelkästään shakin säännöistä rakentanut voittavia strategioita, vaan sen ohjelmointiin käytettiin huomattavan paljon aikaa ja ainakin yhden suurmestarin asiantuntija-apua. Oleellista oli tietokoneen kyky käyttää valtavaa kirjastoa olemassaolevia skenaarioita ja ennustaa erilaisten mahdollisuuksien todennäköisyyksiä suuria siirtomääriä eteenpäin, joka on periaatteessa tismalleen samaa mitä ihmispelaajatkin tekevät. Mitä enemmän pystyy hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia, sitä parempi pelaaja. Tietokone ylitti ihmisen kyvyt = tietokone pystyi paremmin hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia.

Kunhan eivät eläimiä tuhoa. Muuten ei haittaa. En oo saanut töitä enkä tule saamaan joten ei haittaa jos muutkin kärsivät tulevaisuudessa

Vierailija kirjoitti:

No stuntti seis sitten! Sulkisivat sen? Mikä ihme ongelma näillä pelleillä on, kun väkisin pitää maailmanloppua jouduttaa.

Se klassikkotwiitti on aina yhtä relevantti:

Sci-Fi Author: In my book I invented the Torment Nexus as a cautionary tale

Tech Company: At long last, we have created the Torment Nexus from classic sci-fi novel Don't Create The Torment Nexus

Kaikki nämä tekoäly-yhtiöiden pelottelut on markkinointia.

Tuo tyyppi hakee vain julkisuutta sensaatiojutuillaan.

Tämäpä hyvä uutinen. Prosentti on vaan surkean pieni. 

Alieeni kirjoitti:

Kunhan eivät eläimiä tuhoa. Muuten ei haittaa. En oo saanut töitä enkä tule saamaan joten ei haittaa jos muutkin kärsivät tulevaisuudessa

Muista että sinä kärsit aina enemmän, mutta näinhän se kilpajuoksu tuhoon Suomessa menee.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

En edes yritä teeskennellä, että ymmärrän vähääkään kyseisestä ongelmasta, mutta (väitetysti) OpenAI:n tekoälymallit ovat ratkaisseet Navier-Stokes -ongelman, joka on ihmisiltä toistaiseksi jäänyt ratkaisematta. Toisaalla näin tätä kutsuttavan matematiikan Deep Blue -hetkeksi, eli hetkeksi, jolloin tekoäly kykenee parempiin suorituksiin kuin ihmiskunnan parhaat matemaatikot.

https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoot…

Niille, jotka eivät muista, Deep Blue oli shakkitietokone, joka vuonna 1997 ensimmäisenä shakkitietokoneena voitti shakin suurmestarin turnausolosuhteissa.

Lisää tutustumista taustaan siis, kannattaa.

Asiaa OpenAI:n työkaluin tehneen matemaatikon tiedot olivat OpenAI:n käytössä, siis ihmisen vaiva ja tuotos annettiin voimakkaalle koneelle, ryöstöviljeltiin.

Totta kai tekoäly pystyy tekemään lujasti päättelytyötä... mutta ainekset sille antoi ihmismatemaatikko.

OpenAI vain sattui pöllimään ne. Tai siis: löysivät omista käteismuisteistaan hyvää vihjettä antaa omille agenteille.

Mielenkiintoisempaa tekoälyn kehityksen kannalta on se, että kuinka tähän OpenAI:n jippoon tullaan suhtautumaan?

Kuinka paljon tämä lopulta eroaa siitä, että jokainen ihminen "seisoo jättiläisten olkapäillä", kuten klassinen sanonta kuuluu? Jos joku ihminen olisi samalla tavalla hyödyntänyt jonkun toisen matemaatikon aiempaa työtä ja sitten ratkaissut ongelman, jota aiempi ei ollut kyennyt ratkaisemaan, sanoisitko, että hän "ryösti" ratkaisun? Etenkään modernimmat, äärimmäisen monimutkaiset matemaattiset ongelmat eivät ratkea mitenkään yksittäisen neron päässä perusasioista rakentaen, sama koskee oikeastaan kaikkea tieteellistä tutkimusta. Kaikessa uudessa kehitystyössä on kriittisen tärkeässä, suorastaan täysin välttämättömässä asemassa kaikki se aiempi työ, jota muut ovat jo tehneet.

Eihän tuo Deep Bluekaan pelkästään shakin säännöistä rakentanut voittavia strategioita, vaan sen ohjelmointiin käytettiin huomattavan paljon aikaa ja ainakin yhden suurmestarin asiantuntija-apua. Oleellista oli tietokoneen kyky käyttää valtavaa kirjastoa olemassaolevia skenaarioita ja ennustaa erilaisten mahdollisuuksien todennäköisyyksiä suuria siirtomääriä eteenpäin, joka on periaatteessa tismalleen samaa mitä ihmispelaajatkin tekevät. Mitä enemmän pystyy hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia, sitä parempi pelaaja. Tietokone ylitti ihmisen kyvyt = tietokone pystyi paremmin hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia.

Aivan.

Ja jos totta puhutaan, minuun ei tee minkäänlaista vaikutusta se, että esimerkiksi laskin laskee nopeammin ja tehokkaammin kuin yksi ihminen pystyy päässään laskemaan. Totta kai se tekee niin, sitä vartenhan se on tehtykin. Tämä ei tee minun vanhasta Casiostani ylivertaista kapistusta ihmiseen verrattuna.

Vierailija kirjoitti:

Kovinpa vähän näyttää aihe kiinnostavan. Mielenkiintoista sikäli, että tuon >10% riskiarvion esittäjällä ei ole oikein mitään syytä antaa ainakaan ylöspäin virheellistä arviota. Bisneshyötyä voisi tulla siitä, että riski arvioidaan yleisesti alemmaksi kuin mitä se todellisuudessa on, mutta ei siitä, jos  se arvioidaan yleisesti ylemmäksi kuin mitä se todellisuudessa on. Siksi on mielestäni ihan perusteltua ajatella, että tämän kehityksen aallonharjalla olevan henkilön arvio on joko hänen todellisen parhaan arvionsa mukainen tai sitten hän vähättelee riskiä.

Olen kyllä lukenut sellaisiakin mielipiteitä, että tällaisesta yliarvioinnista ja jopa pelottelusta on myös bisneshyötyä, koska sijoittajat ja valtiot haluavat olla ns. voittajien puolella. Eli tyyliin "jos me ei kehitetä tätä megatuhoasetta, niin naapurit tekee sen kuitenkin!"

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

En edes yritä teeskennellä, että ymmärrän vähääkään kyseisestä ongelmasta, mutta (väitetysti) OpenAI:n tekoälymallit ovat ratkaisseet Navier-Stokes -ongelman, joka on ihmisiltä toistaiseksi jäänyt ratkaisematta. Toisaalla näin tätä kutsuttavan matematiikan Deep Blue -hetkeksi, eli hetkeksi, jolloin tekoäly kykenee parempiin suorituksiin kuin ihmiskunnan parhaat matemaatikot.

https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoot…

Niille, jotka eivät muista, Deep Blue oli shakkitietokone, joka vuonna 1997 ensimmäisenä shakkitietokoneena voitti shakin suurmestarin turnausolosuhteissa.

Lisää tutustumista taustaan siis, kannattaa.

Asiaa OpenAI:n työkaluin tehneen matemaatikon tiedot olivat OpenAI:n käytössä, siis ihmisen vaiva ja tuotos annettiin voimakkaalle koneelle, ryöstöviljeltiin.

Totta kai tekoäly pystyy tekemään lujasti päättelytyötä... mutta ainekset sille antoi ihmismatemaatikko.

OpenAI vain sattui pöllimään ne. Tai siis: löysivät omista käteismuisteistaan hyvää vihjettä antaa omille agenteille.

Mielenkiintoisempaa tekoälyn kehityksen kannalta on se, että kuinka tähän OpenAI:n jippoon tullaan suhtautumaan?

Kuinka paljon tämä lopulta eroaa siitä, että jokainen ihminen "seisoo jättiläisten olkapäillä", kuten klassinen sanonta kuuluu? Jos joku ihminen olisi samalla tavalla hyödyntänyt jonkun toisen matemaatikon aiempaa työtä ja sitten ratkaissut ongelman, jota aiempi ei ollut kyennyt ratkaisemaan, sanoisitko, että hän "ryösti" ratkaisun? Etenkään modernimmat, äärimmäisen monimutkaiset matemaattiset ongelmat eivät ratkea mitenkään yksittäisen neron päässä perusasioista rakentaen, sama koskee oikeastaan kaikkea tieteellistä tutkimusta. Kaikessa uudessa kehitystyössä on kriittisen tärkeässä, suorastaan täysin välttämättömässä asemassa kaikki se aiempi työ, jota muut ovat jo tehneet.

Eihän tuo Deep Bluekaan pelkästään shakin säännöistä rakentanut voittavia strategioita, vaan sen ohjelmointiin käytettiin huomattavan paljon aikaa ja ainakin yhden suurmestarin asiantuntija-apua. Oleellista oli tietokoneen kyky käyttää valtavaa kirjastoa olemassaolevia skenaarioita ja ennustaa erilaisten mahdollisuuksien todennäköisyyksiä suuria siirtomääriä eteenpäin, joka on periaatteessa tismalleen samaa mitä ihmispelaajatkin tekevät. Mitä enemmän pystyy hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia, sitä parempi pelaaja. Tietokone ylitti ihmisen kyvyt = tietokone pystyi paremmin hyödyntämään tunnettuja skenaarioita ja ennustamaan erilaisia mahdollisuuksia.

Eroaa hyvin merkittävästi. Tässä ryöstettiin viittaamatta muiden julkaisematon tulos jonka tyhmyyttään meni jakamaan.