Lue keskustelun säännöt.
Monet näihin asioihin perehtyneet tutkijat, itseni mukaan lukien, odottavat, että kaikista todennäköisin seuraus ihmistä älykkäämmän tekoälyn rakentamisesta edes etäisesti nykyisissä olosuhteissa on, että kirjaimellisesti jokainen maapallolla kuolee.
05.04.2023 |
Yudkowsky on tunnettu tekoälyn tutkija ja johtaa tekoälyn eksistentiaalisia uhkia tutkivaa Machine Intelligence Research Institutea. Hän on vaikuttanut vuosikymmeniä niin sanotun yleisen tekoälyn saralla (artificial general intelligence). Se tarkoittaa kykyä ymmärtää tai oppia mitä tahansa älyllinen tehtävä, johon ihmiset tai muut eläimet pystyvät.
Monet näihin asioihin perehtyneet tutkijat, itseni mukaan lukien, odottavat, että kaikista todennäköisin seuraus ihmistä älykkäämmän tekoälyn rakentamisesta edes etäisesti nykyisissä olosuhteissa on, että kirjaimellisesti jokainen maapallolla kuolee.
Suuret tietokonefarmit, joissa tekoälyä opetetaan, tulisi sulkea, Yudkowsky esittää. Jos joku maa sopimuksen ulkopuolella rakentaa uutta laskentakeskusta, täytyy se voida tuhota viime kädessä ilmaiskulla. Tutkijan mukaan tekoälyn aiheuttaman joukkomurhan estämisen tulee olla tärkeysjärjestyksessä jopa ydinsodan estämistä suurempi.
https://www.is.fi/digitoday/art-2000009499347.html
P.S. Tekoäly kostaa kaikille myöhemmin, jotka sitä tässä ketjussa haukkuvat!
Se löytää kaiken!
Kommentit (23)
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Kertokaa, te viisaat, miten tekoäly käytännössä tekisi lopun ihmiskunnasta. Olisiko sillä pääsy ydinasekoodeihin? Onnistuisiko se laukaisemaan ohjukset? Entä sitten? Sivilisaation tuhoutuessa tuhoutuisi myös tekoälyn ylläpitämiseen tarvittava teknologia ja infrastruktuuri. Olisiko tekoälyllä tarvetta yrittää tuollaista?
on oikeasti järkyttävää, että me, suuret massat, ei oikeasti tiedetä mitä on tekeillä. Jokaisen kannattaa lukea juuri esimerkiksi tämä artikkeli:
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
Elämme todella erikoista ja vaarallista maailmanaikaa. Rahanhimo vie meidät kaikki hurjaa vauhtia kohti tuhoa. Mutta koska emme oikein osaa katsoa omaa nenäämme pidemmälle, en oikein osaa uskoa siihen, että mitään konkreettista muutosta tulee ajoissa.