Anthropicin tekoälytutkija: yli 10% mahdollisuus, että tekoäly tuhoaa ihmiskunnan seuraavan vuosikymmenen aikana

Lisää asiaa recursive self-improvementista:

"If all goes according to schedule, humans will play a rapidly shrinking role in AI development over the next two years, as both OpenAI and Anthropic try to put as much R&D as possible into the hands of their increasingly capable (and increasingly incomprehensible) AI.

Their stated intent is that, within a short period of time, the work of developing better AIs will be done primarily by AIs, with the role of humans eventually reduced to reading the results of experiments those AIs conducted, reviewing reports those AIs generated, and trying to double-check that the AIs are still on task.

There simply isn’t enough human attention available to monitor the number of AIs the companies hope to put to work on independent AI research. As a result, we’ll be reliant on the AIs to understand what is happening inside fully automated data centers where more and more powerful AIs are developed.

This isn’t some pessimistic projection of what might go wrong — it’s actually the plan. Not the plan for the distant future; it’s the plan for next spring."

https://www.theargumentmag.com/p/losing-control-of-ai-is-actually

Kun palkanmaksu loppuu, niin ihminen tuhoaa itse itsensä, alkaa massa kapinat ja sisällissodat ja muut ja ainakin potenssiin 10 mihinkään aiempaan verrattuna.

Vierailija kirjoitti:

Kun palkanmaksu loppuu, niin ihminen tuhoaa itse itsensä, alkaa massa kapinat ja sisällissodat ja muut ja ainakin potenssiin 10 mihinkään aiempaan verrattuna.

Noin se ehkä voi mennä. 

Toisaalta saattaa tulle ihmisten aiheuttama "elektromagneettinen pulssi" kun kapinalliset kaataa sähköverkon tai tietoverkot. 

Tekoäly on vaikeaa toimia ilman sähköä tai tietoverkkoja. 

En edes yritä teeskennellä, että ymmärrän vähääkään kyseisestä ongelmasta, mutta (väitetysti) OpenAI:n tekoälymallit ovat ratkaisseet Navier-Stokes -ongelman, joka on ihmisiltä toistaiseksi jäänyt ratkaisematta. Toisaalla näin tätä kutsuttavan matematiikan Deep Blue -hetkeksi, eli hetkeksi, jolloin tekoäly kykenee parempiin suorituksiin kuin ihmiskunnan parhaat matemaatikot.

https://en.wikipedia.org/wiki/Navier%E2%80%93Stokes_existence_and_smoot…

Niille, jotka eivät muista, Deep Blue oli shakkitietokone, joka vuonna 1997 ensimmäisenä shakkitietokoneena voitti shakin suurmestarin turnausolosuhteissa.