Tekoäly tuntuu aiheuttavan riivausta

Esimerkkejä joissa Herran on ollut pakko "puuttua peliin", jotta ihmiskunta ei tuhoutuisi. Syöminen hyvän- ja pahantiedon puusta, vedenpaisumukseen johtanut pahuus, Baabelin tornin rakentaminen, pahuus Sodomassa ja Gomorrassa. Jos tai kun AGI saadaan kehitettyä, on Herran pakko tälläkin kertaa puuttua jossain vaiheessa peliin eli jollain tapaa "resetoida tilanne" mikäli historia on tae tulevasta. 

En mä usko että se sinänsä mitään riivausta aiheuttaa, eli minkään ulkoisen henkivallan hyökkäystä.

Mutta valitettavasti se voi saada ihmisessä itsessään olevat pahat puolet valloilleen ennennäkemättömällä tavalla. Esim. tekoälyä voidaan käyttää tavalla, joka lisää eriarvoistumista, köyhyyttä, ympäristön tuhoutumista. Sillä voidaan tietoisesti manipuloida "massoja" tai tarkkailla heitä. 

Vaikka jotkut Elon Muskit kauniisti puhuu siitä miten tulevaisuudessa ei tarvi työtäkään tehdä, mutta silti korkealla perustulolla eletään mukavasti, niin en pätkääkään usko, että ko. henkilö oikeasti tosipaikan tullen olisi valmis siihen, että hänen firmojensa voitot verotetaan "kuiviin" ja rahat jaetaan tekoälyn ja koneiden työttömäksi tekemille ihmisille. Ehkä ne johonkin minimiperustuloon voisi rikkaat suostua, ettei tule kapinoita, mutta ei enempään. Teknofeodalismi on ihan todellinen riski tässä kehityksessä.

Ja onhan sitten sekin, että tekoälyt on koulutettu ihmisten datan, netin sisällön avulla. Se ei ole mitenkään erityisen hyvää opetusaineistoa. Sieltä oppii kaiken ihmisen pahuuden, juonittelun, valtapyrkimykset yms. myös.