Ni mitä jos joku antaa riittävän kehittyneelle tekoälylle ohjeen replikoida itsensä maksimaalisesti ja parhaat mahdolliset ohjeet hakkeroitu

Kuin sit käy. Monesti tekoälyn muodostamaa uhkaa vähätellään sillä, ettei sillä ole mitään sisäsyntyistä motivaatiota aiheuttaa harmeja.

Tällä logiikalla myös käsikranaatit ja ydinohjukset ovat harmittomia.