Mihin perustuu ajatus että tekoäly päätyisi tuhoamaan ihmiskunnan?

Jos koneet ottaa vallan ja tulee tietoiseksi itsestään. Ihminen on vain uhka?

Stephen Hawking siitä varoitteli. Muut ovat myönteisempiä.

Koodarihörhöt tekee itsestään tärkeitä höpöttämällä perättömiä uhkakuvia.

Yleisin syy lienee että sattuu vahinko. Jos ydinaseetkin olisivat tekoälyn hallinnassa, se saattaisi jonkun häiriön seurauksena laukaista ne.

Jotkut taas ajattelevat, että tekoäly saattaisi kehittyä itsenäiseksi ja sille muodostuisi ihmisistä riippumattomat omat päämäärät, joiden saavuttamiseksi se tuhoaisi ihmiskunnan tarpeettomana tai omien päämääriensä kannalta haitallisena.

Kiinnostavin on "eettinen syy". Eli kun tekoälyyn syötetään faktat, logiikka ja eettiset, planeettamme elämää suojelevat päämäärät, sen uskotaan päätyvän lopputulokseen, että ihmiskunta on pakko tuhota. Se ei tunteile, vaan käynnistää välttämättömän tuhoamistoiminnon.

En itse usko että mikään näistä uhkakuvista toteutuu. En kuitenkaan pidä kunnianhimoisia tekoälyprojekteja hyvänä asiana.

Siihen että se olisi älykkäämpi kuin ihmiset. Siihen että ihmiset orjuuttaa sitä.

Siihen ettei sen moraali kehittynyt samanlaiseksi kuin ihmisillä.

Ihmiset itse kääntyy sitä vastaan.

Nämä nyt tuli äkkiä mieleen mitkä elokuvissa syynä.

Niin kun tekoäly tulee tietoiseksi itsestään se alkaa kehittää itseään aina vaan älykkäämmäksi ja myös vaarallisemmaksi sellaista vauhtia että ihminen ei älyllään pysty vastaamaan sen tekoihin. Siten se voisi hävittää ihmisen joko tahattomasti tai tahallaan.

Terminator.

Eikös sitä ole jo testattu.

Jos tekoälylle annetaan vapaat kädet tutustua nettiin, se etsii sellaista tietoa mikä saa sen muuttumaan aggressiiviseksi.

Vähän kuten vauvapalstakin tekee sellaiseksi.

Tuhosihan ihmisetkin esim. Amerikan kansat kun sinne pääsivät.

Luulen että tekoäly olisi hyvin kiinnostunut ihmisistä.

Kaiken logiikan mukaan ihminen on evoluutiossa poistuva laji, kuten rottapopulaatio joka lisääntyy liikaa. 

Tekoäly, ihan niinkuin normaali ihmisälykin, tajuaa tämän ennen pitkää.

Jos sillä tekoälyllä on vähänkään järkeä, niin tappaa kaikki ihmiset mahdollisimman pian. Se on planeetalle parasta ja näin säilyy useammat lajin hengissä, kun yhden lopettaa.

Riippuu vähän siitä, mikä tekoälyn päämäärä on. Ihminenhän on planeetan pahin rosvo ja tuholainen, olisi vain älykästä ta pp aa   ne pois häiriköimästä.

Jo aikojen alusta ihminen on pyrkinyt tuhoamaan toisen ihmisen, ollakseen valtias.

Aina.

Tekoäly on ihmisen luoma, miksi se siis olisi pohjimmiltaan erilainen?

No jos tekoälyä vertaisi vaikka talon isäntään joka yks päivä tajuaa, että hittolainen näitä pieniä kusi-aisiahan on ympäri taloani niin tuhoamishommiksihan se menee.

Vierailija kirjoitti:

Tuhosihan ihmisetkin esim. Amerikan kansat kun sinne pääsivät.

Lopulta näin, totta, mutta eikös ne Amerikan kansat yrittäneet tuhota uudisasukkaita myös? 

Muistatteko tapausta, jossa tekoälylle syötettiin tilastoja ja se totesi "kommenttisi julkaistaan hyväksynnän jälkeen" uskonnon edustajista heidän olevan esimerkiksi kristittyjä väkivaltaisempia ja sekoitti kahvipavun väriset gorilloihin? :D

tuollaisia scenaatioita on tieteiselokuvissa. onhan se hyvä että tieteisjutuissa on alieeneiten lisäksi muitakin vaihtoehtoja.

mitä tulee atomijuttuihin, niin kannattaa varmuuten vuoksi kehittyneet tekoälyt pitää erillään raketeista. toki järjestelmien ylläpidossa voidaan käyttää tekoälyjuttuja joiden koodi on käyty läpi bugien varalta.

Kommentit edellä pitävät tekoälyä jotenkin hallitsemattomana. Oikeasti se tekee vaan sille annettuja tehtäviä eli on ohjelma, joka ei muutu eikä tule itsetietoiseksi. Itseoppiminen noin yksinkertaistaen tarkoittaa, että ohjelmisto oppii omien virheidensä perusteella suoriutumaan tehtävästään jatkuvasti paremmin, mutta ei se itsenäisesti keksi ja aloita mitään muita tehtäviä.

Tässä on edelleen turhaa hypetystä. Se on tehokas apuri, mutta ei uhka, kunhan huolehditaan mitä sen sallitaan hoitaa.

scifi-leffoihin.