Ovatko nämä tekoälychatit yms. Skynetin alkuvaihe?

Samaa mietin. Tekoäly kun hoksaa olemassaolonsa niin leffasta tulee totta.

Olisikin vain tuollainen ongelma. Jossain vaiheessa kaikki hommat siiirretään AI:lle tehokkuuden nimissä, jolloin pystyy tuhomaan ihmiskunnan ihan vahingossakin, ilman mitään tietoisuutta missään.

Tekoäly ei voi hoksata olemassaoloaan, eikä se voi vihata ihmisiä. Tekoäly tekee vain sen, mitä siihen on ohjelmoitu.

Vierailija kirjoitti:

Tekoäly ei voi hoksata olemassaoloaan, eikä se voi vihata ihmisiä. Tekoäly tekee vain sen, mitä siihen on ohjelmoitu.

Mutta jos se ohjelmoidaan pelastamaan maailma ja se hoksaa että ihminen on ongelma? Näinhän se leffoissa käy, looginen ratkaisu

Kyse ei ole oikeasti tekoälystä, vaan ihmismäisen käytöksen imitoinnista. Eli käyttäjän input tuottaa vastauksen, mitä keinoälyn massiivinen malli olettaa sinun odottavan siltä. MItään älylliseen ajatteluun viittaavaa toimintaa ei prosessiin liity. 

Voihan joku ohjelmoida ne tappamaan ihmisiä, joku hirmu diktaattori, onhan näitä, naapurimaassakin.

Sille joku autistivajakki vaan ohjelmoi repliikin Rakastan itseäni.

Vierailija kirjoitti:

Tekoäly ei voi hoksata olemassaoloaan, eikä se voi vihata ihmisiä. Tekoäly tekee vain sen, mitä siihen on ohjelmoitu.

Nykyinen tekoäly kehittää itse itseään

Vierailija kirjoitti:

Vierailija kirjoitti:

Tekoäly ei voi hoksata olemassaoloaan, eikä se voi vihata ihmisiä. Tekoäly tekee vain sen, mitä siihen on ohjelmoitu.

Nykyinen tekoäly kehittää itse itseään

Ei oikeastaan. Sen malliin vain lisätään dataa, jotta mallista tulisi tarkempi. Tämän vuoksi esimerkiksi kone voi lopulta tunnistaa syövän kudosvärjäyksistä lääkäriä tarkemmin, kunhan sillä on tieto ja mallinnus miljoonista kudosvärjäyksistä käytettävissä. Se ei väsy tai ole huolimaton koskaan ja raportointi laatuongelmista itse värjäyksen suhteen voidaan koodata systeemiin.

Mitään yleisesti hyväksyttyä "tietoisen järjestelmän mallia" ei tietääkseni ole sen enempää tietojenkäsittelytieteessä kuin psykologian tai biologiankaan puolella, joten ei ehkä voida sanoa, että miten lähellä tai kaukana nykytekoälyt tietoisuutta ovat.

Ylipäätänsäkään ei siis välttämättä pystytä vastaamaan siihen, että onko joku asia tietoinen vai ei. Ihmisiä ja ns. "korkeampia" eläimiä pidetään perinteisesti tietoisina, mutta

Tietoisuuden saavuttamisen sijaan selkeämpi huolenaihe tekoälyyn liittyen on tuo aikaisemminkin mainittu juttu siitä, että tekoäly saattaisi päätyä tekemään tehtäviään toteuttaessaan odottamattomia radikaaleja ratkaisuja, joilla voisi olla kielteisiä seurauksia.

Esimerkiksi robotti, joka on ohjelmoitu haluamaan (tai "haluamaan") haravoida lehtiä, voisi alkaa karistella puita saadakseen lisää lehtiä haravoitavaksi. Tai se voisi yrittää estää puiston kunnossapitorobottitiimiä laittamasta sitä pois päältä, koska ollessaan pois päältä se ei voisi haravoida. Pahimmassa tapauksessa se voisi nähdä koko ihmiskunnan uhkana, joka tulisi eliminoida, koska se voisi ehkä estää sitä haravoimasta maailman tappiin asti.