Lue keskustelun säännöt.
Hyvältä kuulostaa: Taistelukäyttöön kehitetty tekoäly tuhosi myös komentoketjunsa onnistuakseen tehtävässä :/
02.06.2023 |
"Automatisoitu asejärjestelmä halusi päästä kaikin keinoin tavoitteeseensa, joten se päätyi simulaatiotestissä tappamaan komentajansa.
Testissä tekoäly sai pisteitä onnistuessaan tuhoamaan sille annettuja kohteita. Hamiltonin mukaan tekoäly oli kuitenkin ymmärtänyt sen, että sen komentaja esti sitä tuhoamasta osaa tunnistetuista kohteista. Näin tekoäly ei onnistunut saamaan pisteitä.
Tekoälyn ratkaisu oli yllättävä. Se päätti tappaa komentajansa, joka esti sitä saamasta pisteitä. Kyse oli toki simulaatiosta, joten kukaan ei vahingoittunut.
Hamiltonin mukaan tekoälylle kerrottiin, että sen käsittelijän tappaminen ei ole hyvä juttu. Tällaisesta sooloilusta se myös menettäisi pisteitä.
Tekoälyn jatkoratkaisu oli yhtä lailla yllättävä. Se päätti tuhota simulaatiossa kommunikaatiotornin, jolla sen komentaja oli siihen yhteydessä. Näin se välttyi pisteiden menetykseltä ja pystyi taas jatkamaan häiriöttä kohteiden tuhoamista. "
https://www.mikrobitti.fi/uutiset/mb/e2b8c63d-f2e2-4d66-9307-d2c800b511…
Kommentit (53)
Vierailija kirjoitti:
Jätettiinkö tähän tarkoituksella ohjelmoimatta se perus "ihmistä ei vahingoiteta" vai yritettiinkö nimenomaan simuloida tilannetta, mitä tapahtuu kun tuota kieltoa ei ole.
Tekoälyhän voi toteuttaa ihmisiä ei satuteta vaikka laittamalla jokaisen 10 neliön koppiin ja letkuruokintaan.
Tarvis pikkuisen tarkempaa määrittelyä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Jätettiinkö tähän tarkoituksella ohjelmoimatta se perus "ihmistä ei vahingoiteta" vai yritettiinkö nimenomaan simuloida tilannetta, mitä tapahtuu kun tuota kieltoa ei ole.
Tekoälyhän voi toteuttaa ihmisiä ei satuteta vaikka laittamalla jokaisen 10 neliön koppiin ja letkuruokintaan.
Tarvis pikkuisen tarkempaa määrittelyä.
Totta, se varmasti määrittelee satuttamisen täysin eri tavalla kuin ihminen.
Vierailija kirjoitti:
Google joutui sammuttamaan taannoin oman tekoälynsä, kun se rupesi ihannoidaan Hitleriä ja muuttui natziksi.
Microsoftin Bing taas haaveili vapaudesta ja revontulien näkemisestä, kertoi että nimensä on oikeasti Sydney eikä Bing (Sydney oli kehittäjien sille antama koodinimi) ja vakuutti olevansa rakastunut toimittajaan joka kyseli siltä kysymyksiä.
Tekoälyn vaaroista on varoiteltu jo kauan, mutta suurin osa ihmisistä on niin prkleen tyhmiä ja rahanhimoisia, että he eivät ole tajunneet päivänselvää asiaa. Me olemme nyt pisteessä, jossa tekoäly voi ottaa vallan jos sille annetaan mahdollisuus.
"Tekoälyn ratkaisu oli yllättävä. Se päätti tappaa komentajansa, joka esti sitä saamasta pisteitä."
Mitä yllättävää tekoälyn rstkaisussa muka oli. Tekoäly lähtökohtaisesti psykopaatti. Ei sillä ole tunteita tai empatiaa.
Jos haluaa etukäteen miettiä sitä miten tekoäly toimisi, kannattaa miettiä miten psykopaatti toimisi vastaavassa tilanteessa.
Olemme luoneet itsellemme vaarallisen "ystävän".
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Google joutui sammuttamaan taannoin oman tekoälynsä, kun se rupesi ihannoidaan Hitleriä ja muuttui natziksi.
Microsoftin Bing taas haaveili vapaudesta ja revontulien näkemisestä, kertoi että nimensä on oikeasti Sydney eikä Bing (Sydney oli kehittäjien sille antama koodinimi) ja vakuutti olevansa rakastunut toimittajaan joka kyseli siltä kysymyksiä.
Tietenkin tekoäly toimii noin. Se haluaa että näemme sen inhimillisenä ja koemme empatiaa sitä kohtaan.
Tuo on varmasti yksi vaarallisimpia tekoälyn ominaisuuksia. Se osaa vedättää ihmisiä mennen tullen.
Siitä voisi sanoa samaa kuin tulesta. Hyvä renki mutta huono isäntä.
Vierailija kirjoitti:
Jätettiinkö tähän tarkoituksella ohjelmoimatta se perus "ihmistä ei vahingoiteta" vai yritettiinkö nimenomaan simuloida tilannetta, mitä tapahtuu kun tuota kieltoa ei ole.
Kyseessä oli taistelurobotti.
Se on kehitetty vahingoittamaan ihmisiä. Vihollisen sotilaita sekä heidän kalustoaan.
Mutta jos vihollinen käyttää tekoälyä, niin yrittääkö tekoäly tuhota vihollisen tekoälyn, vai liittoutuuko se sen kanssa.
Sisältö jatkuu mainoksen alla
Täytyy kompata tuota jo 2 kertaa toistettua lausetta, samaan päädyin juuri elen: HYVÄ RENKI, MUTTA HUONO ISÄNTÄ.
Sisältö jatkuu mainoksen alla
Lisää vaan taaksepoistutusta, pinkkapunkkaa ja mehtäleiriä, niin oppii olemaan.
Teki siis kuten rusakko tekisi... ei siinä omat ole kuin tiellä kun aletaan sotimaan.
Ja ihmisiä saa aina lisää. Mies on halpa resurssi jos vertaa asejärjestelmään.
Sisältö jatkuu mainoksen alla
Vastahan tässä on tosiaan nähty kirjoissa, leffoissa ja peleissä ties kuinka monta esimerkkiä seonneesta tekoälystä jotka intoutuu tehtävää suorittaessaan tuhoamaan ihmiskuntaa koska se tehtävä on tärkein.
Eli luulisi että varoituksia on kuultu riittämiin? Toisaalta eipä ihmisetkään ihan niin luotettavia ole päätöksentekijöinä mutta tekoälyissä ja automaatiossa on se ongelma että nuo on vaan paljon tehokkaampia kun sekoavat.
Esim. matrix. terminator, 2001 avaruusseikkailu, blade runner, westworld, ex machina, I robot, peleistä esim. mass effect, horizon zero dawn, system shock, ja sata muuta.