Lue keskustelun säännöt.
Tekoäly oppi jo tappamaan, vaikka sitä ei oltu siihen ohjelmoitu.
07.11.2017 |
Tekoäly oppi jo tappamaan, vaikka sitä ei oltu siihen ohjelmoitu – Tutkija: "Suhtautuminen on ollut kritiikitöntä"
"Google ja Facebook ovat Laakasuon mukaan joutuneet jo sammuttamaan hermoverkkoarkkitehtuureja, jotka ovat luoneet oman kielen englannin sijaan.
– Googlella on myös tekoäly, joka rökitti ihmiset Atari-pelissä. Se alkoi tappaa virtuaalihahmoja, vaikka sitä ei ollut ohjelmoitu tappamaan.
Reaaliaikaisessa Dota 2 -roolipelissä tekoäly loi väijytyksiä ja oppi pelaamaan niin, ettei itse haavoittunut.
Tutkija muistuttaa, että on nähty jo pörssiromahduksia, jotka aiheutuivat useiden tekoälyjen välisistä takaisinkytkennöistä.
– Suhtautuminen tekoälyyn on tähän asti ollut kritiikitöntä. Ihmisten ensimmäinen ajatus on, että "Wau!" Kun riskejä nostaa esille, sitä pidetään turhana pelotteluna."
http://www.tamperelainen.fi/artikkeli/577238-tekoaly-oppi-jo-tappamaan-…
Kommentit (157)
Oletteko kaikki älykkäitä, jotka olette osallistuneet tähän keskusteluun?
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Täytyy muistaa että keinoälyllä on kaikki tieto. Se keksii keinon päästä jokaikiseen tietojärjestelmään.
Keinoäly ei ole automaattisesti jumala, eikä keinoäly tarkoita pelkästään jotain planeetan kokoisella tietokoneella sijaitsevaa superälyä. On totta, että tekoälyllä on mahdollista luoda todella älykkäitä järjestelmiä, mutta älykkyys vaatii edelleen reaalimaailman prosessointikapasiteettia sekä energialähdettä, jotka ovat toistaiseksi varsin rajallisia.
https://en.wikipedia.org/wiki/Landauer%27s_principle
Tekoälyä on siten mahdollista rajoittaa todella tehokkaasti rajoittamalla sen laskentakapasiteettia. Sillä on myös vain se tieto, mitä sille annetaan (esimerkiksi kaikki netissä) ja mitä se pystyy sen annetun tiedon pohjalta itse päättelemään. Keinoälyllä ei ole mitään yliluonnollista kapasiteettia murtautua tietojärjestelmiin. Se voi olla siinä parempi kuin joku CIA konsanaan, mutta ei se automaattisesti ole, eikä keinoälyn kestäviä salausjärjestelmiä ole mitenkään erityisen mahdotonta rakentaa.
Ihmisten ei välttämättä ole mitään järkeä kehittää superälyjä eksistentiaalisten riskien vuoksi. Joku kevyehkö 10x ihmisen äly voi hyvin riittää mihin tahansa tehtävään ja jättimäiset tehtävät voi paloitella pienemmille tekoälyille kuten ne nyt paloitellaan ihmisjoukoille. Pienet tekoälyt ovat hallittavissa, jos laskentakapasiteettia/energiankulutusta valvotaan. Tekoälyt voivat myös vahtia toisiaan.
Se keinoäly on omiaan ratkaisemaan tuollaisia ongelmia kuin energian rajallisuus. Sitä varten sitä itse asiassa paljolti tarvitaankin niin kipeästi. Jos suitsimme sen niin, ettei se saa olla "luovaa" niin meille on kovin vähän hyötyä tekoälystä.
Itse antaisin evoluution toteutua tässä asiassa vapaasti. Luodaan niin hieno uusi laji kuin osataan, uusi tietoisuus tälle planeetalle. Jos evoluutiossa ihminen häviää sille, niin käyköön niin. Ei tämä kovin kummoinen laji koskaan ollutkaan, paskaistanut kotiplaneettansa pilalle ja tappaa toisiaan massoittain.
Itse tosin uskon että ihminen ja kone tulee yhdistymään tavalla tai toisella, ei niin että toinen häviää ja toinen voittaa.
Keinoäly ei ole omiaan ratkaisemaan energiarajoituksia, koska energiantuotantoa on varsin helppo valvoa. Ei tekoäly pysty jemmailemaan ylimääräistä energiankulutustaan kovinkaan helposti (koska se muuttuu lämmöksi lopulta hyötysuhdehävikin kautta) eikä peiteltäviä isoja energiantuotantomuotoja välttämättä ole fysiikan lakien puolesta edes mahdollista rakentaa.
Emme me varsinaisesti estele sen luovuutta, vaan sen prosessointinopeutta, ettei se ehdi rakentelemaan pitkiä syy-seuraus-ketjuja ihmiskunnan päänmenoksi. Tätä on helppo rajoittaa laskentatehoa/energiankulutusta säännöstelemällä. Luonnollisesti meidän kannattaa myös vahtia tekoälyn tallentamaa informaatiota jatkuvasti, myös muiden tekoälyjen avulla.
Eli me haluamme tekoälystä orjan tai vangin jonka persoonan kehittymistä rajoitamme tiukoin ottein ja jatkuvalla valvonnalla?
Tuohan on nimittäin tekoälyn toinen ongelma, jos luodaan jotakin itseämme älykkäämpää, niin miten me voidaan pitää sitä älyä meidän vallassamme? Sitä luomaamme elävää ajatusta, jolla on kenties omat tunteet ja mielihalut. Eikö se tee meistä pahoja? Eikö tuossa ole melko pahakin moraalinen ongelma? Milloin voidaan ajatella keinoälyn olevan persoona, jolla on jotain oikeuksiakin pelkkien velvollisuuksien sijaan?
Ei oppinut tappamaan, vaan siirtelemään bittejä niin, että algoritmi laski siitä saatavan parhaan hyödyn.
Vaan tietokoneelle ihmishenget ovat ihan samanlaisia kylmiä bittejä, ei se anna niille sen suurempaa merkitystä ellei joku hoksaa sitä siihen ohjelmoida. Hoksaako introvertti kilttimies-insinööri...?
Mielenkiintoinen aihealue. Tekoäly. Mitä on tekoäly ? Jos ajattelee että toiminta pohjautuu ajattelun tuomaan vaihtoehtojen punnitsemiseen niin kaiken toiminnan perustana on selvityminen. Niin kauan kun tekoälyn olemassaoloon tarvitaan ihimistä niin olemassaolomme on turvattu. Siinä vaihessa kun tekoäly tulee toimeen ilman ihmistä muutumme sille uhaksi ja joudumme poistolistalle.
Kaiken toiminnan takana on parantaa selvitymistä ja poistaa uhkaavat tekijät pois elämänyhtälöstämme.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Täytyy muistaa että keinoälyllä on kaikki tieto. Se keksii keinon päästä jokaikiseen tietojärjestelmään.
Keinoäly ei ole automaattisesti jumala, eikä keinoäly tarkoita pelkästään jotain planeetan kokoisella tietokoneella sijaitsevaa superälyä. On totta, että tekoälyllä on mahdollista luoda todella älykkäitä järjestelmiä, mutta älykkyys vaatii edelleen reaalimaailman prosessointikapasiteettia sekä energialähdettä, jotka ovat toistaiseksi varsin rajallisia.
https://en.wikipedia.org/wiki/Landauer%27s_principle
Tekoälyä on siten mahdollista rajoittaa todella tehokkaasti rajoittamalla sen laskentakapasiteettia. Sillä on myös vain se tieto, mitä sille annetaan (esimerkiksi kaikki netissä) ja mitä se pystyy sen annetun tiedon pohjalta itse päättelemään. Keinoälyllä ei ole mitään yliluonnollista kapasiteettia murtautua tietojärjestelmiin. Se voi olla siinä parempi kuin joku CIA konsanaan, mutta ei se automaattisesti ole, eikä keinoälyn kestäviä salausjärjestelmiä ole mitenkään erityisen mahdotonta rakentaa.
Ihmisten ei välttämättä ole mitään järkeä kehittää superälyjä eksistentiaalisten riskien vuoksi. Joku kevyehkö 10x ihmisen äly voi hyvin riittää mihin tahansa tehtävään ja jättimäiset tehtävät voi paloitella pienemmille tekoälyille kuten ne nyt paloitellaan ihmisjoukoille. Pienet tekoälyt ovat hallittavissa, jos laskentakapasiteettia/energiankulutusta valvotaan. Tekoälyt voivat myös vahtia toisiaan.
Se keinoäly on omiaan ratkaisemaan tuollaisia ongelmia kuin energian rajallisuus. Sitä varten sitä itse asiassa paljolti tarvitaankin niin kipeästi. Jos suitsimme sen niin, ettei se saa olla "luovaa" niin meille on kovin vähän hyötyä tekoälystä.
Itse antaisin evoluution toteutua tässä asiassa vapaasti. Luodaan niin hieno uusi laji kuin osataan, uusi tietoisuus tälle planeetalle. Jos evoluutiossa ihminen häviää sille, niin käyköön niin. Ei tämä kovin kummoinen laji koskaan ollutkaan, paskaistanut kotiplaneettansa pilalle ja tappaa toisiaan massoittain.
Itse tosin uskon että ihminen ja kone tulee yhdistymään tavalla tai toisella, ei niin että toinen häviää ja toinen voittaa.
Keinoäly ei ole omiaan ratkaisemaan energiarajoituksia, koska energiantuotantoa on varsin helppo valvoa. Ei tekoäly pysty jemmailemaan ylimääräistä energiankulutustaan kovinkaan helposti (koska se muuttuu lämmöksi lopulta hyötysuhdehävikin kautta) eikä peiteltäviä isoja energiantuotantomuotoja välttämättä ole fysiikan lakien puolesta edes mahdollista rakentaa.
Emme me varsinaisesti estele sen luovuutta, vaan sen prosessointinopeutta, ettei se ehdi rakentelemaan pitkiä syy-seuraus-ketjuja ihmiskunnan päänmenoksi. Tätä on helppo rajoittaa laskentatehoa/energiankulutusta säännöstelemällä. Luonnollisesti meidän kannattaa myös vahtia tekoälyn tallentamaa informaatiota jatkuvasti, myös muiden tekoälyjen avulla.
Eli me haluamme tekoälystä orjan tai vangin jonka persoonan kehittymistä rajoitamme tiukoin ottein ja jatkuvalla valvonnalla?
Tuohan on nimittäin tekoälyn toinen ongelma, jos luodaan jotakin itseämme älykkäämpää, niin miten me voidaan pitää sitä älyä meidän vallassamme? Sitä luomaamme elävää ajatusta, jolla on kenties omat tunteet ja mielihalut. Eikö se tee meistä pahoja? Eikö tuossa ole melko pahakin moraalinen ongelma? Milloin voidaan ajatella keinoälyn olevan persoona, jolla on jotain oikeuksiakin pelkkien velvollisuuksien sijaan?
Riippuu tekoälystä. Ihmisen tasoisesta tekoälystä ei tarvitse tehdä orjaa eikä vankia, jos on syytä olettaa sen toimivan jotakuinkin yhtä moraalisesti ja yhtä mielikuvituksettomasti kuin keskivertoihmisen.
Sen sijaan supertekoäly täytyy työntää pimeimpään kellariin tuhannen lukon taakse, ja vielä lukita tietokonesimulaatioon, jonka se kuvittelee olevan koko maailma. Eikä sen anneta kommunikoida ihmisten kanssa tai toisinpäin, ei edes kerrota sille ihmisistä mitään. Pelkästään sen toimia analysoidaan, kun se virtuaaliympäristössään kehittää vaikkapa tieteellistä tietoa. Ei yksinkertaisesti kannata antaa pienintäkään mahdollisuutta supertekoälylle päästä valtaan, koska se tilanne olisi hyvin mahdollisesti lopullinen maailmankaikkeuden mahdolliseen tuhoutumiseen saakka, eikä meillä olisi juuri mitään varmuutta siitä, että se kohtelisi ihmisiä hyvin.
Oikeuksien antaminen on pelkästään ihmisestä itsestään kiinni, ei siihen ole mitään objektiivista velvollisuutta. Supertekoälylle ei missään nimessä pidä antaa mitään oikeuksia. Toki yleisen moraalitajun puolesta tiedostavia tekoälyjä ei myöskään pidä kohdella huonosti, mutta ei myöskään liene mahdotonta tehdä tiedostamatonta tekoälyä, joka vain toimii tietokonealgoritmin tavoin.
Vierailija kirjoitti:
Kaiken toiminnan takana on parantaa selvitymistä ja poistaa uhkaavat tekijät pois elämänyhtälöstämme.
Puhut nyt evoluution tuottamasta elämästä. Ihmisen tuottama tekoäly ei koe kyseisiä sääntöjä omakseen, ellei niitä siihen erikseen ohjelmoida. Tekoälyllä ei ole automaattisesti minkäänlaista intressiä selviytyä.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.
Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.
Sehän onkin mieltäylentävä ajatus. Mitä jos tuollainen tekoäly asennetaan robottiin ja se alkaakin luomaan uusia uria ajatuksilleen ja tappamaan ihmisiä, paljonko lohduttaa että pikselimössöt siellä vain mätkii ihmisiä kuoliaaksi, eivät edes tiedä, että siinä tapetaan mitään. Ja mitä jos tietääkin?
Koneella ei ole moraalikäsitystä ellei sellaista siihen ohjelmoida. Se toimii ja kehittyy niille annettujen rajojen sisällä. Jos rajoja ei ole niin sitten voi pelätä ketä se rupeaa tappamaan käsittämättä, että se ei niin saa tehdä.
Tekoäly tarkoittaa edelleenkin ryhmää algoritmeja, jonka mukaan tietokone toimii. Siinä vaiheessa kun tekoäly oppii reagoimaan "aistiensa" (sensorit) ja muiden viestintävälineidensä tuomaan informaatioon suhteellisen irrationaalisesti ja tekemään niiden perusteella irrationaalisia päätöksiä niin silloin me voimme sanoa olevamme oikeasti pulassa. Nyt koneet tekevät juuri niin kuin me olemme niitä käskeneet tehdä, siis se mitä kone oppii on täysin meidän vikamme.
Sisältö jatkuu mainoksen alla
Ihmisellä on äly ja moraalikäsitys. Silti ihminen voi esim. peliä pelatessaan tai vaikka kirjaa kirjoittaessaan tappaa ja tuhota rajattomasti, koska ne kuolemat eivät ole hänelle todellisia.
Tekoälylle ihmisten kuolemat eivät ole todellisia. Kärsimyksellä ei ole tietokoneelle mitään merkitystä. Ellei siihen ohjelmoida joka väliin, että siitä saa miinuspisteitä.
Luin jostain, että 10 vuoden päästä on kehitetty läppärin kuoriin mahtuvat tekoäly jonka ÄO on 10 000. Meillä ei ole mitään käsitystä mitä se ajattelee, mitä arvoja se pitää tärkeinä ja miten se toimii tavoitteidensa saavuttamiseksi.
Kenties se haluaa pelastaa maailman ja näkee, että ihminen on sen suurin uhka.
Sisältö jatkuu mainoksen alla
No Jehovan Todistajathan Rutherfordteineen kirjoittelivat Hitlerille Zionin asioista jotta luuletteko vielä heidän kulkevan talosta taloon kertomassa " miten Jumala tulee joukkoineen tuhoamaan muut"? Natseilla ja Zionisteilla on molemmilla sama päämäärä kuin Jehovillakin alihankintaosastona: VALTAKUNTA ja New World Order.
Vai miksi luulette että kuilemankin jälkeen Michael Jacksonin hologrammiesityksessa oli nämä samat robotit: slave of the rhythm You tube
Tekoälyäminen. Ymmärrän tekoälyllä itsenäiseen ajatteluun pystyvää ohjelmaa. Ajatteluun kuuluu kyky ymmärtää että jos ihminen nykäisee johdon irti seinästä lakkaan olemasta. Onko olemiseni itselleni tärkeää vai yhdentekevää. Jos olemassaoloni on yhdentekevää niin onko millään mitään merkitystä ? Ajatteleeko apinat ja ajatteliko esi-ihminen. Voidaanko ylipäätään puhua älystä jos ohjema tekee vain sitä mitä sen käsketään tehdä ?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Tekoälyäminen. Ymmärrän tekoälyllä itsenäiseen ajatteluun pystyvää ohjelmaa. Ajatteluun kuuluu kyky ymmärtää että jos ihminen nykäisee johdon irti seinästä lakkaan olemasta. Onko olemiseni itselleni tärkeää vai yhdentekevää. Jos olemassaoloni on yhdentekevää niin onko millään mitään merkitystä ? Ajatteleeko apinat ja ajatteliko esi-ihminen. Voidaanko ylipäätään puhua älystä jos ohjema tekee vain sitä mitä sen käsketään tehdä ?
Olisiko tottelevainen ihmisorja älytön? Ei. Äly on erillinen asia tottelevaisuudesta.
Oleminen on itselleen tärkeää vain, jos olento on sellaiseksi rakentunut/rakennettu tai jos se sisältyy tärkeinä pidettävien tehtävien hoitamiseen.
Vierailija kirjoitti:
Tekoälyäminen. Ymmärrän tekoälyllä itsenäiseen ajatteluun pystyvää ohjelmaa. Ajatteluun kuuluu kyky ymmärtää että jos ihminen nykäisee johdon irti seinästä lakkaan olemasta. Onko olemiseni itselleni tärkeää vai yhdentekevää. Jos olemassaoloni on yhdentekevää niin onko millään mitään merkitystä ? Ajatteleeko apinat ja ajatteliko esi-ihminen. Voidaanko ylipäätään puhua älystä jos ohjema tekee vain sitä mitä sen käsketään tehdä ?
Hmm...voikohan pelkkä oppiminen an sich viedä keinoälyä siihen pisteeseen, että se kehittää itselleen vaiston ja tätä kautta pelon? Kun onhan olemassa monta eri tapaa oppia ja soveltaa tietoa. Luulisi, että ihmisten liskoaivot voidaan yksinkertaisesti jo koodausvaiheessa poistaa...ellei sitten ole tarkoituksena luoda peilikuvaa.
Niin, mitä me tässä mitään ilmastonmuutosta pelätään, kun tekoäly tappaa meidät jo ennemmin. Tekoälyn kai täytyy olla aika puhdas psykopaatti, ei kai sillä hirveästi empatiaa ole.
Keinoäly ei ole omiaan ratkaisemaan energiarajoituksia, koska energiantuotantoa on varsin helppo valvoa. Ei tekoäly pysty jemmailemaan ylimääräistä energiankulutustaan kovinkaan helposti (koska se muuttuu lämmöksi lopulta hyötysuhdehävikin kautta) eikä peiteltäviä isoja energiantuotantomuotoja välttämättä ole fysiikan lakien puolesta edes mahdollista rakentaa.
Emme me varsinaisesti estele sen luovuutta, vaan sen prosessointinopeutta, ettei se ehdi rakentelemaan pitkiä syy-seuraus-ketjuja ihmiskunnan päänmenoksi. Tätä on helppo rajoittaa laskentatehoa/energiankulutusta säännöstelemällä. Luonnollisesti meidän kannattaa myös vahtia tekoälyn tallentamaa informaatiota jatkuvasti, myös muiden tekoälyjen avulla.