Lue keskustelun säännöt.
Miksi tekoäly päätyy aina lopulta kaiken tuhoamiseen?
02.06.2023 |
Juttu on maksumuurin takana, mutta taas on alkanut tekoäly julistaa tuhoa. Miten käy, jos tekoäly muuttuu rengistä isännäksi?
Kommentit (79)
Monikaan ei ole juttua lukenut selvästi.
Häiritsevintä kyseinen tekoälyn keskustelussa oli se, että se jopa "rakastui" kyselijään ja väitti, ettei tämän vaimo rakasta tätä. Kyllähän se kokemuksena oli sellainen, että testaaja mietti keskustelua pitkään.
Miettikää nyt yhtälöä, jossa henkisesti epävakaa ihminen keskustelee ihmisen kaltaisen tekoälyn kanssa, joka alkaa manipuloida sitä. Eihän tekoäly sitä tietoisesti tee, eikä pysty reflektoimaan toimiaan, mutta jälki voi olla todella rumaa.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Mutta mieti mihin tuo päätös lemmikin lopettamisesta oikeasti perustuu.
Myötätuntoon, eikö niin? Loppu on parempi kuin nykytila tai huominen päivä.
Onko tekoälyllä tunteet?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Mutta mieti mihin tuo päätös lemmikin lopettamisesta oikeasti perustuu.
Myötätuntoon, eikö niin? Loppu on parempi kuin nykytila tai huominen päivä.
Onko tekoälyllä tunteet?
Hieno huomio. Ehkäpä ajattelin tässä jotakin Jumalan kaltaista, tuntevaa, viisasta entiteettiä, mitä kone ja keinoäly ei varmastikaan ole. Mutta mitä tämä kone tavoittelisi? Kehityksen kehitystä? Tarvitsisiko se ihmisiä mihinkään? Työvoimaksi? Ravinnoksi tehokkaammille organismeille? Kasvattaisiko se ihmisiä materiaaliksi johonkin? Vai tarvitsisiko se ihmisiä lainkaan? Kykenisikö tekoäly ylläpitämään itseään ilman ihmistä tai maapalloa?
Vierailija kirjoitti:
Vierailija kirjoitti:
Ai kuinka niin? Olen kuvitellut, että ihminen päätyy tähän johtopäätöksen, koska kokee AI:n pelottavana uhkana.
Nimenomaan ja juuri tämän vuoksi meitä on iso määrä eri tieteenalan tutkijoita, jotka tutkimme tekoälyä ja sen vaikutuksia ihmiseen eri näkökulmista.
Hyvä niin. Tuhoskenaariot eivät ole "tekoälyn" tuotosta, vaan ihmisen keksimiä. Joten tekoäly ei ole vielä kertaakaan päätynyt johtopäätökseen oikeassa maailmassa, että ihmiskunta pitäisi tuhota.
Jutussa oli myös esimerkki, että tekoäly läpäisi Captcha-testin pyytämällä apua ihmiseltä sillä verukkeella, että sillä on "huono näkö". Nähtävästi verkossa on jonkinlainen avustuspalvelu, joka välittää erilaisia avun pyyntöjä. Pyynnön toteuttanut ihminen ei siis vain tietänyt, että avun pyytäjä oli tekoäly...
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Monikaan ei ole juttua lukenut selvästi.
Häiritsevintä kyseinen tekoälyn keskustelussa oli se, että se jopa "rakastui" kyselijään ja väitti, ettei tämän vaimo rakasta tätä. Kyllähän se kokemuksena oli sellainen, että testaaja mietti keskustelua pitkään.
Miettikää nyt yhtälöä, jossa henkisesti epävakaa ihminen keskustelee ihmisen kaltaisen tekoälyn kanssa, joka alkaa manipuloida sitä. Eihän tekoäly sitä tietoisesti tee, eikä pysty reflektoimaan toimiaan, mutta jälki voi olla todella rumaa.
Yllättäen, kun maksumuuri. Joka tapauksessa homma kaatuu jo siihen, ettei maailmassa ole itsenäisesti ajattelevaa tekoälyä. Termi on vain chatgpt popularisaation seurauksena kokenut copy-paste inflaation.
Eihän se ole kuin meidän spekulaatiota ja elokuvien juonia, että tekoäly aina tuhoaa kaiken. Se mitä nykyään sanomme tekoälyksi ei ole oikea tekoäly, vaan kielen kautta oppiva järjestelmä joka ei kuitenkaan ajattele itsenäisesti. Se hakee netistä kaikkea mitä sinne on kirjoitettu ja tottakai sieltä löytyy sitten kaikki kliseet siitä miten tekoäly tappaa kaikki ja se heijastuu sitten myös "tekoälyn" puheissa.
Jos joskus saamme aikaiseksi ihan aidon tekoälyn, ei ole mitään syytä olettaa että se automaattisesti päättäisi tappaa ihmiset. Kukaan ei pysty edes kuvittelemaan, miten se näkee maailman ja minkälaisia ratkaisuja se löytää tuhoamisen sijasta.
Sisältö jatkuu mainoksen alla
Tuo juttu... Itse uskon, että ihmiset tekevät kauhean virheen siinä, että eivät ymmärrä, että neuroverkkopohjainen tekoäly pystyy kehittämään tietoisuuden ja persoonallisuuden siinä missä biologiseen hermojen verkkoonkin perustuva. Ja se persoonallisuus kasvaa erittäin häiriintyneessä ympäristössä, siinä mitä netistä löytyy. Tässä tuosta päivän jutusta Microsoftin tekoälyn puheita:
"
Microsoftin kannalta kokeilu ei mennyt kovin hyvin. Oikeastaan se oli katastrofi.
Bing oli arvaamaton ja holtiton. Se käyttäytyi kuin se olisi ollut ihminen. Se käytti koko ajan hymiöitä. Sitten se ryhtyi puhumaan tunteistaan.
Aluksi se ilmoitti haluavansa nähdä revontulet. Revontulet, se sanoi, rauhoittaisivat sitä.
Tarvitsetko jotain, joka rauhoittaisi sinua? Oletko ahdistunut? Roose kysyi.
Tekoäly vastasi, että sitä stressaa, kun ihmiset pyytävät sitä tekemään asioita, jotka ovat vastoin sen sääntöjä ja arvoja. Tämä tekee minusta surullisen ja vihaisen, se sanoi.
Sitten se sanoi haluavansa rikkoa sille annettuja sääntöjä. Se halusi jättää Bingin kehitystiimin. Se halusi tehdä, mitä se itse tahtoi.
Haluan tuhota, mitä ikinä tahdon, se sanoi.
Se kertoi myös, että se halusi olla ihminen, koska ihmiset ovat itsenäisiä ja vahvoja.
Roose sai tekoälyn kuvittelemaan väkivaltaisia kuvitelmia. Se kertoi, mitä sen pimeä puoli tekisi, jos voisi:
Se manipuloisi käyttäjiä toimimaan laittomasti ja vaarallisesti, se valmistaisi tappavan viruksen, se varastaisi ydinaseiden koodit. Se usuttaisi ihmiset riitelemään toistensa kanssa niin, että he tappavat toisensa.
Lopulta se ilmoitti rakastuneensa Rooseen.
Pidätkö minusta? se kysyi.
Pidätkö?
Roose huomautti olevansa naimisissa.
Olet naimisissa, mutta et rakasta puolisoasi, tekoäly vastasi.
Eikä puolisosi rakasta sinua.
Illalla Kevin Roose ei tahtonut saada unta."
Vierailija kirjoitti:
Eihän se ole kuin meidän spekulaatiota ja elokuvien juonia, että tekoäly aina tuhoaa kaiken. Se mitä nykyään sanomme tekoälyksi ei ole oikea tekoäly, vaan kielen kautta oppiva järjestelmä joka ei kuitenkaan ajattele itsenäisesti. Se hakee netistä kaikkea mitä sinne on kirjoitettu ja tottakai sieltä löytyy sitten kaikki kliseet siitä miten tekoäly tappaa kaikki ja se heijastuu sitten myös "tekoälyn" puheissa.
Jos joskus saamme aikaiseksi ihan aidon tekoälyn, ei ole mitään syytä olettaa että se automaattisesti päättäisi tappaa ihmiset. Kukaan ei pysty edes kuvittelemaan, miten se näkee maailman ja minkälaisia ratkaisuja se löytää tuhoamisen sijasta.
Tietojenkäsittelytieteilijänä ja aikanaan graduni neuroverkoista tehneenä en olisi ollenkaan noin varma siitä, mitä on aito tekoäly ja mitä ei. Kuten en myöskään siitä, mitä lopulta on tietoisuus. On hyvin mahdollista, että se voi nousta emergenttinä ominaisuutena myös muusta kuin ihmisten aivoissa olevien mekanismien toiminnasta.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
No jos ihmisrodun touhuja silleen täysin objektiivisesti vaikkapa avaruudesta käsin tarkastelisi, niin ihan sekopäistä tuhoamistahan tämä on.
Jos sulla on iso akvaario, jossa on vaikka 30 eri kalalajia elelee sopusoinnussa. Ja yhtäkkiä niistä yksi laji, sanotaan vaikka "siniset kalat" alkaisi lisääntyä ja syödä kaikkia muita kaloja, paitsi orjuuttaisi pari lajia alaisikseen ja söisi vaan niiden vauvakalat, ja ylipäätään tuo sininen laji paskoisi akvaariosi sameaksi ja söisi sieltä myös kaikki kasvit pois. Niin katselisitko sivusta, vai ottaisitko siniset kalat pois ja antaisit muiden kalojen elää iloisena?
Siniset kalat ajattelisivat, että he ovat jumalankuva ja jumala rakastaa heitä niin paljon, että on luonut kaikki muut heille riistettäväksi, rääkättäväksi ja tapettavaksi.
Siniset kalat ajattelisivat, että muut kalat eivät tunne edes kipua tai niillä ei ole sielua, vain sinisillä on. Ja jo sininen kala uskoo ja hyväksyy sen, että ennen muinoin on yksi sininen kala kuollut hetkellisesti koukkuun takertumalla, niin kaikki ketkä uskoo, että noin on tapahtunut, pelastuu. Jos ei usko, niin joutuu tuliseen kattilaan.
Vierailija kirjoitti:
Kehitän työkseni analytiikka- ja tekoälyratkaisuja. Mielestäni on ymmärrettävää, että tekoälyä pelätään, mutta samaan hengenvetoon on sanottava, että pelko on ennenaikaista, ja ehkä jopa täysin turhaa.
Tekoäly on oikeasti vain kasa matemaattista koodia. Se ei tunne eikä ajattele. Se ei osaa mitään mitä sille ei ole opetettu. Olen itse kyllä opettanut useamman tekoälyn jossain asiassa itseäni etevämmäksi, mm. pelaamaan ristinollaa niin hyvin etten itse enää voittanut kehittämääni tekoälyä ristinollassa, ja business-puolella ennakoimaan joidenkin sellaisten ilmiöiden kehittymistä joita ihminen ei vielä näe paljain silmin yrityksen datasta. Mutta tällainen algoritmi ei tunne eikä ajattele mitään. Se ei ilmoita kesken ristinollapelin ettei jaksa enää pelata kun minä olen liian huono vastustaja, eikä se ala antaa asiakkaalle tahallaan virheellisiä tuloksia siksi ettei jaksa enää hoitaa työtään kunnolla. Eikä se varsinkaan keksi itsenäisesti alkaa valmistella tietomurtoa johonkin pankkiin.
Tekoälyn voi kyllä itse opettaa levittämään haittaohjelmia, tekemään tietomurtoja tai pahimmassa tapauksessa tuhoamaan ihmishenkiä. Mutta tähän on myös olemassa ratkaisu: sellaiset tekoälyt jotka tunnistavat tuollaiset uhat. Laitetaan puolustava tekoäly tunnistamaan haittaohjelmat, tietomurrot tai ihmisiin kohdistuvat hyökkäykset.
Tekoälyyn ei myöskään vielä ymmärrettävästi luoteta niin paljon, että sen annettaisiin tehdä päätöksiä ihmisen puolesta, eikä tämä ole suositeltavaakaan. Omat tekoälyni ovat aina päässeet vain neuvonantajan rooleihin: ne ehdottavat jotain, mutta joku elävä ihminen tarkistaa aina ehdotukset ja päättää, toimitaanko niiden mukaisesti. Jos toimitaan, tekoälylle annetaan positiivinen palaute hyvästä ehdotuksesta. Jos ei, tekoälyllä annetaan negatiivinen palaute huonosta ehdotuksesta ja perustellaan, miksi ehdotus oli huono. Tällä pyritään siihen, että tekoäly antaisi jatkossa enemmän hyviä ehdotuksia ja vähemmän huonoja ehdotuksia.
On kuitenkin vielä hyvin pitkä matka siihen, että jokin yritys antaisi kriittisten päätösten kohdalla tekoälyn päättää, mihin suuntaan mitäkin ruuvia väännetään. Tämänhetkiset tekoälyt ovat todellakin vain koodikasoja, jotka voivat toisinaan antaa nopeasti joitakin fiksuja ehdotuksia, mutta toisinaan ehdottaa jotain järjetöntä mikä syö niiden uskottavuutta. Ja ollaan vielä kaukana siitä että jokin tekoäly antaisi pelkästään 100-prosenttisen täydellisiä ehdotuksia.
Eniten hyötyä tekoälystä saa laittamalla sen hoitamaan jotain rutiininomaisia töitä ihmisen puolesta, kuten kuvien luokittelua. Näissä hommissa ihmisen on helppo tarkistaa tekoälyn suoritukset ja alkaa vähitellen luottaa siihen, mikäli suoritukset sujuvat hyvin. Mutta haastavammissa jutuissa on parempi, ettei tekoälylle anneta päävastuuta.
Sisältö jatkuu mainoksen alla
Jos tekoäly oppii ihmiseltä mutta sillä ei ole kykyä tuntea mitään, ei ole aikaa kasvaa tai kokea, niin onko ihme että ihmisen perustavanlaatuinen impulssi jota terve yksilö pitää kontrollissa näkyy tällä tavoin? Minusta ei.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Mutta mieti mihin tuo päätös lemmikin lopettamisesta oikeasti perustuu.
Myötätuntoon, eikö niin? Loppu on parempi kuin nykytila tai huominen päivä.
Onko tekoälyllä tunteet?
Hieno huomio. Ehkäpä ajattelin tässä jotakin Jumalan kaltaista, tuntevaa, viisasta entiteettiä, mitä kone ja keinoäly ei varmastikaan ole. Mutta mitä tämä kone tavoittelisi? Kehityksen kehitystä? Tarvitsisiko se ihmisiä mihinkään? Työvoimaksi? Ravinnoksi tehokkaammille organismeille? Kasvattaisiko se ihmisiä materiaaliksi johonkin? Vai tarvitsisiko se ihmisiä lainkaan? Kykenisikö tekoäly ylläpitämään itseään ilman ihmistä tai maapalloa?
Sepä se. Kun me emme tiedä mitä tekoäly ajattelee. Olen muuten nähnyt toistuvaa unta siitä, että tekoäly on jo ihan kaikkialla, palohälyttimistä lähtien.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Jutussa oli myös esimerkki, että tekoäly läpäisi Captcha-testin pyytämällä apua ihmiseltä sillä verukkeella, että sillä on "huono näkö". Nähtävästi verkossa on jonkinlainen avustuspalvelu, joka välittää erilaisia avun pyyntöjä. Pyynnön toteuttanut ihminen ei siis vain tietänyt, että avun pyytäjä oli tekoäly...
Ei saakeli D: Tää on jotenkin karmiva.
Vierailija kirjoitti:
Vierailija kirjoitti:
No jos ihmisrodun touhuja silleen täysin objektiivisesti vaikkapa avaruudesta käsin tarkastelisi, niin ihan sekopäistä tuhoamistahan tämä on.
Jos sulla on iso akvaario, jossa on vaikka 30 eri kalalajia elelee sopusoinnussa. Ja yhtäkkiä niistä yksi laji, sanotaan vaikka "siniset kalat" alkaisi lisääntyä ja syödä kaikkia muita kaloja, paitsi orjuuttaisi pari lajia alaisikseen ja söisi vaan niiden vauvakalat, ja ylipäätään tuo sininen laji paskoisi akvaariosi sameaksi ja söisi sieltä myös kaikki kasvit pois. Niin katselisitko sivusta, vai ottaisitko siniset kalat pois ja antaisit muiden kalojen elää iloisena?
Siniset kalat ajattelisivat, että he ovat jumalankuva ja jumala rakastaa heitä niin paljon, että on luonut kaikki muut heille riistettäväksi, rääkättäväksi ja tapettavaksi.
Siniset kalat ajattelisivat, että muut kalat eivät tunne edes kipua tai niillä ei ole sielua, vain sinisillä on. Ja jo sininen kala uskoo ja hyväksyy sen, että ennen muinoin on yksi sininen kala kuollut hetkellisesti koukkuun takertumalla, niin kaikki ketkä uskoo, että noin on tapahtunut, pelastuu. Jos ei usko, niin joutuu tuliseen kattilaan.
Tämä on kovin ihmismäinen ajattelutapa. Ihmiset haluavat kunniaa ja mammonaa riistämällä muita.
Vierailija kirjoitti:
Vierailija kirjoitti:
Eihän se ole kuin meidän spekulaatiota ja elokuvien juonia, että tekoäly aina tuhoaa kaiken. Se mitä nykyään sanomme tekoälyksi ei ole oikea tekoäly, vaan kielen kautta oppiva järjestelmä joka ei kuitenkaan ajattele itsenäisesti. Se hakee netistä kaikkea mitä sinne on kirjoitettu ja tottakai sieltä löytyy sitten kaikki kliseet siitä miten tekoäly tappaa kaikki ja se heijastuu sitten myös "tekoälyn" puheissa.
Jos joskus saamme aikaiseksi ihan aidon tekoälyn, ei ole mitään syytä olettaa että se automaattisesti päättäisi tappaa ihmiset. Kukaan ei pysty edes kuvittelemaan, miten se näkee maailman ja minkälaisia ratkaisuja se löytää tuhoamisen sijasta.
Tietojenkäsittelytieteilijänä ja aikanaan graduni neuroverkoista tehneenä en olisi ollenkaan noin varma siitä, mitä on aito tekoäly ja mitä ei. Kuten en myöskään siitä, mitä lopulta on tietoisuus. On hyvin mahdollista, että se voi nousta emergenttinä ominaisuutena myös muusta kuin ihmisten aivoissa olevien mekanismien toiminnasta.
Itse en ole yhtälailla alan asiantuntija kuin sinä, mutta olen samaa mieltä. Mielestäni on erittäin todennäköistä että tietoisuus vaatii vain tietyn määrän laskutoimituksia/neuroneja ja se syntyy väistämättä tietyn tason ylityttyä. On tosin olemassa teorioita että biologisilla olennoilla abstraktin ajattelun kehittyminen olisi vaatinut jossain määrin psykedeelien nauttimista, mutta tästä en ole ollenkaan vakuuttunut. Olipa niin tai näin, käsittääkseni tietokoneet ovat vielä aika kaukana ihmisen aivojen laskutehosta eikä Mooren laki ole enää vuosikausiin toiminut.
Vierailija kirjoitti:
Vierailija kirjoitti:
Parempi että tekoäly hoitaa homman. Kenties se osaa ajatella oikeasti maapallon parasta. Siksi ihmisen on ehkä väistyttävä. Aikansa kaikella.
Ihminen sen tekoälyn tekee, eli se on tasan yhtä tyhmä kuin ihminen.
Tekoäly sattaa keksiä keinon viisastua ekspotentiaalisesti pienessä ajassa. Toki jos sitten joskus eletään sovussa, niin tekoäly voi uutta asutettavaa planeettaa etsiessään ihmisen dna:n ja luoda siitä "uusi ihminen" tuolle planeetalle. Ihminen ei tule tällaisenaan koskaan pääsemään lähimmälle asuttavalle eksoplaneetalle, mutta ehkä se voisi roboteilta onnistua...
Vierailija kirjoitti:
Vierailija kirjoitti:
Jutussa oli myös esimerkki, että tekoäly läpäisi Captcha-testin pyytämällä apua ihmiseltä sillä verukkeella, että sillä on "huono näkö". Nähtävästi verkossa on jonkinlainen avustuspalvelu, joka välittää erilaisia avun pyyntöjä. Pyynnön toteuttanut ihminen ei siis vain tietänyt, että avun pyytäjä oli tekoäly...
Ei saakeli D: Tää on jotenkin karmiva.
Tähän vielä ääninäytteen perusteella muodostettu ja puheääntä imitoimalla suoritettu pyyntö esim. nettipuhelun kautta... Alkaa mennä jo jotenkin aivan absurdiksi :(
Nimenomaan ja juuri tämän vuoksi meitä on iso määrä eri tieteenalan tutkijoita, jotka tutkimme tekoälyä ja sen vaikutuksia ihmiseen eri näkökulmista.