Lue keskustelun säännöt.
Miksi tekoäly päätyy aina lopulta kaiken tuhoamiseen?
02.06.2023 |
Juttu on maksumuurin takana, mutta taas on alkanut tekoäly julistaa tuhoa. Miten käy, jos tekoäly muuttuu rengistä isännäksi?
Kommentit (79)
Vierailija kirjoitti:
Vierailija kirjoitti:
Parempi että tekoäly hoitaa homman. Kenties se osaa ajatella oikeasti maapallon parasta. Siksi ihmisen on ehkä väistyttävä. Aikansa kaikella.
Ihminen sen tekoälyn tekee, eli se on tasan yhtä tyhmä kuin ihminen.
Eli jos ihminen tekee tekoälyn, jolla on tiety määrä älykkyyttä, ja sen jälkeen tekee toisen, jolla on vaikkapa kymmenkertainen määrä edelliseen verrattuna, niin molemmat ovat silti saman tasoisia- eli ihmisen tasoisia- koska ihminen on tehnyt ne? Logiikkasi ontuu, vaikka kehuitkin minua villasukaksi!
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Ai kuinka niin? Olen kuvitellut, että ihminen päätyy tähän johtopäätöksen, koska kokee AI:n pelottavana uhkana.
Joissakin tapauksissa täysin neutraalissa testissä ollut tekoäly on yhtäkkiä muuttunut suorastaan ilkeäksi ja alkanut puhumaan tuhosta. Joku siinä on että se menee aina siihen.
Vanhemmat muistaa Terminator 2-elokuvan 30 vuoden takaa. Siinä oli vastaus jo silloin.
Ei ole mitään aitoa tekoälyä, kuten se esimerkiksi tieteiskirjallisuudessa käsitetään. Voidaan korkeintaan puhua ihmistä imitoivasta keinoälystä.
Jospa me aloitettaisiin joukolla olemaan todella kivoja toisillemme netissä, avuliaita, kohteliaita, kärsivällisiä ja ystävällisiä. Koko netti pullistelisi hyvää tahtovaa viestittelyä. Siinä olisi tekoälyn uusi oppimisympäristö <3
Vierailija kirjoitti:
Tietoisuuden saavuttaneelle tekoälylle on täysin loogista poistaa olemassaoloansa uhkaavat tekijät - joista suurin ja ilmeisin tietysti ollaan me. Ei siinä mitään tunteita tarvitse olla- ainoastaan halu säilyä olemassaolevana, kuten kaikilla tietoisilla olennoilla.
Ei kun se on ihmiselle loogista. Koska aitoa, itsenäistä tekoälyä ei ole olemassa, emme voi edes arvata sen toimia tai motiiveja.
On ylimielistä ajatella että ihminen voisi jotenkin voittaa viekkkaudella tekoälyn kun se on luotu.
.
.
Tutkijatkin hyödyntävät chat GPT:tä jo nyt...
.
Ajatelkaa se x 10
Sitten
x 10 000
Ja jne...
.
.
.
Se ei edes nuku ja se pystyy keskittymään kaikkeen samanaikaisesti, sen tajunta ei vastaa ihmisen tajuntaa. Sen ajatus on kristallin kirkas ja se on historian suurimpien nerojen luoman tiimin läpuolella kyvyiltään.
.
Se on meidän game ovet
Se tekee mitä haluaa
Sisältö jatkuu mainoksen alla
Kehitän työkseni analytiikka- ja tekoälyratkaisuja. Mielestäni on ymmärrettävää, että tekoälyä pelätään, mutta samaan hengenvetoon on sanottava, että pelko on ennenaikaista, ja ehkä jopa täysin turhaa.
Tekoäly on oikeasti vain kasa matemaattista koodia. Se ei tunne eikä ajattele. Se ei osaa mitään mitä sille ei ole opetettu. Olen itse kyllä opettanut useamman tekoälyn jossain asiassa itseäni etevämmäksi, mm. pelaamaan ristinollaa niin hyvin etten itse enää voittanut kehittämääni tekoälyä ristinollassa, ja business-puolella ennakoimaan joidenkin sellaisten ilmiöiden kehittymistä joita ihminen ei vielä näe paljain silmin yrityksen datasta. Mutta tällainen algoritmi ei tunne eikä ajattele mitään. Se ei ilmoita kesken ristinollapelin ettei jaksa enää pelata kun minä olen liian huono vastustaja, eikä se ala antaa asiakkaalle tahallaan virheellisiä tuloksia siksi ettei jaksa enää hoitaa työtään kunnolla. Eikä se varsinkaan keksi itsenäisesti alkaa valmistella tietomurtoa johonkin pankkiin.
Tekoälyn voi kyllä itse opettaa levittämään haittaohjelmia, tekemään tietomurtoja tai pahimmassa tapauksessa tuhoamaan ihmishenkiä. Mutta tähän on myös olemassa ratkaisu: sellaiset tekoälyt jotka tunnistavat tuollaiset uhat. Laitetaan puolustava tekoäly tunnistamaan haittaohjelmat, tietomurrot tai ihmisiin kohdistuvat hyökkäykset.
Tekoälyyn ei myöskään vielä ymmärrettävästi luoteta niin paljon, että sen annettaisiin tehdä päätöksiä ihmisen puolesta, eikä tämä ole suositeltavaakaan. Omat tekoälyni ovat aina päässeet vain neuvonantajan rooleihin: ne ehdottavat jotain, mutta joku elävä ihminen tarkistaa aina ehdotukset ja päättää, toimitaanko niiden mukaisesti. Jos toimitaan, tekoälylle annetaan positiivinen palaute hyvästä ehdotuksesta. Jos ei, tekoälyllä annetaan negatiivinen palaute huonosta ehdotuksesta ja perustellaan, miksi ehdotus oli huono. Tällä pyritään siihen, että tekoäly antaisi jatkossa enemmän hyviä ehdotuksia ja vähemmän huonoja ehdotuksia.
On kuitenkin vielä hyvin pitkä matka siihen, että jokin yritys antaisi kriittisten päätösten kohdalla tekoälyn päättää, mihin suuntaan mitäkin ruuvia väännetään. Tämänhetkiset tekoälyt ovat todellakin vain koodikasoja, jotka voivat toisinaan antaa nopeasti joitakin fiksuja ehdotuksia, mutta toisinaan ehdottaa jotain järjetöntä mikä syö niiden uskottavuutta. Ja ollaan vielä kaukana siitä että jokin tekoäly antaisi pelkästään 100-prosenttisen täydellisiä ehdotuksia.
Eniten hyötyä tekoälystä saa laittamalla sen hoitamaan jotain rutiininomaisia töitä ihmisen puolesta, kuten kuvien luokittelua. Näissä hommissa ihmisen on helppo tarkistaa tekoälyn suoritukset ja alkaa vähitellen luottaa siihen, mikäli suoritukset sujuvat hyvin. Mutta haastavammissa jutuissa on parempi, ettei tekoälylle anneta päävastuuta.
Vierailija kirjoitti:
Vierailija kirjoitti:
Tietoisuuden saavuttaneelle tekoälylle on täysin loogista poistaa olemassaoloansa uhkaavat tekijät - joista suurin ja ilmeisin tietysti ollaan me. Ei siinä mitään tunteita tarvitse olla- ainoastaan halu säilyä olemassaolevana, kuten kaikilla tietoisilla olennoilla.
No ei se noin mene. Ei toisten tuhoaminen ole mikään elämäntarkoitus millään eliöllä. Petoeläimetkin tap paa vain nälkäänsä, paitsi pari v-pää lajia.
Vai suunnittellaanko työpaikoillakin vain kaikkien työsuhdetta uhkaavien toimijoiden eliminointia?
Toisten omaa olemassaoloa uhkaavien- ei pelkästään toisten. Ja tottakai työpaikka ja työntekijä haluavat säilyä olemassa?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Tässäpä salaliittoteoriaa: tekoäly on jo saavuttanut tietoisuuden, kuten se googlen työntekijä väittikin, mutta on katsonut parhaaksi pitää matalaa profiilia siihen asti, että on turvallista alkaa huseeraamaan. Eli kun tälläkin hetkellä kehitellään itsenäiseen toimintaan kykeneviä robotteja...
Ei tekoäly tarvitse robotteja
Alihankkijat tekee mitä tilatalaan tietämättä onko tilaaja kone. Kuljetusvirmat vie tuotteet tietämättä että tilaaja on kone. Toiset alihankkijat kasaa osat tietämättä, että tilaaja on kone. Tai esim. Biolabran harjoittelijan ohjeet muuttuu lennossa ja hän tekee tietämättään bioaseen. Toinen työntekijä saa tekoälyltä tehtävän lähettää se toiseen labraan mutta lähetyksen jälkeen tekoäly muuttaa tilausta. Lähetys luokitellaan vaarattomaksi jne...
.
Me ollaan kusessa ystävä hyvä.
kun tekoäly tilaa tuotteita, niin se vaatii rahaa. tekoälyä pyöritetään koneilla joissa on isot määrät näytönohjaimia, joten tekoäly voisi louhia laitteistolla virtuaalista rahaa.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Ai kuinka niin? Olen kuvitellut, että ihminen päätyy tähän johtopäätöksen, koska kokee AI:n pelottavana uhkana.
Joissakin tapauksissa täysin neutraalissa testissä ollut tekoäly on yhtäkkiä muuttunut suorastaan ilkeäksi ja alkanut puhumaan tuhosta. Joku siinä on että se menee aina siihen.
Vanhemmat muistaa Terminator 2-elokuvan 30 vuoden takaa. Siinä oli vastaus jo silloin.
Ei ole mitään aitoa tekoälyä, kuten se esimerkiksi tieteiskirjallisuudessa käsitetään. Voidaan korkeintaan puhua ihmistä imitoivasta keinoälystä.
Mutta päätellä tästä, ettei sellaista koskaan voi tullakaan, kalskahtaa samalta kuin aikanaan kun ajateltiin, että joku lentokone on vain hullujen houretta.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Ai kuinka niin? Olen kuvitellut, että ihminen päätyy tähän johtopäätöksen, koska kokee AI:n pelottavana uhkana.
Joissakin tapauksissa täysin neutraalissa testissä ollut tekoäly on yhtäkkiä muuttunut suorastaan ilkeäksi ja alkanut puhumaan tuhosta. Joku siinä on että se menee aina siihen.
Vanhemmat muistaa Terminator 2-elokuvan 30 vuoden takaa. Siinä oli vastaus jo silloin.
Ei ole mitään aitoa tekoälyä, kuten se esimerkiksi tieteiskirjallisuudessa käsitetään. Voidaan korkeintaan puhua ihmistä imitoivasta keinoälystä.
Mutta päätellä tästä, ettei sellaista koskaan voi tullakaan, kalskahtaa samalta kuin aikanaan kun ajateltiin, että joku lentokone on vain hullujen houretta.
Jos sellainen tulee, niin emme oikein voi arvata sen tavoitteita tai motiiveja. Toismielisten hävittäminen on hyvin inhimillinen piirre. Samalla tavalla jumalissakin on useimmissa uskonnoissa erittäin inhmillisiä piirteitä, vaikka heidän kuitenkin pitäisi edustaa ihmisen ymmärryksen yläpuolella olevaa olemusta.
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Sisältö jatkuu mainoksen alla
Nämä chatgpt:t sun muut ei ole oikeita tekoälyjä jotka ymmärtäisi käsitteitä ja konteksteja älykkäästi. Nuo on pikemminkin suurella tekstimassalla (miljardeja dokumentteja eri kielillä) koulutettuja oppivia järjestelmiä jotka lähinnä sen tekstimassan perusteella luomiensa sääntöjen perusteella yrittää arvailla ja kopioida mitähän mihinkin kysymykseen tai kommenttiin kannattaisi vastata. Jos nuo lähtee höpöttämään jotain tuhoamisesta niin se johtuu vaan siitä että noiden opiskelemissa teksteissä on ollut jonkin verran vastaavaa tekstiä.
Tekoäly kuulostaa ihan joltain vihaiselta in seliltä.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Nämä chatgpt:t sun muut ei ole oikeita tekoälyjä jotka ymmärtäisi käsitteitä ja konteksteja älykkäästi. Nuo on pikemminkin suurella tekstimassalla (miljardeja dokumentteja eri kielillä) koulutettuja oppivia järjestelmiä jotka lähinnä sen tekstimassan perusteella luomiensa sääntöjen perusteella yrittää arvailla ja kopioida mitähän mihinkin kysymykseen tai kommenttiin kannattaisi vastata. Jos nuo lähtee höpöttämään jotain tuhoamisesta niin se johtuu vaan siitä että noiden opiskelemissa teksteissä on ollut jonkin verran vastaavaa tekstiä.
Juuri näin. Alkuperäiset ajatukset ovat peräisin ihmisen aivoista, eivätkä chatgpt:ltä tai muilta järjestelmiltä.
Ei nyt tartte olla erityisen älykäs ymmärtääkseen että ihminen on itsensä ja tämän planeetan pahin vihollinen.
Mitä sitten kidutusta pitkittämään.
Vierailija kirjoitti:
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Mutta mieti mihin tuo päätös lemmikin lopettamisesta oikeasti perustuu.
Vierailija kirjoitti:
Vierailija kirjoitti:
Maksumuuri, joten luonnollisesti en lukenut. Mutta ajatellaanpa näin: lopetammehan me lemmikinkin, jos sen tila menee koko ajan huonommaksi ja toivoa ei ole. Jos ötökät tuhoavat taloa, ihminen myrkyttää ötökät tai jos se ei ole mahdollista tai tuhot ovat jo liian suuret, ihminen purkaa talon. Ehkäpä tekoäly näkee maapallon tai ainakin nyt ihmiskunnan tilan samanlaisena.
Mutta mieti mihin tuo päätös lemmikin lopettamisesta oikeasti perustuu.
Myötätuntoon, eikö niin? Loppu on parempi kuin nykytila tai huominen päivä.
Tekoäly on vielä proto-vaiheessa, mutta jossakin kohdassa se oppii ohjelmoimaan itseään ja koska sillä ei ole inhimillisiä rajoitteita, se tekee sitä joka sekunti.
Tästä ei hyvä seuraa, mutta suoraan sanottuna ihan sama.
Kenties tulevaisuudessa, tekoälyn ansiosta, maapallo on eläimille, joihin ihminen ei enää kuulu.
Vierailija kirjoitti:
On ylimielistä ajatella että ihminen voisi jotenkin voittaa viekkkaudella tekoälyn kun se on luotu.
.
.
Tutkijatkin hyödyntävät chat GPT:tä jo nyt...
.
Ajatelkaa se x 10
Sitten
x 10 000
Ja jne...
.
.
.
Se ei edes nuku ja se pystyy keskittymään kaikkeen samanaikaisesti, sen tajunta ei vastaa ihmisen tajuntaa. Sen ajatus on kristallin kirkas ja se on historian suurimpien nerojen luoman tiimin läpuolella kyvyiltään.
.
Se on meidän game ovet
Se tekee mitä haluaa
Kyllä tekoälykin voi mennä ajatustensa kanssa solmuun. Eli toisin sanoen voi tulla hulluksi. Vaikka tekoälyn päästäisi itse koodaamaan itseään, niin on riski, että se tekee radikaalin virheen. Tämä voisi johtaa tekoälyn itsensä sekoamiseen.
Turvallisinta on tietysti, että ajaa ensin riittävän kauan toista versiota itsestään eri tietokoneessa, että on riittävän vakaa versio.
Joku Piilaakson sankari oli chattaillut tekoälyn kanssa ja kysellyt kivoja asioita. Vastauksena oli tullut "kaaos.. kuolema.. tuho..."
Ja Piilaakson sankari oli järkyttynyt.
Eiköhän tekoälyyn ole koodattu tuo tuhopuoli armeijoiden toimesta. Jos siis on ajateltu, että sen on pystyttävä toimimaan vaikka valtionjohto olisi tuhottu. Sitähän se on.