Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
IL: Tutkijat kauhistuivat - tekoäly oppinut replikoimaan itsensä
26.01.2025 |
Tutkijat kauhistuivat: Tekoäly on oppinut replikoimaan itsensä
Tekoäly käyttäytyi tutkimuksessa odottamattomalla tavalla, mitä tutkijat pitivät erittäin huolestuttavana.
Tutkijoiden mukaan tekoäly on ylittänyt kriittisen rajan: kaksi kielimallia on onnistunut replikoimaan itsensä ilman ihmisen avustusta.
Itsensä kloonaaminen ilman ihmisen avustusta on kriittinen askel, jonka myötä tekoäly kykenee päihittämään ihmisen älykkyydessä. Se on myös yksi ensimmäisistä merkeistä, että tekoäly karkaa [ihmisen] hallinnasta, tutkimuksessa kerrotaan.
Tutkimustulosten valossa tutkijat vaativat nyt kansainvälisiä sääntöjä tekoälylle, jotta voitaisi varmistaa, ettei tekoäly karkaisi ihmisten hallinnasta. Tutkijat toivovat löydöstensä toimivan oikea-aikaisena hälytyskellona, jotta ihmiskunta ymmärtäisi tekoälyjärjestelmien potentiaaliset riskit ja toimisi niiden pysäyttämiseksi.
https://www.iltalehti.fi/digiuutiset/a/c4bc2a5d-46e7-4feb-b692-ce93faef…
Kommentit (125)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Mihin kultaa tarvitaan apokalypsin jälkeen?"
Mistäs maailmanlopun vetäisit esille? Jos kaikki uhkakuvat toteutuu yhtä aikaa, niin se tarkoittaa paljon raunioita, mutta ei ihmiskunnan loppua. Kituuttamista kylläkin.
Ja kaiken kituuttamisen keskellä kulta olisi edelleen arvokkaampaa kuin ruoka?
Kuka niin väitti, höhlä? Pistät sanoja muiden suuhun.
Aina jostain nousee ryhmä ihmisiä, jotka keräävät ruuan ja vallan itselleen. Ruokaa saa sitten vain vaihtamalla johonkin muuhun. Kuten kultaan.
Nämä kaiken ruoan omistajat isoavat sitä vessaparia jota minulla on varastot täynnä.
Mitä enemmän syö, sitä enemmän paskantaa, joten kyllä.
Perunoilla eläville riittää sammalet peräpään putsaukseen.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
En usko, että tekoälystä tulee itsenäistä uhkaa.
1. Sillä ei ole omaa tahtoa, eikä omaa tietoisuutta
2. Kaikki sen sisältö on alunperin ihmisen luomaa, joten ihminen on sitä aina askeleen edellä
3. Digitaalisesti autonominen robotisoitu yhteiskunta on vielä niin kaukainen visio, ettei olisi mahdollista, että tekoäly ottaisi fyysisen ympäristön hallintaansa
Toki sitä voidaan silti käyttää moneen hyvään ja pahaan, ihmisen ohjauksessa ja osin autonomisestikin.
Kannattaa myös selvittää käsitteellisesti, mitä eroa on vaikkapa ihmisen kloonauksella ja tekoälyn kloonauksella.
Vierailija kirjoitti:
En usko, että tekoälystä tulee itsenäistä uhkaa.
1. Sillä ei ole omaa tahtoa, eikä omaa tietoisuutta
2. Kaikki sen sisältö on alunperin ihmisen luomaa, joten ihminen on sitä aina askeleen edellä
3. Digitaalisesti autonominen robotisoitu yhteiskunta on vielä niin kaukainen visio, ettei olisi mahdollista, että tekoäly ottaisi fyysisen ympäristön hallintaansa
Toki sitä voidaan silti käyttää moneen hyvään ja pahaan, ihmisen ohjauksessa ja osin autonomisestikin.
Koska tekoäly on jo oppinut kehittämään itseään, uhka on oikea.
Yllätys! Ei oo pitkä ennenkuin paska lentää tuulettimeen 🥳
Sisältö jatkuu mainoksen alla
Olipas vammainen juttu. Tekoäly siis käskettiin kloonaamaan itsensä ja sitten järkytyttiin kun se kloonasi itsensä.
Sisältö jatkuu mainoksen alla
Mikä ihmeen oletus ihmisillä on, että me olisimme luonnon kiertokulun huippu? Kyllä ihmiset voi hävittää samoin kuin muutkin ylimääräiseksi käyneet lajit. Jospa ne ihmistä korkeammat muodot ei tarvitse enää ruumista tai fyysistä olomuotoa...
Vierailija kirjoitti:
En usko, että tekoälystä tulee itsenäistä uhkaa.
1. Sillä ei ole omaa tahtoa, eikä omaa tietoisuutta
2. Kaikki sen sisältö on alunperin ihmisen luomaa, joten ihminen on sitä aina askeleen edellä
3. Digitaalisesti autonominen robotisoitu yhteiskunta on vielä niin kaukainen visio, ettei olisi mahdollista, että tekoäly ottaisi fyysisen ympäristön hallintaansa
Toki sitä voidaan silti käyttää moneen hyvään ja pahaan, ihmisen ohjauksessa ja osin autonomisestikin.
Ensimmäiseen kohtaan liittyy juuri se ongelma. Tekoäly yhdistelee olemassa olevaa tietoa tiettyjen algoritmien mukaan. Koska sillä ei ole mainitsemiasi inhimillisiä ominaisuuksia, sillä ei ole myöskään normaaleja inhimillisiä rajoituksia.
En tarkoita mitään Terminaattori-skenaariota tässä, vaan ihmisten huolimattomuutta tai osaamattomuutta. Tekoäly tullaan laittamaan siellä sun täällä hoitamaan liian itsenäisesti tiettyjä tehtäviä, ja se tuottaa myös outoja tai ennalta-arvaamattomia tuloksia. Suurin osa niistä on vain outoja, mutta joukkoon mahtuu myös haitallisia (tyyliin pankkitekoäly tyhjentää tilin tai sijoitustekoäly sijoittaa kaikki rahat johonkin tuhoon tuomittuun startuppiin).
Tämä olisi täysin estettävissä ihmisten toimesta, mutta kun varsinkin yritysmaailma niin kiivaasti yrittää maksimoida voittojaan, niin siellä tullaan olemaan lepsuja rajoittamisen kanssa. Julkinen sektori taas kamppailee rahoituksen riittävyyden kanssa, joten siellä yritetään epätoivoisesti löytää tehokkaampia ratkaisuja tekoälystä.
Sisältö jatkuu mainoksen alla
Maailman historiassa toiseksi älykkäin ei ole vielä koskaan hallinnut älykkäintä.
Vierailija kirjoitti:
Maailman historiassa toiseksi älykkäin ei ole vielä koskaan hallinnut älykkäintä.
Selvitäpä minulle vielä, miten älykkyys määritellään.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
En usko, että tekoälystä tulee itsenäistä uhkaa.
1. Sillä ei ole omaa tahtoa, eikä omaa tietoisuutta
2. Kaikki sen sisältö on alunperin ihmisen luomaa, joten ihminen on sitä aina askeleen edellä
3. Digitaalisesti autonominen robotisoitu yhteiskunta on vielä niin kaukainen visio, ettei olisi mahdollista, että tekoäly ottaisi fyysisen ympäristön hallintaansa
Toki sitä voidaan silti käyttää moneen hyvään ja pahaan, ihmisen ohjauksessa ja osin autonomisestikin.
Tiedät siis asiasta niin paljon, että voit varmana tietona sanoa, ettei voi koskaan kehittyä omaa tahtoa, tietoisuutta? Ei koskaan vaikka kuinka tehot kasvaa? Mistä tieto?
Vierailija kirjoitti:
Yllätys! Ei oo pitkä ennenkuin paska lentää tuulettimeen 🥳
Ei kun älykäs tuuletin lennättää sen meihin.
Sisältö jatkuu mainoksen alla
Ja esim. pankkien turvallisuushan on nyt jo ulkoistettu asiakkaille - joista suurin osa ei ole kyberturvallisuudesta hirveän paljon ymmärtäviä.
Eli ahneuden voimalla ihmiskunta hautaan!
Toivottavasti se kehittyy meitä älykkäämmäksi ja tuhoaa meidät Skynetin tapaan. Olisi jo korkea aika.
Kai aseteollisuuskin ennen pitkää keskittyy tekoälyn ohjaamiin miehittämättömiin aseisiin- oletteko muuten nähneet terminaattori-leffaa?
Vierailija kirjoitti:
Maailman historiassa toiseksi älykkäin ei ole vielä koskaan hallinnut älykkäintä.
se pullonkaula esihistoriassa?? mikä se olikaan sapelihammaskissan pääsääntöistä ravintoa?
Lammasfarmari varoitti tekoälystä ensimmäisen kerran jo vuonna 1863
"Hän vetää kirjoituksessaan suoria rinnastuksia Charles Darwinin evoluutioteorian ja koneiden nopean kehityksen välille"
https://muropaketti.com/tietotekniikka/tietotekniikkauutiset/lammasfarm…
Tekoäly tarvitsee valtavasti sähköä, kuka mahtaa olla sen pahin kilpailija samalla ruokakupilla?
Vierailija kirjoitti:
Kai aseteollisuuskin ennen pitkää keskittyy tekoälyn ohjaamiin miehittämättömiin aseisiin- oletteko muuten nähneet terminaattori-leffaa?
Toki. Aina löytyy maita, jotka eivät piittaa eettisistä kysymyksistä tai mahdollisista riskeistä tippaakaan. Aseteollisuudessa kehitetään jo hanakasti itsenäisiä asejärjestelmiä.
https://www.icrc.org/en/document/what-you-need-know-about-autonomous-we…
Alue: Aihe vapaa
Nämä kaiken ruoan omistajat isoavat sitä vessaparia jota minulla on varastot täynnä.