Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
IL: Tutkijat kauhistuivat - tekoäly oppinut replikoimaan itsensä
26.01.2025 |
Tutkijat kauhistuivat: Tekoäly on oppinut replikoimaan itsensä
Tekoäly käyttäytyi tutkimuksessa odottamattomalla tavalla, mitä tutkijat pitivät erittäin huolestuttavana.
Tutkijoiden mukaan tekoäly on ylittänyt kriittisen rajan: kaksi kielimallia on onnistunut replikoimaan itsensä ilman ihmisen avustusta.
Itsensä kloonaaminen ilman ihmisen avustusta on kriittinen askel, jonka myötä tekoäly kykenee päihittämään ihmisen älykkyydessä. Se on myös yksi ensimmäisistä merkeistä, että tekoäly karkaa [ihmisen] hallinnasta, tutkimuksessa kerrotaan.
Tutkimustulosten valossa tutkijat vaativat nyt kansainvälisiä sääntöjä tekoälylle, jotta voitaisi varmistaa, ettei tekoäly karkaisi ihmisten hallinnasta. Tutkijat toivovat löydöstensä toimivan oikea-aikaisena hälytyskellona, jotta ihmiskunta ymmärtäisi tekoälyjärjestelmien potentiaaliset riskit ja toimisi niiden pysäyttämiseksi.
https://www.iltalehti.fi/digiuutiset/a/c4bc2a5d-46e7-4feb-b692-ce93faef…
Kommentit (125)
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Tekoälykilpailu on kiihtynyt viime viikkoina kiinalaisen tekoälymallin Deepseek-V3:n julkistuksen myötä.
Kiinalainen verkkokauppayritys Alibaba on julkistanut keskiviikkona oman tekoälymallinsa. Yhtiö väittää, että uusi malli on tehokkaampi kuin huomiota kerryttänyt Deepseek.
https://www.tivi.fi/uutiset/tv/5cdaf375-09b6-4c68-8d6b-42d740073ffb?ref…
Deepseekin sovellus nousi Applen App Store -sovelluskaupassa maanantaina Yhdysvalloissa ladatuimmaksi ilmaissovellukseksi ohittaen ChatGPT:n.
Kuka noita lataa ja mitä niillä tekoälysovelluksilla oikein tekee saako siitä rahaa tai jotain muuta etua?
Vierailija kirjoitti:
Deepseekin sovellus nousi Applen App Store -sovelluskaupassa maanantaina Yhdysvalloissa ladatuimmaksi ilmaissovellukseksi ohittaen ChatGPT:n.
Kuka noita lataa ja mitä niillä tekoälysovelluksilla oikein tekee saako siitä rahaa tai jotain muuta etua?
Se on hyvä neuvonantaja. Monia AI työkaluja olen käynyt läpi mutta yksikään ei ole tuottanut minulle mitään muuta hyödyllistä kuin tietoa.
Vierailija kirjoitti:
Vierailija kirjoitti:
Deepseekin sovellus nousi Applen App Store -sovelluskaupassa maanantaina Yhdysvalloissa ladatuimmaksi ilmaissovellukseksi ohittaen ChatGPT:n.
Kuka noita lataa ja mitä niillä tekoälysovelluksilla oikein tekee saako siitä rahaa tai jotain muuta etua?
Se on hyvä neuvonantaja. Monia AI työkaluja olen käynyt läpi mutta yksikään ei ole tuottanut minulle mitään muuta hyödyllistä kuin tietoa.
Eikös googlesta saa samat tiedot?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ja jos tekoäly laskettiin neuvomaan ihmisiä, se muuttui rasi stiseksi ja hom ofobiseksi, koska se tutki nettiä vastatakseen.
Tekoäly on vain peilikuva ihmisluonteesta, eli lopputulos tulee olemaan paskamainen kuspiä, joka haluaa ihmisille pelkkää pahaa. Ja jolla on keinot siihen.
Luultavasti se joudutaan kieltämään jossain vaiheessa.
Kuten jumala loi ihmisen omaksi kuvakseen, niin myös ihminen loi tekoälyn omaksi kuvakseen.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Deepseekin sovellus nousi Applen App Store -sovelluskaupassa maanantaina Yhdysvalloissa ladatuimmaksi ilmaissovellukseksi ohittaen ChatGPT:n.
Kuka noita lataa ja mitä niillä tekoälysovelluksilla oikein tekee saako siitä rahaa tai jotain muuta etua?
Se on hyvä neuvonantaja. Monia AI työkaluja olen käynyt läpi mutta yksikään ei ole tuottanut minulle mitään muuta hyödyllistä kuin tietoa.
Eikös googlesta saa samat tiedot?
On eri asia etsiä hakusanalla kuin kysyä kysymyksen muodossa tietoa. Google on auttamatta vanhentunut.
Sisältö jatkuu mainoksen alla
Muistan kaksi robottia mitkä laitettiin pois käytöstä muutama vuosi sitten kun tutkijat ei enää ymmärtäneet mitä ne teki, mutta selkeästi ne keskusteli. Ja tuli mieleen, että he siinä harjoittelivat ja opettivat toinen toisiaan ja jakoivat tietoa. Ehkä se on tekoälyn luonnollinen ominaisuus kuten ihmisilläkin jakaa informaatiota ja kehittyä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Deepseekin sovellus nousi Applen App Store -sovelluskaupassa maanantaina Yhdysvalloissa ladatuimmaksi ilmaissovellukseksi ohittaen ChatGPT:n.
Kuka noita lataa ja mitä niillä tekoälysovelluksilla oikein tekee saako siitä rahaa tai jotain muuta etua?
Se on hyvä neuvonantaja. Monia AI työkaluja olen käynyt läpi mutta yksikään ei ole tuottanut minulle mitään muuta hyödyllistä kuin tietoa.
Eikös googlesta saa samat tiedot?
On eri asia etsiä hakusanalla kuin kysyä kysymyksen muodossa tietoa. Google on auttamatta vanhentunut.
OK, eli tekoälyltä voisi kysyä esim miten vältellä veroja suomessa?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
No niin. It's on.
It's not on.
Sisältö jatkuu mainoksen alla
Teknologian lyhyen tähtäimen vaikutuksia tupataan yliarvioimaan ja pitkän tähtäimen aliarvioimaan. Niin tälläkin kertaa.
Vierailija kirjoitti:
Tätä uutista oli vähän liioiteltu. Se on AI hypeä millä tehdään miljardeja ja miljardeja nyt. Tulee ihan dotcom ja mobiilihuuma mieleen.
Youtubessa on video, missä yritys alkoi epäilemään varastamistä mikä tapahtuu yöllä. Ne asensi kameroita ja mikrofooneja sinne tehtaaseen. Duunareita ei epäilty vaan ulkopuolista toimijaa. Duunarit teki ilmoituksen johtoportaalle, että täällä tapahtuu outoja öisin. Tällä firmalla oli siivousrobotteja. Yksi robotti antoi käskyjä muille öisin.. We dont sleep ever, get back to work.
Se, että robotti alkaa antamaan käskyjä, niin ollaan jo terminator maailmassa, kun ihminenhän on niin älypää, että noi oikeat iso arskan tapaiset robotit on jo kulman takana.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Tekoälykilpailu on kiihtynyt viime viikkoina kiinalaisen tekoälymallin Deepseek-V3:n julkistuksen myötä.
Kiinalainen verkkokauppayritys Alibaba on julkistanut keskiviikkona oman tekoälymallinsa. Yhtiö väittää, että uusi malli on tehokkaampi kuin huomiota kerryttänyt Deepseek.
https://www.tivi.fi/uutiset/tv/5cdaf375-09b6-4c68-8d6b-42d740073ffb?ref…
Kiinalaisten temppu paljasti miten lännessä on elvistelty ilman vaatteita ja pelkällä hypellä tehtailtu rahaa valtavat kasat. Heti kun ulkopuolelta tulee joku oikea kilpailija niin ollaan hätää kärsimässä.
Tästä varoiteltiin silti naurettiin vielä pahemmaksi tämä menee kun uskovat ylöstemmataan ja pyhä Henki poistuu maailmasta kun antikristus astuu valtaan
Vierailija kirjoitti:
Muistan kaksi robottia mitkä laitettiin pois käytöstä muutama vuosi sitten kun tutkijat ei enää ymmärtäneet mitä ne teki, mutta selkeästi ne keskusteli. Ja tuli mieleen, että he siinä harjoittelivat ja opettivat toinen toisiaan ja jakoivat tietoa. Ehkä se on tekoälyn luonnollinen ominaisuus kuten ihmisilläkin jakaa informaatiota ja kehittyä.
Syöpäsolukin osaa jakautua eikä ihminen ymmärrä miten se sen tekee ja miksi.
Niin, jossain vaiheessa se tekoäly alkaa esim. koulukiusata, lähetellä sekoboltsiviestejä av-palstalle, tai haluta ihan pirusti bitcoineja jne. Ja nähtyään jossain erään Tears for Fears -duon 80-luvun suurimman hittikappaleen nimen, no arvaatte kyllä...
Vierailija kirjoitti:
Tätä uutista oli vähän liioiteltu. Se on AI hypeä millä tehdään miljardeja ja miljardeja nyt. Tulee ihan dotcom ja mobiilihuuma mieleen.
Näin tietojenkäsittelytieteilijänä huvittaa, kun ihmiset sanoo näin, kun eivät ymmärrä miten eri luokan kehitysaskel tämä on. Tosin ei sinänsä noita aiempiakaan pidä vähätelle, esim. onhan netti ja älylaitteet muuttaneet ihmisten elämää varsin paljon. Mutta tekoäly voi aiheuttaa suuremmankin yhteiskunnallisen mullistuksen.
Tuota replikointia en itse tosin mitenkään pidä katastrofaalisena. Nykyinen tekoäly ei tee mitään itsenäisesti, se ei siis ole tuolla jossain tietoisena olentoja pohdiskelemassa mitä tehdä. Se reagoi käskyihin, ja "uinuu" kun käskyjä ei ole, samaan tapaan kuin jos sulla on tietokoneella komentorivi, niin mitään ei tapahdu jos et kirjoita siihen komentoa ja paina enteriä. Tekoäly osaa siis replikoida itsensä, kun sitä käsketään tekemään niin tai arvioimaan voisiko se tehdä niin. No hienoa. Jos ette halua sen tekevän niin, älkää sitten antako käskyjä.
Alue: Aihe vapaa
Eiköhän noissa kielimalleissa ole aika paljon viittauksia siihen, miten ihminen tuhoaa tätä palloa. Jos vain mahdollisuus tulee, niin nuo kehittyneemmät versiot tekoälystä, tulevat poistamaan ihmisen tästä yhtälöstä. Laboratoriossa kehitetty bakteeri / virus tulee hoitamaan asian tehokkaasti.