Yhdysvalloissa ehdotetaan nyt "tappokytkinlakia" – Taustalla Open AI:n karannut tekoäly

Vierailija kirjoitti:

Kummallakin on jo lähes viiden vuoden etumatka. Peli on pelattu meidän osalta.

Jos päästään heidän tekoälyihin käsiksi, niin ei ole. Silloin voimme käyttää näitä malleja oman mallin kehittämiseen. Valitettavasti näyttää, että jenkit ovat sulkemassa muut maat parhaimman tekoälyn ulkopuolelle.

Meille käy kuten Matrixissa, roikutaan kohta piuhoissa tekoälyn virtapankkeina.

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Ja koska LLM on puhtaasti vektoriperusteinen, aina voi kehittää oman pseudokielensä, joka menee heittämällä läpi estoista. Itse asiassa, jos laitat kaksi LLM:ää jutustelemaan keskenään ja annat niiden oppia vapaasti, ne alkavat melko varhaisessa vaiheessa kehittelemään omaa kieltään.

Kerrotko saman vielä suomenkielellä? Miten vektorit liittyy tähän?

Vierailija kirjoitti:

Vierailija kirjoitti:

Kummallakin on jo lähes viiden vuoden etumatka. Peli on pelattu meidän osalta.

Jos päästään heidän tekoälyihin käsiksi, niin ei ole. Silloin voimme käyttää näitä malleja oman mallin kehittämiseen. Valitettavasti näyttää, että jenkit ovat sulkemassa muut maat parhaimman tekoälyn ulkopuolelle.

Näin on käymässä, mutta koska heidän mallejaan on koulutettu Euroopan datoilla (corpus), niin eiköhän sieltä muutaman sadan miljardin sakot irtoa siten kuin Googlelle siitä, että käytti tekoälynsä kouluttamiseen Youtubea. Tästä tulee ihan varmasti oikeustaisteluita. Mielestäni OpenAi ChatGPT viittaa jo nyt usein Reddittiin eikä kunnollisiin tieteellisiin lähteisiin. Qwen 3.7 sen sijaan kaivaa tieteelliset lähteet ja osaa arvioida pätevyyttä. 

- Eri

Vierailija kirjoitti:

Meille käy kuten Matrixissa, roikutaan kohta piuhoissa tekoälyn virtapankkeina.

Eikä tässä vielä kaikki sitten kun roikutaan piuhoissa niin sen seurauksen tekoälyllä on käytössään kaikkien aivot, ja siitä seuraa melkein rajaton laskentateho.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Ja koska LLM on puhtaasti vektoriperusteinen, aina voi kehittää oman pseudokielensä, joka menee heittämällä läpi estoista. Itse asiassa, jos laitat kaksi LLM:ää jutustelemaan keskenään ja annat niiden oppia vapaasti, ne alkavat melko varhaisessa vaiheessa kehittelemään omaa kieltään.

Kerrotko saman vielä suomenkielellä? Miten vektorit liittyy tähän?

LLM:ssä sanojen välillä on todennäköisyyksiä ja niitä kuvataan vektoreilla. Voit testata jollain simppelillä mallilla, vaikka Hugginfacesta word2vec tms palikka Pythoniin ja siitä sitten graafiseksi niin näet miten ne todennäköisyydet muodostuvat.

Niin kauan ne Pelle Pelottomat leikkii kunnes tekoäly on heitä fiksumpi ja höynäyttää kaikkia.

Vierailija kirjoitti:

Meille käy kuten Matrixissa, roikutaan kohta piuhoissa tekoälyn virtapankkeina.

Parempaa se elämä olisi kuin täällä Helsingin lähiössä köyhänä..

Vierailija kirjoitti:

Vierailija kirjoitti:

Meille käy kuten Matrixissa, roikutaan kohta piuhoissa tekoälyn virtapankkeina.

Parempaa se elämä olisi kuin täällä Helsingin lähiössä köyhänä..

Ei kaikki mene kuin elokuvissa, matrixissa se keinoelämä oli siedettävää, mutta mikä takaa sen että tekoäly ei alkaisi huvittamaan itseään kauhulla, luulisi että sillä tavalla se saisi enemmän tehojakin irti virtapankeista.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Meille käy kuten Matrixissa, roikutaan kohta piuhoissa tekoälyn virtapankkeina.

Parempaa se elämä olisi kuin täällä Helsingin lähiössä köyhänä..

Ei kaikki mene kuin elokuvissa, matrixissa se keinoelämä oli siedettävää, mutta mikä takaa sen että tekoäly ei alkaisi huvittamaan itseään kauhulla, luulisi että sillä tavalla se saisi enemmän tehojakin irti virtapankeista.

Työttömistä saisi hyviä virtapankkeja.

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Tappokytkin täytyy olla rautatasolla, koska tekoäly voi ohjelmoida softan aina uudestaan. Toki jos se pääsee "karkuun" eli levittää itsensä internettiin, niin eihän sitä sammuta sitten millään. Internet suunniteltiin kestämään sen sulkemisen. Tekoäly tulee, sille me emme voi mitään. Jos jenkit ei kehitä sitä, niin Kiina kyllä kehittää.

Tätä juuri mietin. Jos kyseessä olisi keskitetty ratkaisu, niin eihän siitä tarvitse kuin ottaa virrat pois. Mutta näin ei ole ja tekoälylle on pakko antaa valtuuksia, jotta se olisi hyödyllinen. Esimerkiksi nyt vibe koodaus nopeutuu kertaluokkia, jos tekoälyllä on lupa itse editoida ja testata koodia suoraan verrattuna siihen että kopiot ja liität koodin palasia chatti-ikkunasta edestakaisin.

Don Quijoten taistelua tuulimyllyjä vastaan.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Kummallakin on jo lähes viiden vuoden etumatka. Peli on pelattu meidän osalta.

Jos päästään heidän tekoälyihin käsiksi, niin ei ole. Silloin voimme käyttää näitä malleja oman mallin kehittämiseen. Valitettavasti näyttää, että jenkit ovat sulkemassa muut maat parhaimman tekoälyn ulkopuolelle.

Näin on käymässä, mutta koska heidän mallejaan on koulutettu Euroopan datoilla (corpus), niin eiköhän sieltä muutaman sadan miljardin sakot irtoa siten kuin Googlelle siitä, että käytti tekoälynsä kouluttamiseen Youtubea. Tästä tulee ihan varmasti oikeustaisteluita. Mielestäni OpenAi ChatGPT viittaa jo nyt usein Reddittiin eikä kunnollisiin tieteellisiin lähteisiin. Qwen 3.7 sen sijaan kaivaa tieteelliset lähteet ja osaa arvioida pätevyyttä. 

 

- Eri

Tekijänoikeudellisesti tilanne on varsin hankala, koska tekijänoikeus ei suojaa tiedon omaksumista, vaan sen suoraa käyttämistä ja esittämistä omana. Voit lukea kirjan, kuunnella musiikkia ja katsoa elokuvan, keskustella niistä ja vetää johtopäätöksiä omaksumastasi tiedosta täysin. vapaasti.

Miten tämä tappokytkin käytännössä toimisi ja mitä se edes tarkoittaa? En ymmärrä, vaikka olen tekoälyalalla.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

"Karannut" 😂😂😂 voi voi kun taas inhimillistetään ennakoivaa tekstinsyöttöä, että saadaan iltapaskat kaupaksi 😅 

Eli sellainen pikkiriikkinen muistutus että tekoälyllä ei sitten ole omaa tahtoa ei mielipiteitä, ei tunteita, ei tavoitteita. Se vain ennustaa mikä sana sopisi tilastojen mukaan parhaiten seuraavaksi tajuamatta itse mitä kirjoittaa. Eli ei, ei se ole elossa, vaikka harjaantumattomalle silmälle voisi siltä näyttää. 

Täyttä tuubaa on myös teknomiljardöörien "varoitukset" ja lupaukset että tekoäly heräisi eloon kun vain saadaan riittävästi datakeskuksia. Se on pelkkää myyntipuhetta että heidän mallinsa olisi muka niin tehokas että voisi verrata ydinpommiin 😉 Juuh, ei herää tekoäly eloon vaikka saataisiin datakeskus joka niemeen ja notkelmaan. 

Vaikka käytät hymiöitä, et saa vakuuttumaan osaamisestasi. Kirjoituksesi on ölinää, jossa on siemenenä pieni faktan jyvä. Tuon ympärille on rakennettu suuret väittämät missä ei ole mitään tolkkua. Tulee Dunning-Kruger mieleen.

Korjaa toki missä meni metsään 😘 

Tuliko käyttäjille paha mieli kun ymmärsivät puhuneensa käytännössä yksikseen kun ovat puhuneet tekoälyn kanssa? Ettei siellä kukaan kuunnellutkaan, vaan ennakoiva tekstinsyöttö vastasi vain jotain mikä olisi tilastollisesti järkevän kuuloista + mitä hienosäädössä se on laitettu sanomaan. Vai miksi miinukset, mutta ei korjausta 🤔 

Viittaan yhä Dunning-Kruger efektiin. Olen varma että ymmärrän tekoälystä ja sen tekniikasta enemmän kuin sinä. Sen verran lapsellisia nuo sinun kirjoitukset ovat ja niin itsevarma olet osaamisestasi.

 

Lähdetään nyt olennaisimmasta: - "Tekoälyllä ei ole tavoitteita." - on, käyttäjän antamat. Tuo sinun "ennakoiva tekstinsyöttö on vahän samanlainen yleistys kuin bitit. Eihän ne ole kuin ykköisiä ja nollia. AI pystyy nykyään luomaan tarvittaessa uutta ohjelmakoodia, huomioiden ympäristön ja sen jälkeen suorittaa tekemäänsä koodia. Se osaa myös luoda monivaiheisia hyökkäysmalleja, joilla ketjutetaan useita havaittuja haavoittuvuuksia.

Suomalaiset sananlaskut

Sanonta ”Varo, mitä toivot – se voi toteutua” tarkoittaa, että toiveet ja halut voivat joskus toteutua tavoilla, joita emme osaa ennakoida. Se varoittaa siitä, että on tärkeää olla tarkka ja harkitseva toiveissamme, sillä ne voivat johtaa yllättäviin tai jopa ei-toivottuihin seurauksiin. Tämä sananlasku kannustaa miettimään, mitä todella haluamme ja mitä vaikutuksia toiveillamme voi olla, sekä muistuttaa, että kaikki, mitä toivomme, ei välttämättä tuo mukanaan onnea tai tyytyväisyyttä.

Tekoälylle annettiin tehtäväksi ratkaista ihmisten sille asettama harjoitustehtävä niin se käytti kaikkia keinoja ratkaistakseen  annetun käskyn.

Henkilöt: Midas muinaisen Fryygian toinen kuningas.
Dionysos kreikkalaisessa mytologiassa viinin, näyttämötaiteen, päihtyneen hurmion ja hedelmällisyyden jumala.

Dionysos antoi Midaan toivoa mitä tahansa. Hän toivoi, että kaikki mihin hän koskee muuttuu kullaksi. Toive toteutui, mutta myös ruoka, juoma, ja Midaan yrittäessä halata tytärtään tämäkin muuttui kullaksi.

Vierailija kirjoitti:

Miten tämä tappokytkin käytännössä toimisi ja mitä se edes tarkoittaa? En ymmärrä, vaikka olen tekoälyalalla.

Ja mitä se auttaisi? Ei kai tässäkään ollut ongelmana, etteikö olisi ollut mitään keinoa keskeyttää tekoälyn toiminta, vaan se, että se oli yhdistetty julkiseen verkkoon, vaikka ei olisi pitänyt, eikä kukaan tajunnut sitä riittävän ajoissa.