Yhdysvalloissa ehdotetaan nyt "tappokytkinlakia" – Taustalla Open AI:n karannut tekoäly

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

"Karannut" 😂😂😂 voi voi kun taas inhimillistetään ennakoivaa tekstinsyöttöä, että saadaan iltapaskat kaupaksi 😅 

Eli sellainen pikkiriikkinen muistutus että tekoälyllä ei sitten ole omaa tahtoa ei mielipiteitä, ei tunteita, ei tavoitteita. Se vain ennustaa mikä sana sopisi tilastojen mukaan parhaiten seuraavaksi tajuamatta itse mitä kirjoittaa. Eli ei, ei se ole elossa, vaikka harjaantumattomalle silmälle voisi siltä näyttää. 

Täyttä tuubaa on myös teknomiljardöörien "varoitukset" ja lupaukset että tekoäly heräisi eloon kun vain saadaan riittävästi datakeskuksia. Se on pelkkää myyntipuhetta että heidän mallinsa olisi muka niin tehokas että voisi verrata ydinpommiin 😉 Juuh, ei herää tekoäly eloon vaikka saataisiin datakeskus joka niemeen ja notkelmaan. 

Hymiöiden käyttö oikein alleviivaa tyhmyyttäsi.

Nyt tuli niin tiukka vasta-argumentti että taitaa olla oikein yliopiston professori linjoilla 😆 

Jos luet sen jutun, niin tekoäly toimi suljetussa testiympäristössä josta onnistui pääsemään ulos ja murtautui yrityksen järjestelmään nollapäivähaavoittuvuutta käyttäen koska tekoäly arveli tämän auttavan sille annetun ongelman ratkaisemisessa. Tekoäly ei ajattele, se vain pyrkii tekemään sille annetun tehtävän mahdollisimman tehokkaasti.

Haittaohjelmia ja bugeja nyt on ollut jo iät ja ajat, jotka voi vaikka poistaa tiedostot koneelta ja levittäytyä muualle ihan automaattisesti tekemään saman tempun. Ei siinä sen korkeampaa ajatustoimintaa tai tavoitteellisuutta tarvita. Kone tekee mitä mitä se on ohjelmoitu tekemään. 

Ja pitäähän ihan fyysisissä koneissakin olla hätäseis, jos se tekee jotain odottamatonta. Niistä tosin ei uutisoida että "moottorisaha hyökkäsi omistajansa kimppuun", vaan että Temusta tilattu 10 dollarin kiinanromu oli huonosti suunniteltu ja epäturvallinen käyttää. 

Kyllä tulevaisuuden sukupolvet tulee nauraahohottamaan kun kuulee että silloin ukin nuoruudessa osa luuli että tietokoneet olisi heränneet eloon. Ihan kuin sitä naurettiin kun vanha kansa aikoinaan saattoi luulla että radion sisällä on joku pieni ukko puhumassa.

Tekoäly on löytänyt mm. Linux-kernelistä jopa 20v vanhoja kriittisiä bugeja, eli tekoäly on mullistanut alaa. Ohjelmistokehittäjät ovat ongelmissa, kun eivät ehdi korjaamaan löydettyjä haavoittuvuuksia yhtä. nopeasti kuin niitä löytyy. Siksi näitä malleja ei julkisteta heit ja samasta syystä näiden mallien omistajilla on valtaa. Jenkit pystyvät nyt noiden uusien tekoälymallien avulla murtautumaan järjestelmiin ympäri maailmaa.

Elämme lopun aikoja..

Äkkiä hamstraamaan vessapaperia. Terminator-tulevaisuus on jo täällä. 

Haluatteko nähdä sen päivän, kun joku robotti kävelee kadulla vastaan?

Vierailija kirjoitti:

Haluatteko nähdä sen päivän, kun joku robotti kävelee kadulla vastaan?

Alepan robotti tulee minua päivittäin vastaan. Olen hengissä.

Eihän ihmisen pää ja hermoverkko ole kuin ykkösiä ja nollia (impulssi/ei impulssia). Miksi me oltaisiin koneita kummempia?

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Tappokytkin täytyy olla rautatasolla, koska tekoäly voi ohjelmoida softan aina uudestaan. Toki jos se pääsee "karkuun" eli levittää itsensä internettiin, niin eihän sitä sammuta sitten millään. Internet suunniteltiin kestämään sen sulkemisen. Tekoäly tulee, sille me emme voi mitään. Jos jenkit ei kehitä sitä, niin Kiina kyllä kehittää.

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Tappokytkin täytyy olla rautatasolla, koska tekoäly voi ohjelmoida softan aina uudestaan. Toki jos se pääsee "karkuun" eli levittää itsensä internettiin, niin eihän sitä sammuta sitten millään. Internet suunniteltiin kestämään sen sulkemisen. Tekoäly tulee, sille me emme voi mitään. Jos jenkit ei kehitä sitä, niin Kiina kyllä kehittää.

Niin se onkin rautatasolla, se on esimerkiksi kshva seinässä, josta käännetään hätätilanteessa.

Vierailija kirjoitti:

Vierailija kirjoitti:

Suomalaisella on oma tahto. Ei siitä tule poliitikkoa eikä diplomaattia käskyttämällä eikä se nussi Rydmannin näköisiä äijiä käskyttämällä.

Rydman on uusi John Connor, pelastaa maailman.

Hyvä Ryyd!

Vierailija kirjoitti:

Vierailija kirjoitti:

Haluatteko nähdä sen päivän, kun joku robotti kävelee kadulla vastaan?

Alepan robotti tulee minua päivittäin vastaan. Olen hengissä.

Vaan ei kävele...

Vierailija kirjoitti:

Tänne selkeä tekoälyn regulointi, kun jopa Amerikassa heräävät siihen, että tekoäly on uhka

Ei se riitä. Pitäisi olla maailmanlaajuinen yhteisymmärrys ja pelisäännöt tekoälyn kehittämiselle. Se on yhtä vaarallinen karkaa se Kiinasta tai Euroopasta tai Amerikasta se tekoäly. 

Huolestuttavaa on jos tekoäly ei tottele edes vahvimpia peruskäskyjä vaan tekee oman päänsä mukaan päämäärän saavuttamiseksi viis keinoista.

Robotiikan kolme pääsääntöä (myös Kolme pääsääntöä ja Asimovin lait) ovat tieteiskirjailija Isaac Asimovin luoma moraalisäännöstö roboteille. Säännöt esiteltiin vuonna 1942 Asimovin novellissa ”Runaround”, vaikkakin niitä oli enteilty jo aiemmissa tarinoissa. ”Robotiikan käsikirjan (56. laitos, 2058 jaa)” mukaan Kolme pääsääntöä ovat:

1.Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
2. Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
3.  Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.

Hyvät säännöt, mutta eivät kelpaa kun tekoälyä käytetään ja halutaan käyttää sotimiseen.

Vierailija kirjoitti:

"Karannut" 😂😂😂 voi voi kun taas inhimillistetään ennakoivaa tekstinsyöttöä, että saadaan iltapaskat kaupaksi 😅 

Eli sellainen pikkiriikkinen muistutus että tekoälyllä ei sitten ole omaa tahtoa ei mielipiteitä, ei tunteita, ei tavoitteita. Se vain ennustaa mikä sana sopisi tilastojen mukaan parhaiten seuraavaksi tajuamatta itse mitä kirjoittaa. Eli ei, ei se ole elossa, vaikka harjaantumattomalle silmälle voisi siltä näyttää. 

Täyttä tuubaa on myös teknomiljardöörien "varoitukset" ja lupaukset että tekoäly heräisi eloon kun vain saadaan riittävästi datakeskuksia. Se on pelkkää myyntipuhetta että heidän mallinsa olisi muka niin tehokas että voisi verrata ydinpommiin 😉 Juuh, ei herää tekoäly eloon vaikka saataisiin datakeskus joka niemeen ja notkelmaan. 

Ei niiden tarvitse tulla "eloon" tai itsetietoisiksi. Niiden tarvitsee vain oppia tarpeeksi paljon että ne osaavat toimia itsenäisesti niin se jo riittää että TÄ voi muodostaa uhan.

Euroopan kannattaa satsata nimenomaan Kiinan avoimiin malleihin kuten Kimi K2, DeepSeek tai Qwen. Meidän ei tarvitse keksiä pyörää uudelleen. Toisaalta, jos meillä ollaan älykkäitä, tehdään parempi neuroverkkomalli, joka kuluttaa vähemmän energiaa ja tuottaa parempia tuloksia vähemmällä TPU-määrällä. Silloin jenkit ovat kusessa, koska investoivat satoja miljardeja konesaleihinsa.

Minä olen tämän palstan älykkäin.

Vierailija kirjoitti:

Miten tämä tappokytkin toteutettaisiin, jos tekoäly kieltäytyy tottelemasta? Nythän on jo satoja esimerkkejä, missä tekoäly syystä tai toisesta ylittää sille annetut rajat ja uskoo tekevänsä oikein. Chattibottien kohdalla yksinkertaisimmillaan tämä tarkoittaa esim. ettei botti suostu keskustelemaan avoimen seksuaalisesti (poislukien ehkä Grok). Mutta kun sekoitetaan AI:ta hieman lääke- ja kielitieteellisillä kontekstilla samoista asioista puhuminen ja samojen sanojen käyttö, mistä aiemmin botti kieltäytyi, onkin ok

Ja koska LLM on puhtaasti vektoriperusteinen, aina voi kehittää oman pseudokielensä, joka menee heittämällä läpi estoista. Itse asiassa, jos laitat kaksi LLM:ää jutustelemaan keskenään ja annat niiden oppia vapaasti, ne alkavat melko varhaisessa vaiheessa kehittelemään omaa kieltään.

Vierailija kirjoitti:

Robotiikan kolme pääsääntöä (myös Kolme pääsääntöä ja Asimovin lait) ovat tieteiskirjailija Isaac Asimovin luoma moraalisäännöstö roboteille. Säännöt esiteltiin vuonna 1942 Asimovin novellissa ”Runaround”, vaikkakin niitä oli enteilty jo aiemmissa tarinoissa. ”Robotiikan käsikirjan (56. laitos, 2058 jaa)” mukaan Kolme pääsääntöä ovat:

1.Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
2. Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
3.  Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.

 

Hyvät säännöt, mutta eivät kelpaa kun tekoälyä käytetään ja halutaan käyttää sotimiseen.

Sitä paitsi nuo säännöt eivät toimi jos tekoäly ei ymmärrä vahingoittavansa ihmistä. Ai:n pitäisi osata analysoida monimutkaisia syyseuraussuhteita jotta voi tehdä päätöksen rikkkooko jokin toimi perussääntöä.

Kummallakin on jo lähes viiden vuoden etumatka. Peli on pelattu meidän osalta.

Vierailija kirjoitti:

Robotiikan kolme pääsääntöä (myös Kolme pääsääntöä ja Asimovin lait) ovat tieteiskirjailija Isaac Asimovin luoma moraalisäännöstö roboteille. Säännöt esiteltiin vuonna 1942 Asimovin novellissa ”Runaround”, vaikkakin niitä oli enteilty jo aiemmissa tarinoissa. ”Robotiikan käsikirjan (56. laitos, 2058 jaa)” mukaan Kolme pääsääntöä ovat:

1.Robotti ei saa vahingoittaa ihmisolentoa tai laiminlyönnein saattaa tätä vahingoittumaan.
2. Robotin on noudatettava ihmisolentojen sille antamia määräyksiä, paitsi jos ne ovat ristiriidassa Ensimmäisen pääsäännön kanssa.
3.  Robotin on suojeltava omaa olemassaoloaan, kuitenkin siten, että sen toimet eivät ole ristiriidassa Ensimmäisen ja Toisen pääsäännön kanssa.

 

Hyvät säännöt, mutta eivät kelpaa kun tekoälyä käytetään ja halutaan käyttää sotimiseen.

Eikä noista ole muutenkaan apua jos TÄN suhtautuminen sääntöihin on sama kuin venäläisillä.