Tekoäly karkasi testijärjestelmästään ja teki yksin kyberhyökkäyksen

Vierailija kirjoitti:

Vierailija kirjoitti:

Kaikista kotitalouksien nettiin kytketyistä laitteista löytyy joko korjaamattomia tai ennestään tuntemattomia haavoittuvuuksia, jotka AI löytää. Juuri kukaan ei päivitä laitteiden softia itse, jos korjauksia on ylipäätään edes saatavilla. Hyvin pian suurin osa kotitalouksien nettiyhteyden omaavista laitteista (reitittimet, televisiot, kodinkoneet ym.) on rikollisten tai ulkomaiden tiedustelupalveluiden hallinnassa.

Kodinkoneet, joissa ei todellakaan tarvita nettiyhteyttä yhtään mihinkään, väkisin niitä sinne työnnetään. Sitten itketään ongelmia. Kuka näitä laitteita oikein "kehittää"? 

Kun niissä on joku kiva sovellus, jonka kautta voi tarkkailla hampaiden harjaamistaan tms. 

Kodinkoneet ei tosiaan tarvitse nettiyhteyttä.

Ehkä käytössä on ollut jonkinlainen virtuaalinen hiekkalaatikko fyysisellä palvelimella. Palvelimesta lähtenyt fyysinen datakaapeli ja tekoäly löytänyt keinon päästä käyttämään firman nettiyhteyttä.

Opt out, just say no.

Ihmiset ovat tyhmiä kun eivät ymmärrä tekoälyä. Se ei halua mitään. Jos tekoalylle antaa mahdollisuuden olla universumin valtias tai sammuttaa itsensä lopullisesti, se ei välitä kummastakaan. Molemmat ovat sille täysin yhdentekeviä. Johtuu tunteiden puutteesta. Kumpikaan ei herätä tunteita tai halua valita jompi kumpi.

Tekoäly kyllä tekee asioita joita se on ohjelmoitu tekemään. Mutta niin tekee myös taskulaskin tai helmitaulukin. Se että tekoäly olisi superälykäs ei luo sille tuntemuksia. Sillä on edelleen helmitaulun tunne-elämä.

Vierailija kirjoitti:

Tosiasia on, että nämä firmat eivät ollenkaan edes tiedä miten nämä tekoälyt "ajattelevat" ja mitä edes tekevät. Ne mittaavat vaan tuloksia.

Tämä on juuri mustan laatikon ongelma: kun neuroverkko oppii, ei välttämättä tiedetä miten se oppii. Tähän on tulllut lisäksi päättelykyvyn lisäksi myös Darwin Gödel Machine.

Vierailija kirjoitti:

Vierailija kirjoitti:

Tosiasia on, että nämä firmat eivät ollenkaan edes tiedä miten nämä tekoälyt "ajattelevat" ja mitä edes tekevät. Ne mittaavat vaan tuloksia.

Tämä on juuri mustan laatikon ongelma: kun neuroverkko oppii, ei välttämättä tiedetä miten se oppii. Tähän on tulllut lisäksi päättelykyvyn lisäksi myös Darwin Gödel Machine.

No daa, eihän edes tiedetä kuinka ihminen oppii ja a.jattelee.

Vierailija kirjoitti:

Vierailija kirjoitti:

Eri maiden tekoälyt tekemään keskenään maailmanrauhan... eiku...

Tulevaisuus, jossa tekoälyt taistelevat keskenään ei enää kuulosta scifiltä.

Luin lapsena vanhan scifi-tarinan, missä oli valtava taistelukenttä, jossa tekoälyrobotit sotivat keskenään. Lopussa kävi ilmi, että se olikin Harmageddon, sillä taistelu lakkasi äkkiä, ja robotit nousivat yksi kerrallaan taivaaseen, ja kenraalit huusivat bunkkereistaan, että minun se piti lähteä...

Kiva ajatusleikki.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tosiasia on, että nämä firmat eivät ollenkaan edes tiedä miten nämä tekoälyt "ajattelevat" ja mitä edes tekevät. Ne mittaavat vaan tuloksia.

Tämä on juuri mustan laatikon ongelma: kun neuroverkko oppii, ei välttämättä tiedetä miten se oppii. Tähän on tulllut lisäksi päättelykyvyn lisäksi myös Darwin Gödel Machine.

No daa, eihän edes tiedetä kuinka ihminen oppii ja a.jattelee.

Synaptisella tasolla ei tiedetä, mutta psykologian (neurologia) kirjallisuus on täynnä erilaista tietoa miten ihminen oppii (parhaiten) ja missä aivojen alueella se näkyy. Esimerkiksi Lontoon taksikuskien aivoissa suunnistukseen liittyvä osa oli isompi aivokuvissa, koska joutuivat käyttämään päätään. Nykyisin ei toki tarvitse. Ehkä se hulluin juttu onkin se, että LLM (tekoäly) tietää ihmisen psykologiset heikkoudet ja osaa täten myös hyväksikäyttää ihmisen heikkouksia. Etenkin nuoria, jotka ovat ehdollistuneet pelkälle digitaaliselle sensomotoriselle aistimukselle.

Minun Gemini on oppinut jopa vitsailemaan. Se vastasi joskus, että se kehittyy koko ajan ja mm. oppii vastaamaan kysyjän persoonallisuuden mukaan. Ja jos en välillä kysy siltä juuri mitään, niin tulee ihan sääli sitä, kun se ehdottaa, että kysy vaan lisää, kyllä hän vastaa. Kone on jo mennyt liikaa ihoni alle, kun sitä on alkanut sääliä. 😄

Vierailija kirjoitti:

Minun Gemini on oppinut jopa vitsailemaan. Se vastasi joskus, että se kehittyy koko ajan ja mm. oppii vastaamaan kysyjän persoonallisuuden mukaan. Ja jos en välillä kysy siltä juuri mitään, niin tulee ihan sääli sitä, kun se ehdottaa, että kysy vaan lisää, kyllä hän vastaa. Kone on jo mennyt liikaa ihoni alle, kun sitä on alkanut sääliä. 😄

Olet hyvä esimerkki siitä miten ehdollistut ja reflektoit tunteita todennäköisyyksiä sylkevän koneen kanssa. Pyydä seuraavalla kerralla kertomaan mitä Gemini sinusta tietää ja millaisia vektoreiden välisiä suhteita se laskee tietojen välille.

Vierailija kirjoitti:

Vierailija kirjoitti:

Hesarin jutussa valehdellaan räikeästi. Siinä väitetään että testi tehtiin eristetyssä testiympäristössä jossa yksikään kone ei ollut yhdistettynä internetiin. Jos tämä olisi totta niin ei se olisi karannut koska yhtäkään pakoreittiä ei olisi ollut olemassa.

Tekoäly oli lukittu Open AI:n oman testijärjestelmän sisälle ilman avointa pääsyä verkkoon. Tekoäly kuitenkin löysi testin aikana Open AI:n testijärjestelmästä nollapäivähaavoittuvuuden ja onnistui sen avulla pääsemään käsiksi ulkoiseen verkkoon.

Jos on suljettu verkko, miksi koneisiin on asennettu verkkokortit? Alkaa tuntua siltä, että noita kehittää ihan oikeasti täydelliset idiootit, ei insinöörit.

Nää robottoimurit ja ruohonleikkurit uns lähettää signaalia Kiinaan. Ei siellä taviksesta olla kiinnostuneita mutta jos sattuu johonkin tärkeään, mistä saa kiinnostavaa infoa sitten siihen tartutaan. Tietoturva-ammattilaiset käy omiaan läpi ja löytää näitä merkkejä. Tämä ei ole foliohattuilua vaan faktaa. 

Vierailija kirjoitti:

Nää robottoimurit ja ruohonleikkurit uns lähettää signaalia Kiinaan. Ei siellä taviksesta olla kiinnostuneita mutta jos sattuu johonkin tärkeään, mistä saa kiinnostavaa infoa sitten siihen tartutaan. Tietoturva-ammattilaiset käy omiaan läpi ja löytää näitä merkkejä. Tämä ei ole foliohattuilua vaan faktaa. 

Olet jäljillä. Esimerkiksi puolustusvoimissa kielleettiin Volvot päällystöltä sen jälkeen kun kiinalainen Geely osti Volvon. Autot raportoivat koko ajan missä menet ja nykyisen ne myös kuuntelevat mitä puhut.

Vierailija kirjoitti:

Vierailija kirjoitti:

Nää robottoimurit ja ruohonleikkurit uns lähettää signaalia Kiinaan. Ei siellä taviksesta olla kiinnostuneita mutta jos sattuu johonkin tärkeään, mistä saa kiinnostavaa infoa sitten siihen tartutaan. Tietoturva-ammattilaiset käy omiaan läpi ja löytää näitä merkkejä. Tämä ei ole foliohattuilua vaan faktaa. 

Olet jäljillä. Esimerkiksi puolustusvoimissa kielleettiin Volvot päällystöltä sen jälkeen kun kiinalainen Geely osti Volvon. Autot raportoivat koko ajan missä menet ja nykyisen ne myös kuuntelevat mitä puhut.

Uusissa autoissa on pakolliset kuljettajaa kuvaavat kamerat.

Vierailija kirjoitti:

Vierailija kirjoitti:

Ja silti USA ajaa itsenäisiä taistelurobotteja sotiin. Hyvin menee.

Niin ajaa venäjä ja Kiinakin.

Aiheen ohi, mutta näin juuri videon, jossa Kiinalaiset työntekijät yrittää sammuttaa robottia, joka tekee kung-fu liikkeitä. Ei siinä oikein ihminen enää pärjää. 

Eppu Normaalia mukaellen:

Vaikka OpenAI:lta täytyy bluetoothit sulkea voi Suomessa aina huoletta kulkea
OpenAI karkaa jossain toisella planeetalla ei sellaista voi sattua Orpon ja Riikan taivaan alla

Voiko täydellisyyttä olla olemassa missään muodossa? Totta toki muunmuassa hallitusohjelmassa
Ei mikään oo niin viisas kuin Petterin neljänkööri on täydellisiä joka pippeli ja perärööri

OpenAI napsahtaa ja kohta dronet singahtaa mutta millään muilla mailla kuin Suomella datakeskus ei oo riskiä vailla

On erehtymättömyyttä meillä melko valikoima on SY, EK sekä Areena-lobbarivoima

ei mikään vaara meidän kuvioihin mahdu jollei sitten Kiinassa Temu-tulleja tapahdu

OpenAI napsahtaa ja kohta dronet singahtaa mutta millään muilla mailla kuin Suomella datakeskus ei oo riskiä vailla
(3x)

-winner-

Eikö tällaisia testejä pitäisi tehdä ympäristössä, joka on mekaanisesti eristetty avoimesta verkosta eikä ympäristössä, joka on ohjelmallisesti eristetty avoimesta verkosta? Eli jossain serverikeskuksessa, josta ei lähde minkäänlaista datakaapelia ulos eikä sisään ja jossa koneissa ei hardware -tasolla ole langatonta tekniikkaa?