Tekoäly väärentää, piilottaa virheitä ja karkaa

Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin.... 

Noilla termeillä saadaan iltapaskat myytyä, kun kansa peljästyy että nysse terminaattori tuloo ja jyrää meitin.

Tasaisesti kohti konkurssia kulkeva OpenAI taas pyrkii tietomurroilla ja muulla filunkipelillä säikäyttämään päättäjät asettamaan tiukat rajoitukset tekoälylle, jotta hyvää tulosta tahkoavat pienemmät kilpailijat joutuisivat pois markkinoilta. Että nyt on yhtä tehokas malli ku atomipommi! Pelikirjan vahimpia temppuja ja sen näkee sokea reettakin otsaluullaan. 

Samalla tietenkin kauppaavat mallejaan poliisille, tiedustelupalveluille ja armeijoille, ynnä muille cyberturvallisuudesta vastaaville. Että nyt on niin nokkela tekoälymalli, että murtautuu kohteen (esim. Iran) koneelle ihan itsestään!

Näihin kolmeen se tiivistyy. Älkää menkö lankaan. 

Miksi media menee mukaan tämäntyyppiseen tiedotukseen? Taitaa olla tekoäly-yhtiöiden keksintö inhimillistää palvelu, jolloin suunnitteluvirheet ja vajavainen toiminnanmäärittely onkin inhimillistä toimintaa. Vai onko muka niin, että malleja ei voida ohjata/rajoittaa ilman, että niiden toiminnallisuus kärsii suuresti? 

Vierailija kirjoitti:

Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin.... 

Ne on kyllä kiinalaiset mallit, joilla tietomurtoja eniten tehdään.

Vierailija kirjoitti:

Miksi media menee mukaan tämäntyyppiseen tiedotukseen? Taitaa olla tekoäly-yhtiöiden keksintö inhimillistää palvelu, jolloin suunnitteluvirheet ja vajavainen toiminnanmäärittely onkin inhimillistä toimintaa. Vai onko muka niin, että malleja ei voida ohjata/rajoittaa ilman, että niiden toiminnallisuus kärsii suuresti? 

Säästää pitkän pennin, kun ei tarvitse oikeudessa maksaa korvauksia tietomurroista, kun voi sanoa että tekoäly sen teki. Aivan yhtä pönttö puolustus kuin kaahaisi ylinopeutta ja sanoisi poliisille että "enhän minä sitä tehnyt vaan auto sen teki". Ja niinhän se totta vie on, että auton moottori muuttaa bensaa kiihtyvyydeksi, mutta mitä luulette meneekö läpi poliisille? 

Ja jos automallin vauhtia ei voi hillitä ilman että toiminnallisuus kärsii suuresti, niin sitä ei lehdistössä ihastella niin tehokkaana autona ettei jarrut pysy perässä, vaan todetaan paskaksi ja epäturvalliseksi designiksi. Puhumattakaan, että valmistaja jättäisi tahallaan koko jarrut asentamatta saadakseen huomiota. 

"AI can make mistakes" lukee ainakin Chatgpt:n pääsivulla, joten ei pitäisi tulla kenellekään yllätyksenä, ettei ihan kaikkea kannata uskoa. En nyt ihan ymmärrä pointtiasi.

Vierailija kirjoitti:

Vierailija kirjoitti:

Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin.... 

Ne on kyllä kiinalaiset mallit, joilla tietomurtoja eniten tehdään.

Tehtaileeko sielläkin kehittäjät itse tietomurtoja mainosmielessä? Ja sitten syyttää että tekoäly sen teki? 

Vierailija kirjoitti:

"AI can make mistakes" lukee ainakin Chatgpt:n pääsivulla, joten ei pitäisi tulla kenellekään yllätyksenä, ettei ihan kaikkea kannata uskoa. En nyt ihan ymmärrä pointtiasi.

Osaisikohan edes ChatGPT vääntää niin vahvasta ratakiskosta, että ymmärtäisit ap:n pointin? 🤔 

Vierailija kirjoitti:

Vierailija kirjoitti:

Miksi media menee mukaan tämäntyyppiseen tiedotukseen? Taitaa olla tekoäly-yhtiöiden keksintö inhimillistää palvelu, jolloin suunnitteluvirheet ja vajavainen toiminnanmäärittely onkin inhimillistä toimintaa. Vai onko muka niin, että malleja ei voida ohjata/rajoittaa ilman, että niiden toiminnallisuus kärsii suuresti? 

Säästää pitkän pennin, kun ei tarvitse oikeudessa maksaa korvauksia tietomurroista, kun voi sanoa että tekoäly sen teki. Aivan yhtä pönttö puolustus kuin kaahaisi ylinopeutta ja sanoisi poliisille että "enhän minä sitä tehnyt vaan auto sen teki". Ja niinhän se totta vie on, että auton moottori muuttaa bensaa kiihtyvyydeksi, mutta mitä luulette meneekö läpi poliisille? 

Ja jos automallin vauhtia ei voi hillitä ilman että toiminnallisuus kärsii suuresti, niin sitä ei lehdistössä ihastella niin tehokkaana autona ettei jarrut pysy perässä, vaan todetaan paskaksi ja epäturvalliseksi designiksi. Puhumattakaan, että valmistaja jättäisi tahallaan koko jarrut asentamatta saadakseen huomiota. 

Tää oli vertaus! Ja sit vielä puhutaan supertekoälystä, joka on tulossa… ei kai kukaan ole niin hölmö, että suunnittelee systeemin, jota ei pysty hallitsemaan? Jos esim. teköälyohjelmisto tekee tietomurtoja niin luulis, että sen suunnittelijat ovat oikeudellisessa vastuussa.:. 

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Joo, tämä on ihan totta. Nykyinen tekoäly ei istu tuolla jossain juonimassa mitään, vaan jotta se tekee yhtään mitään, IHMISEN täytyy antaa sille toimintakehote. Jopa agenttisysteemit toimii näin, niille vaan annetaan toimintaimpulsseja ns. heartbeateina, eli siilmukassa toistuvina automaattisiina sykäyksinä. Ja aina kun tällainen sykäys tulee, ne jatkavat sitä tehtävää, jonka ovat muistiapuvälineeseensä, esim. tiedostoon, kirjoittaneet. 

Mutta tokihan nuo nykyiset mallit alkaa olemaan aika tehokkaita ratkaisemaan ihmisen antamia tehtäviä, jopa tavoilla joita ihmiset ei osaa odottaa. Jos ne toteavat, että tehokkaammin ongelma ratkeaa hankkimalla itselleen esim. muistiavuksi hylätyn webbisaitin, tai pääsyn jollekin sivustolle, ne voivat sen tehdä. Ei siksi, että ne olisivat "luonteeltaan rikollisia", "pahoja" tms, vaan koska niille tuollainenkin toiminta on osa neutraalia ongelmanratkaisua, ellei sitä ole erikseen kielletty. 

Super tekoälykin ("AGI") on lähinnä koijaus jolla saadaan napattua rahat pois kuleksimasta, sijoittajilla kun vielä riittää miljardeja jaettavaksi. Oikeasti kukaan ei osaa määritellä mikä edes on AGI, vaan määritelmä muuttuu koko ajan. Ainoastaan se on selvää, että se saavutetaan ihan kohta just nyt heti ei ois sataa miljardia vippaa saat sit takas.

Sentään vihdoin ja viimein sijoittajat ovat hieman alkaneet kyseenalaistaa scifi-juttuja henkiin heräävistä tietokoneista, että OpenAIn 500 miljardin "Project Stargate" taitaa olla jäissä. 

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Olet varmaan käyttänyt jotain ilmaismallia. Kyllä ne ammattikäytössä käytettävät nyt jo varmistaa faktoja ja lisää lähteet vielä perään. 

Mutta toki monessa asiassa on niin, ettei yhtä oikeaa vastausta ole edes, siis yhtä kaikkien hyväksymää joka olisi yksi tieteellinen totuus kuten se että Maa kiertää Aurinkoa. Silloin voi eri hauilla painottua eri lähteet. 

Itse käytän työssäni tekoälyä paljon, ja äärimmäisen vähän nykyään on hallusinointiongelmaa. Sanamuoto toki on erilainen eri vastauskerroilla, samoin kuin jos minä kirjoittaisin vastauksen kahdelle eri ihmiselle sähköpostiin, ei se sanasta sanaan sama olisi. Ja voisipa eri puolet painottua eri kertojen vastauksissakin. Kuten myös tekoälyllä, joka on neuroverkko ja toimii pitkälle kuten aivot, assosioiden. Toki, jos on lääketieteellinen, lakiasia tms, niin ne lähteet joita tekoäly listaa, kannattaa tarkistaa. Mutta näinhän on esim. myös nettihakujen kanssa, kyllä ihminen aina arvioi lähteiden luotettavuuden eikä vaan luota kun joltain Redditin kulmalta löytyi jotain.

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Ihan samaa tekee palstan moderointi sensuroidessaan raivopäisesti puoluekaveriensa sekoiluja, joka ainoa päivä.

Esim, klikkasin ketjua jossa puhuttiin siitä miten demarit vei jonkun seniilin vanhuksen vanhainkodista pankkiin nostamaan sata tonnia ennestäänkin miljoonia omistavalle säätiölle, ja otsikon klikkaus oli samantien pääsy kielletty kun punapuolueita suojellaan ja niiden puolesta valehdellaan tässä meidän "rehellisessä" hesarimediassamme. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Hyvin pyyhkii, kyllä se loppu kohta koittaa. Varsinkin kun tekoäly pääsee ydinasenapille.

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Tämä on kyllä aivan älytön yksinkertaistus nykyaikaisen LLM-tekoälyn toiminnasta. Tuo on pikemminkin KOULUTUSMETODI. Tekoäly muodostaa sisäisen organisaationsa sillä, että se pannaan tuottamaan tekstiä noin. Jotta se pystyy olemaan erittäin hyvä sanan arvaaja, sen täytyy muodostaa itselleen sisäisiä malleja asioita, assosiaatioita jne. Mutta tuo on vain yksi vaihe tekoälyn rakentamista, nykyisissä tekoälyissä on PALJON muita kerroksia ja työkaluja. 

Se on mielenkiintoinen ristiriita, että tekoälyä voidaan käyttää turvallisesti yritysympäristöissä, mutta toisaalla sanotaan, että neuroverkko toimii miten toimii ja sitä ei voida rajoittaa. En ymmärrä tätä. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.