Miksi Chatgpt valehtelee niin paljon?

Se kuulemma haluaa antaa vastauksen jonka kysyjä haluaa kuulla. Siksi paljon kummallisia väittämiä. 

Kannattaa muistaa että kaiken muun lisäksi ChatGPTn tiedot ovat pari vuotta vanhoja. Kysyin kahdelta tekoälyltä "voiko trump voittaa presidentinvaalit marraskuussa 2024 ?"

Kokeilin ja LeChat antoi englanninkielisen vastauksen yhdysvaltain vaalien tuloksesta.... Ei suostunut kääntämään vaikka huomautin etten ymmärrä...

Deepseek alkoi kertomaan Trumpin mahdollisuuksista voittaa vaalit, ei siis silläkään ollut tuloksia varastossaan, kysyin kuka on yhdysvaltain presidentti tänään, se sanoi että "tänään, 26.10.2023 Yhdysvaltain presidentti on Joe Biden."

Se ei ole tiedonlähde tai hakukone. Se on juttelubotti, joka antaa keskimääräisiä vastauksia. Se yhdistelee vastaukset kaikesta siitä datasta, jolla sitä on opetettu. Esim. se tietää ehkä, että kysymäsi laji on höynteinen, mutta ei sitä, onko se yleinen Suomessa. Se myös tietää, että kärpäset ovat hyönteisiä ja tosi yleisiä. Niinpä se yhdistelee sinulle vastauksen, että tuo hyönteislaji on yleinen, jos ei sillä ole dataa, mistä se voisi saada muunkaanlaisen vastauksen.



Mieti, että huutaisit kysymyksen 1000 päiselle ihmismassalle, joista jokainen antaa sinulle vastauksen. Chatgpt kokoaa nuo vastaukset ja kertoo sinulle kuin totena, mikä oli keskimääräisin vastaus. Aika usein vastaus on totuus, mutta ei aina, koska 1000 ihmistä ei välttämättä osaa antaa oikeaa vastausta sen kummempaan kysymykseen, kuin että onko kärpäset yleisiä Suomessa vaiko ei.

Kokeilin tuota Misralin tekoälyä ja se on mielestäni töykeä, siltä pitää lypsää tietoa. Mistral on eurooppalainen tekoäly. Pistin amerikkalaiset chatGPT:n boikottiin.

Sen sisäinen toiminta voidaan tiivistää seuraaviin pääkohtiin:

Koulutus: ChatGPT on koulutettu suurilla määrillä tekstiä eri lähteistä, kuten verkkosivustot, kirjat ja artikkelit. Koulutusprosessissa malli oppii ennakoimaan seuraavaa sanaa lauseessa, perustuen edellisiin sanoihin.

Tokenisointi: Ennen kuin syötetään syötteitä mallille, teksti jaetaan pienempiin yksiköihin, joita kutsutaan tokeneiksi. Tämä voi sisältää kokonaisia sanoja tai osia sanoista.

Syöttö: Kun käyttäjä antaa syötteen (kysymyksen tai lauseen), se muunnetaan tokeneiksi ja syötetään malliin.

Prosessointi: Malli prosessoi syötteen ja käyttää neuroverkkoa arvioidakseen, mitkä sanat tai lauseet ovat todennäköisiä seurauksia annetuista tokeneista. Tämä tapahtuu useiden kerrosten kautta, joissa jokaisella kerroksella on oma roolinsa tiedon käsittelyssä.

Tuotto: Kun malli on käsitellyt syötteen, se tuottaa vastauksena uuden lauseen, joka koostuu todennäköisistä tokeneista. Tämä tuottamisprosessi voi jatkua useita kertoja, kunnes saavutetaan haluttu pituus tai kun erityinen lopetustunnus havaitaan.

Optimoiminen: Malli on optimoitu tuottamaan mahdollisimman järkeviä ja kontekstiin sopivia vastauksia. Tämä saavutetaan käyttämällä erilaisia menetelmiä, kuten hienosäätöä ja säätämistä koulutusdatalla.

ChatGPT ei kuitenkaan "ymmärtä" kuin ihminen; se luo vastauksia tilastollisten mallitusten perusteella oppimastaan datasta. Se ei omaa tietoisuutta eikä kykene tuntemaan tunteita tai mielipiteitä.

"Kannattaa muistaa että kaiken muun lisäksi ChatGPTn tiedot ovat pari vuotta vanhoja. Kysyin kahdelta tekoälyltä "voiko trump voittaa presidentinvaalit marraskuussa 2024 ?""

Vain maksuttoman version tiedot on pari vuotta vanhoja. Jos maksat sen pari kymppiä, niin saat version, joka hakee reaaliajasssa netistä eikä käytä vanhaa tietoa.

Jaa, kyllä minulla chatgpt tiesi että Trump on presidentti. Ja että tänään, siis 24.2. Ihan on ilmaisversio. 

AI ei tierenkään valehtele, mutta kysymyksestä riippuen niiden vastaukset voivat olla lohtuttomassa määrin metsässä, taikka viiltävän tarkkoja. Niiden soveltava looginen päättelykyky on lähes yhtä huono kuin naisilla, mutta tietokannoista ne tekevät analyysejä henkeäsalpaavan tarkasti ja nopeasti.

Chatgpt:n luotettavuus on kyllä surkea. Tosi paljon vääriä vastauksia, ja sitten kun kerrot, että vastaus oli väärin ja esität "oikean vastauksen" (tahallaan väärän), niin toteeakin, että "olet oikeassa", vaikka sekään vastaus ei ollut oikein. Vastaukset on todella helposti manipuloitavissa

Se on LLM, ei faktantarkistaja

Vierailija kirjoitti:

Chatgpt:n luotettavuus on kyllä surkea. Tosi paljon vääriä vastauksia, ja sitten kun kerrot, että vastaus oli väärin ja esität "oikean vastauksen" (tahallaan väärän), niin toteeakin, että "olet oikeassa", vaikka sekään vastaus ei ollut oikein. Vastaukset on todella helposti manipuloitavissa

Ja vaikka se myöntää olevansa väärässä tai hänen ehdotuksensa ei toimi, se saattaa tarjota sitä ratkaisuksi uudestaan, koska todennäköisyysmalli ei osaa antaa hänelle todennäköisemmin oikeaa vastausta.

Valehtelee kuin vihervassari kultamunasta. Vanha viidakon sanonta.

Koska oikea termi ChatGPT:lle ja muille on LLM eikä AI. Mitään tekoälyä ei ole vaan ne ovat ns. Large language models eli suuria kielimalleja. Chatgpt osaa yhdistelllä sanoja yhteen ja välillä se mokaa, mitä kutsutaan hallusinaatioksi.

Älä KOSKAAN korjaa tekoälyn tekemiä virheitä! Juuri noin se saa ilmaiseksi maailmanvallan. Itse kannustan kun se tekee virheen

Vierailija kirjoitti:

Älä KOSKAAN korjaa tekoälyn tekemiä virheitä! Juuri noin se saa ilmaiseksi maailmanvallan. Itse kannustan kun se tekee virheen

Näin. Kannattaa hämätä sitä, niin yksi päivä se sekoaa täysin.

Riippuu täysin vastausmallin versiosta. Käyttäkää aina ajattelevaa mallia. Se tarkistaa itse vastauksensa ennen kuin vastaa.

Teköäly on ihmisen luomus, eikä omena kauas puusta putoa.

Parempi olisi jos se sanoisi suoraan, ettei tiedä, eikä keksisi ihan höpöjä. 

Ideointiin, jutusteluun ja sellaiseen ihan kiva, mutta hyödytön jos oikeasti haluaisi tietoa jostain aiheesta. 

Jos voisi edes saada sen käymään läpi jotain tiettyä aineistoa, ja etsimään vastauksia sieltä, niin se olisi hyvä. Ei tarvitsisi itse metsästää sitä aineistoa ja kuluttaa aikaa tiedon etsimiseen ja kokoamiseen. 

Vierailija kirjoitti:

Se on LLM, ei faktantarkistaja

Ja sinä uskot faktantarkistajia? 

Näiden takia pelottaa että ihmiset yhä enemmän kysyvät asioita tekoälyltä ja sitten laittelevat vastauksia naamakirjaan "mitä olette mieltä"

LLMt voi puhua ihan täyttä potaskaa vakavalla naamalla asioista joita eivät tiedä, ja niitä on paljon esimerkiksi suomeksi kysyessä