Googlen tekoäly antaa vääriä/harhaanjohtavia vastauksia

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen huomannut saman. Esim. googletin Elisaviihteen boksin tehdasasetuksien palauttamisesta ja AI väitti sen poistavan tallenteet, mikä ei todellakaan pidä paikkaansa.

Vau, huomasit että sanageneraattori saattaa höpistä omiaan. Aikamoinen salapoliisi ja tiedemies. 

Miksi pitää olla noin töykeä?

Vierailija kirjoitti:

Minäkin sain jokunen viikko sitten väärän vastauksen etsiessä ei tietoa milloin koulu alkaa. Katsoin sitten onneksi myös koulun sivulta ja Wilmasta.

Sama! Tekoäly ei tosiaan toimi hakukoneena.

Hauskinta on että tekoäly aina oppii tummien olevan varasteleva ja rikoksia tekevät ryhmä ja kohta koodarien pitää rientää "opettamaan" sille että kaikki ovat yhtä hyviä.

Vierailija kirjoitti:

Minäkin sain jokunen viikko sitten väärän vastauksen etsiessä ei tietoa milloin koulu alkaa. Katsoin sitten onneksi myös koulun sivulta ja Wilmasta.

Tämä on hyvä esimerkki siitä, että tekoälymallit LLM ovat staattisia ja niiden "corpus" sisältää vain tietyn hetken tiedon. Tämän vuoksi kannattaa suosia agenttista tekoälyä, joka hakee päivitettyä tietoa (tai ns. RAG:a). Eli lyhyestI: kielimallit vastaavat sillä tiedolla joka niille on opetettu. Opetusajankohdan saatte kysymällä.

Tuon tyylisen "tekoälyn" tarkoituskaan ei ole tuottaa oikeita vastauksia vaan vastaus johon kysyjä on tyytyväinen eli mitä kysyjä odottaa kuulevansa. Siksipä noiden yleisten kielimallien käyttö asiantuntijana onkin jokseenkin hölmöä ja outoa.

Joku erityiskoulutettu malli joka esim. lukee työttömän työttömyysturvahakemuksen ja laskee maksettavan summan (tai toimeentulotukihakemuksen tms.) on vähän luotettavampi jos se sellaiseksi koulutetaan. Silti noissakin kannattaa varautua että erikoistapauksessa voi tulla virheitä, varsinkin jos ei ole ollut riittävästi koulutusmateriaalia niistä erikoistapauksista joita tulee vastaan kourallisella suomalaisia. 

Vierailija kirjoitti:

Hauskinta on että tekoäly aina oppii tummien olevan varasteleva ja rikoksia tekevät ryhmä ja kohta koodarien pitää rientää "opettamaan" sille että kaikki ovat yhtä hyviä.

Niin, ehkä jonkun kannattaisi katsoa avaruusseikkailu 2001 leffa ennen kuin ruvetaan kouluttamaan riittävän kehittynyttä tekoälyä valehtelemaan tahallaan samalla kun vaadiaan siltä ehdotonta tarkkuutta vastauksissa. 

ChatGPTstä ja Geministä sentään saa ihan päteviä vastauksia. Toi GoogleAI on niin koulutusvaiheessa kuin vaan voi olla. Onneks siä voi raportoida virheellisistä vastauksista ja niin olen tehnytkin.

Monelta ketjuun vastaajalta menee pointti täysin ohi. "Tietysti" tekoäly antaa usein harhaanjohtavia tietoja. En itse käytä tekoälyä mihinkään, etsin itse tietoni.

Mutta Googlessa se tekoälyn tiivistelmä tulee ennen mitään hakutuloksia, isolla tekstillä ja "virallisen" näköisenä. Skippaan sen aina yli (ja kyllä, muutaman kerran luin ja tieto oli osittain väärää kahdella kerralla ja täysin väärää kolmella!), mutta todella moni ei tule skippaamaan, vaan luulee, että se on luotettava tiivistelmä tärkeimmistä hakutuloksista.

Ei tekoälyn tehtävä ole prosessoida tietoa kriittisesti. Se kokoaa vastauksensa niiden tietojen pohjalta, joita sillä on kyseisestä aiheesta ja noissa lähdetiedoissa on tietenkin virheitä ja ristiriitaisuuksia. Tekoäly sitten saattaa yhdistellä tietoja harhaanjohtavasti tai vetää mutkia suoraksi, vastaukset voivat olla myös sisällöllisesti täysin ristiriitaisia.

Vierailija kirjoitti:

Google nyt on muutenkin pilalla. Voiko se enää mennä pahemmaksi?

Oletan että se on pilattu tarkoituksella, mutta en vaan oikein ymmärrä miksi. Vielä noin 10 vuotta sitten saattoi hakukoneilla löytää netistä melkein mitä tahansa etsimäänsä nippelitietoa, kun keksi oikeat hakusanat ja -fraasit. Nykyään niitä pieniä, erikoistuneita sivustoja ei vaan tule hakutuloksiin vaikka kuinka etsisi. Jos haluaa edes jonkin sortin inhimillisiä vastauksia johonkin kysymykseen, täytyy lisätä hakusanoihin "reddit" ja sitten katsoa, josko Redditin keskusteluista löytyisi joku joka linkittää relevantimpaan tietoon.

Google Books oli myös alunperin tosi hyvä resurssi. Vain pieni osa teksteistä on sellaisia että niitä voi lukea, mutta hakemalla pystyi tekemään listan kirjoista, jotka kannattaa etsiä kirjastosta tai ostaa. Nykyään sekin toimii todella surkeasti, enkä ymmärrä, mikä siinä on muuttunut.

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Niin kaikki tekoälyt antavat. Ne mukailevat sitä propagandaa, mitä netissä on eniten, ja osittain tuottavat sitä shaibaa mitä lukija pyytää. Totuus on erittäin häilyvä asia muutenkin, ja tekoäly erittäin kaukana siitä.

Vierailija kirjoitti:

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Joo, vähän niinkuin sekin että saako taaperon suunnittelemaan ja rakentamaan pilvenpiirtäjää. Ohjaajan taidoista kiinni... Not.

Vierailija kirjoitti:

Ei tekoälyn tehtävä ole prosessoida tietoa kriittisesti. Se kokoaa vastauksensa niiden tietojen pohjalta, joita sillä on kyseisestä aiheesta ja noissa lähdetiedoissa on tietenkin virheitä ja ristiriitaisuuksia. Tekoäly sitten saattaa yhdistellä tietoja harhaanjohtavasti tai vetää mutkia suoraksi, vastaukset voivat olla myös sisällöllisesti täysin ristiriitaisia.

Kysymyksen asettelulla voit kuitenkin rajata mitä tietoa se prosessoi. Mutta jos heität geneerisen kysymyksen, huttua voi tulla useinkin.

Täällä monet ovat sitä mieltä, että kyllähän kaikki tietää, ettei tekoälyyn voi luottaa. Ei kyllä tiedä.

Erilaisissa netin keskusteluryhmissä on räjähtäneet ihmisten kysymykset siitä, että pitääkö jokin asia paikkansa, kun "niin luki Googlessa". Kun hieman kaivelee, niin selviää, että viitataan juuri näihin AI-tiivistelmiin. Osa ei millään suostu uskomaan, etteivät ne ole luotettavia.

Vierailija kirjoitti:

Vierailija kirjoitti:

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Joo, vähän niinkuin sekin että saako taaperon suunnittelemaan ja rakentamaan pilvenpiirtäjää. Ohjaajan taidoista kiinni... Not.

Kyllä on. Tässä tapauksessa kurssitietojen lähde kannattaa rajata viralliseen tahoon, eikä koko nettiin.

Heikon yleissivistyksen omaavia ihmisiä on helppo huijata. Niin ihmisen kuin AI:n. Eli ehkä kannattaisi käyttää koulu- ja opiskeluaika hyödyksi.

Vierailija kirjoitti:

Voit sanoa tekoälylle, että nyt meni pieleen.

Ei se opi iitä. Tein testejä ja kyselyjä sen toiminnasta ajankulukseni. Sanoi ettei mikään senhetkinen virhe korjattunakaan mene myöhäisempään opiksi, kuten ihmisellä. Ainoastaan gpt-5 korjaa tilannetta. Tulossa nyt Elokuussa. Itse tuon sanoi. Mutta tosiaan. On kehittynyt paljon viimeisestä gptstä Mutta ei todellakaan pidä uskoa läheskään kaikkea mitä kertoo. On paljonkin virheitä ja tulkintavikoja. Ihan päivän selvissä asioissa. Esim. Eilen piti euripor keskiarvoa 3.2%... No, on todella surkee esitys. Lapsikin hakee oikean arvon.

        All-time high (synthetic, pre-euro): 1.87 (July 1973)

        Highest since the euros introduction: about 1.60 (mid-2008)

        Highest in the last year: 1.18 (July 2, 2025)

Tekoäly palstaa vain sen kuinka paljon väärää tietoa on internetti täynnä.