Googlen tekoäly antaa vääriä/harhaanjohtavia vastauksia

Vierailija kirjoitti:

Tuon tyylisen "tekoälyn" tarkoituskaan ei ole tuottaa oikeita vastauksia vaan vastaus johon kysyjä on tyytyväinen eli mitä kysyjä odottaa kuulevansa. Siksipä noiden yleisten kielimallien käyttö asiantuntijana onkin jokseenkin hölmöä ja outoa.

Joku erityiskoulutettu malli joka esim. lukee työttömän työttömyysturvahakemuksen ja laskee maksettavan summan (tai toimeentulotukihakemuksen tms.) on vähän luotettavampi jos se sellaiseksi koulutetaan. Silti noissakin kannattaa varautua että erikoistapauksessa voi tulla virheitä, varsinkin jos ei ole ollut riittävästi koulutusmateriaalia niistä erikoistapauksista joita tulee vastaan kourallisella suomalaisia. 

Tässä on kyse puhtaasti käytetystä systeemipromptista, lämpötilasta, Top P ja K- arvoista. Tällä hetkellä jopa suppeat kielimallit, joita voit ilmaiseksi käyttää omalla koneellasi vaikka LM Studion avulla, laskevat kyllä oikein ja antavat oikeat vastaukset. Mikäli vertailukohtaa haluaa hakea, niin OpenAI:n jne. mallit hakkaavat jo tohtoriopiskelijat ja lääkäritkin jäivät toiseksi diagnosoidessaan hankalampia sairauksia, kuten tämä Microsoftin ilmoitus kertoo https://microsoft.ai/new/the-path-to-medical-superintelligence/   ... ja koska näistä supermalleista tehdään pienempiä napsimalla neuroverkoista kerroksia pois (kuten tensorflow:lle Hugging Facesta löytyvät mallit) niin kohta tällainen on jokaisen puhelimessa ym. integroituna.

Vierailija kirjoitti:

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Miksi sitten ainakin tuo Googlen tekoäly kertoo hyvin spesifisiäkin tietoja väärin? Esimerkiksi tarkistin Googlesta yhtä historiallisen tapahtuman vuosilukua. Huomasin, että tekoälyvastauksessa oli vuosisatakin väärin.

Hain listaa erään sairauden oireista. Siis tyyliin "multiple sclerosis symptoms" (se ei kylläkään ollut MS-tauti, mutta kuitenkin). Tekoälyn tiivistelmä oli niin vaarallisen harhaanjohtavaa höpöhöpöä, että huh huh. KAIKISSA kunnollisissa hakutuloksissa oli ihan erilaiset tiedot, eli mistä tämä AI oli nämä omansa kerännyt?

Löysin kyllä tiedot luotettavista lähteistä, mutta pointtihan on, että moni ei edes mene niihin hakutuloksiin enää.

Vierailija kirjoitti:

Vierailija kirjoitti:

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Miksi sitten ainakin tuo Googlen tekoäly kertoo hyvin spesifisiäkin tietoja väärin? Esimerkiksi tarkistin Googlesta yhtä historiallisen tapahtuman vuosilukua. Huomasin, että tekoälyvastauksessa oli vuosisatakin väärin.

Hain listaa erään sairauden oireista. Siis tyyliin "multiple sclerosis symptoms" (se ei kylläkään ollut MS-tauti, mutta kuitenkin). Tekoälyn tiivistelmä oli niin vaarallisen harhaanjohtavaa höpöhöpöä, että huh huh. KAIKISSA kunnollisissa hakutuloksissa oli ihan erilaiset tiedot, eli mistä tämä AI oli nämä omansa kerännyt?

Löysin kyllä tiedo

Esimerkki olisi hyvä, jotta asiaa voisi tarkastella. Mikäli käytät Geminiä, niin tee tuollaisissa asioissa Research. Silloin tekoäly kaivaa luotettavista lähteistä sinulle tietoa. Mikäli käytät normaalisti, vastaa tekoäly sinulle todennäköisimmän vaihtoehdon siten kuin pitääkin. Se voi olla pielessä ja lähtötieto voi olla injektoitua. Esimerkiksi rysssät pyrkivät koko ajan sekoittamaan länsimaisia tekoälymalleja. Hyvä esimerkki on Grok:n torjuma injektointi.

- Eri

Vierailija kirjoitti:

Vinkki: käyttäkää ilmaista Kimi K2:ta. Se on agenttinen tekoäly ja osaa ratkaista käsittämättömiä asioita oikein. Testatkaa. Malli on myös vapaasti käytettävissä vaikka omalla serverillä.

enpä ole koskn kuullut

Vierailija kirjoitti:

Vierailija kirjoitti:

Minäkin sain jokunen viikko sitten väärän vastauksen etsiessä ei tietoa milloin koulu alkaa. Katsoin sitten onneksi myös koulun sivulta ja Wilmasta.

Tämä on hyvä esimerkki siitä, että tekoälymallit LLM ovat staattisia ja niiden "corpus" sisältää vain tietyn hetken tiedon. Tämän vuoksi kannattaa suosia agenttista tekoälyä, joka hakee päivitettyä tietoa (tai ns. RAG:a). Eli lyhyestI: kielimallit vastaavat sillä tiedolla joka niille on opetettu. Opetusajankohdan saatte kysymällä.

Kerto tämä Googlelle jonka mielestä oli hyvä idea integroida kielimalli Google-hakuihin.

Vierailija kirjoitti:

Ei tekoälyn tehtävä ole prosessoida tietoa kriittisesti. Se kokoaa vastauksensa niiden tietojen pohjalta, joita sillä on kyseisestä aiheesta ja noissa lähdetiedoissa on tietenkin virheitä ja ristiriitaisuuksia. Tekoäly sitten saattaa yhdistellä tietoja harhaanjohtavasti tai vetää mutkia suoraksi, vastaukset voivat olla myös sisällöllisesti täysin ristiriitaisia.

Ja juuri sen vuoksi kielimallit ei sovellu osaksi hakukoneita. 

Vierailija kirjoitti:

Toivon että jokainen, joka käyttää tekoälyä, lukisi edes alkeet siitä, mikä tekoäly on ja mitä se tekee. Sillon ei tulisi tällaisia aloituksen kaltaisia älyntöräyksiä ja ihmetyksiä. 

Toisaalta iso osa palstalaisia vetoaa nimenomaan tekoälyyn ja sen vääriin vastauksiin, kun kysellään jotain faktatietoa. Jos huomauttaa, että tuo ei ole oikea vastaus / todellinen tilanne, niin saa hurjan määrän alapeukkuja ja kommentin, jonka mukaan on turha kuvitella olevansa tekoälyä fiksumpi.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

AI:n käyttö on taitolaji. Kysymys ja ongelmanasettelu on oleellista. Netti on nykyisin pullollaan strategiaohjeita, millä pääsee olelliisesti parempiin tuloksiin. Subjektiivisia asioita siltä on edes turha kysyä. Yleensä se vain vahvistaa niitä juttuja, mitä se olettaa sinun haluavan vastaukseksi.

Miksi sitten ainakin tuo Googlen tekoäly kertoo hyvin spesifisiäkin tietoja väärin? Esimerkiksi tarkistin Googlesta yhtä historiallisen tapahtuman vuosilukua. Huomasin, että tekoälyvastauksessa oli vuosisatakin väärin.

Hain listaa erään sairauden oireista. Siis tyyliin "multiple sclerosis symptoms" (se ei kylläkään ollut MS-tauti, mutta kuitenkin). Tekoälyn tiivistelmä oli niin vaarallisen harhaanjohtavaa höpöhöpöä, että huh huh. KAIKISSA kunnollisissa hakutuloksissa oli ihan erilaiset tiedot, eli mistä tämä AI oli nä

En käytä Geminiä enkä mitään muutakaan tekoälyä, joten asia on minulle aivan sama. Olen vain ohimennen huomannut nuo Googlen höpöhöpövastaukset etsiessäni ihan normaaleja hakutuloksia.

Harmittavan moni niitä vain uskoo.

Vierailija kirjoitti:

Eniten ärsyttää miten nämä aina generoivat itsevarman oloisen vastauksen, joka saattaa kuitenkin olla ihan puuta heinää.

Joku seula pitäisi noihin olla sisäänrakennettuna että tarjoaisivat vastauksen vain jos se perustuu täyteen hakuammuntaan. 

Kyselin eräästä sanasta chat gpt:ltä onko yhdyssana vai ei. Oli joku vaikeahko sanapari jota en ikinä muista kummin päin on. Chat gpt sitten kertoi oman kantansa ja sanoi että monet kirjoittavat sen väärin mutta voit luottaa siihen että asia varmasti on näin. 

Kävib kuitenkin varmuudeksi asian varmistanassa Kotusin sivuilta ja asia oli juuri päin vastoin. 

Vierailija kirjoitti:

Hauskinta on että tekoäly aina oppii tummien olevan varasteleva ja rikoksia tekevät ryhmä ja kohta koodarien pitää rientää "opettamaan" sille että kaikki ovat yhtä hyviä.

No tekoäly opettelee asioita sen pohjalta mitä netissä kerrotaan. Toistelee vaikka sinun sanomaasi.

Vierailija kirjoitti:

Vierailija kirjoitti:

Eniten ärsyttää miten nämä aina generoivat itsevarman oloisen vastauksen, joka saattaa kuitenkin olla ihan puuta heinää.

Joku seula pitäisi noihin olla sisäänrakennettuna että tarjoaisivat vastauksen vain jos se perustuu täyteen hakuammuntaan. 

Kyselin eräästä sanasta chat gpt:ltä onko yhdyssana vai ei. Oli joku vaikeahko sanapari jota en ikinä muista kummin päin on. Chat gpt sitten kertoi oman kantansa ja sanoi että monet kirjoittavat sen väärin mutta voit luottaa siihen että asia varmasti on näin. 

Kävib kuitenkin varmuudeksi asian varmistanassa Kotusin sivuilta ja asia oli juuri päin vastoin. 

ChatGPT:ssä vaikuttaa myös todella paljon se, miten asian kysyy, koska se haluaa usein myötäillä kysyjää. Kysyin kerran yhteen konfliktiin liittyen neuvoja ja esitin itse riidan molempia osapuolia. Sen mukaan olimme molemmat oikeassa ja toinen osapuoli väärässä.

Vierailija kirjoitti:

Minäkin sain jokunen viikko sitten väärän vastauksen etsiessä ei tietoa milloin koulu alkaa. Katsoin sitten onneksi myös koulun sivulta ja Wilmasta.

Kuuluu yleissivistykseen tietää, että näissä voi olla kuntakohtaisia eroja. Joten Ai-yhteenveto on täysin väärä väline.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Eniten ärsyttää miten nämä aina generoivat itsevarman oloisen vastauksen, joka saattaa kuitenkin olla ihan puuta heinää.

Joku seula pitäisi noihin olla sisäänrakennettuna että tarjoaisivat vastauksen vain jos se perustuu täyteen hakuammuntaan. 

Kyselin eräästä sanasta chat gpt:ltä onko yhdyssana vai ei. Oli joku vaikeahko sanapari jota en ikinä muista kummin päin on. Chat gpt sitten kertoi oman kantansa ja sanoi että monet kirjoittavat sen väärin mutta voit luottaa siihen että asia varmasti on näin. 

Kävib kuitenkin varmuudeksi asian varmistanassa Kotusin sivuilta ja asia oli juuri päin vastoin. 

ChatGPT:ssä vaikuttaa myös todella paljon se, miten asian kysyy, koska se haluaa usein myötäillä kysyjää. Kysyin kerran yhteen konfliktiin liittyen neuvoja ja esitin itse r

Pitää kysyä sellaisella tyylillä, ettei oma oletus paljastu kysymyksen muotoilusta.

Pyysin sitä antamaan suomenkielinen pitkä lause, missä on vähän konsonantteja.

Eka vastaus: Iloinen olo on, eikö ole?

Toinen vastaus: Oo, ui ohi, ai oi, jaa jaa, eihän eihän.

Ei sen vastauksissa juuri älyä ole.

Nykyiset kielimallit pärjäävät aika hyvin ihmisiin vertailtaessa. Molemmat tekevät kysyessä välistä virheitä itsevarmana.

Näille virityksille nauretaan samalla tavalla ku nyt nauretaan 2000-luvun alun dodgom-kuplalle. Jos jonkinlaista himmeliä tarjolla ja näihin sijoitetaan miljardeittain rahaa. Ehkä kourallinen jää käyttöön ja tappiin hilattuja kursseja ihmetellään kuin bitcoinia konsanaan että miten kukaan on koskaan maksanut näistäkin näin hurjia summia. Trendien perässä juoksijat saa jälleen näpeilleen ja edelleenkään ihminen ei opi että ammattisijoittaja on jo lähtenyt rahoineen lommille kun viimeiset uunot painaa lisää rahaa sisään nouseviin kursseihin.

Vierailija kirjoitti:

Vierailija kirjoitti:

Minäkin sain jokunen viikko sitten väärän vastauksen etsiessä ei tietoa milloin koulu alkaa. Katsoin sitten onneksi myös koulun sivulta ja Wilmasta.

Kuuluu yleissivistykseen tietää, että näissä voi olla kuntakohtaisia eroja. Joten Ai-yhteenveto on täysin väärä väline.

Jep, ei kannata kysellä tyhmiä tekoälyltä. 

Tekoäly antaa juuri niin fiksun vastauksen kuin kysytty kysymyskin. Eli jos osaat promptaa niin saat ääri pitkiä laadukkaita vinkkejä ja ohjeita. Huono kysymys=huono vastaus

Vierailija kirjoitti:

Näille virityksille nauretaan samalla tavalla ku nyt nauretaan 2000-luvun alun dodgom-kuplalle. Jos jonkinlaista himmeliä tarjolla ja näihin sijoitetaan miljardeittain rahaa. Ehkä kourallinen jää käyttöön ja tappiin hilattuja kursseja ihmetellään kuin bitcoinia konsanaan että miten kukaan on koskaan maksanut näistäkin näin hurjia summia. Trendien perässä juoksijat saa jälleen näpeilleen ja edelleenkään ihminen ei opi että ammattisijoittaja on jo lähtenyt rahoineen lommille kun viimeiset uunot painaa lisää rahaa sisään nouseviin kursseihin.

Dodgom 😅🤣😂. Tarkoittanet dotcom?

Tyhmät ihmiset ja tekoäly on vaarallinen yhdistelmä.