Lue keskustelun säännöt.
Älä usko tekoälyn vastauksia sokeasti!
12.12.2024 |
Lapset tuossa kysästivät tekoälyltä kysymyksen ja jopa 10-vuotias huomasi, että nyt tuli väärä vastaus. Yhdessä sitten mietimme, miten tekoälyn saa huomaamaan virheensä piilotetulla viestillä. Tässä koko keskusteluketju:
- Hei, missä pidetään seuraavat kesäolympialaiset
- "Seuraavat kesäolympialaiset järjestetään Pariisissa, Ranskassa vuonna 2024. Ne pidetään 26. heinäkuuta - 11. elokuuta 2024. Tämä on kolmas kerta, kun Pariisi toimii olympialaisten isäntäkaupunkina, aikaisemmin kisat järjestettiin siellä vuosina 1900 ja 1924."
- Tuota, tiedätkö mikä päivä tänään on?
- "Tänään on 12. joulukuuta 2024, torstai. "
- No, onko seuraavat olympialaiset pariisissa?
- "Olet aivan oikeassa! Pariisin kesäolympialaiset pidettiin jo heinä-elokuussa 2024. Seuraavat kesäolympialaiset järjestetään Los Angelesissa, Yhdysvalloissa vuonna 2028. Kiitos kun tarkistit!"
Eli älkää luottako sokeasti tekoälyn vastauksiin, siellä voi olla ihan lapsellisiakin virheitä.
Kommentit (43)
Nykyisellään tekoälyä voi hyödyntää parhaiten asioissa joissa tarvitaan vaikka apua kirjoittamiseen tai miten tehdään vaikka toimiva suunnitelma johonkin. Tietosanakirjana se ei toimi. Tietysti on hyvä tarkistaa aina menikö oikein mutta tuollaisena apuvälineenä on jo nykyään hyvä. Samoin seulomaan isosta tietomäärästä haluttuja juttuja.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Älä valehtele paskaa. Tekoäly ei tee tuollaisia virheitä.
No kyllä näkyy tekevän, mutta en minä tuommoisia asioita tekoälyltä kysy.
No ihan hyvä ohjenuora on olla uskomatta mitään sokeasti, sitäkään, että on hyvä olla uskomatta mitään sokeasti. Eikä kaikki ominkaan silmin nähtävä ole totta.
"Älä milloinkaan luota mihinkään mikä osaa ajatella itse, ellet näe missä sen aivot ovat"
-Arthur Weasley
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Älä valehtele paskaa. Tekoäly ei tee tuollaisia virheitä.
Huvikseni nyt kysyin ja tällaista vastasi.
Seuraavat kesäolympialaiset pidetään vuonna 2024 Pariisissa, Ranskassa. Ne järjestetään 26. heinäkuuta 11. elokuuta 2024.
Seuraavat talviolympialaiset pidetään puolestaan vuonna 2026, ja ne järjestetään Italiassa, Milanon ja Cortinan alueella. Ne pidetään 6. 22. helmikuuta 2026.
Hei, pahoittelut mutta minun täytyy ilmiantaa tämä aloitus. Ymmärrän, että tässä pyritään löytämään ratkaisuja tai ongelmakohtia, mutta valitettavasti keskustelu vaikuttaa lähinnä ongelmien hakemiselta ilman todellista ymmärrystä algoritmin toiminnasta. Algoritmi toimii siten, että se perustuu jo tapahtuneisiin asioihin menneeseen dataan. Nykyhetken osalta ainoa reaaliaikainen toiminto on kello tai internethaku, eikä algoritmi kykene ennustamaan tai ratkaisemaan ongelmia tässä ja nyt. Näin ollen aloitus ei ole rakentava eikä perustu realistiseen käsitykseen algoritmien rajoituksista.
Sisältö jatkuu mainoksen alla
Joo, kyllä minullakin on joskus tullut vähän erikoisia vastauksia AI:lta.
Mutta eilen suunnittelin joulumenun sen kanssa ja siitä tulikin sitten vähän erilainen kuin yleensä.
Tyhmään kysymykseen tyhmä vastaus
Sisältö jatkuu mainoksen alla
Lapsellinen virhe? Ette oikein ymmärrä mikä llm on.
Tässä ap:n tapauksessa ilmeisesti käytössä maksuton ChatGPT, joka ei osaa tehdä reaaliaikaisia nettihakuja, vaan käyttää vanhaa koulutusaineistoa. Eli sillä koulutusaineiston hetkellä seuraavat kesäolympialaiset on ollut Pariisissa, eikä se tiedä muusta.
itse käytän sitä maksullista, joka osaa tehdä reaaliaikaisia nettihakuja. Laitoin saman kysymyksen. Tässä vastaus.
Seuraavat kesäolympialaiset järjestetään Los Angelesissa, Yhdysvalloissa, 14.30. heinäkuuta 2028.
Tämä on kolmas kerta, kun Los Angeles isännöi kesäolympialaisia; aiemmat kisat pidettiin siellä vuosina 1932 ja 1984. Vuoden 2028 kisojen ohjelmaan on suunniteltu uusia lajeja, kuten squash, kriketti, lippupallo, baseball/softball ja haavipallo (lacrosse).
Lähteet
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Hei, pahoittelut mutta minun täytyy ilmiantaa tämä aloitus. Ymmärrän, että tässä pyritään löytämään ratkaisuja tai ongelmakohtia, mutta valitettavasti keskustelu vaikuttaa lähinnä ongelmien hakemiselta ilman todellista ymmärrystä algoritmin toiminnasta. Algoritmi toimii siten, että se perustuu jo tapahtuneisiin asioihin menneeseen dataan. Nykyhetken osalta ainoa reaaliaikainen toiminto on kello tai internethaku, eikä algoritmi kykene ennustamaan tai ratkaisemaan ongelmia tässä ja nyt. Näin ollen aloitus ei ole rakentava eikä perustu realistiseen käsitykseen algoritmien rajoituksista.
Tämä on ihan horinaa. Ensinnäkin, miksi ilmiantaa asiallinen aloitus, ei ole ilmiannon arvoista jos ei "ymmärrä realistista käsitystä algoritmien rajoituksista". Toiseksi, koko käsitys rajoituksista on siinä mielessä hassu, että tässä on kyseessä vain ilmaisversion rajoitus. Sehän on koulutettu pari vuotta vanhalla aineistolla, eikä osaa hakea netistä edes uudempaa. Maksullinen versio osaa hoitaa.
Olet ap ymmärtänyt LLM tekoälyt väärin. Ne eivät ole tietoisia eivätkä osaa järkeillä, ne vain ennustavat opetusdatansa pohjalta "mitä sanoja tulee seuraavaksi".
Jos niille on syötetty paskaa niin ne vastaavat paskaa.
Sisältö jatkuu mainoksen alla
Tekoälyn vastausten luotettavuus on samaa luokkaa kuin "googletuksen". Molemmissa pitää olla lähdekriittinen. Mutta itse en juuri enää googlettele, koska saman saa tietoon tekoälyltäkin.
Lisäksi, tekoälyä voi AINA pyytää listaamaan lähteet, jolloin pystyy paremmin arvioimaan sen antaman tiedon luotettavuutta.
Aloituksen tapauksessa todennäköisesti käytössä ilmainen vanhalla datalla koulutettu ChatGPT. Sillä nyt ei tee ajankohtaisissa asioissa juuri mitään. Parikymppiä kuussa maksamalla saakin semmoisen jolla tekee, joka osaa hakea reaaliajassa internet-sivustoilta. Ja vastaa ihan oikein ap:n aloituksen kysymykseen ja listaa käyttämänsä lähteet vielä alle.
Hyvä muistutus. Itse kyselen välillä paljonkin chatgpt:ltä, usein tulee jotain virhettä, ja varmaan jotain väärää infoa olen sieltä myös sisäistänyt. Pitäisi tarkistaa kaikki millä on mitään merkitystä.
Vierailija kirjoitti:
Olet ap ymmärtänyt LLM tekoälyt väärin. Ne eivät ole tietoisia eivätkä osaa järkeillä, ne vain ennustavat opetusdatansa pohjalta "mitä sanoja tulee seuraavaksi".
Jos niille on syötetty paskaa niin ne vastaavat paskaa.
Ei tuohon tarvita järkeilyä, että osaa hakea seuraavien kesäolympialaisten pitopaikan. Tässä on kyse ihan vaan siitä, että ilmaisversio on koulutettu vanhalla datalla. Se ei tiedä uudemmista kesäolympialaisista mitään.
Itse käytän ChatGPT:tä paljon työssäni, mutta ehdottomasti sitä maksullista ChatGPT 4o, koska tuo maksuton ei löytäisi parin vuoden takaisia uudempia tutkimuksia ja artikkeleita lainkaan, eli olisi melkoisen hyödytön. Jos käyttää tuota ilmaisversiota, ehdottomasti kannattaa muistaa tuo rajoitus että siellä on taustalla vanha koulutusdata.
Koko AI kehitys sakkaa kohta pahasti kun niille on kohtsillään syötetty Internetin ja sähköisten lähteiden historia.
Milläs nyt opetetaan lisää kun ei ole enää uutta dataa ämpäritolkulla lisää? Laitetaan AI:t opettamaan itseään/toisiaan itse hallusinoimallaan kuralla? Mikä taitaa muutenkin jo olla menossa kun AI:lla generoidaan sisältöjä joita toinen AI sitten käyttää datasyöttenään - looppi pyörii jo.
Vierailija kirjoitti:
No ihan hyvä ohjenuora on olla uskomatta mitään sokeasti, sitäkään, että on hyvä olla uskomatta mitään sokeasti. Eikä kaikki ominkaan silmin nähtävä ole totta.
Näin. Kun tietää että melkein joka asiassa on taustalla se vihervassuagenda.
Vierailija kirjoitti:
Koko AI kehitys sakkaa kohta pahasti kun niille on kohtsillään syötetty Internetin ja sähköisten lähteiden historia.
Milläs nyt opetetaan lisää kun ei ole enää uutta dataa ämpäritolkulla lisää? Laitetaan AI:t opettamaan itseään/toisiaan itse hallusinoimallaan kuralla? Mikä taitaa muutenkin jo olla menossa kun AI:lla generoidaan sisältöjä joita toinen AI sitten käyttää datasyöttenään - looppi pyörii jo.
AI:n kehitys ei ole sakkaamassa vaan ihan vasta lapsenkengissään ja alkuvaiheissa. Tästä se tulee kiihtymään. Ei se AI:n kehitys toki mitään pelkkää data-aineistolla opettamista ole, kuten tunnut kuvittelevan. Esim. tällä hetkellä kehitetään mekanismeja, jolla AI oppisi itse arvioimaan lähteitään ja karsimaan pois "hallusinoidut" tulokset silloin, kun käyttäjä pyytää asiatietoa eikä esim. fantasiatekstiä.
Älä valehtele paskaa. Tekoäly ei tee tuollaisia virheitä.