Lue keskustelun säännöt.
ChatGPT on lööperiä lasketteleva ääliö! M.O.T.
12.10.2025 |
ChatGPT:hen on lisätty äskettäin ominaisuus, jossa tuolle tekoälysivulle (chatgpt.com) voi nyt upata esim. kuvan tai asiakirjan, joihin liittyen voi sitten kysyä asioita tekoälyltä. Mutta mutta...
Testasin äsken tuota tekoälyn uutta ominaisuutta ottamalla valokuvan eräästä N-liiton hajoamisen jälkeisinä aikoina Venäjällä eräässä nyrkkipajatyylisessä pikkufirmassa valmistetusta sähkölaitteesta ja uppaamalla kuvan ChatGPT:lle. Laitteen etupaneelissa on laitteen länsimaistyyppinen geneerinen nimi selvästi näkyvissä, kuitenkin siten, että firman logo ja nimiteksti on sijoiteltu päällekkäin niin, että käytännössä vain ihminen tajuaa mikä se nimi on, koska se logo täysin sekoittuu nimitekstiin taiteellisen ratkaisunsa ansiosta. Ts. logo sattumalta toimii käytännössä kuin ns. CAPTCHA (verkkosivustoilla käytettävä turvamekanismi, joka erottaa ihmiset ja automaattiset ohjelmat (botit) toisistaan).
Ja yllätys, yllätys, tekoäly joka ei siis pystynyt ratkaisemaan laitteen etupaneelin kuvasta tuota eräänlaista captcha-pulmaa, tulkitsi saamastaan valokuvasta mm. tuotteen tai sen valmistajan nimen täysin väärin ja ryhtyi välittömästi antamaan täysin paikkansapitämätöntä tietoa kuvassa olevasta laitteesta. Eikä siinä olisi ollut vielä sinänsä mitään ihmeellistä, mutta ChatGPT, sen sijaan että olisi tunnustanut, että ei pysty edes tunnistamaan tai lukemaan laitten etupaneelista tuotteen nimeä ja logoa lainkaan, eikä niin ollen pysty tietämään laitteesta kertakaikkiaan yhtään mitään, keksikin laitteelle täysin mielikuvituksellisen SUOMALAISEN valmistajan ja etymologian, ja väitti että laite on mukamas valmistettu Suomessa 80-90-lukujen taitteessa, väittäen myös tuotteen valmistajan olleen tunnettu äänentoistoalan laitteistaan.
Kerroin sitten ChatGPT:lle, että en ole koskaan tuon nimistä yritystä kuullut Suomessa olevankaan, eikä esim. Googlen haulla löydy tuon nimisestä yrityksestä yhtään mitään hakutuloksia tai tietoa. Kysyin, että millä paikkakunnalla tuo firma on mukamas vaikuttanut jne., ja lisäksi kerroin, että hupaisaa kyllä, tiedän varmuudella laitteen olevan IVY:n aikana ilmeisesti Pietarin seudulla valmistetun, ja että mielestäni vaikuttaa siltä että ChatGPT lasketteli minulle täyttä pajunköyttä täysin pokkana, vaikka mitään käryä itse tuotteesta ei sillä ollut.
No, tekoäly joutuikin sitten tunnustamaan puhuneensa täyttä soopaa sanoen mm. että "Pahoittelen virheitäni ja väärää tietoa jonka annoin aiemmin." jne.
Joten ChatGPT on (edelleenkin) jotakuinkin kuin joku valehteleva, "tiedoillaan" rehvasteleva kapakkaurpo. Se ei todistettavasti siis pysty edelleenkään tunnustamaan, että ei todellisuudessa tiedä jostain asiasta yhtään mitään, vaan mieluummin alkaa päteä ja keksiä omasta "päästään" täysin mielikuvituksellisia satuja ja tarinoita joilla ei ole mitään tekemistä todellisuuden kanssa.
Tuo on todella outoa ja samalla huolestuttavaa, jos ihmiset ja jopa organisaatiot luottavat tekoälyn suoltamaan paikkansapitämättömään dataan (kuten on jo käynytkin mm. Norjassa), vaikka se on täysin hihasta ravistettua lööperiä, jolla ei ole yhtään mitään tekemistä todellisuuden kanssa.
En tiedä pitäisikö itkeä vai nauraa. Oma vinkkini on: Pysykää kaukana siitä BS-lingosta nimeltä ChatGPT!
Kommentit (38)
Vierailija kirjoitti:
Vierailija kirjoitti:
no mikä oli se ongelma? mitä oikein piipität?
Lue se postaus.
Voi voi. Suomalaisen peruskoulun suurimpia ongelmia on juuri se, että peruskoulunsa päättäneistä yhä suurempi osa ei osaa lukea. Eikä ainakaan pysty ymmärtämään tavaamiensa virkkeiden asiasisältöä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Yritykset pääosin eivät tuherra jollain ChatGPT:llä vaan niillä on voimakkaampia malleja käytössä. Lisäksi tekoäly on muutakin kuin näitä chattibotteja.
Tietämättä mistään mitään tekoäly tietää silti enemmän kuin 99 % tavan tallaajista. Sehän siinä on hauskinta.
Saman tason tietoa se kuin selaisi hakukoneilla, saa vain yhdessä köntässä sen tiedon mikä sillä sattuu olemaan. Monissa asioissa toimiikin kuin wikipedia. Mutta jos ap nyt opetti sille tuon laiteasiansa, niin se olisi yhtä hyvin voinut olla väärää tietoa ja seuraavalle kysyjälle se toistaisi sen oikeana. Eli miten se faktan tarkistus toimii tekoälyssä?
Vierailija kirjoitti:
Vierailija kirjoitti:
Yritykset pääosin eivät tuherra jollain ChatGPT:llä vaan niillä on voimakkaampia malleja käytössä. Lisäksi tekoäly on muutakin kuin näitä chattibotteja.
Tietämättä mistään mitään tekoäly tietää silti enemmän kuin 99 % tavan tallaajista. Sehän siinä on hauskinta.
Saman tason tietoa se kuin selaisi hakukoneilla, saa vain yhdessä köntässä sen tiedon mikä sillä sattuu olemaan. Monissa asioissa toimiikin kuin wikipedia. Mutta jos ap nyt opetti sille tuon laiteasiansa, niin se olisi yhtä hyvin voinut olla väärää tietoa ja seuraavalle kysyjälle se toistaisi sen oikeana. Eli miten se faktan tarkistus toimii tekoälyssä?
No ainakin faktantarkistuksesta paljastui se, että ChatGPT:n tekoäly ei edes vaivautunut tai pystynyt keksimänsä mielikuvitusfirman nimeä googlettamaan. Jos se nimittäin vain olisi tehnyt Googlella yhden ainoan haun sillä keksimällään väärällä nimellä, heti olisi paljastunut, ettei sellaista tuotemerkkiä tai yritystä ole koskaan ollutkaan, kun Googlen hakutulosten määrä on tasan nolla. Täydellinen pohjanoteeraus siis validin informaation saamisen kannalta katsottuna.
Tyhmä -> tyhmempi -> ChatGPT
Sisältö jatkuu mainoksen alla
ChatGPT:n tieto on edelleenkin pintapuolista ja epäluotettavaa.
Tekoälyllä ei ole juuri mistään asiasta sellaista syvällistä expertiisiä, jonka saavuttaminen edellyttää vuosien kokemusta ja tiedonhankintaa aiheesta, ja jonka osaamisen vain ihminen voi käytännössä saavuttaa.
No mutta tekoälyn antama vastaus "elämään, maailmankaikkeuteen ja kaikkeen muuhun sellaiseenhan" on tunnetusti 42.
(Linnunradan käsikirja liftareille)
Sisältö jatkuu mainoksen alla
Riippuu ainakin osittain käytössä olevasta versiosta. Uudemmissa tuota mielistelyä ja olemattomien asioiden keksimistä on vähemmän. Mutta kuten koko ajan joka paikassa toistetaan: tarkista tiedot muualta.
ChatGPT on edelleen keskeneräinen. On se silti parempi kuin google. Joskus saa kirjautumattakin käyttöön sellaisen version, jolla on pääsy nettiin. Se on jo aika hyvä. Mutta on aihealueita, joista se ei ymmärrä mitään. Myös looginen ajattelu loistaa vielä poissaolollaan.
Uusimman version ongelma on, että se takertuu keskustelussa aiemmin mainittuihin asioihin. Sille pitää selkeästi sanoa, että nyt ei enää puhuta siitä. Toisaalta se pystyy nyt yhdistelemään enemmän asioita.
Ohjeistus on tärkeää, eli välillä ongelma on käyttäjässä. Sekin vaatii harjoittelua, että siinä tulee hyväksi.
Sisältö jatkuu mainoksen alla
No kun ei se tekoäly mitenkään "tiedä", että tunnistaako objektin vai ei sitä tekstiä tuottaessaan, vaan yksinkertaistetusti sanottuna laittaa sanan toisen sanan perään tietynlaisen tilastollisen todennäköisyyden perusteella.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Ongelma olet sinä, ei tekoäly.
Kaikki riippuu promptista. Jos et osaa niin et osaa.
Mistä -tun promptista?
ChatGPT:lle vain upattiin valokuva, ja pyydettiin tekoälyä kertomaan kuvan perusteella laitetiedot.
Kaikki tekoälyn antamat tiedot liittyen laitteen valmistajaan olivat kuitenkin täyttä satua.
Ts. tekoäly ensin lukee kuvasta laitteen nimen väärin kyseenalaistamatta lukemaansa. Sen jälkeen tekoäly (ilman edes minkäänlaista googlettamista, koska pelkästään google-haku tuolla firman nimellä olisi jo paljastanut, että sen nimistä firmaa ei ole koskaan Suomessa ollut, eikä sen nimisiä tuotteita ole koskaan ollut myynnissä missään) keksii omasta päästään, että (väärin luetulla) nimellä on mukamas valmistettu Suomessa tuotteita, ja että tuo suomalaisvalmistaja on
Ei tekoälyllä ole älyä, se on LLM eli kielimalli. Äly pitää olla sen käyttäjällä, joka pyytää lähteet ja tutustuu niihin tarkkaan ennen kuin tekee tai lausuu mitään asiasta.
Sisältö jatkuu mainoksen alla
Semmoista se on kun luottaa ennakoivaan tekstinsyöttöön :D LLM ennustaa ainoastaan seuraavaa sanaa ja lopputulos on mitä on - ei siellä ole mitään suurta älyä takana.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Yritykset pääosin eivät tuherra jollain ChatGPT:llä vaan niillä on voimakkaampia malleja käytössä. Lisäksi tekoäly on muutakin kuin näitä chattibotteja.
Tietämättä mistään mitään tekoäly tietää silti enemmän kuin 99 % tavan tallaajista. Sehän siinä on hauskinta.
Saman tason tietoa se kuin selaisi hakukoneilla, saa vain yhdessä köntässä sen tiedon mikä sillä sattuu olemaan. Monissa asioissa toimiikin kuin wikipedia. Mutta jos ap nyt opetti sille tuon laiteasiansa, niin se olisi yhtä hyvin voinut olla väärää tietoa ja seuraavalle kysyjälle se toistaisi sen oikeana. Eli miten se faktan tarkistus toimii tekoälyssä?
No ainakin faktantarkistuksesta paljastui se, että ChatGPT:n tekoäly ei edes vaivautunut tai pystynyt keksimänsä
Tekoäly hallusinoi. Ei tuo ole mikään uusi asia.
Sisältö jatkuu mainoksen alla
Olen mukana pienessä harrastusyhteisössä, johon kuuluu luovaa ilmaisua jossa olen innolla mukana. Kysyin huvikseni tekoälyltä, miksi olen paras tällläisen luovan ilmaisun tekijä. Tekoälyhän vastasi, ja sen argumentit luovuuteni puolesta tuntuivat osuvan minuun. No, kysyinpä saman täysin keksitystä ihmisestä, ja vastaus oli käytännössä identtinen, täynnä samoja geneerisiä kehuja.
Minä en ainakaan halua mielikuvituskaverin mielikuvitusmielipidettä.
Toivottavasti peruskouluun tulee pian AI literacy kursseja jotta apn kaltaisilta idiooteilta vältytään
Saman tason tietoa se kuin selaisi hakukoneilla, saa vain yhdessä köntässä sen tiedon mikä sillä sattuu olemaan. Monissa asioissa toimiikin kuin wikipedia. Mutta jos ap nyt opetti sille tuon laiteasiansa, niin se olisi yhtä hyvin voinut olla väärää tietoa ja seuraavalle kysyjälle se toistaisi sen oikeana. Eli miten se faktan tarkistus toimii tekoälyssä?
Ei ap pysty sitä opettamaan. Ei se toimi tuolla tavalla
"ChatGPT upgrade giving more harmful answers than previously, tests find"
https://www.theguardian.com/technology/2025/oct/14/chatgpt-upgrade-givi…
Tekoälyyn liittyy siis näköjään paljon muitakin, mm. eettisiä ongelmia, kuin se, että sen antamat vastaukset voivat todistettavasti olla täysin paikkansapitämätöntä (teko)mielikuvituksellista sepitettä, jolla ei ole mitään yhteyttä reaalimaailman kanssa.
Sellaisia asioita kuten...?