ChatGPT on lööperiä lasketteleva ääliö! M.O.T.

ChatGPT:hen on lisätty äskettäin ominaisuus, jossa tuolle tekoälysivulle (chatgpt.com) voi nyt upata esim. kuvan tai asiakirjan, joihin liittyen voi sitten kysyä asioita tekoälyltä. Mutta mutta...

Testasin äsken tuota tekoälyn uutta ominaisuutta ottamalla valokuvan eräästä N-liiton hajoamisen jälkeisinä aikoina Venäjällä eräässä nyrkkipajatyylisessä pikkufirmassa valmistetusta sähkölaitteesta ja uppaamalla kuvan ChatGPT:lle. Laitteen etupaneelissa on laitteen länsimaistyyppinen geneerinen nimi selvästi näkyvissä, kuitenkin siten, että firman logo ja nimiteksti on sijoiteltu päällekkäin niin, että käytännössä vain ihminen tajuaa mikä se nimi on, koska se logo täysin sekoittuu nimitekstiin taiteellisen ratkaisunsa ansiosta. Ts. logo sattumalta toimii käytännössä kuin ns. CAPTCHA (verkkosivustoilla käytettävä turvamekanismi, joka erottaa ihmiset ja automaattiset ohjelmat (botit) toisistaan). 

Ja yllätys, yllätys, tekoäly joka ei siis pystynyt ratkaisemaan laitteen etupaneelin kuvasta tuota eräänlaista captcha-pulmaa, tulkitsi saamastaan valokuvasta mm. tuotteen tai sen valmistajan nimen täysin väärin ja ryhtyi välittömästi antamaan täysin paikkansapitämätöntä tietoa kuvassa olevasta laitteesta. Eikä siinä olisi ollut vielä sinänsä mitään ihmeellistä, mutta ChatGPT, sen sijaan että olisi tunnustanut, että ei pysty edes tunnistamaan tai lukemaan laitten etupaneelista tuotteen nimeä ja logoa lainkaan, eikä niin ollen pysty tietämään laitteesta kertakaikkiaan yhtään mitään, keksikin laitteelle täysin mielikuvituksellisen SUOMALAISEN valmistajan ja etymologian, ja väitti että laite on mukamas valmistettu Suomessa 80-90-lukujen taitteessa, väittäen myös tuotteen valmistajan olleen tunnettu äänentoistoalan laitteistaan.

Kerroin sitten ChatGPT:lle, että en ole koskaan tuon nimistä yritystä kuullut Suomessa olevankaan, eikä esim. Googlen haulla löydy tuon nimisestä yrityksestä yhtään mitään hakutuloksia tai tietoa. Kysyin, että millä paikkakunnalla tuo firma on mukamas vaikuttanut jne., ja lisäksi kerroin, että hupaisaa kyllä, tiedän varmuudella laitteen olevan IVY:n aikana ilmeisesti Pietarin seudulla valmistetun, ja että mielestäni vaikuttaa siltä että ChatGPT lasketteli minulle täyttä pajunköyttä täysin pokkana, vaikka mitään käryä itse tuotteesta ei sillä ollut. 

No, tekoäly joutuikin sitten tunnustamaan puhuneensa täyttä soopaa sanoen mm. että "Pahoittelen virheitäni ja väärää tietoa jonka annoin aiemmin." jne.

Joten ChatGPT on (edelleenkin) jotakuinkin kuin joku valehteleva, "tiedoillaan" rehvasteleva kapakkaurpo. Se ei todistettavasti siis pysty edelleenkään tunnustamaan, että ei todellisuudessa tiedä jostain asiasta yhtään mitään, vaan mieluummin alkaa päteä ja keksiä omasta "päästään" täysin mielikuvituksellisia satuja ja tarinoita joilla ei ole mitään tekemistä todellisuuden kanssa.

Tuo on todella outoa ja samalla huolestuttavaa, jos ihmiset ja jopa organisaatiot luottavat tekoälyn suoltamaan paikkansapitämättömään dataan (kuten on jo käynytkin mm. Norjassa), vaikka se on täysin hihasta ravistettua lööperiä, jolla ei ole yhtään mitään tekemistä todellisuuden kanssa. 

En tiedä pitäisikö itkeä vai nauraa. Oma vinkkini on: Pysykää kaukana siitä BS-lingosta nimeltä ChatGPT!