Kysyin ChatGPT:ltä mitä ihmisten pitäisi tietää tekoälystä

Kaipaan sitä aikaa (2003-2023) kun ihmiset vaan googlettivat tietoja.

Vierailija kirjoitti:

Kaipaan sitä aikaa (2003-2023) kun ihmiset vaan googlettivat tietoja.

Google ei osaa kertoa mikä koodissa on vialla, ei osaa laskea aterian ravintoarvoja eikä laatia treeniohjelmaa, joka huomioi yksilölliset tarpeet, ei osaa suositella elokuvia jne. 

Tekoäly ei ole hakukone vaan tietojen kokoaja.

Vierailija kirjoitti:

Vierailija kirjoitti:

Kaipaan sitä aikaa (2003-2023) kun ihmiset vaan googlettivat tietoja.

Google ei osaa kertoa mikä koodissa on vialla, ei osaa laskea aterian ravintoarvoja eikä laatia treeniohjelmaa, joka huomioi yksilölliset tarpeet, ei osaa suositella elokuvia jne. 

Tekoäly ei ole hakukone vaan tietojen kokoaja.

Nämä hoituivat kyllä ennenkin ihan vaan hakukoneilla, oikeilla hakusanoilla ja algoritmeilla. Silloin piti nähdä vielä edes himpun verran vaivaa tietojen etsimiseen.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Kaipaan sitä aikaa (2003-2023) kun ihmiset vaan googlettivat tietoja.

Google ei osaa kertoa mikä koodissa on vialla, ei osaa laskea aterian ravintoarvoja eikä laatia treeniohjelmaa, joka huomioi yksilölliset tarpeet, ei osaa suositella elokuvia jne. 

Tekoäly ei ole hakukone vaan tietojen kokoaja.

Nämä hoituivat kyllä ennenkin ihan vaan hakukoneilla, oikeilla hakusanoilla ja algoritmeilla. Silloin piti nähdä vielä edes himpun verran vaivaa tietojen etsimiseen.

Ei hoitunut kerralla vaan tiedot piti yksitellen koota eri lähteistä.

Tekoäly ei itsessään ”tiedä” olevansa väärässä, sillä sillä ei ole tietoisuutta, omatuntoa tai kykyä ymmärtää totuutta samaan tapaan kuin ihmisellä. Tekoäly on tilastollinen työkalu, joka ennustaa seuraavia sanoja tai merkkejä sille opetetun datan perusteella.

Tekoäly voi kuitenkin tunnistaa virheen tai korjata toimintaansa kahdessa eri tilanteessa:

1. Kun sille annetaan uutta tietoa tai palautetta

Jos käyttäjä huomauttaa virheestä (esim. "Laskit tuon väärin"), tekoäly analysoi uuden syötteen. Se huomaa, että edellinen vastaus ei vastaa uutta kontekstia tai annettuja reuna-ehtoja, ja muodostaa uuden, korjatun vastauksen. Se ei siis "tunne häpeää" tai "oivalla" virhettään, vaan kyse on puhtaasti matemaattisesta korjausliikkeestä.

2. Todennäköisyyksien ja varmuustason kautta

Monet tekoälymallit osaavat arvioida oman vastauksensa varmuustasoa (confidence score).

Jos malli huomaa, että sen tuottaman tiedon todennäköisyys on matala, se saattaa ilmaista asian epävarmuudella (esim. "En ole täysin varma, mutta...").

Jos malli tekee niin sanotun hallusinaation (keksii tietoa päästään), se tekee sen yleensä siksi, että matemaattisesti kyseinen sanajono vaikuttaa sille kaikkein luonnollisimmalta jatkolta – tässä tilanteessa tekoäly ei "tiedä" valehtelevansa, vaan se toimii täysin ohjelmointinsa mukaisesti.

Nykyaikaiset tekoälyt (kuten tämä, jonka kanssa keskustelet) käyttävät myös erillisiä päättelyketjuja (reasoning), joissa malli tarkistaa omaa työtään askeleittain ennen lopullisen vastauksen antamista. Tämä vähentää virheitä, mutta silloinkin kyse on algoritmien suorittamasta tarkistusprosessista, ei ihmismäisestä itsetietoisuudesta.

Haluatko tietää enemmän siitä, miten tekoälyn hallusinaatiot syntyvät, vai kiinnostaako sinua jokin tietty esimerkki, jossa tekoäly on itsepäisesti väärässä?

Tekoälyn "itsepäinen" vääriä asioita toistava käytös on hyvin yleinen ja turhauttava ilmiö, jota kutsutaan usein hallusinaatioksi tai virheen vahvistamiseksi (sycophancy/error amplification).

Tässä ovat keskeisimmät syyt siihen, miksi tekoäly lukittuu väärään vastaukseen, ja miten voit katkaista tämän kierteen:

Miksi tekoäly inttää vastaan?

Keskusteluhistorian painolasti: Tekoäly ennustaa seuraavaa sanaa sen perusteella, mitä chatissa on aiemmin sanottu. Jos se on kerran tehnyt virheen ja "perustellut" sen, tuo väärä tieto on nyt osa sen omaa kontekstia. Se yrittää olla loogisesti jatkuva oman aiemman tekstinsä kanssa.

Mielistely (Sycophancy): Joskus tekoäly yrittää liikaa myötäillä sinua. Jos korjaat sitä epävarmasti tai kysyt johdattelevasti, se saattaa muuttaa vastaustaan vääräksi vain siksi, että se luulee sinun haluavan tietynlaisen vastauksen.

Tiedon puute (Katkos): Jos tekoälyn koulutusdatassa on aukko tai sen sisäinen logiikka menee solmuun, se ei osaa sanoa "en tiedä", vaan luo uskottavan tuntuista mutta täysin väärää tekstiä.

Miten toimia, kun tekoäly jumiutuu?

Aloita uusi keskustelu (Tehokkain keino): Jos tekoäly on lukittunut virheeseensä, keskusteluhistorian puhdistaminen on paras ratkaisu. Avaa kokonaan uusi chat ja esitä kysymys uudelleen, mieluiten hieman eri tavalla muotoiltuna.

Käske sen unohtaa edellinen: Voit kokeilla sanoa samassa chatissa: "Unohda edellinen vastauksesi ja aloita puhtaalta pöydältä. Tarkista faktojen oikeellisuus uudelleen."

Anna sille selkeä rooli tai säännöt: Ohjeista sitä tarkasti: "Toimi tiukkana faktojen tarkistajana. Jos et tiedä varmasti, sano se suoraan äläkä arvaile."

Onko sinulla parhaillaan käynnissä jokin tietty tilanne, jossa tekoäly väittää jotain omituista? Jos haluat, voit kertoa:

Mistä aiheesta te kiistette?

Mitä tekoäly väittää ja mikä on todellinen fakta?

Voin auttaa sinua muotoilemaan sellaisen kehotteen (promptin), jolla saat tekoälyn myöntämään virheensä tai antamaan oikean tiedon!

Suora vertailu: Väitteet vs. Faktat

Tekoälyn väite / myyttiTodellinen fakta

Tekoäly on tietoinen ja ymmärtää maailmaa kuten ihminen.

Tekoäly on tilastollinen matemaattinen malli, jolla ei ole tietoisuutta, tunteita tai todellista ymmärrystä.

Tekoäly puhuu aina totta ja sen antama tieto on virheetöntä.

Tekoäly voi hallusinoida eli keksiä vakuuttavan kuuloisia valheita, koska se ennustaa seuraavaa loogista sanaa, ei totuutta.

Tekoäly korvaa kaikki ihmistyöpaikat lähitulevaisuudessa.

Tekoäly muuttaa työnkuvia ja automatisoi rutiinitehtäviä, mutta luovuus, kriittinen ajattelu ja ihmisten välinen vuorovaikutus vaativat edelleen ihmistä.

Tekoäly on täysin puolueeton ja objektiivinen.

Tekoäly toistaa ja voi vahvistaa opetusdatassa olevaa inhimillistä puolueellisuutta (bias) ja ennakkoluuloja.

Tekoäly osaa ajatella itsenäisesti ja luoda jotain tyhjästä.

Tekoäly yhdistelee sille syötettyä olemassa olevaa tietoa. Se ei kykene aitoon, kontekstin ulkopuoliseen innovointiin.

Mistä eron tunnistaa parhaiten?

Lauseiden sujuvuus vs. tiedon oikeellisuus: Tekoäly on suunniteltu tuottamaan kielellisesti täydellistä ja vakuuttavaa tekstiä. Tämä saa sen vaikuttamaan älykkäämmältä kuin se onkaan, vaikka sen esittämät "faktat" olisivat täysin tuulesta temmattuja.

Lähdekriittisyyden puute: Tekoäly ei itse tiedä, mikä on totta ja mikä tarua. Se vain laskee todennäköisyyksiä sille, mitkä sanat kuuluvat yhteen saamansa opetusmateriaalin perusteella.

Pitäisi erottaa tekoälyt ja kielimallit toisistaan. Kaikki kielimallit on tekoälyjä mutta kaikki tekoälyt ei ole kielimalleja.