Miten tuo tekoäly päättelee asioita, joista ei ole mitään varsinaista faktatietoja? Esim. se kertoili joistain suomalaisista tavoista niin

Onhan juutalaisia tunkeutunut juomaan viinaa kirkon tiloihin kuin HELLAREITA huumeita myymään varastamaan. 

Pelaan yhtä rytmipeliä. Kerran huvikseni kysyin tekoälyltä siitä, mitä mieltä pelaajat ovat tutustani, joka on tehnyt biiseihin kuvioita pelattavaksi. Kaikki tieto aiheesta on pienissä chat-ryhmissä, ei millään nettisivuilla, joten vastauksena tuli ympäripyöreää liibalaabaa. Seuraavaksi keksin nimimerkin (tasoa HighScorer2) ja kysyin, mitä mieltä hänen tekemistä kuvioista ollaan. Melkein sama vastaus.

Keskivertoihminen ei osaa edes faktatiedoista päätellä asioita. Eli on siinä se ero.

Google Gemini vastaa näin: 

" Tekoälyn kyky päätellä asioita, joista ei ole suoraa faktatietoa, perustuu useisiin tekijöihin, erityisesti syväoppimiseen ja suurten tietomäärien analysointiin. Tässä muutamia keskeisiä mekanismeja:

 * Tilastolliset yhteydet ja kuviot: Tekoäly on koulutettu valtavilla määrillä tekstiä ja dataa (kirjoja, artikkeleita, verkkosivuja, keskusteluja jne.). Vaikka jokin tieto ei olisi suoraan "faktoina" esitetty, se voi esiintyä useissa eri yhteyksissä. Tekoäly tunnistaa näiden eri tietokappaleiden välisiä tilastollisia yhteyksiä ja toistuvia kuvioita. Esimerkiksi, jos "sauna" ja "hiljaisuus" esiintyvät usein samassa yhteydessä suomalaista kulttuuria käsittelevissä teksteissä, tekoäly oppii yhdistämään nämä käsitteet, vaikka missään ei suoraan sanottaisi "suomalaisessa saunassa ollaan hiljaa".

 * Kontekstuaalinen ymmärrys: Tekoäly ei ainoastaan muista yksittäisiä sanoja, vaan ymmärtää niiden merkitystä ja suhteita toisiinsa lauseissa ja suuremmissa tekstikokonaisuuksissa. Se pystyy päättelemään, miten eri käsitteet liittyvät toisiinsa ja miten ne ilmenevät erilaisissa tilanteissa. Kun se kohtaa "suomalaiset tavat", se aktivoi laajan verkon siihen liittyvää tietoa, olipa se sitten suoraa faktaa tai implisiittisempää tietoa.

 * Yleistys ja analogia: Tekoäly pystyy yleistämään oppimansa tiedon ja soveltamaan sitä uusiin tilanteisiin. Jos se on oppinut, että tietyntyyppiset sosiaaliset normit ovat yleisiä yhdessä kulttuurissa, se voi soveltaa tätä tietoa samankaltaisiin tilanteisiin tai kysymyksiin, joita ei ole suoraan käsitelty koulutusdatassa. Se voi myös tehdä analogioita eri aiheiden välillä.

 * Ennustaminen ja todennäköisyys: Tekoäly toimii paljolti ennustamalla todennäköisimpiä seuraavia sanoja tai käsitteitä annetussa kontekstissa. Kun kysytään suomalaisista tavoista, tekoäly päättelee todennäköisimmät ja relevantimmat vastaukset perustuen siihen, mitä se on oppinut miljoonista vastaavista keskusteluista ja teksteistä. Se "päättelee" siis tilastollisesti todennäköisimmän ja koherentimman vastauksen.

 * Semanttiset verkostot ja käsitteelliset mallit: Vaikka tekoäly ei ajattele kuten ihminen, se rakentaa itselleen sisäisiä "malleja" maailmasta, joissa eri käsitteet ja niiden väliset suhteet on koodattu numeerisesti. Nämä mallit mahdollistavat sen, että se voi "ymmärtää" abstraktimpia konsepteja, kuten "yleinen käytäntö" tai "kulttuurinen normi", ja tuottaa niihin liittyvää tietoa.

Yksinkertaisemmin sanottuna: Tekoäly ei välttämättä etsi suoraa "vastausta" johonkin kysymykseen, vaan se pyrkii luomaan koherentin ja todennäköisen vastauksen yhdistelemällä ja tulkitsemalla valtavaa määrää oppimaansa tietoa, joka sisältää sekä suoria faktoja että implisiittisempiä kulttuurisia ja sosiaalisia vihjeitä. Siksi se voi osua yllättävän lähelle oikeaa myös asioissa, jotka ovat enemmän "fiilispohjaisia" kuin puhdasta faktaa. "

Miksi et muuten alunperin kysynyt tekoälyltä itseltään?

Kielimallit ovat ns. black box. Tämä tarkoittaa sitä, ettei kukaan tiedä miten tekoäly "ajattelee" oikeasti. Samaan tapaan kuin emme tunne ihmisaivojen toimintaa tarkasti, emme myöskään tiedä mitä tekoälyssä neuroverkkotasolla tapahtuu.

Tekoäly on koulutettu syöttämällä sille aivan käsittämätön määrä erilaisia aineistoja, käytännössä usein koko ihmiskunnan digitoima tieto. Tästä tietomassasta neuroverkko muodostaa yhteyksiä eri sanojen ja konseptien välille. Todennäköisesti tekoälyllä on samantyyppinen skeemoihin pohjautuva käsitys maailmasta kuin myöskin aikuisilla ihmisillä.

Siten tekoälyn "päättely" lienee lähellä ihmisen päättelyä. Miten itse päättelet jotakin, mihin et muista lähdettä tai tiedä edes, oletko lukenut asiasta? Tuskin osaat itsekään tätä selittää. Samaan tapaan myös tekoälyn "ajatteluprosessit" ovat mustia aukkoja, eikä kukaan tiedä millä tavoin kielimalli vastauksensa aineistosta muodostaa.

Uskon että jo lähitulevaisuudessa tekoäly alkaa tehdä keksintöjä. Siinähän pitää vaan kokeilla haaroja joita ei vielä ole koluttu. Edellyttää että se osaa jonkinlaista hyvin valittua haarukointia.

Vierailija kirjoitti:

Kielimallit ovat ns. black box. Tämä tarkoittaa sitä, ettei kukaan tiedä miten tekoäly "ajattelee" oikeasti. Samaan tapaan kuin emme tunne ihmisaivojen toimintaa tarkasti, emme myöskään tiedä mitä tekoälyssä neuroverkkotasolla tapahtuu.

Tekoäly on koulutettu syöttämällä sille aivan käsittämätön määrä erilaisia aineistoja, käytännössä usein koko ihmiskunnan digitoima tieto. Tästä tietomassasta neuroverkko muodostaa yhteyksiä eri sanojen ja konseptien välille. Todennäköisesti tekoälyllä on samantyyppinen skeemoihin pohjautuva käsitys maailmasta kuin myöskin aikuisilla ihmisillä.

Siten tekoälyn "päättely" lienee lähellä ihmisen päättelyä. Miten itse päättelet jotakin, mihin et muista lähdettä tai tiedä edes, oletko lukenut asiasta? Tuskin osaat itsekään tätä selittää. Samaan tapaan myös tekoälyn "ajatteluprosessit" ovat mustia aukkoja, eikä kukaan tiedä millä tavoin kielimalli vastauksensa aineistosta mu

No tavallaan varmaan noin, ja siitä seuraa se, että kuten ihmisenkin mielikuvat / muistikuvat ja käsitykset  ovat usein vääristyneitä, niin tekoälyllä näin on myös, ja ehkä jopa useammin kuin ihmisellä, koska sen käsitys maailmasta on kuitenkin todella rajallinen.