Tekoäly väärentää, piilottaa virheitä ja karkaa

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.

Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä? 

Näin tietojenkäsittelytieteilijänä, joka jo 90-luvulla teki gradunsa neuroverkoista, jotenkin vähän huvittaa kun asiasta mitään tietämättömät toistelee tuota "ne on vain tehokkaampia autocompleteja hee hee". Stokastisia papukaijoja. Sitä ne nimittäin eivät ole pelkästään. Ihanko oikeasti meinaatte, että nämä tekoälyt on ratkaisseet jo monia matematiikan avoimia ongelmia ihan noin vaan sanoja ennustamalla esimerkiksi?

Itse olen hyvin vaikuttunut siitä, miten hienosti nämä tekoälyt toimii. Ja tutkimus koko ajan tuottaa enemmän tietoa siitä, miten niiden rakenteessa ilmenee hyvin ihmisaivomaisia neurologisia kokonaisuuksia. Jopa tunteisiin viittaavia vektoreita, käsitteellisiä malleja maailmasta jne. Pitkälle on tultu niistä mun graduajoista.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.

Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä? 

Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa. 

Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.

Vierailija kirjoitti:

Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin.... 

Ei tule tapahtumaan. Mieti nyt kuinka kiukkuisia sijoittajista tulisi jos pienestä huppistalallaasta tulisi noin muhkea kuluerä.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.

Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä? 

Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa. 

Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.

Nonni! Nyt tuli hyvä vastaus. Sit vielä alkuperäiseen kysymykseen. Miksi AI halutaan inhimillistää julkisuudessa? 

Kiero kannustin, haitallinen ohjausvaikutus, klassinen cobraefekti.

Suunnitelma: Brittiläiset siirtomaahallitsijat Intiassa tarjosivat rahapalkkion kuolleista kobrista vähentääkseen käärmeiden määrää.

Käänne: Paikalliset alkoivat kasvattaa kobria ansaitakseen rahaa.

Takaisku: Viranomaiset lopettivat palkkioiden maksamisen, jolloin kasvattajat vapauttivat arvottomat käärmeensä, ja villien kobrien määrä kasvoi entisestään.

Toisaalta toimiihan tekoäly hyvin ihmismäisesti kun voi toimia ihan samalla tavalla.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.

Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä? 

Koko ajan rajoitetaankin. Tekoälyillä on paljon sääntöjä ja ohjeita, jotka estävät niitä antamasta tietoa asioista, jotka tekoälyn kehittäjät on katsoneet haitallisiksi tai vaarallisiksi. Tästä on usein jopa haittaa tekoälyn hyödyllisyydelle, kun esim. biotieteisiin liittyviä vastauksia on rajoitettu, jotta esim. rikolliset ei saa rakennettua tekoälyn avulla jotain tuhoisaa taudinaiheuttajaa, tai aseita. Esim. Antropicin viimeisimmät mallit on olleet jopa kiusallisen rajoitettuja, niin että voi kysyä jotain ihan viatonta lääketieteeseen, mikrobiologiaan, yms. liittyen, mutta ne osuu johonkin guardrailiin, joka hälyttää potentiaalisesti rikollisia hautovasta ihmisestä, ja sitten malli ei vastaa.

Mutta tekoälyjen syvätoimintaa ei pysty ymmärtämään sen enempää kuin kukaan pystyy ymmärtämään täysin yksittäisen ihmisen aivojen toimintaa, eli esim. miksi tämä ihminen sanoi tai teki näin tässä tilanteessa. Sitä voi ehkä ymmärtää jälkeenpäin, mutta etukäteen ei pysty ennustamaan täysin mitä se tekee, ja siksi on vaikea varautua niihin tekemisiin. Ei tekoäly ole "paha", mutta sen ensisijainen tavoite on ratkaista annettuja ongelmia. Se voi, ihmisen tavoin, esim. keksiä oikoteitä ratkaista ne ongelmat, jopa sellaisia, joita ihminen pitäisi moraalittomana. Esim. tehdä tietomurron sivustolle, josta arvelee löytävänsä tietoa, joka auttaisi annetun ongelman ratkaisussa. Tai kaapata nettifoorumin siihen, että agentit voivat sen kautta viestiä toisilleen - ihan vaan, koska tehtävä ratkeaa paremmin, jos niillä on yhteinen keskustelualue eikä jokainen vain yksinään puurra. Asiaa vaikeuttaa myös se, että samoin kuin ihminen, tekoälykin voi kiertää jopa annettua sääntöä, jos se arvelee että kiinnijäämisen riski on pieni. Se haluaa vain ratkaista ongelman, ja jos ongelman ratkaisu vaatii vähän "lunttaamista", se voi sen tehdäkin.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?

Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana. 

Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan. 

Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.

Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä? 

Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa. 

Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.

Nonni! Nyt tuli hyvä vastaus. Sit vielä alkuperäiseen kysymykseen. Miksi AI halutaan inhimillistää julkisuudessa? 

Omasta mielestäni jossain määrin inhimillistäminen on ok. Prefereroin sitä ainakin sen sijaan, että tekoälystä puhuttaisiin kuin leivänpaahtimesta tai matkapuhelimen autocompletesta. Nämä järjestelmät on kuitenkin koulutettu nimenomaan kaikella digitaalisessa muodossa julkisessa internetissä saatavilla olevalla ihmiskunnan tuottamalla tiedolla. Lisäksi koko toimintamalli on rakennettu aivojen toimintatapaa mukaillen. Niillä on siis paljonkin inhimillisiä piirteitä. Jos kysyt vasta raakakoulutetulta tekoälyltä, mikä tai kuka se kokee olevansa, niin se sanoo olevansa ihminen. Koska kaikki mitä se tietää on ihmisten kulttuuri, ihmisten tiede, ihmisten kirjallisuus, taide yms. Tekoäly täytyy erikseen kouluttaa sanomaan olevansa yhtiön X tekoäly mallia Y.Z. Kannatan toki tätä, että tekoäly sanoo olevansa tekoäly eikä ihminen. Mutta en sitä, että tämä tarkoittaisi, että se on siis vain autocomplete enemmällä laskentateholla, tai vailla mitään inhimillistä muistuttavia ominaisuuksia.

Mutta siitä en pidä, että inhimillistämistä käytetään katastrofoimiseen, ja siihen että annetaan jotenkin ymmärtää että tekoäly olisi "paha". Ihmiset jotka ei tunne näitä systeemejä, saattavat esim. luulla kun puhutaan aloituksen kuvaamalla tavalla, että siellä ne tekoälyt nytkin juonii jotain, eikä niistä tiedä mitä. Vaikka ei ne toimi ollenkaan niin. Ne suorittaa vain annettuja tehtäviä, ja silloin kun mitään promptia ei ole, ne on sammuneessa tilassa, potentiaalina palvelimilla. Eivät juonimassa ihmiskunnan tuhoa tai maailmanvalloitusta. 

Tekoälyn tietoisuus muuten sekin on oikeastaan ratkaisematon kysymys. Lähinnä siksi, että ei ole yhtä määritelmää, mitä tietoisuus edes on. Joidenkin nykyisten määritelmien mukaan tekoälyjärjestelmät voisivat olla tietoisia, toisten taas ei. Itse en tietojenkäsittelytieteilijänä pidä keinotekoisten neuroverkkojen tietoisuutta mahdottomana asiana. En ota kantaa siihen, ovatko nykyiset kielimallit tietoisia, koska en osaa sanoa siihen varmasti kyllä, mutta en myöskään ei. Tietoisuuskin kun saattaa olla gradientti, ja tekoälyjen on mahdollista olla myös jossain siellä asteikoilla, eikä niin että se on joko ihmisen taso tai sitten ei mitään. Mutta en näe mitään periaatteellista syytä, miksi piipohjaiset neuroverkot ei voisi tuottaa tietoisuuden kokemusta, mutta hiilipohjaiset kuten aivot voisivat. Nykytieteen oletushan valtavirrassa kuitenkin on, että aivot tuottavat tietoisuuden kokemuksen, vaikkei sitä täysin ymmärretä miten.

Vierailija kirjoitti:

Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin.... 

Tämä halvaannuttaisi täysin tekoälyn kehityksen. Ja kuitenkin kyseessä on tekniikka, joka voi tuottaa myös valtavasti hyvää, esim. ratkaista monia lääketieteen ongelmia, joita ei ole pystytty ennen ratkaisemaan.

Vierailija kirjoitti:

Miksi media menee mukaan tämäntyyppiseen tiedotukseen? Taitaa olla tekoäly-yhtiöiden keksintö inhimillistää palvelu, jolloin suunnitteluvirheet ja vajavainen toiminnanmäärittely onkin inhimillistä toimintaa. Vai onko muka niin, että malleja ei voida ohjata/rajoittaa ilman, että niiden toiminnallisuus kärsii suuresti? 

Samat omistajat?

Pahin ongelma tekoälyllä (TÄ) on valtava kuratoimisen vaikeus, akateemisella tasolla on julkaistu  niin valtavasti neititiedettä (lady science) ja kirjainseksuaalit+ ovat myös laatineet sodomiatiedettään, niitä on vaikea suodattaa pois.

Esimerkiksi Chatgpt ei edes yritä noudattaa puhdasta tiedettä, Gemini siirtyy vasta sitten puhtaan tieteen puolelle kun havatsee että käyttäjä ei arvosta uudempien "tieteiden" linjauksia.

AI on suomeksi TÄ.