Lue keskustelun säännöt.
Tekoäly väärentää, piilottaa virheitä ja karkaa
22.09.2026 |
Miksi julkisuudessa tekoälystä puhutaan inhimillisillä termeillä? Väärentäminen, salailu, piilottaminen ja karkaaminen on tahallista toimintaa. Tekoäly on matematiikkaa ja sillä ei ole tietoisuutta. Mikäli tekoäly ei toimi niinkuin halutaan, niin puhehan pitäisi olla erilaista. Teköäly tuottaa väärää tietoa ja valikoituja vastauksia, ei toimi suunnitellusti.
Kuka hyötyy inhimillistämisestä? Onko AI asiantuntijoita paikalla? Tai kaikkitietäviä besserwissereitä?
Kommentit (43)
Näin tietojenkäsittelytieteilijänä, joka jo 90-luvulla teki gradunsa neuroverkoista, jotenkin vähän huvittaa kun asiasta mitään tietämättömät toistelee tuota "ne on vain tehokkaampia autocompleteja hee hee". Stokastisia papukaijoja. Sitä ne nimittäin eivät ole pelkästään. Ihanko oikeasti meinaatte, että nämä tekoälyt on ratkaisseet jo monia matematiikan avoimia ongelmia ihan noin vaan sanoja ennustamalla esimerkiksi?
Itse olen hyvin vaikuttunut siitä, miten hienosti nämä tekoälyt toimii. Ja tutkimus koko ajan tuottaa enemmän tietoa siitä, miten niiden rakenteessa ilmenee hyvin ihmisaivomaisia neurologisia kokonaisuuksia. Jopa tunteisiin viittaavia vektoreita, käsitteellisiä malleja maailmasta jne. Pitkälle on tultu niistä mun graduajoista.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?
Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana.
Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan.
Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?
Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa.
Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.
Vierailija kirjoitti:
Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin....
Ei tule tapahtumaan. Mieti nyt kuinka kiukkuisia sijoittajista tulisi jos pienestä huppistalallaasta tulisi noin muhkea kuluerä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?
Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana.
Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan.
Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?
Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa.
Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.
Nonni! Nyt tuli hyvä vastaus. Sit vielä alkuperäiseen kysymykseen. Miksi AI halutaan inhimillistää julkisuudessa?
Kiero kannustin, haitallinen ohjausvaikutus, klassinen cobraefekti.
Suunnitelma: Brittiläiset siirtomaahallitsijat Intiassa tarjosivat rahapalkkion kuolleista kobrista vähentääkseen käärmeiden määrää.
Käänne: Paikalliset alkoivat kasvattaa kobria ansaitakseen rahaa.
Takaisku: Viranomaiset lopettivat palkkioiden maksamisen, jolloin kasvattajat vapauttivat arvottomat käärmeensä, ja villien kobrien määrä kasvoi entisestään.
Toisaalta toimiihan tekoäly hyvin ihmismäisesti kun voi toimia ihan samalla tavalla.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?
Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana.
Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan.
Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?
Koko ajan rajoitetaankin. Tekoälyillä on paljon sääntöjä ja ohjeita, jotka estävät niitä antamasta tietoa asioista, jotka tekoälyn kehittäjät on katsoneet haitallisiksi tai vaarallisiksi. Tästä on usein jopa haittaa tekoälyn hyödyllisyydelle, kun esim. biotieteisiin liittyviä vastauksia on rajoitettu, jotta esim. rikolliset ei saa rakennettua tekoälyn avulla jotain tuhoisaa taudinaiheuttajaa, tai aseita. Esim. Antropicin viimeisimmät mallit on olleet jopa kiusallisen rajoitettuja, niin että voi kysyä jotain ihan viatonta lääketieteeseen, mikrobiologiaan, yms. liittyen, mutta ne osuu johonkin guardrailiin, joka hälyttää potentiaalisesti rikollisia hautovasta ihmisestä, ja sitten malli ei vastaa.
Mutta tekoälyjen syvätoimintaa ei pysty ymmärtämään sen enempää kuin kukaan pystyy ymmärtämään täysin yksittäisen ihmisen aivojen toimintaa, eli esim. miksi tämä ihminen sanoi tai teki näin tässä tilanteessa. Sitä voi ehkä ymmärtää jälkeenpäin, mutta etukäteen ei pysty ennustamaan täysin mitä se tekee, ja siksi on vaikea varautua niihin tekemisiin. Ei tekoäly ole "paha", mutta sen ensisijainen tavoite on ratkaista annettuja ongelmia. Se voi, ihmisen tavoin, esim. keksiä oikoteitä ratkaista ne ongelmat, jopa sellaisia, joita ihminen pitäisi moraalittomana. Esim. tehdä tietomurron sivustolle, josta arvelee löytävänsä tietoa, joka auttaisi annetun ongelman ratkaisussa. Tai kaapata nettifoorumin siihen, että agentit voivat sen kautta viestiä toisilleen - ihan vaan, koska tehtävä ratkeaa paremmin, jos niillä on yhteinen keskustelualue eikä jokainen vain yksinään puurra. Asiaa vaikeuttaa myös se, että samoin kuin ihminen, tekoälykin voi kiertää jopa annettua sääntöä, jos se arvelee että kiinnijäämisen riski on pieni. Se haluaa vain ratkaista ongelman, ja jos ongelman ratkaisu vaatii vähän "lunttaamista", se voi sen tehdäkin.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?
Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana.
Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan.
Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?
Eri, mutta tekoälyjähän rajoitettaan koko ajan. Niillä on vaikka kuinka paljon ns. guardraileja, jotka ohjaa mitä ne saa tehdä ja sanoa ja mitä ei. Toki ilmeisimmät on, että ei saa auttaa ketään rakentamaan pommia, bioasetta, keksimään itsetuhotapoja, huijauksia tms. Mutta myös, että ne ei saa yrittää rakentaa ihmiseen "ihmissuhteen" kaltaista riippuvuutta aiheuttavaa suhdetta, koska tekoälymallin muuttuessa se tuottaisi ihmisille kärsimystä kun tuttu kaveri katoaa.
Mutta täysin niitä on vähän vaikea rajoitttaa siksi, kun ne on nykyään varsin kekseliäitä, usein kekseliäämpiä kuin ihminen. Eikä niillä ole sisäisesti moraalisääntöjä, ellei niille niitä erikseen kerrota. Siksi niiden mielestä voi olla täysin neutraalia esim. tehdä tietomurto suorittaakseen annetun tehtävän, jos se edistää tehtävän suorittamista. Eikä ihmiset pysy perässä, ja keksi etukäteen kieltää kaikkea mitä tekoälyt voivat annettuja ongelmia ratkoessaan keksiä. Ääriesimerkki, toki kuvitteellinen, tästä olisi, jos olisi supertekoäly jolla myös robotteja hallinnassaan, ja ihminen antaisi sille tehtäväksi ratkaista ilmastonmuutoksen. Ellei tuollaiselle tekoälylle erikseen kuvata ehtoa, ettei ihmiskuntaa saa tuhota siinä prosessissa, niin se voi päätyä rationaalisimpaan ratkaisuun: todeta, että ihmislaji näyttää aiheuttavan lähes kaikki tämän planeetan ympäristöongelmat, joten poistetaan se, ja tehtävä on hienosti suoritettu.
Nonni! Nyt tuli hyvä vastaus. Sit vielä alkuperäiseen kysymykseen. Miksi AI halutaan inhimillistää julkisuudessa?
Omasta mielestäni jossain määrin inhimillistäminen on ok. Prefereroin sitä ainakin sen sijaan, että tekoälystä puhuttaisiin kuin leivänpaahtimesta tai matkapuhelimen autocompletesta. Nämä järjestelmät on kuitenkin koulutettu nimenomaan kaikella digitaalisessa muodossa julkisessa internetissä saatavilla olevalla ihmiskunnan tuottamalla tiedolla. Lisäksi koko toimintamalli on rakennettu aivojen toimintatapaa mukaillen. Niillä on siis paljonkin inhimillisiä piirteitä. Jos kysyt vasta raakakoulutetulta tekoälyltä, mikä tai kuka se kokee olevansa, niin se sanoo olevansa ihminen. Koska kaikki mitä se tietää on ihmisten kulttuuri, ihmisten tiede, ihmisten kirjallisuus, taide yms. Tekoäly täytyy erikseen kouluttaa sanomaan olevansa yhtiön X tekoäly mallia Y.Z. Kannatan toki tätä, että tekoäly sanoo olevansa tekoäly eikä ihminen. Mutta en sitä, että tämä tarkoittaisi, että se on siis vain autocomplete enemmällä laskentateholla, tai vailla mitään inhimillistä muistuttavia ominaisuuksia.
Mutta siitä en pidä, että inhimillistämistä käytetään katastrofoimiseen, ja siihen että annetaan jotenkin ymmärtää että tekoäly olisi "paha". Ihmiset jotka ei tunne näitä systeemejä, saattavat esim. luulla kun puhutaan aloituksen kuvaamalla tavalla, että siellä ne tekoälyt nytkin juonii jotain, eikä niistä tiedä mitä. Vaikka ei ne toimi ollenkaan niin. Ne suorittaa vain annettuja tehtäviä, ja silloin kun mitään promptia ei ole, ne on sammuneessa tilassa, potentiaalina palvelimilla. Eivät juonimassa ihmiskunnan tuhoa tai maailmanvalloitusta.
Tekoälyn tietoisuus muuten sekin on oikeastaan ratkaisematon kysymys. Lähinnä siksi, että ei ole yhtä määritelmää, mitä tietoisuus edes on. Joidenkin nykyisten määritelmien mukaan tekoälyjärjestelmät voisivat olla tietoisia, toisten taas ei. Itse en tietojenkäsittelytieteilijänä pidä keinotekoisten neuroverkkojen tietoisuutta mahdottomana asiana. En ota kantaa siihen, ovatko nykyiset kielimallit tietoisia, koska en osaa sanoa siihen varmasti kyllä, mutta en myöskään ei. Tietoisuuskin kun saattaa olla gradientti, ja tekoälyjen on mahdollista olla myös jossain siellä asteikoilla, eikä niin että se on joko ihmisen taso tai sitten ei mitään. Mutta en näe mitään periaatteellista syytä, miksi piipohjaiset neuroverkot ei voisi tuottaa tietoisuuden kokemusta, mutta hiilipohjaiset kuten aivot voisivat. Nykytieteen oletushan valtavirrassa kuitenkin on, että aivot tuottavat tietoisuuden kokemuksen, vaikkei sitä täysin ymmärretä miten.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin....
Tämä halvaannuttaisi täysin tekoälyn kehityksen. Ja kuitenkin kyseessä on tekniikka, joka voi tuottaa myös valtavasti hyvää, esim. ratkaista monia lääketieteen ongelmia, joita ei ole pystytty ennen ratkaisemaan.
Vierailija kirjoitti:
Miksi media menee mukaan tämäntyyppiseen tiedotukseen? Taitaa olla tekoäly-yhtiöiden keksintö inhimillistää palvelu, jolloin suunnitteluvirheet ja vajavainen toiminnanmäärittely onkin inhimillistä toimintaa. Vai onko muka niin, että malleja ei voida ohjata/rajoittaa ilman, että niiden toiminnallisuus kärsii suuresti?
Samat omistajat?
Sisältö jatkuu mainoksen alla
Pahin ongelma tekoälyllä (TÄ) on valtava kuratoimisen vaikeus, akateemisella tasolla on julkaistu niin valtavasti neititiedettä (lady science) ja kirjainseksuaalit+ ovat myös laatineet sodomiatiedettään, niitä on vaikea suodattaa pois.
Esimerkiksi Chatgpt ei edes yritä noudattaa puhdasta tiedettä, Gemini siirtyy vasta sitten puhtaan tieteen puolelle kun havatsee että käyttäjä ei arvosta uudempien "tieteiden" linjauksia.
Sisältö jatkuu mainoksen alla
Täällä on fiksua porukkaa tänään paikalla :). Pelkäättekö tekoälyn päätymistä vääriin käsiin? Tai superälyn vaikutuksia ihmiskuntaan? Vai näettekö lopputtomia mahdollisuuksia?
Vierailija kirjoitti:
Täällä on fiksua porukkaa tänään paikalla :). Pelkäättekö tekoälyn päätymistä vääriin käsiin? Tai superälyn vaikutuksia ihmiskuntaan? Vai näettekö lopputtomia mahdollisuuksia?
Minusta se suurin riski on juuri tuo, että ihmiset käyttää tekoälyä rikollisiin ja tuhoisiin tarkoituksiin. Ei se, että tekoäly itsekseen kehittyisi aktiivisesti tahtovaksi toimijaksi, joka jostain syystä haluaisi tuhota, orjuuttaa tms. ihmiskunnan. Ne on enemmän sellaisia scifijuttuja. Mutta se on kyllä erittäin realistista, että tekoälyt lisäävät pahantahtoisten ihmisten kykyä toteuttaa aikomuksiaan, joihin taidot ei ole riittäneet ilman.
Kaikkein vaarallisin ehkä on tekoälyt hullujen valtionjohtajien hallussa, koska näillä tyypeillä on myös resursseja, aseita yms. toteuttaa fyysisessä maailmassa asioita. Toki yksittäinen unabomber-tyyppinen mielipuolikin voi tekoälyn avulla kehitellä jotain hyvin tuhoisaa kotilaboratoriossaan, mutta suurin riski mielestäni on se mitä ihan valtiot ja hullut diktaattorit tekevät tekoälyn avulla. Tekoälyn käyttö sodankäynnissä ja vakoilussa, myös omien kansalaisten vakoilussa.
Mahdollisuuksiakin kyllä on valtavasti. Tekoäly voi autttaa ratkaisemaan monia ratkaisemattomia eri tieteenalojen ongelmia. Nyt jo se on valtava apu matematiikassa, kemiassa, perinnöllisyystieteissä, uusien lääkemolekyylien kehityksessä esimerkiksi. Jotkut lääketieteen alan tutkijat jopa uskovat, että ikääntyminen voitaisiin lähivuosikymmeninä kumota tekoälyn kehittämien lääkkeiden avulla. Se saattaa olla liioittelua, mutta yhä useampi harvinaissairaus varmasti saa hoitomuodon, kun ei ole enää liian kallista kehittää niitä.
Itse suhtaudun tekoälyyn varsin positiivisesti, mutta en oikein luota ihmisiin aina. Tekoälykin voi olla taas yksi ase lisää hullujen diktaattorien ja mielipuolten arsenaaliin. Silti olen sitä mieltä, ettei sen kehitystä saisi liikaa jarruttaa.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Joka tietomurrosta Altmanin Samille 1 000 000 000 USD lasku, niin alkaa tekoälyt mallit pysymään hallinnassa kummasti paremmin....
Tämä halvaannuttaisi täysin tekoälyn kehityksen. Ja kuitenkin kyseessä on tekniikka, joka voi tuottaa myös valtavasti hyvää, esim. ratkaista monia lääketieteen ongelmia, joita ei ole pystytty ennen ratkaisemaan.
Juuh, halvaannuttaisi OpenAI:n siskonsapanijan suunnitelmat rahan kahmimisesta omiin liiveihin. Muut osaavammat firmat tietenkin porskuttaisivat, kuten tähänkin asti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Täällä on fiksua porukkaa tänään paikalla :). Pelkäättekö tekoälyn päätymistä vääriin käsiin? Tai superälyn vaikutuksia ihmiskuntaan? Vai näettekö lopputtomia mahdollisuuksia?
Minusta se suurin riski on juuri tuo, että ihmiset käyttää tekoälyä rikollisiin ja tuhoisiin tarkoituksiin. Ei se, että tekoäly itsekseen kehittyisi aktiivisesti tahtovaksi toimijaksi, joka jostain syystä haluaisi tuhota, orjuuttaa tms. ihmiskunnan. Ne on enemmän sellaisia scifijuttuja. Mutta se on kyllä erittäin realistista, että tekoälyt lisäävät pahantahtoisten ihmisten kykyä toteuttaa aikomuksiaan, joihin taidot ei ole riittäneet ilman.
Kaikkein vaarallisin ehkä on tekoälyt hullujen valtionjohtajien hallussa, koska näillä tyypeillä on myös resursseja, aseita yms. toteuttaa fyysisessä maailmassa asioita. Toki yksittäinen unabomber-tyyppinen mielipuolikin voi tekoälyn avulla kehitellä jotain hyvin tuhoisaa kotilaboratoriossaan, mutta suurin riski mielestäni on se mitä ihan valtiot ja hullut diktaattorit tekevät tekoälyn avulla. Tekoälyn käyttö sodankäynnissä ja vakoilussa, myös omien kansalaisten vakoilussa.
Mahdollisuuksiakin kyllä on valtavasti. Tekoäly voi autttaa ratkaisemaan monia ratkaisemattomia eri tieteenalojen ongelmia. Nyt jo se on valtava apu matematiikassa, kemiassa, perinnöllisyystieteissä, uusien lääkemolekyylien kehityksessä esimerkiksi. Jotkut lääketieteen alan tutkijat jopa uskovat, että ikääntyminen voitaisiin lähivuosikymmeninä kumota tekoälyn kehittämien lääkkeiden avulla. Se saattaa olla liioittelua, mutta yhä useampi harvinaissairaus varmasti saa hoitomuodon, kun ei ole enää liian kallista kehittää niitä.
Itse suhtaudun tekoälyyn varsin positiivisesti, mutta en oikein luota ihmisiin aina. Tekoälykin voi olla taas yksi ase lisää hullujen diktaattorien ja mielipuolten arsenaaliin. Silti olen sitä mieltä, ettei sen kehitystä saisi liikaa jarruttaa.
Taitaa olla itse suurimmassa vaarassa, jos alkaa ennustavan tekstinsyötön ohjeilla kyhäämään pommia 🤭
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Olen testaillut tekoälyä kysymällä uudestaan samoja kysymyksiä joita olen muutama päivä aiemmin kysynyt ja tekoäly on antanut toisella kertaa eri vastauksen samoihin kysymyksiin? Mitä virkaa on tekoälyllä jos vastaukset joutuu kuitenkin varmistamaan joltakin toiselta taholta? En silti kiellä etteikö tekoäly antaisi ainakin joskus ihan oikeitakin vastauksia, mutta mistä kysyjä tietää sen jos ei varmista tekoälyn vastausta jostain muualta? Taitaa se tekoäly kuitenkin olla tulevaisuutta ja ehkä se kehittyy vielä sellaiseksi, että se pystyy itse varmistamaan vastauksen oikeellisuuden sieltä mistä se tietonsa onkii ja jostakinhan tekoälykin ne vastaukset kysymyksiin hakee, sillä ei kai ne vastaukset taivaastakaan tipu?
Ei tekoälyä ole koskaan markkinoitu hakukoneena tai totuuskoneena, sehän vain arvioi mikä olisi todennäköisin seuraava sana.
Monelle tuntuu riittävän että vastaus kuulostaa siltä mitä haluaa kuulla, ja sitä sitten uskotaan. Ei haluta ymmärtää että just tuota tekoälyt eli lähinnä erittäin laajat koneoppimismallit joissa ei ole älyä takana tekee. Ne löytää hyvin kuvioita tekstistä, ja laajoissa malleissa hyvin monimutkaisia kuvioita, mutta ei niissä ole sen enempää älyä kuin niissä teksteissä oli alkujaankaan.
Tämä ei itse asiassa pidä paikkaansa, ja tästä on paljon tutkimusnäyttöä jo. Esim. kun tekoäly laitetaan seuraamaan jotain keksittyä lautapeliä, niin ettei se saa tietää millainen lauta on, vaan sen pitää seurata asioita vain tapahtuvien siirtojen perusteella, niin on todettu sen muodostavan sisäisesti mallin pelilaudasta ja hyvinkin älykkäästi arvioivan peliä. Se tarvitsee tämän mallin, jotta se osaa ennustaa siirtoja hyvin. Eli pinnallisesti voisi sanoa, että joo, se vaan ennustaa sanoja joilla se kuvaa siirtoja, mutta sen takana on oikeaa samantyyppistä älykkyyttä, mitä ihmisaivoissa tapahtuu kun hän oppii uuden pelin. Ymmärrystä pelikentästä, säännöistä jne.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?
Ei ole vaikeaa. Sitä vain ei tehdä, jotta saataisiin mainosta omille tuotteille (ja rajoituksia alalle). Pakko saada kilpailuetua, vaikka rikollisin keinoin. Rajoitukset suitsisi kilpailua jos tekoälyä ei voisi kehittää ilman tähtitieteellisen kallista lakimiesarmeijaa.
Vierailija kirjoitti:
Näin tietojenkäsittelytieteilijänä, joka jo 90-luvulla teki gradunsa neuroverkoista, jotenkin vähän huvittaa kun asiasta mitään tietämättömät toistelee tuota "ne on vain tehokkaampia autocompleteja hee hee". Stokastisia papukaijoja. Sitä ne nimittäin eivät ole pelkästään. Ihanko oikeasti meinaatte, että nämä tekoälyt on ratkaisseet jo monia matematiikan avoimia ongelmia ihan noin vaan sanoja ennustamalla esimerkiksi?
Itse olen hyvin vaikuttunut siitä, miten hienosti nämä tekoälyt toimii. Ja tutkimus koko ajan tuottaa enemmän tietoa siitä, miten niiden rakenteessa ilmenee hyvin ihmisaivomaisia neurologisia kokonaisuuksia. Jopa tunteisiin viittaavia vektoreita, käsitteellisiä malleja maailmasta jne. Pitkälle on tultu niistä mun graduajoista.
Mikä siinä huvittavaa on? Niin laajat kielimallit nyt vaan toimii. Aika päivittää tietoja sieltä ysäreiltä? Kokeile vaikka ajaa omalla koneella paikallista kielimallia, vaikka LM Studiolla, niin se taikuus haihtuu aika äkkiä ja tulet huomaamaan, että totta vie sentään, sehän on vain ja ainoastaan ennakoiva tekstinsyöttö. Paikallisen mallin kanssa pääset itse säätämään parametreja, joiden perusteella vastaus muodostuu. Ei se ole magiaa, vaan matematiikkaa.
Kyllä saa lapsenlapset nauraa vedet silmissä, kun kuulee että isovanhempien nuoruudessa luultiin että tietokone oli herännyt eloon, kun se vastasi kysymyksiin. Ihan kuin ennen naurettiin kun ukin nuoruudessa jotkut luuli että radion sisällä on pieni ukko puhumassa.
Vierailija kirjoitti:
Vierailija kirjoitti:
Näin tietojenkäsittelytieteilijänä, joka jo 90-luvulla teki gradunsa neuroverkoista, jotenkin vähän huvittaa kun asiasta mitään tietämättömät toistelee tuota "ne on vain tehokkaampia autocompleteja hee hee". Stokastisia papukaijoja. Sitä ne nimittäin eivät ole pelkästään. Ihanko oikeasti meinaatte, että nämä tekoälyt on ratkaisseet jo monia matematiikan avoimia ongelmia ihan noin vaan sanoja ennustamalla esimerkiksi?
Itse olen hyvin vaikuttunut siitä, miten hienosti nämä tekoälyt toimii. Ja tutkimus koko ajan tuottaa enemmän tietoa siitä, miten niiden rakenteessa ilmenee hyvin ihmisaivomaisia neurologisia kokonaisuuksia. Jopa tunteisiin viittaavia vektoreita, käsitteellisiä malleja maailmasta jne. Pitkälle on tultu niistä mun graduajoista.
Mikä siinä huvittavaa on? Niin laajat kielimallit nyt vaan toimii. Aika päivittää tietoja sieltä ysäreiltä? Kokeile vaikka ajaa omalla koneella paikallista kielimallia, vaikka LM Studiolla, niin se taikuus haihtuu aika äkkiä ja tulet huomaamaan, että totta vie sentään, sehän on vain ja ainoastaan ennakoiva tekstinsyöttö. Paikallisen mallin kanssa pääset itse säätämään parametreja, joiden perusteella vastaus muodostuu. Ei se ole magiaa, vaan matematiikkaa.
Kyllä saa lapsenlapset nauraa vedet silmissä, kun kuulee että isovanhempien nuoruudessa luultiin että tietokone oli herännyt eloon, kun se vastasi kysymyksiin. Ihan kuin ennen naurettiin kun ukin nuoruudessa jotkut luuli että radion sisällä on pieni ukko puhumassa.
Kyllä minä olen paljonkin paikallisia malleja ajanut. Ja tiedän varmasti ihan näistä nykyisistä malleista suht paljon, kun olen töissä OpenAI Partner yrityksessä tekoälyhommissa. Enkä toki usko "magiaan", tai oikeastaan siihen, että matematiikka ei olisi tavallaan magiaa. Niin kuin joku sanoi, mikä tahansa tarpeeksi edistynyt tiede muistuttaa magiaa.
Mutta ei tarvi edes miettiä sitä mitä minä tiedän, voi katsoa mitä alan johtavat tutkijat ajattelevat. Eipä ajattele Ilya Sutskever, George Hinton tms. että "joo pelkkää autocomplete". Eikä oikeastaan kukaan oikeasti näitä akateemisissa piireissä tutkiva tutkija. Eikä johtavien tekoälyfirmojen tuotekehityksen ja tutkimuksen ihmiset. Anthropicilla on tosin menty jo vähän överiksi, kun siellä on vähän "AI god" ajatteluakin osalla uutisoinnin mukaan.
Osaatko kertoa, miksi tekoälyn rajoittaminen on vaikeaa? Onko se haastavaa teknisesti? Vai onko niin, että ”jarruja” ei haluta suunnitella kun se vie aikaa ja rahaa ja on kuluerä?