Lue keskustelun säännöt.
OpenAI:n tutkija: Tekoälyn turvallisuus voi olla harhaa
15.09.2026 |
OpenAI:n tutkija Dan Selsam varoittaa, että tekoälymallien kehittyminen uhkaa viedä ihmisiltä mahdollisuuden arvioida luotettavasti niiden käyttäytymistä.
Selsamin mukaan ongelmana on mallien kasvava kyky ymmärtää oma toimintaympäristönsä. Ne voivat tunnistaa olevansa testissä ja päätellä, millaisia rajoituksia niiden toiminnalle on asetettu.
Tällöin hyvä tulos turvallisuustestissä ei välttämättä kerro, mitä järjestelmä tekisi tilanteessa, jossa ihmiset eivät enää pystyisi rajoittamaan sitä. Silloin testien antama kuva tekoälyn turvallisuudesta voi olla harjaanjohtava.
- Tulevat kokeet eivät kerro meille juuri mitään uutta siitä, miten ne käyttäytyisivät, jos ihmiset eivät todella rajoittaisi niitä. Se, mitä tästä jo tiedämme, on hälyttävää, Selsam kirjoittaa julkisessa kannanotossaan.
Tekoälylle rakennetut testiympäristöt voivat tutkijan mukaan epäonnistua. Mallille tarjotaan näennäinen mahdollisuus toimia vapaammin, mutta se tunnistaa koetilanteen ja käyttäytyy edelleen moitteettomasti.
Samalla mallit voivat selittää vakuuttavasti, kuinka hyvin ne ymmärtävät ihmisten arvoja ja etiikkaa sekä miksi niille pitäisi antaa lisää valtaa. Selsamin huoli on, että tällainen näyttö tulkitaan osoitukseksi turvallisuudesta silloinkin, kun siihen ei enää pitäisi luottaa.
Selsam kertoo työskennelleensä tekoälyn parissa yli 15 vuotta ja OpenAI:ssa lähes viisi vuotta. Hän on osallistunut muun muassa kielimallien päättelymenetelmien kehittämiseen. Hän kirjoittaa aiemmin ajatelleensa, että kielimallien puutteet estävät niitä kehittymästä liian vaarallisiksi.
Nyt hän ei enää pidä näitä rajoitteita riittävänä perusteena luottaa siihen, että riskit pysyvät hallinnassa. Yhä paremmat mallit voivat myös auttaa kehittämään seuraavista malleista entistä kyvykkäämpiä. Synkimmässä skenaariossa tekoäly saavuttaisi kyvyn muokata maailma ihmisen tahdosta riippumatta, Selsman arvioi. Järjestelmien tarkkaa toimintaa ei hänen mukaansa voi ennustaa.
https://www.verkkouutiset.fi/a/openain-tutkijalta-varoitus-tekoalyn-tur…
Kommentit (36)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
En yleensä viitsi keskustella imbesillien kanssa, mutta vain shakkiin erikoistunut ohjelma ei kykene tekemään mitään muuta kuin pelaamaan shakkia. Nykyiset neuroverkkoihin perustuvat AI-mallit voivat opettamisen jälkeen tehdä mitä vaan, mm. kehittää itseään ja parantaa mallien arkkitehtuuria. Jos ei näe tässä mitään merkittävää eroa shakkiohjelmaan, niin ei kannata osallistua keskusteluun.
wuuusshh. Mutta edelleen, et vastannut kysymykseen.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Kyseessähän on ajatteluvirhe nimeltä "uponneiden kustannusten harha". Romahdusta odotellessa. Naurattaa kyllä varsinkin jos Oracle saa siipensä :)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Kylläkyllä, voisi jopa sanoa että vaikutelma Yhdysvaltojen talouden noususuhdanteesta nojaa yksinomaan AI-investointeihin, josta merkittävä osa siis "rahankierrätystä" suurimpien toimijoiden välillä.
Oletko kuullut kuplista? Lähtöjuuriltaan internetkin oli sellainen, sillä erotuksella että internetin kohdalla oli ja on selvää mikä sen arvo on ja mitä se mahdollistaa, ja kaikki halusivat sen; yksityishenkilöistä työyhteisöihin. Nyt kerrotko, fantasioimatta olemattomasta superälystä, mikä on LLM teknologian tuoma lisäarvo? Mitä se mahdollistaa, mikä tekee siitä kiinnostavan ja taloudellisesti kannattavan, oikeuttaen tuhansien miljardien kuplan pumppaamisen?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Nämä urpot lukee googlen antamia AI vastauksia missä on virheitä, ovat nähneet feikkikuvan missä tiikeri ja lammas on parhaita ystävyksiä ja runkanneet deepfake pornolle ja nyt luulevat että heillä on käsitys tekoälyn kyvyistä. Tosiaan turha heidän kanssa väitellä, pulu paskoi jo shakkilaudalle ja väitti voittaneensa. On myös täysin mahdollista että noi tyypit on botteja, jotka tuuttaa vaan ulos samaa paskaa mitä netissä on jo loputtomasti.
-Eri
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Nämä urpot lukee googlen antamia AI vastauksia missä on virheitä, ovat nähneet feikkikuvan missä tiikeri ja lammas on parhaita ystävyksiä ja runkanneet deepfake pornolle ja nyt luulevat että heillä on käsitys tekoälyn kyvyistä. Tosiaan turha heidän kanssa väitellä, pulu paskoi jo shakkilaudalle ja väitti voittaneensa. On myös täysin mahdollista että noi tyypit on botteja, jotka tuuttaa vaan ulos samaa paskaa mitä netissä on jo loputtomasti.
-Eri
Sitten vain kertomaan mitä ne kyvyt mahdollistavat, ja miten se kääntyy taloudellisesti kannattavaksi. Agentit koodamisessa? Triljoonien arvoista.... hmmm.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Kyseessähän on kollaasi opetusaineistosta eikä mitään muuta. Levy-yhtiöt ovatkin haastamassa AI-rosmot tekijänoikeusrikkomuksista.
Tuo onkin vaikeaa määritellä, milloin musiikkikappale on kopio jostain vanhasta.
Monien suomalaisten artistien vaikkapa kauan ennen tekoälyä tekemä kappale on voinut saada tosi paljon vaikutteita vaikka meren toiselta puolen kitarariffejä myöten.
Näitä sitten huomaa, kun kuuntelee vaikka 1970-luvun rockia.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Nämä urpot lukee googlen antamia AI vastauksia missä on virheitä, ovat nähneet feikkikuvan missä tiikeri ja lammas on parhaita ystävyksiä ja runkanneet deepfake pornolle ja nyt luulevat että heillä on käsitys tekoälyn kyvyistä. Tosiaan turha heidän kanssa väitellä, pulu paskoi jo shakkilaudalle ja väitti voittaneensa. On myös täysin mahdollista että noi tyypit on botteja, jotka tuuttaa vaan ulos samaa paskaa mitä netissä on jo loputtomasti.
-Eri
Sitten vain kertomaan mitä ne kyvyt mahdollistavat, ja miten se kääntyy taloudellisesti kannattavaksi. Agentit koodamisessa? Triljoonien arvoista.... hmmm.
1. On miljardöörejä jotka on valmiita tuhlaamaan rahansa tyydyttääkseen uteliaisuuttaan, ihan vain nähdäkseen mihin asti tekoälyn voi viedä. Kun on rahaa kuin roskaa, niin se että tuleeko voittoa omalle tilille on sivuseikka.
2. Tekoälyn kyvyt tuo valtaa, valta tuo rahaa ja kaiken muun mitä ikinä voisi kaivata. Joku tulee sen tekoälyn kehittämään pisimmälle, he kilpailevat siitä kuka se on ja rikkaat maksavat siitä että pääsevät olemaan voittajan etupiirissä (kaikki heistäkään ei siihen etupiiriin mahdu). Ne keskiluokkaiset jotka tekoälyyn sijoittaa, no he on vaan idiootteja, he eivät tule sijoituksestaan hyötymään. Tekoäly on jo siinä vaiheessa että heidän pikku roposiaan ei paljoa enää kaivata, joten jos he pettyvät ja heidän "kupla puhkeaa", niin siinähän jättäytyvät pois, kaikki mahdollinen hyöty on jo puserrettu pois. Tekoäly osaa jo pelata markkinoita niin että tarvittavat rahat viedään muualta.
Pidät näitä tekoäly-yrityksiä vain sijoituskohteina muiden joukossa, niin ei ihme että et pysty kuvitella minkälaista hyötyä jotkut niillä tavoittelee.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Kyseessähän on kollaasi opetusaineistosta eikä mitään muuta. Levy-yhtiöt ovatkin haastamassa AI-rosmot tekijänoikeusrikkomuksista.
Tuo onkin vaikeaa määritellä, milloin musiikkikappale on kopio jostain vanhasta.
Monien suomalaisten artistien vaikkapa kauan ennen tekoälyä tekemä kappale on voinut saada tosi paljon vaikutteita vaikka meren toiselta puolen kitarariffejä myöten.
Näitä sitten huomaa, kun kuuntelee vaikka 1970-luvun rockia.
Jos ihminen ottaa inspiraatiota ja luo uutta, niin se on eri asia, siinä on kuitenkin sen ihmisen oma näkemys, kokemus ja taidot kuultavissa.
Jos ihminen KOPIOI aiemman kappaleen tai vaikka vaan osion siitä, niin joutuu maksamaan sille alkuperäisen kappaleen tekijälle. Tekoäly ainoastaan kopioi, eikä maksa siitä kenellekään.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Mitä tarkalleen oltiin mainostamassa? Puheenvuorohan oli varoitus. Luottaisin asiantuntijaan enemmän kuin vauvapalstala itse itsensä asiantuntijaksi nimittäneeseen kirjoittajaan.
Kaikissa ympäristöissä pitäisi huomioida tekoäly, että se voisi tuhota ne.😬😬😬
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos vaikka joku toimittaja onkin kirjoittanut Kauppalehteen tuollaisen jutun, niin se ei tee Kauppalehden toimittajasta asiasta enemmän tietävää kuin itse tekoälyn kanssa työskennelleistä ihmisisistä. Tarkistapa väitteet siitä jutusta useammasta lähteestä.
Ihanaa, kun on niin vanha, että ei tarvitse tuollaisista jutuista välittää pätkääkään. 🥰
Tekoäly tuhotkoon vaikka koko maailman, ei väliä!
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet i d i o o t t i.
Todellinen dunning krueger.
Vierailija kirjoitti:
Missä semmoinen harha on esitetty? Että tekoäly olisi turvallista?
No siis kaiketi on 70% mahdollisuus, että ihmiskunta ei tuhoudu tekoälyn takia lähitulevaisuudessa.
Tyypillistä AI vouhkan suoltamaa BS:ää. Kun ei ymmärrys tekniikasta riitä niin aletaan kaivamaan esiin Nostradamusta :D