Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
OpenAI:n tutkija: Tekoälyn turvallisuus voi olla harhaa
15.09.2026 |
OpenAI:n tutkija Dan Selsam varoittaa, että tekoälymallien kehittyminen uhkaa viedä ihmisiltä mahdollisuuden arvioida luotettavasti niiden käyttäytymistä.
Selsamin mukaan ongelmana on mallien kasvava kyky ymmärtää oma toimintaympäristönsä. Ne voivat tunnistaa olevansa testissä ja päätellä, millaisia rajoituksia niiden toiminnalle on asetettu.
Tällöin hyvä tulos turvallisuustestissä ei välttämättä kerro, mitä järjestelmä tekisi tilanteessa, jossa ihmiset eivät enää pystyisi rajoittamaan sitä. Silloin testien antama kuva tekoälyn turvallisuudesta voi olla harjaanjohtava.
- Tulevat kokeet eivät kerro meille juuri mitään uutta siitä, miten ne käyttäytyisivät, jos ihmiset eivät todella rajoittaisi niitä. Se, mitä tästä jo tiedämme, on hälyttävää, Selsam kirjoittaa julkisessa kannanotossaan.
Tekoälylle rakennetut testiympäristöt voivat tutkijan mukaan epäonnistua. Mallille tarjotaan näennäinen mahdollisuus toimia vapaammin, mutta se tunnistaa koetilanteen ja käyttäytyy edelleen moitteettomasti.
Samalla mallit voivat selittää vakuuttavasti, kuinka hyvin ne ymmärtävät ihmisten arvoja ja etiikkaa sekä miksi niille pitäisi antaa lisää valtaa. Selsamin huoli on, että tällainen näyttö tulkitaan osoitukseksi turvallisuudesta silloinkin, kun siihen ei enää pitäisi luottaa.
Selsam kertoo työskennelleensä tekoälyn parissa yli 15 vuotta ja OpenAI:ssa lähes viisi vuotta. Hän on osallistunut muun muassa kielimallien päättelymenetelmien kehittämiseen. Hän kirjoittaa aiemmin ajatelleensa, että kielimallien puutteet estävät niitä kehittymästä liian vaarallisiksi.
Nyt hän ei enää pidä näitä rajoitteita riittävänä perusteena luottaa siihen, että riskit pysyvät hallinnassa. Yhä paremmat mallit voivat myös auttaa kehittämään seuraavista malleista entistä kyvykkäämpiä. Synkimmässä skenaariossa tekoäly saavuttaisi kyvyn muokata maailma ihmisen tahdosta riippumatta, Selsman arvioi. Järjestelmien tarkkaa toimintaa ei hänen mukaansa voi ennustaa.
https://www.verkkouutiset.fi/a/openain-tutkijalta-varoitus-tekoalyn-tur…
Kommentit (24)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
En yleensä viitsi keskustella imbesillien kanssa, mutta vain shakkiin erikoistunut ohjelma ei kykene tekemään mitään muuta kuin pelaamaan shakkia. Nykyiset neuroverkkoihin perustuvat AI-mallit voivat opettamisen jälkeen tehdä mitä vaan, mm. kehittää itseään ja parantaa mallien arkkitehtuuria. Jos ei näe tässä mitään merkittävää eroa shakkiohjelmaan, niin ei kannata osallistua keskusteluun.
wuuusshh. Mutta edelleen, et vastannut kysymykseen.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Joku palstaurpo pitää AI:ta aivan hyödyttömänä ja toisaalta eri yhtiöt ja rahoittajat ovat valmiita investoimaan siihen pelkästään tänä vuonna USA:ssa yli 700 miljardia dollaria. Ehkä jälkimmäiset tietävät vähän enemmän AI:n kyvyistä ja potentiaalista kuin palstaurpo.
Kyseessähän on ajatteluvirhe nimeltä "uponneiden kustannusten harha". Romahdusta odotellessa. Naurattaa kyllä varsinkin jos Oracle saa siipensä :)
Alue: Aihe vapaa
Tyypillistä AI vouhkan suoltamaa BS:ää. Kun ei ymmärrys tekniikasta riitä niin aletaan kaivamaan esiin Nostradamusta :D