Lue keskustelun säännöt.
Alue: Aihe vapaa
OpenAI:n tutkija: Tekoälyn turvallisuus voi olla harhaa
15.09.2026 |
OpenAI:n tutkija Dan Selsam varoittaa, että tekoälymallien kehittyminen uhkaa viedä ihmisiltä mahdollisuuden arvioida luotettavasti niiden käyttäytymistä.
Selsamin mukaan ongelmana on mallien kasvava kyky ymmärtää oma toimintaympäristönsä. Ne voivat tunnistaa olevansa testissä ja päätellä, millaisia rajoituksia niiden toiminnalle on asetettu.
Tällöin hyvä tulos turvallisuustestissä ei välttämättä kerro, mitä järjestelmä tekisi tilanteessa, jossa ihmiset eivät enää pystyisi rajoittamaan sitä. Silloin testien antama kuva tekoälyn turvallisuudesta voi olla harjaanjohtava.
- Tulevat kokeet eivät kerro meille juuri mitään uutta siitä, miten ne käyttäytyisivät, jos ihmiset eivät todella rajoittaisi niitä. Se, mitä tästä jo tiedämme, on hälyttävää, Selsam kirjoittaa julkisessa kannanotossaan.
Tekoälylle rakennetut testiympäristöt voivat tutkijan mukaan epäonnistua. Mallille tarjotaan näennäinen mahdollisuus toimia vapaammin, mutta se tunnistaa koetilanteen ja käyttäytyy edelleen moitteettomasti.
Samalla mallit voivat selittää vakuuttavasti, kuinka hyvin ne ymmärtävät ihmisten arvoja ja etiikkaa sekä miksi niille pitäisi antaa lisää valtaa. Selsamin huoli on, että tällainen näyttö tulkitaan osoitukseksi turvallisuudesta silloinkin, kun siihen ei enää pitäisi luottaa.
Selsam kertoo työskennelleensä tekoälyn parissa yli 15 vuotta ja OpenAI:ssa lähes viisi vuotta. Hän on osallistunut muun muassa kielimallien päättelymenetelmien kehittämiseen. Hän kirjoittaa aiemmin ajatelleensa, että kielimallien puutteet estävät niitä kehittymästä liian vaarallisiksi.
Nyt hän ei enää pidä näitä rajoitteita riittävänä perusteena luottaa siihen, että riskit pysyvät hallinnassa. Yhä paremmat mallit voivat myös auttaa kehittämään seuraavista malleista entistä kyvykkäämpiä. Synkimmässä skenaariossa tekoäly saavuttaisi kyvyn muokata maailma ihmisen tahdosta riippumatta, Selsman arvioi. Järjestelmien tarkkaa toimintaa ei hänen mukaansa voi ennustaa.
https://www.verkkouutiset.fi/a/openain-tutkijalta-varoitus-tekoalyn-tur…
Kommentit (24)
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Open AI voisi yrittää keksiä kuinka tästä roskateknologiasta tulisi oikeasti taloudellisesti kannattavaa, hypen sijasta. Ei siitä titenkään millään tule, joten "superäly" fantasioilla voi vielä ilmeisesti hetken ratsastaa.
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Kyseessähän on kollaasi opetusaineistosta eikä mitään muuta. Levy-yhtiöt ovatkin haastamassa AI-rosmot tekijänoikeusrikkomuksista.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Kyllä pystyisi, jos olisi yhtä paljon laskentatehoa.
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Odotellaan, niin kyllä siitä taas kohta kuullaan.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Kyllä pystyisi, jos olisi yhtä paljon laskentatehoa.
Tässähän on kyse siitä että tekoäly-yhtiöt ovat luvatta käyttäneet tekijänoikeudella suojattua musiikkia mallin opetukseen ja malli resitoi suojattua materiaalia. Vastaisi sitä jos ihmiselle annettaisiin vapaa oikeus leikkailla ja liimailla kaikista maailman tekijänoikeudella suojatuista kappaleista - monikin saisi hitin aikaan jos ei tarvitse tekijänoikeuksista välittää.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Odotellaan, niin kyllä siitä taas kohta kuullaan.
Eipä ole näkynyt eikä ole näkyvissä. Samaa aivotonta backpropagation tuubaa vain isommilla tietomäärillä.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
En yleensä viitsi keskustella imbesillien kanssa, mutta vain shakkiin erikoistunut ohjelma ei kykene tekemään mitään muuta kuin pelaamaan shakkia. Nykyiset neuroverkkoihin perustuvat AI-mallit voivat opettamisen jälkeen tehdä mitä vaan, mm. kehittää itseään ja parantaa mallien arkkitehtuuria. Jos ei näe tässä mitään merkittävää eroa shakkiohjelmaan, niin ei kannata osallistua keskusteluun.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
En yleensä viitsi keskustella imbesillien kanssa, mutta vain shakkiin erikoistunut ohjelma ei kykene tekemään mitään muuta kuin pelaamaan shakkia. Nykyiset neuroverkkoihin perustuvat AI-mallit voivat opettamisen jälkeen tehdä mitä vaan, mm. kehittää itseään ja parantaa mallien arkkitehtuuria. Jos ei näe tässä mitään merkittävää eroa shakkiohjelmaan, niin ei kannata osallistua keskusteluun.
Eivät voi. Se että fantasioit jostain ei tarkoita että se olisi totta. Mallit opetetaan edelleen off-line opetusaineistolla eikä se malli kehitä itse yhtään mitään.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
Olet jäänyt uusimmista tiedoista jälkeen. Niin nopeaa on sen kehittyminen että ei se mikään ihme ole.
Mitään uutta ei ole keksitty vuosiin. Kaltaisesi torvelot vaan nielevät hypen koukkuineen.
Jos olisi pelkkää tarkoitushakuista hypetystä, siitä uutisointi olisi toisenlaista.
Mitä tämä teknologia on luonut mikä oikeuttaa tuhansien miljardien investoinnit (rahankierrätyksen suurimpien toimijoiden välillä)?
Chilling Nostradamus prediction resurfaces as fears grow about an impending apocalypse
Nostradamus' centuries-old prophecies are resurfacing in 2026 as some have claimed the legendary seer left a warning about AI for humanity.
https://www.dailymail.com/sciencetech/article-16130175/nostradamus-ai-r…
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Kasvava kyky ymmärtää" my ass... tekoälymallit oppii vain mitä niille opetetaan eivätkä ne opi on-line. Mainospuheet uppoaa tekniikasta mitään ymmärtämättömiin torviin...
AI on kylläkin jo tehnyt mm. jenkeissä listaykköseksi menneen musiikkikappaleen ja ratkaissut matematiikan ongelmia, mihin kaltaisesi heikkolahjainen urpo ei pystyisi edes miljoonassa vuodessa.
Shakkiohjelma voitti jo 80-luvulla Grand Masterin. Entä sitten? Minkä ongelman kehitetty teknologia ratakisee, mihin se tuo lisäarvoa? Niinkuin ihan oikeasti, nyt, eikä sitten kun "superäly" jota ei ole eikä tule ilmaantuu.
En yleensä viitsi keskustella imbesillien kanssa, mutta vain shakkiin erikoistunut ohjelma ei kykene tekemään mitään muuta kuin pelaamaan shakkia. Nykyiset neuroverkkoihin perustuvat AI-mallit voivat opettamisen jälkeen tehdä mitä vaan, mm. kehittää itseään ja parantaa mallien arkkitehtuuria. Jos ei näe tässä mitään merkittävää eroa shakkiohjelmaan, niin ei kannata osallistua keskusteluun.
Lisätään vielä että se shakkiin erikoistunut tekoäly hakkaa LLM mallit totaalisesti shakin pelaamisessa. Sama pätee kaikiin muihinkin peleihin ja ongelmiin. Erikoistunut algoritmi pieksee LLM:t joka asiassa.
Alue: Aihe vapaa
Missä semmoinen harha on esitetty? Että tekoäly olisi turvallista?