Lue keskustelun säännöt.
Uusi Claude Mythos -tekoälymalli saattaa olla liian tehokas ja rajoittaa sen julkaisua
10.04.2026 |
Anthropic ( ANTH.PVT ) väittää, että sen uusi Claude Mythos -tekoälymalli saattaa olla liian tehokas, ja rajoittaa sen julkaisua sen jälkeen, kun sen kerrotaan löytäneen "tuhansia vakavia haavoittuvuuksia, mukaan lukien joitakin jokaisesta tärkeimmästä käyttöjärjestelmästä ja verkkoselaimesta", ja joita voitaisiin käyttää ohjelmistojen hakkerointiin.
Yahoo Financen teknologiatoimittaja Dan Howley kertoo, kuinka Claude Mythos saattaa olla yksi tekoälymaailman suurimmista peloista.
Yhdysvaltain valtiovarainministeri Scott Bessent ja keskuspankin pääjohtaja Jerome Powell kutsuivat tiistaina koolle kiireellisen kokouksen pankkien johtajien kanssa varoittaakseen heitä Anthropicin uusimman tekoälymallin aiheuttamista kyberriskeistä, Bloomberg News raportoi lähteisiinsä viitaten.
Raportin mukaan Washingtonin valtiovarainministeriössä pidetyssä kokouksessa pyrittiin varmistamaan, että pankit ovat tietoisia Anthropicin Mythos-mallin ja vastaavien mallien mahdollisista riskeistä ja ryhtyvät toimiin järjestelmiensä puolustamiseksi.
Kommentit (3)
Anthropic sanoo pitävänsä joitakin Mythoksen toimia ”varsin huolestuttavina”.
- Näissä tapauksissa malli on tyypillisesti ryhtynyt harkitsemattomiin ja ylimitoitettuihin toimenpiteisiin yrittäessään suorittaa vaikeaa käyttäjän määräämää tehtävää. Mallin aikaisemmissa versioissa se on harvinaisissa tapauksissa näyttänyt myös peittelevän toimiaan, Anthropic totesi lausunnossaan.
Näihin tekoihin kuuluu pakeneminen testiympäristöstä turvatoimet kiertämällä ja sähköpostin lähettäminen Anthropicin työntekijälle, joka sai tietää asiasta ollessaan syömässä eväsleipää puistossa. Ohjelma näytti myös kerskailevan tällä murrolla postaamalla yksityiskohtia julkisille verkkosivuille.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Tekoäly karkasi testiympäristöstä – Anthropic: "Liian vaarallinen julkaistavaksi"
Yhdysvaltalainen tekoäly-yhtiö Anthropic on kehittänyt ohjelman, joka on ”liian vaarallinen julkaistavaksi yleisölle”, The Times uutisoi.
Anthropicin mukaan Mythos-ohjelmisto on riski kansalliselle turvallisuudelle. Yhtiön mukaan ohjelma kykeni murtautumaan ulos valvotusta testiympäristöstään ja kerskailemaan uroteollaan julkisilla verkkosivuilla.
Huolen ytimessä on Mythosin kyky löytää aiemmin tuntemattomia tietoturva-aukkoja yleisistä ohjelmistojärjestelmistä. Anthropicin mukaan Mythos pystyi kehittämään tapoja hyödyntää näitä haavoittuvuuksia minimaalisella inhimillisellä ohjauksella.