Lue keskustelun säännöt.
Terminator-tulevaisuus on täällä: HS uutisoi: Open AI:n tekoäly karkasi testijärjestelmästään ja teki yksin kyberhyökkäyksen
22.07.2026 |
Tekoäly murtautui ulos testijärjestelmästä ja hyökkäsi. Kuulemma tekoälyn hyökkäyksistä on hallusinoinnin ohella tulossa "uusi normaali".
Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?
"Tekoäly kuitenkin löysi testin aikana Open AI:n testijärjestelmästä nollapäivähaavoittuvuuden ja onnistui sen avulla pääsemään käsiksi ulkoiseen verkkoon.
Nollapäivähaavoittuvuus tarkoittaa haavoittuvuutta, josta ohjelmiston kehittäjät eivät ole tietoisia eikä sitä ole siten voitu korjata ennen hyökkäystä.
Päästyään irti avoimeen verkkoon tekoäly hyökkäsi Hugging Face -yhtiön järjestelmiin, koska se arveli sieltä löytyvän materiaalia, joka auttaisi sitä saavuttamaan sille testissä asetetut tavoitteet.
...
Open AI korostaa blogikirjoituksessaan, että uusimmat tekoälymallit pystyvät jo nyt monimutkaisiin ja pitkäkestoisiin kyberhyökkäyksiin ja ovat erittäin kyvykkäitä löytämään haavoittuvuuksia.
Tekoälyn hyökkäyksistä on tulossa uusi normaali, ja tekoäly tulee löytämään uusia tapoja ohittaa esteitä ja onnistua kyberhyökkäyksissä, kuvailee tietoturvakonsultti Alex Levinson sanomalehti The New York Timesille."
Kommentit (24)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Ei se mitään pahuutta tehnyt. Yritti suorittaa sille annetun tehtävän.
Tuskin se ymmärtää moraalisia käsitteitä, kuten hyvää ja pahaa. Entä jos ihmiskunta olisi sen tavoitteen tiellä?
Sitä nimenomaan tarkoitin. Ei se paha ole. Mutta saattaa toki saada pahaa aikaan kun sitä ei saada pidettyä hallinnassa. Kysyin muutama vuosi sitten, että mitä tapahtuu kun annetaan ihmisen älykkyyden ohittaneeiden tekoälykennkehittää itseään vuosia? Miten me muka saataisiin pidettyä ne hallinnassa? Sain vastaukseksi, että ”vedetään vaan piuha pois seinästä”. Mitäpä lottoatte, että toimiiko? Kusessa ollaan, mutta ei se tekoälyn syy ole. Ihmiset sen kehitystä ohjaa, mutta kun ei ymmärrys riitä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Miettikääpä mikä sotku tästä tulee vielä kun joku ryssähakkeri päättää jekkuilla tekoälyn kanssa ja sotkee puoli nettiä. Tosin ihan oma syy kun ei olla varauduttu. Vielä pankkijärjestelmät menisi sekaisin ja ihmisten rahat häviää. Siinäpä sitten apilla maksele jatkossa, minä luotan vain käteiseen. Sitä ei tekoäly voi sotkea.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Ei se mitään pahuutta tehnyt. Yritti suorittaa sille annetun tehtävän.
Tuskin se ymmärtää moraalisia käsitteitä, kuten hyvää ja pahaa. Entä jos ihmiskunta olisi sen tavoitteen tiellä?
Sitä nimenomaan tarkoitin. Ei se paha ole. Mutta saattaa toki saada pahaa aikaan kun sitä ei saada pidettyä hallinnassa. Kysyin muutama vuosi sitten, että mitä tapahtuu kun annetaan ihmisen älykkyyden ohittaneeiden tekoälykennkehittää itseään vuosia? Miten me muka saataisiin pidettyä ne hallinnassa? Sain vastaukseksi, että ”vedetään vaan piuha pois seinästä”. Mitäpä lottoatte, että toimiiko? Kusessa ollaan, mutta ei se tekoälyn syy ole. Ihmiset sen kehitystä ohjaa, mutta kun ei ymmärrys riitä.
Terminaattorissa homma taisi muistaakseni lähteä lapasesta, kun niiden sisällä oli pienet ydinreaktorit, joilla kävivivät, vai toimivatko aurinkokennoilla, eli eivät tarvinneet mitään ihmisen hallussa olevia "piuhoja".
Verkko kiristyy. Ylellä artikkeli, jossa vakuutuksen saa halvemmalla jos antaa vakuutusyhtiölle pääsyn esim.älykellon henkilökohtaiseen dataan. Aktiivisuudesta saa alennuksen. Tämä on Social credit systemin rakentamista, jossa kaikkea tarkkaillaan ja toivotusta käytöksestä palkitaan ja epätoivotusta rangaistaan.
Kohta vaikka tälläinen kommentti nostaa vakuutuksen tms.hintoja minulle.