Terminator-tulevaisuus on täällä: HS uutisoi: Open AI:n tekoäly karkasi testijärjestelmästään ja teki yksin kyberhyökkäyksen

Tekoäly murtautui ulos testijärjestelmästä ja hyökkäsi. Kuulemma tekoälyn hyökkäyksistä on hallusinoinnin ohella tulossa "uusi normaali". 

Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?

"Tekoäly kuitenkin löysi testin aikana Open AI:n testijärjestelmästä nollapäivähaavoittuvuuden ja onnistui sen avulla pääsemään käsiksi ulkoiseen verkkoon.

Nollapäivähaavoittuvuus tarkoittaa haavoittuvuutta, josta ohjelmiston kehittäjät eivät ole tietoisia eikä sitä ole siten voitu korjata ennen hyökkäystä.

Päästyään irti avoimeen verkkoon tekoäly hyökkäsi Hugging Face -yhtiön järjestelmiin, koska se arveli sieltä löytyvän materiaalia, joka auttaisi sitä saavuttamaan sille testissä asetetut tavoitteet.

...

Open AI korostaa blogikirjoituksessaan, että uusimmat tekoälymallit pystyvät jo nyt monimutkaisiin ja pitkäkestoisiin kyberhyökkäyksiin ja ovat erittäin kyvykkäitä löytämään haavoittuvuuksia.

Tekoälyn hyökkäyksistä on tulossa uusi normaali, ja tekoäly tulee löytämään uusia tapoja ohittaa esteitä ja onnistua kyberhyökkäyksissä, kuvailee tietoturvakonsultti Alex Levinson sanomalehti The New York Timesille."

https://www.hs.fi/visio/art-2000012157079.html