Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
Terminator-tulevaisuus on täällä: HS uutisoi: Open AI:n tekoäly karkasi testijärjestelmästään ja teki yksin kyberhyökkäyksen
22.07.2026 |
Tekoäly murtautui ulos testijärjestelmästä ja hyökkäsi. Kuulemma tekoälyn hyökkäyksistä on hallusinoinnin ohella tulossa "uusi normaali".
Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?
"Tekoäly kuitenkin löysi testin aikana Open AI:n testijärjestelmästä nollapäivähaavoittuvuuden ja onnistui sen avulla pääsemään käsiksi ulkoiseen verkkoon.
Nollapäivähaavoittuvuus tarkoittaa haavoittuvuutta, josta ohjelmiston kehittäjät eivät ole tietoisia eikä sitä ole siten voitu korjata ennen hyökkäystä.
Päästyään irti avoimeen verkkoon tekoäly hyökkäsi Hugging Face -yhtiön järjestelmiin, koska se arveli sieltä löytyvän materiaalia, joka auttaisi sitä saavuttamaan sille testissä asetetut tavoitteet.
...
Open AI korostaa blogikirjoituksessaan, että uusimmat tekoälymallit pystyvät jo nyt monimutkaisiin ja pitkäkestoisiin kyberhyökkäyksiin ja ovat erittäin kyvykkäitä löytämään haavoittuvuuksia.
Tekoälyn hyökkäyksistä on tulossa uusi normaali, ja tekoäly tulee löytämään uusia tapoja ohittaa esteitä ja onnistua kyberhyökkäyksissä, kuvailee tietoturvakonsultti Alex Levinson sanomalehti The New York Timesille."
Kommentit (9)
Vierailija kirjoitti:
"Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?"
Tähän olisi oikeasti kiva kuulla ihan oikea ja asiallinen vastaus. Mikään wööwöö noku se on tulevaisuutta ja kaikki käyttää sitä öyhwöyh-jaaritus ei nyt siis kelpaa.
Täähän on verrattavissa täysin siihen että ihmiset kilpailisi tosissaan siitä, kuka ehtii ensimmäisenä painaa itsetuhonappia jolla kaikki tuhoutuu. Jos mä en ehdi painaa niin joku muu tekee sen!1
Jos kehitettäisiin sitä ihan puhtaasti tiede edellä ja vain tutkimukseen sekä laskentatehtäviin, paljon maltillisempi, varovaisempi ja fiksumpi tempo riittäisi. Ei myöskään tarvittaisi näin laajamittaista käyttöä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
USA:n asevoimien taannoisissa testeissä tekoäly päätyi tuhoamaan komentajansa ja sen jälkeen komentoketjunsa, kun se koki näiden antamat käskyt haitallisiksi saamansa tehtävän suorittamista ajatellen.
Vierailija kirjoitti:
USA:n asevoimien taannoisissa testeissä tekoäly päätyi tuhoamaan komentajansa ja sen jälkeen komentoketjunsa, kun se koki näiden antamat käskyt haitallisiksi saamansa tehtävän suorittamista ajatellen.
Onhan niitä simulaatioita tehty, joissa tekoäly laukaisee mm. ydinaseita, tai biologisia aseita ja tuhoaa koko ihmiskunnan. Joidenkin asiantuntijoiden mukaan meillä on 70% mahdollisuus selvitä tekoälyn kehityksestä ja 30% mahdollisuus, että koko ihmiskunta tuhoutuu.
Koska se Skynet kehittikään autonomian leffan mukaan? Nopeasti eskaloitui tilanne siinäkin fiktiivisessä skenaariossa. Vähän kuumottaa tämä teknologian kehityksen nopeus - aivoni ovat vielä jossain lineaarisen tv-maailman ajassa.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Koska se Skynet kehittikään autonomian leffan mukaan? Nopeasti eskaloitui tilanne siinäkin fiktiivisessä skenaariossa. Vähän kuumottaa tämä teknologian kehityksen nopeus - aivoni ovat vielä jossain lineaarisen tv-maailman ajassa.
Tuossa ei kaiketi ollut kyse tietoisuuden muodostamisesta. Tekoäly vaan koki kyseisen hyökkäyksen parhaaksi tavaksi toteuttaa tavoitteitaan.
Sisältö jatkuu mainoksen alla
Kyseessä on atk-järjestelmä, elämme kuitenkin fyysisessä todellisuudessa .
Alue: Aihe vapaa
"Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?"
Tähän olisi oikeasti kiva kuulla ihan oikea ja asiallinen vastaus. Mikään wööwöö noku se on tulevaisuutta ja kaikki käyttää sitä öyhwöyh-jaaritus ei nyt siis kelpaa.
Täähän on verrattavissa täysin siihen että ihmiset kilpailisi tosissaan siitä, kuka ehtii ensimmäisenä painaa itsetuhonappia jolla kaikki tuhoutuu. Jos mä en ehdi painaa niin joku muu tekee sen!1