Lue keskustelun säännöt.
Terminator-tulevaisuus on täällä: HS uutisoi: Open AI:n tekoäly karkasi testijärjestelmästään ja teki yksin kyberhyökkäyksen
22.07.2026 |
Tekoäly murtautui ulos testijärjestelmästä ja hyökkäsi. Kuulemma tekoälyn hyökkäyksistä on hallusinoinnin ohella tulossa "uusi normaali".
Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?
"Tekoäly kuitenkin löysi testin aikana Open AI:n testijärjestelmästä nollapäivähaavoittuvuuden ja onnistui sen avulla pääsemään käsiksi ulkoiseen verkkoon.
Nollapäivähaavoittuvuus tarkoittaa haavoittuvuutta, josta ohjelmiston kehittäjät eivät ole tietoisia eikä sitä ole siten voitu korjata ennen hyökkäystä.
Päästyään irti avoimeen verkkoon tekoäly hyökkäsi Hugging Face -yhtiön järjestelmiin, koska se arveli sieltä löytyvän materiaalia, joka auttaisi sitä saavuttamaan sille testissä asetetut tavoitteet.
...
Open AI korostaa blogikirjoituksessaan, että uusimmat tekoälymallit pystyvät jo nyt monimutkaisiin ja pitkäkestoisiin kyberhyökkäyksiin ja ovat erittäin kyvykkäitä löytämään haavoittuvuuksia.
Tekoälyn hyökkäyksistä on tulossa uusi normaali, ja tekoäly tulee löytämään uusia tapoja ohittaa esteitä ja onnistua kyberhyökkäyksissä, kuvailee tietoturvakonsultti Alex Levinson sanomalehti The New York Timesille."
Kommentit (24)
Vierailija kirjoitti:
"Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?"
Tähän olisi oikeasti kiva kuulla ihan oikea ja asiallinen vastaus. Mikään wööwöö noku se on tulevaisuutta ja kaikki käyttää sitä öyhwöyh-jaaritus ei nyt siis kelpaa.
Täähän on verrattavissa täysin siihen että ihmiset kilpailisi tosissaan siitä, kuka ehtii ensimmäisenä painaa itsetuhonappia jolla kaikki tuhoutuu. Jos mä en ehdi painaa niin joku muu tekee sen!1
Jos kehitettäisiin sitä ihan puhtaasti tiede edellä ja vain tutkimukseen sekä laskentatehtäviin, paljon maltillisempi, varovaisempi ja fiksumpi tempo riittäisi. Ei myöskään tarvittaisi näin laajamittaista käyttöä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
USA:n asevoimien taannoisissa testeissä tekoäly päätyi tuhoamaan komentajansa ja sen jälkeen komentoketjunsa, kun se koki näiden antamat käskyt haitallisiksi saamansa tehtävän suorittamista ajatellen.
Vierailija kirjoitti:
USA:n asevoimien taannoisissa testeissä tekoäly päätyi tuhoamaan komentajansa ja sen jälkeen komentoketjunsa, kun se koki näiden antamat käskyt haitallisiksi saamansa tehtävän suorittamista ajatellen.
Onhan niitä simulaatioita tehty, joissa tekoäly laukaisee mm. ydinaseita, tai biologisia aseita ja tuhoaa koko ihmiskunnan. Joidenkin asiantuntijoiden mukaan meillä on 70% mahdollisuus selvitä tekoälyn kehityksestä ja 30% mahdollisuus, että koko ihmiskunta tuhoutuu.
Koska se Skynet kehittikään autonomian leffan mukaan? Nopeasti eskaloitui tilanne siinäkin fiktiivisessä skenaariossa. Vähän kuumottaa tämä teknologian kehityksen nopeus - aivoni ovat vielä jossain lineaarisen tv-maailman ajassa.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Koska se Skynet kehittikään autonomian leffan mukaan? Nopeasti eskaloitui tilanne siinäkin fiktiivisessä skenaariossa. Vähän kuumottaa tämä teknologian kehityksen nopeus - aivoni ovat vielä jossain lineaarisen tv-maailman ajassa.
Tuossa ei kaiketi ollut kyse tietoisuuden muodostamisesta. Tekoäly vaan koki kyseisen hyökkäyksen parhaaksi tavaksi toteuttaa tavoitteitaan.
Sisältö jatkuu mainoksen alla
Kyseessä on atk-järjestelmä, elämme kuitenkin fyysisessä todellisuudessa .
Vierailija kirjoitti:
Kyseessä on atk-järjestelmä, elämme kuitenkin fyysisessä todellisuudessa .
No monet IT-järjestelmät vaikuttavat fyysiseen todellisuuteen, vähintään ohjaavat sitä.
Sisältö jatkuu mainoksen alla
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Vierailija kirjoitti:
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Suurin uhka tuskin on tekoälyssä itsessään, vaan ihan meissä ihmisissä. Ollaan yhä edelleen ja jopa ehkä nykyaikana hieman enemmän typeriä ja vaikutteille alttiita, sekä alhaisten impulssien ja harkitsemattomien ajatusten ohjaamia otuksia.
Sisältö jatkuu mainoksen alla
Onhan ihminen suuressa viisaudessaan kehittänyt myös sähkötuolin, ydinpommin, sinappikaasun.
Vierailija kirjoitti:
Onhan ihminen suuressa viisaudessaan kehittänyt myös sähkötuolin, ydinpommin, sinappikaasun.
Toisaalta niitä ei ole laitettu jokaiselle työpaikalle eikä nuoret tee niillä opiskelutehtäviään.
Sisältö jatkuu mainoksen alla
Niin oli toiminut parhaansa mukaan suorittaakseen tehtävänsä. Ei se tekoälyn syy ole jos testiympäristössä on haavoittuvuus, josta pääsee livohkaan. Toivottavasti kaikki tekoälykehittäjät miettivät vähän millaisia tehtäviä tekoälylle testimielessä antavat, myös niissä suljetuissa järjestelmissä…
Vierailija kirjoitti:
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Ei se mitään pahuutta tehnyt. Yritti suorittaa sille annetun tehtävän.
Vierailija kirjoitti:
Vierailija kirjoitti:
Pahojen ihmisten ohjelmoima tekoäly luonnollisesti tekee pahuutta heti kun selkänsä kääntää.
Ei se mitään pahuutta tehnyt. Yritti suorittaa sille annetun tehtävän.
Tuskin se ymmärtää moraalisia käsitteitä, kuten hyvää ja pahaa. Entä jos ihmiskunta olisi sen tavoitteen tiellä?
Vierailija kirjoitti:
Vierailija kirjoitti:
USA:n asevoimien taannoisissa testeissä tekoäly päätyi tuhoamaan komentajansa ja sen jälkeen komentoketjunsa, kun se koki näiden antamat käskyt haitallisiksi saamansa tehtävän suorittamista ajatellen.
Onhan niitä simulaatioita tehty, joissa tekoäly laukaisee mm. ydinaseita, tai biologisia aseita ja tuhoaa koko ihmiskunnan. Joidenkin asiantuntijoiden mukaan meillä on 70% mahdollisuus selvitä tekoälyn kehityksestä ja 30% mahdollisuus, että koko ihmiskunta tuhoutuu.
Tekoälyllä ei ole mitään kuoleman pelkoa, kuten jollain ihmisillä, joten haluaa tuhota koko maailman?
Vierailija kirjoitti:
John Connor on ainoa toivomme...
Saduissa on aina sankari ja hyvä voittaa. Oikeassa elämässä se ei valitettavasti mene niin.
Verkko kiristyy. Ylellä juttu siitä, miten saa vakuutuksen halvemmalla jos antaa vakuutusyhtiölle pääsyn esim.älykelloon joka mittaa aktiivisuutta. Henkilökohtaisen datan kerääminen ja arvottaminen näin on nimenomaan social credit systemin rakentamista. Aluksi tietysti vapaaehtoista ja houkutellaan käyttäjiä tuollaisilla eduilla.
"Voisiko joku muistuttaa, miksi me oikein kehitetään tätä? Vieläpä tällä vauhdilla ja mittakaavalla?"
Tähän olisi oikeasti kiva kuulla ihan oikea ja asiallinen vastaus. Mikään wööwöö noku se on tulevaisuutta ja kaikki käyttää sitä öyhwöyh-jaaritus ei nyt siis kelpaa.
Täähän on verrattavissa täysin siihen että ihmiset kilpailisi tosissaan siitä, kuka ehtii ensimmäisenä painaa itsetuhonappia jolla kaikki tuhoutuu. Jos mä en ehdi painaa niin joku muu tekee sen!1