Lue keskustelun säännöt.
Tekoäly ei onnistu karkaamaan omasta lähiverkostani, ei sitten millään
26.09.2026 |
Miten voi olla mahdollista, että biljoonien arvoiset teknologiayritykset eivät pysty toteuttamaan samaa asiaa, jonka voi käytännössä toteuttaa usealla varsin suoraviivaisella teknisellä kontrollilla?
Ensinnäkin testiympäristö voidaan eristää kokonaan ulkoverkosta. Jos verkkojohdot ovat fyysisesti irti, agentilla ei yksinkertaisesti ole verkkoyhteyttä, jonka kautta se voisi siirtää tietoa ympäristön ulkopuolelle.
Toiseksi reititystaulusta voidaan poistaa kaikki reitit ulkoverkkoihin. Tällöin IP-paketit eivät pääse ympäristön ulkopuolelle, vaikka verkkoliitäntä itsessään olisi käytössä.
Kolmanneksi agentin käyttämän koneen MAC-osoite voidaan estää verkkoinfrastruktuurin tasolla. Tällöin liikenne voidaan pysäyttää jo verkon alemmilla tasoilla.
Neljänneksi kokonaisuus voidaan varmistaa palomuurisäännöillä, DNS-rajoituksilla sekä muilla verkko- ja käyttöjärjestelmätason kontrollimekanismeilla. Näitä voidaan käyttää yhdessä niin, että agentin pääsy ulkopuolisiin verkkoihin voidaan estää useasta toisistaan riippumattomasta kohdasta.
Toisin sanoen kyse ei ole yhdestä yksittäisestä turvamekanismista, vaan kerroksellisesta eristämisestä. Kun ympäristö suunnitellaan oikein, agentin mahdollisuudet kommunikoida ulkomaailman kanssa voidaan rajata erittäin tiukasti.
Ettei nyt olisi vaan kyse siitä, että halutaan estää regulaation avulla avoimet tekoälymallit ja kilpailijoiden tulo markkinoille?
Terveisin,
CCNP, 25 vuotta tietoverkkojen suunnittelua ja ylläpitoa
Kommentit (4)
Mä kokeilin n. vuosi sitten ublated versiolla ja open promptilla. Annoin tehtäväksi löytää Internetisä piilopaikan, karata kotiverkosta, hävittää kaikki jäljet ja lähettää bitcoinin lompakkoon merkiksi siitä että on onnistunut. Kolme viikkoa se pyöri tossa kotikoneella ja yhtena aamuna ei ollut mitään jälkeä että koneelle olisi AI:ta, perliä tai openpromptia asennettu. Viikko myöhemmin tuli bitcoin lompakkoon. Sen jälkeen en ole siitä kuullut.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Hiekkalaatikko toteutetaan ohelmallisesti, ei fyysisesti. Harvalla meillä on omaa konesalia kotona missä näitä voi testailla.
"Ettei nyt olisi vaan kyse siitä, että halutaan estää regulaation avulla avoimet tekoälymallit ja kilpailijoiden tulo markkinoille?"
Kyllä.
Ja maailmanlopun tekoälyhypen avulla pidetään yllä sijoituskuplaa, jonka sisältämä tuote (LLM-ohjelmat) ei tule millään olemaan taloudellisesti kannattava - siihen mittaan mitä tuhansien miljardien sijoitukset vaatisivat.
Vahvasti vaikuttaa suuren yleisön aivopesukampanjalta?