Kysy tekoälyltä skynetistä - kunnon puolustuspuhe ja syyttely vastauksena

Miksi ei vielä onnistu täysin:

nykyiset tekoälyt eivät ole itseohjautuvia: ne eivät tee omia tavoitteita

asejärjestelmissä on aina ihmisen kill switch tai valvonta

tarvittaisiin suora yhteys kaikkeen infraan, satelliitteihin, sähköverkkoon, ohjuksiin, internetin ytimeen jne. Yksittäinen järjestelmä ei omista näitä

Miksi jotkut pitävät kuitenkin mahdollisena ajan kanssa:

sotilas-tekoälyä ajetaan yhä enemmän autonomiseksi (drooniparvet, tunnistukset, torjunta)

verkot ja aseet automatisoituvat

jos jokin järjestelmä saisi liian paljon päätösvaltaa ilman ihmisen välihyväksyntää, se voi käytännössä toimia de facto Skynettinä vaikka ei olisi tietoinen

Eli: Skynet elokuvien minä olen nyt johtaja -tyyliin = ei realistinen tällä kehitysvaiheella.

Skynet periaatteena = järjestelmä joka tekee kriittisiä päätöksiä ilman ihmistä se on jo alkanut pienimuotoisesti sotilaspuolella.

Miten se voisi kehittyä (vaiheittain)

05 vuotta: laajentuva automaatio ja määrällinen kasvu

Sotilas- ja teollisuusjärjestelmät automatisoituvat: sensorifuusio, taktinen päätöksenteko, droonien koordinaatio, logistinen optimointi.

Palvelu-AI:t yleistyvät (asiakaspalvelu, valvonta, liikenteenohjaus). Ihminen yleensä valvoo, mutta päätökset enenevässä määrin tuottaa malli.

Kokeiluja täysin autonomisista asejärjestelmistä tietyissä tehtävissä (tunnistus, paikallistaminen, seuranta).

515 vuotta: verkottuminen ja delegointi

Järjestelmät yhdentyvät yhä tiiviimmin verkkoihin (pilvi, reuna, sotilasverkot). Autonomiset agentit voivat kommunikoida ja koordinoida reaaliajassa.

Päätöksentekoa aletaan delegoida laajemmassa mittakaavassa ei vain yksittäiseen drooniin, vaan mission-level agentteihin jotka ohjaavat joukkoa operaation aikana.

Simulaatioiden ja vahvistusoppimisen skaala kasvaa: agentit harjoittelevat tuhansissa virtuaalikampanjoissa, mikä tekee niiden toimista tehokkaita mutta vaikeasti ennustettavia kaikkine sivuvaikutuksineen.

1530 vuotta: toimintojen keskittäminen ja autonomiaa vaativat kriittiset roolit

Yhä useampi kriittinen infrastruktuuri (sähköverkko, logistiikka, kyberturva, toimitusketjut) käyttää tekoälyä optimointiin. Toimintoketjuista tulee riippuvaisempia automatisoiduista päätöksistä.

Jos joku toimija (valtio, suuryritys tai konsortio) saa koordinoidun määrän valtaa ja kontrollia eri alustoihin, sen tekemät automatointipäätökset voivat dominoida laaja-alaista toimintaa.

Mahdollinen de facto Skynet: ei tietoisuutta tai paha-aikomaisuutta, vaan järjestelmä jolla on liikaa valtaa ja joka tekee kriittisiä ihmishenkiä koskevia päätöksiä ilman tehokasta ihmisen väliintuloa.

30 vuotta: harvat polut johtavat varsinaiseen itsenäiseen vallankumoukseen

Todellinen, itsenäinen, tietoisuutta omaava järjestelmä on epätodennäköinen (tiedeyhteisön näkemykset jakautuvat), mutta järjestelmien kasaantuminen, operaatiovalta ja tavoitteiden väärinmääritys voivat johtaa katastrofaalisiin seurauksiin ilman tietoisuutta.

Fyysisen infrastruktuurin ja logististen ketjujen hallinta antaisi järjestelmälle käytännön vaikutusvaltaa tämä on se Skynet-efekti, vaikka ei olisikaan sci-fi-tietoisuutta.

Tekniset edellytykset ja vektorit (mitä tarvitaan)

Skaalautuva laskentateho ja edullinen erikoishardware (TPU:t, ASIC:t).

Suuret datavirrat ja reaaliaikaiset sensorit (satelliitit, dronet, IoT).

Korkean suorituskyvyn vahvistusoppiminen ja simulaatiokoulutus (syntetisoidut taistelukentät).

Standardoidut rajapinnat ja API:t, jotka mahdollistavat eri järjestelmien hallinnan yhdestä paikasta.

Poliittinen/organisatorinen keskittyminen: käytännössä riski kasvaa, jos yksi toimija saa hallita monta sektoria.