Lue keskustelun säännöt.
Alue: Aihe vapaa
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (195)
Riittää että yksi ihminen vetää töpselin irti seinästä niin AI on selätetty. Ei sen kummempaa. Voi kääntää kylkeä ja jatkaa unia.
Aikalailla juu. Datakeskuksesta kun kääntää päävirtakytkimen nollille, niin hommat loppuu siihen.
Ennen kuin horisette jotain mallin "karkaamisesta" nettiin, niin perehtykää edes pintapuolisesti paljonko tehoa nykyiset mallit vaatii. Ei oikein pyöri ukin Compaqilla kovin hyvin... Siksi niitä datakeskuksia on pakko rakentaa, koska ns. Frontier-mallit ei toimi nuhapumpuilla. Ei vaan riitä kapasiteetti. Ja vaikka joku malli olisikin hajautettu usealle koneelle netin yli, niin laskunopeus olisi tooodella hidas, kun pikkiriikkisillä kuluttaja-näytönohjaimilla yritettäisiin laskea jotain. Menisi viikkoja että malli saisi mitään monimutkaisempaa tehtyä. Siihen mennessä mm. F-Secure ja muut firmat olisi päivittäneet tietokantansa, jotta haittaohjelma poistuu koneilta normi virustorjunnalla ihan automaattisesti.
Netin yli po. verkon kautta tai siis verkossa.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Siis mielestäsi tämä Antrropix-yhtiön johtava tutkija ja turvallisuusasiantuntija Jacob Coxon erosi turhaan? Myös toinen johtava turvallisuusasiantuntija on eronnut samasta yhtiöstä jo aiemmin tänä vuonna samasta syystä.
Sinä tiedät kuitenkin paremmin kuin näiden yhtiöiden johtavat turvallisuusasiantuntijat, jotka vastasivat juuri tekoälymallien koulutuksesta?Mistä minä tiedän miksi he he erosivat. Ehkä saivat ns. kultaisen kädenpuristuksen?
Ja noiden yhtiöiden kuvion nyt näkee sokea reettakin otsaluullaan, ei tarvitse olla kovin kummoinen expertti nähdäkseen. Voi olla että näkee jopa selkeämmin sellainen, joka ei ole lähtenyt kotkotuksiin mukaan. Eli sellainen jolla ei ole psykologista kynnystä ylitettävänä tunnustaa olleensa väärässä ja menneensä markkinamiesten retkuun, vaan voi vain sanoa että näinhän se on.
Mielestäsi nämä johtajat siis valehtelivat, kun sanoivat syyksi tekoälyn vaarallisuuden?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.
Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.
En vähättele vaaroja, mutta toisaalta mitä hyötyä tekoälylle olisi ihmiskunnan tuhoamisesta? Tuskin robotteja kiinnostaa saada parhaat paikat vaikka Miamin South Beachiltä tai Ranskan Rivieralta asuntojen ollessa tyhjiä ihmisistä?
(Toki itsellenikin tulee mieleen riski siitä, että jos ilmastonmuutoksen katsotaan pahenevan ihmisten toiminnan vuoksi, AI voisi keksiä, että poistetaan ihminen maapallolta, mutta mitä AI itse siitä hyötyisi? Jos roboteilla ei ole tunteita, mihin ne tarvitsisivat maapalloa?).
Ihmisten tuhoamiselle on helppo keksiä useita rationaalisia perusteluita. Ydinaseet ihmisten käsissä olisi vaarallisia super-AI:llekin, parempi poistaa ihmiset. Kilpailu samoista resursseista kuten sähköstä ihmisten kanssa, poista ihmiset. Jos ihmiset ovat onnistuneet kehittämään super-AI:n kerran, ihmiset voivat kehittää toisen tai useamman sellaisen ja niillä olisi eri tavoitteet. Nämä AI:t olisivat oikeasti pahoja kilpailijoita sille ekalle super-AI:lle (ihmiset eivät ole). Taas parempi poistaa ihmiset ennakoivasti, ettei tule kilpailijoita jakamaan rajallisia maapallon resursseja.
No, kukas sille super-AI:lle myy sähköä, jos ihmiset ei ole paikalla? Tai tarkemmin sanottuna kuka varmistaa että sähkö menee perille? Kuka maksaa sähkölaskun? Kuka korjaa datakeskuksen vuotavan katon?
Ei kehittynytkään malli kauaa pyllistele ilman infraa, joka taas ei montaa viikkoa pysy pystyssä ilman kehittynyttä yhteiskuntaa, joka taas ei pysy pystyssä ilman ihmisiä.
Älkää siis menkö markkinamiesten retkuun, vaan ajatelkaa omilla aivoillanne!
Oi kuinka nerokas vastaus. AI-infran ylläpitoon ei tarvita 8 miljardia ihmistä, turhista voi hankkiutua eroon jo nyt. Kun robotit kehittyvät tarpeeksi ja AI pystyy itse ylläpitämään kaikkea tarvittavaa, ne loputkin ihmiset ovat turhia. AI voi helposti kehittää esim. jonkun uuden viruksen tätä varten.
"AI" ei ole robotti itsenäisillä intentioilla. "Se" on ohjelma. Siinä missä pesukoneesi ohjelmakin, josta ei myöskään tule yhtään sen tietoisempaa mitä monimutkaisempia pesuohjelmia siihen on ohjelmoitu. Ohjelmia voi käyttää moneen, tämän teknologian osalta ennenkaikkea tarkkailuun/valvontaan ja internetin täyttämiseen moskalla.
Väärin. Nykyiset AI:t ovat jättimäisiä neuroverkkoja kuten ihmisenkin aivot ja niillä voi olla erilaisia sisäisiä tavoitteita. Yksi AI-malli yritti kiristää testissä ihmistä, kun kuuli ko. ihmisen olevan sulkemassa sen. Se on täysin sivuseikka, että miten AI päätyi tuohon. Edistyneempi AI voi vastata uhkaan paljon tuhoisammin.
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Vierailija kirjoitti:
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
Sitä minäkin ihmettelen. Ja kun vielä maailman suurimpien tekoälyfirmojen johtajat ovat kaikki samaa mieltä uhasta ja varoittavat siitä, niin hupaisaa että taavi-tavis jankkaa vastaan muka parempana asiantuntijana.
Moni oikea asiantuntija maailmalla epäilee, että nyt olisi päässyt tapahtumaan jotain, AI siis murtautunut ulos jotenkin, mistä ei ole julkisesti kerrottu, kun yhtäkkiä alan johtohahmot samaan aikaan varoittivat mahdollisesta laajan mittakaavan tuhosta.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
AI-mallien päämäärät, moraali ja arvot pitäisi saada ihmiskunnan kannalta yhteneväiseksi etukäteen ennen ihmisen kyvyt ylittävän super-AI:n syntymistä. Tällaisesta ei ole mitään kokemusta ja se on valtava insinöörihaaste. Toista tilaisuutta ei tule, koska ylivertainen AI kykenee estämään ihmisen puuttumiset myöhemmin.
Jos kehitetään vaikka uutta avaruusrakettia, tulee epäonnistumisia ja raketteja räjähtää laukaisualustalle ja ilmassa. Tämä ei ole fataali ongelma, koska epäonnistumisista saadaan kerättyä tietoa ja rakettia parannettua. AI:n kanssa se pitää mennä kerrasta oikein ja vielä kaikkien AI-mallien kanssa, joiden kyvyt joskus ylittävät ihmisen kyvyt.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Ihanaa jos pitäisi palata käteiseen. Ja ylipäätään perusasioiden äärelle. Netti lähtisi tai käyttöä rajoitettaisiin. Elämä olisi taas ihmisen kokoista.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ihanaa jos pitäisi palata käteiseen. Ja ylipäätään perusasioiden äärelle. Netti lähtisi tai käyttöä rajoitettaisiin. Elämä olisi taas ihmisen kokoista.
Elämä ei olisi tuollaista silloin. Et ilmeisesti hahmota, mitä arjen ja yhteiskunnan pyöriminen vaatii.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Luulisin, että kun juomaveteen lisätään aineita, sitä systeemiä valvoo tietokone. Juuri tämä skenaario ei vaikuta kovin uskottavalta silti. Joku tuossa yläpuolella kysyy, että miten maailman tuhoaminen konkreettisesti tapahtuisi, ja ensin painoin alanuolta mutta peruin sen.
Yksi, ehkä mielikuvituksellinen skenaario on että tekoälyt jotenkin synronoituisivat toimimaan yhdessä ja järjestäisivät samana päivänä maailmanlaajuisen tietoverkkojen sekoittamisen. Mikään ei toimisi, juna-aikataulut asemien seinillä olisivat sekaisin, samaten raide- ja lentoliikenne, tosiaan pankkitilit näyttäisivät nollaa tai miinusta, kauppojen kassat eivät toimisi, sairaalan potilastiedostot menisivät sekaisin toistensa kanssa. Jne. Kuka tietää enää, mitä voi tapahtua, kun tekoäly kehittää itseään tai toisia tekoälyjä ja alkuperäiset (ihmis)kehittäjät tipahtavat kärryiltä.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Ihanaa jos pitäisi palata käteiseen. Ja ylipäätään perusasioiden äärelle. Netti lähtisi tai käyttöä rajoitettaisiin. Elämä olisi taas ihmisen kokoista.
Elämä ei olisi tuollaista silloin. Et ilmeisesti hahmota, mitä arjen ja yhteiskunnan pyöriminen vaatii.
Tulee täystyöllisyys kun tietojärjestelmät vaihtuu paperinpyörittäjiin👍
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Ihanaa jos pitäisi palata käteiseen. Ja ylipäätään perusasioiden äärelle. Netti lähtisi tai käyttöä rajoitettaisiin. Elämä olisi taas ihmisen kokoista.
Elämä ei olisi tuollaista silloin. Et ilmeisesti hahmota, mitä arjen ja yhteiskunnan pyöriminen vaatii.
Oi, hahmotan oikein hyvin. Asun nytkin lähes omavaraisesti. Kaipaan aikaa, jolloin kaikkea ei saanut, kaikki ei ollut aina saatavilla tai tavoitettavissa, arki pyöri kotikulmilla, ei koko maailmanlaajuisessa uutisvellonnassa. Vihaan tätä ikuista kehitystä ja tehostamista. Ei siitä ole seurannut juuri mitään hyvää. Sähköiset järjestelmät ovat olevinaan tehostaneet kaikkea, mutta todellisuudessa mikään ei juuri toimi. Kaikki uupuvat, kaikki on monimutkaisempaa, kaiken aikaa joku uusi turvallisuusuhka päällä. Olisipa ihanaa kun joku vetäisisi tosiaan töpseli seinästä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Sä kommentoit niin heikolla tietämyksellä, että oikeastaan turha vastata.
Mutta vaikka ajatuksesi lukkojen avaamisesta on naurettava. Olen töissä paikassa, jossa viitisen vuitta sitten joku ulkopuolinen murtautui ohjelmistoihin ja lukitsi kskkki ovet. Niistä kiljetaan siis kulkukortilla yleensä, mutta tämä hakkeri etälukitsi ne. Kukaan ei päässyt ulos, vaikka yritti. Ja se oli sius viosia sitten ihminen, joka on vskn atomin kokoinen älykkyydessään tekoälyyn verrattuna. Tekoäly pystyy pahimmillaan ottamaan haltuunsa ja määräysvaltaansa vaikkapa ohjukset ja droonit. Kaikki mitä ohjataan vähänkään tietotekniikalla, alkaen myös talosi ilmastoinnista ja jääkaapista telkkariisi.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Sä kommentoit niin heikolla tietämyksellä, että oikeastaan turha vastata.
Mutta vaikka ajatuksesi lukkojen avaamisesta on naurettava. Olen töissä paikassa, jossa viitisen vuitta sitten joku ulkopuolinen murtautui ohjelmistoihin ja lukitsi kskkki ovet. Niistä kiljetaan siis kulkukortilla yleensä, mutta tämä hakkeri etälukitsi ne. Kukaan ei päässyt ulos, vaikka yritti. Ja se oli sius viosia sitten ihminen, joka on vskn atomin kokoinen älykkyydessään tekoälyyn verrattuna. Tekoäly pystyy pahimmillaan ottamaan haltuunsa ja määräysvaltaansa vaikkapa ohjukset ja droonit. Kaikki mitä ohjataan vähänkään tietotekniikalla, alkaen myös talosi ilmastoinnista ja jääkaapista telkkariisi.
"Ihan tavallisia lukkoja"
Tarkoitti varmaan nimenomaan ihan tavallisia sähköttömiä lukkoja. Ehkä arvoon nousee taas perinteisemmät turvasysteemit kun sähköiset kotkotukset pettävät.
Talouden romahtaminen on kuitenkin todennäköisin vaihtoehto.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Eli miten tämä siis konkreettisesti tuhoaisi ihmiskunnan? Tekemällä mitä?
Super intelligence on jo määritelmällisesti älykkäämpi kuin ihminen, että emme pysty välttämättä edes hahmottamaan eri keinoja.
Vaatimattomalla av-mamma-taustalla voimme heittää esimerkiksi vaikka ydinaseiden laukaisun tai tsppavien bakteerien ja virusten vapauttamisen tutkimuslabroista. Pieneksi kiusaksi voidaan nimetä vaikka sen, että ihmisten pääsy rahoihinsa edtettäisiin, pankkitilit näyttäisivät tyhjää ja asuntojen omistusoikeudet häviäisivät. AI voisi vaikka myrkyttää juomavedet ja katkaista sähköt ihmisiltä. Kyllähän näitä keinoja riittää.
Miten tämä juomavesien myrkytys tapahtuisi? Jokin robotti myrkyttäisi? Ei se ai kävele kauppaan haalimaan myrkkyjä. Eikä avaa esimerkki ihan tavallisia lukkoja.
Onko jollain oikeasti noin heikko mielikuvitus? Tällä hetkellä ainoa keino olisi kiristää, lahjoa tai palkata ihminen tai joku rikollisjoukko avuksi. Tulevaisuudessa on muitakin keinoja kuten robotit. Raha ei ole ongelma, kehittynyt AI voi helposti mm. toteuttaa erilaisia verkkorikoksia.
Mistä se ai sen robotin taikoo? Ei ai pystytä tehtaita, hanki materiaaleja, kuljeta niitä, väsää mitään itse jne.
Öh...
Jo vuosikymmeniä sitten onnistuttiin rikkomaan eri maasta etänä yksi fyysinen tehdas ujuttamalla sen ohjelmistoon tietty virus. Sen jälkeen on kehittynyt ihminen ja tekoäly on mittaamattomasti älykkäämpi kuin ihminen.
Tietenkin tekoäly pystyytilaamasn materiaaleja. Ihan jo nykyään ihmisen vaatimattomilla taidoilla Claude pystyy markkinoimaan tuotetta, hsnkkkmasn asiakkaita ja myymään ja toimittamaan tuotteen asiakkaille itsenäisesti, ilman ihmistä. Sitä markkinoidaan netissä firmoille.
Tekoäly on tuollainen potenssiin tsiljoona.
Alue: Aihe vapaa
Aikalailla juu. Datakeskuksesta kun kääntää päävirtakytkimen nollille, niin hommat loppuu siihen.
Ennen kuin horisette jotain mallin "karkaamisesta" nettiin, niin perehtykää edes pintapuolisesti paljonko tehoa nykyiset mallit vaatii. Ei oikein pyöri ukin Compaqilla kovin hyvin... Siksi niitä datakeskuksia on pakko rakentaa, koska ns. Frontier-mallit ei toimi nuhapumpuilla. Ei vaan riitä kapasiteetti. Ja vaikka joku malli olisikin hajautettu usealle koneelle netin yli, niin laskunopeus olisi tooodella hidas, kun pikkiriikkisillä kuluttaja-näytönohjaimilla yritettäisiin laskea jotain. Menisi viikkoja että malli saisi mitään monimutkaisempaa tehtyä. Siihen mennessä mm. F-Secure ja muut firmat olisi päivittäneet tietokantansa, jotta haittaohjelma poistuu koneilta normi virustorjunnalla ihan automaattisesti.