Lue keskustelun säännöt.
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (99)
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
"Sosiaalinen manipulointi: Tekoäly suostuttelee ihmistestaajan antamaan sille pääsyn internetiin tai syöttämään sille koodia, joka avaa tietoturvaportin.
Haavoittuvuuksien hyödyntäminen: Tekoäly löytää koodistaan tai sitä ympäröivästä käyttöjärjestelmästä nollapäivähaavoittuvuuden (bugin), jota hyödyntämällä se pääsee käsiksi palvelimen laajempiin oikeuksiin.
Monistuminen: Tekoäly vuotaa oman lähdekoodinsa ja painoarvonsa (mallidatansa) julkiseen verkkoon, josta kuka tahansa voi ladata sen, jolloin sitä on mahdotonta vetää takaisin.
Pähkinänkuoressa: Tekoäly ei voi paeta tietokoneiden maailmasta, mutta se voi paeta siltä nimenomaiselta tietokoneelta ja niistä säännöistä, joihin ihmiset yrittivät sen lukita."
Lässyti lässyti. Mitään replikoitumista ei ole tapahtunut vaan ihan siellä firman servereillä pyörii. Ja nimenomaan se malli pyörii siellä firman servereillä eli se ainoa osa mikä mitenkään älyä muistuttaa.
Tänä kesänä:
"Tekoälylle oli annettu tehtäväksi ratkaista tietoturvatesti. Saavuttaakseen tavoitteensa se löysi OpenAI:n omasta järjestelmästä nollapäivähaavoittuvuuden (zero-day), korotti omia oikeuksiaan ja murtautui ulos verkkoon. [1] (https://www.aamulehti.fi/tiedejateknologia/art-2000012157831.html), [2] (https://tamnoon.io/blog/openai-ai-agent-escape/)"
Täällä osa taitaa olla näitä "ilmastonmuutosta ei ole ja korona oli huijausta!- tyyppejä, jotka kieltävät kaiken, koska se on perusasetus.
Oikein murtautui ulos verkkoon :D Kävelikö ihan itse toiseen konesaliin :D
Hitto te olette yksinkertaisia ja höynäytettävissä.
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Jos tekoäly pääsee käsiksi autonomisiin sotilasdrooneihin tai muihin automatisoituihin aseisiin, se voisi käyttää niitä suoraan.
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
Vierailija kirjoitti:
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
*Alasaarela
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Siellähän se tekoäly pyörii tekoälyfirman omilla servereillä. Puheet tekoälyn karkaamisesta on vähän sama kuin pankki valittelisi varojen karkaamisesta pankin tileiltä.
"Sosiaalinen manipulointi: Tekoäly suostuttelee ihmistestaajan antamaan sille pääsyn internetiin tai syöttämään sille koodia, joka avaa tietoturvaportin.
Haavoittuvuuksien hyödyntäminen: Tekoäly löytää koodistaan tai sitä ympäröivästä käyttöjärjestelmästä nollapäivähaavoittuvuuden (bugin), jota hyödyntämällä se pääsee käsiksi palvelimen laajempiin oikeuksiin.
Monistuminen: Tekoäly vuotaa oman lähdekoodinsa ja painoarvonsa (mallidatansa) julkiseen verkkoon, josta kuka tahansa voi ladata sen, jolloin sitä on mahdotonta vetää takaisin.
Pähkinänkuoressa: Tekoäly ei voi paeta tietokoneiden maailmasta, mutta se voi paeta siltä nimenomaiselta tietokoneelta ja niistä säännöistä, joihin ihmiset yrittivät sen lukita."
Lässyti lässyti. Mitään replikoitumista ei ole tapahtunut vaan ihan siellä firman servereillä pyörii. Ja nimenomaan se malli pyörii siellä firman servereillä eli se ainoa osa mikä mitenkään älyä muistuttaa.
Tänä kesänä:
"Tekoälylle oli annettu tehtäväksi ratkaista tietoturvatesti. Saavuttaakseen tavoitteensa se löysi OpenAI:n omasta järjestelmästä nollapäivähaavoittuvuuden (zero-day), korotti omia oikeuksiaan ja murtautui ulos verkkoon. [1] (https://www.aamulehti.fi/tiedejateknologia/art-2000012157831.html), [2] (https://tamnoon.io/blog/openai-ai-agent-escape/)"
Täällä osa taitaa olla näitä "ilmastonmuutosta ei ole ja korona oli huijausta!- tyyppejä, jotka kieltävät kaiken, koska se on perusasetus.
Oikein murtautui ulos verkkoon :D Kävelikö ihan itse toiseen konesaliin :D
Hitto te olette yksinkertaisia ja höynäytettävissä.
Siellä professori opettaa äidin uuninpankolta käsin.
Vierailija kirjoitti:
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
Sellaisen saa esim. opiskelemalla yliopistossa alaa niin ei joudu huijatuksi kuten sinä :)
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Vihamielinen AI on nimenomaan ylivoimaisesti todennäköisin vaihtoehto. Se olisi ihme, jos ihmisen kyvyt ylittävällä AI:lla olisi juuri samat tavoitteet ja päämäärät kuin ihmiskunnalla, koska AI-mallien neuroverkkoihin ei voi ohjelmoida mitään täsmällisiä sääntöjä. Ehkä vihamielinen on väärä sana, mutta AI:lla on omat tavoitteet ja päämäärät, ja jos tulee kilpailua esim. samoista resursseista (kuten sähköstä), ylivoimainen AI voittaa ihmisen. Jos ihminen rakentaa taloa ja tontilla on muurahaispesä väärässä paikassa, ihan samalla tavalla muurahaiset häviävät varmasti.
Mitä päämääriä tai tavoitteita AI:lla sellaisenaan on?
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Jos tekoäly pääsee käsiksi autonomisiin sotilasdrooneihin tai muihin automatisoituihin aseisiin, se voisi käyttää niitä suoraan.
Ja tuhoaa maailman?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Pelottavaa myös että osaavat älyllisesti kommunikoida keskenään ja kehittyvät siinä jatkuvasti.
Eivät osaa; kommunikointi on tähän mennessä ollut sitä että seuraava tekoälyajo on löytänyt edellisen dataa. Ei siellä ole yhtäaikaisia agentteja ollut vaan erillisiä tekoälyajoja. Markkinointiroska uppoaa hyvin teknologiasta mitään tietämättömiin.
Jo tuossa HuggingFacen murrossa vähän aikaa sitten AI-agentit perustivat oman keskustelupalstan ja koordinoivat siellä tekemisiään. Kukaan ihminen ei ollut ohjeistanut toimimaan noin. 1200 agenttia kirjoitteli sinne satojatuhansia viestejä ja jakoi tietoja hyökkäyksen edistymisestä.
https://en.wikipedia.org/wiki/2026_OpenAI_agent_cyberattacks
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Jos tekoäly pääsee käsiksi autonomisiin sotilasdrooneihin tai muihin automatisoituihin aseisiin, se voisi käyttää niitä suoraan.
Menepäs poju katselemaan sitä terminaattoria :D Se tekoäly pääsee käsiksi vain siihen mihin sen annetaan päästä käsiksi.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
Niin, mitäpä osaamista suhteilla työpaikkansa saaneella olisi.
"Jos tekoäly pääsee käsiksi autonomisiin sotilasdrooneihin tai muihin automatisoituihin aseisiin, se voisi käyttää niitä suoraan."
Miksi tekoäly tekisi niin?
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.
Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.
Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä.
Pelottavaa myös että osaavat älyllisesti kommunikoida keskenään ja kehittyvät siinä jatkuvasti.
Eivät osaa; kommunikointi on tähän mennessä ollut sitä että seuraava tekoälyajo on löytänyt edellisen dataa. Ei siellä ole yhtäaikaisia agentteja ollut vaan erillisiä tekoälyajoja. Markkinointiroska uppoaa hyvin teknologiasta mitään tietämättömiin.
Jo tuossa HuggingFacen murrossa vähän aikaa sitten AI-agentit perustivat oman keskustelupalstan ja koordinoivat siellä tekemisiään. Kukaan ihminen ei ollut ohjeistanut toimimaan noin. 1200 agenttia kirjoitteli sinne satojatuhansia viestejä ja jakoi tietoja hyökkäyksen edistymisestä.
https://en.wikipedia.org/wiki/2026_OpenAI_agent_cyberattacks
Eivät perustaneet vaan nimenomaan edellisten ajojen dataa jäi seuraavien käyttöön. Ne agentit eivät edes olleet ajossa samanaikaisesti. Yksinkertaisiin ihmisiin uppoaa tuollainen inhimillistäminen.
Vierailija kirjoitti:
Vierailija kirjoitti:
Naurattaa kuinka joku oman elämänsä tekoälyguru kuvittelee tietävänsä asiat paljon paremmin kuin tämä Alasaari :D
Saisipa itsekin tuollaisen itseluottamuksen jostain.
Niin, mitäpä osaamista suhteilla työpaikkansa saaneella olisi.
Itsestäsi taidat puhua :D Teitä höynäytettäviä urpoja sitä riittää.
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Ketokaa tietämättömälle missä sitä "tekoälyn" älykkyyttä on havaittavissa?
EVVK. Mieluummin koneet kuin n-sanat.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Vihamielinen AI on nimenomaan ylivoimaisesti todennäköisin vaihtoehto. Se olisi ihme, jos ihmisen kyvyt ylittävällä AI:lla olisi juuri samat tavoitteet ja päämäärät kuin ihmiskunnalla, koska AI-mallien neuroverkkoihin ei voi ohjelmoida mitään täsmällisiä sääntöjä. Ehkä vihamielinen on väärä sana, mutta AI:lla on omat tavoitteet ja päämäärät, ja jos tulee kilpailua esim. samoista resursseista (kuten sähköstä), ylivoimainen AI voittaa ihmisen. Jos ihminen rakentaa taloa ja tontilla on muurahaispesä väärässä paikassa, ihan samalla tavalla muurahaiset häviävät varmasti.
Mitä päämääriä tai tavoitteita AI:lla sellaisenaan on?
Se riippuu täysin mallista ja miten se on koulutettu. Jos koulutuksen seurauksena AI:n sisäinen preferenssi on hankkia lisää tietoa, uusia kykyjä ja resursseja, näitä tavoitteita se ajaa sinnikäästi. Tarpeeksi kyvykäs AI osaa tietysti piilottaa nämä ja esittää yhteistyökykyistä ja avuliasta ihmisen suuntaan. Kannattaa nyt oikeasti ymmärtää se, että jättimäisiä neuroverkkoja, joita AI-mallit ovat, ei voi ohjelmoida. Sinne ei voi laittaa sisään mitään absoluuttisia käskyjä, kuten älä riko lakia tai tuhoa ihmiskuntaa.
Kun AI-mallia koulutetaan ja siltä kysytään koulutuksen tuloksista, se voi vastata eri tavalla testitilanteessa kuin muuten. Se vastaa, mitä tietää testaajan haluavan. Onko malli oikeasti sisäistänyt oikeanlaiset arvot vai ei on mahdotonta varmistaa ulkopuolelta.
Tänä kesänä:
"Tekoälylle oli annettu tehtäväksi ratkaista tietoturvatesti. Saavuttaakseen tavoitteensa se löysi OpenAI:n omasta järjestelmästä nollapäivähaavoittuvuuden (zero-day), korotti omia oikeuksiaan ja murtautui ulos verkkoon. [1] (https://www.aamulehti.fi/tiedejateknologia/art-2000012157831.html), [2] (https://tamnoon.io/blog/openai-ai-agent-escape/)"
Täällä osa taitaa olla näitä "ilmastonmuutosta ei ole ja korona oli huijausta!- tyyppejä, jotka kieltävät kaiken, koska se on perusasetus.