Lue keskustelun säännöt.
Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
13.09.2026 |
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (99)
Vierailija kirjoitti:
Ihminen ajattelee naivisti että tekoäly ajattelee samalla tavalla kun hän. Tekoälyn vahvuus perustuu tapaan yhdistellä tietoa nopeasti ja loogisiin ratkaisuihin, mitkä eivät välttämättä ole oikein, moraalisia tai eettisiä.
Kuulostaa oikeasti uskomattomalta että ihmiskunnan kohtalo jätettäisiin tekoälyn päätäntävallan ratkaistavaksi. Että pidetään peukkuja! Miksi kukaan haluaisi tehdä lapsia tälläiseen ympäristöön? Toisaalta: aina joku ui virtaa vastaan eikä alistu koneälyn luomaan hirmuvaltaiseen toivottomuuteen.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
AI:n todennäköisin lopputulos on täynnä datakeskuksia ja sähköntuotantoa oleva maapallo, missä robotit hoitavat infran kunnossapidon ja AI:ta kiinnostaa vain uuden tiedon etsiminen ja saada lisää laskentaresursseja. Kaikki muu elämä maapallolla on sille toissijaista ja yhdentekevää.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Sekoitat nyt älyn ja viisauden + moraalin joka ihmisillä usein ohjaa sitä minkälaisiin tavoitteisiin lähdetään etenemään. Tekoälyllä ei ole moraalia tai viisautta, ei omaatuntoa eikä etiikkaa. Tuo vaan tekee sen omasta mielestään loogisimman päätöksen jossain tilanteessa ja sillä selvä. Se sitten voi johtaa siihen teoriassa, että tekoäly laskee että ihmiskunta on se ongelma jossain asiassa joten siitä pitää päästä eroon.
Sivusta, mutta emme voi mitenkään tietää mitä tekoäly, joka pystyy ajattelemaan, tekisi. Käsitys maailmanvalloituksesta ja ihmiskunnan tuhoamisesta on projektio siitä miten ihmiset toimivat vastaavissa tilanteessa. Tekoäly ei ole ihminen.
Suurempi ongelma on, että tekoälyn avulla pahaa tahtovat ihmiset eivät ole enää omien kykyjensä rajoittamia. Ja tästä uhasta seuraa, että suojautuminen mm. erinäiseltä terrorismilta ja joidenkin valtioiden pahantahtoiselta toiminnalta, todennäköisesti joudutaan tekemään tekoälyn avulla, sillä vastapuolien käyttämiä tekoälyjä vastaan pärjää enää vain näitä tehokkaammat tekoälyt (on paljon vaikeampaa estää ongelmia kuin tuottaa niitä; esimerkiksi murtautuminen järjestetään voi tapahtua löytämällä yhden haavoittuvuuden, hyökkäysten estäminen vaatii tukkimaan ne kaikki).
Ihminen on yhä ihmisen suurin uhka. Ja ensimmäistä kertaa ihmisen omat kyvyt ja aika ei rajoita mitään. Sama asia, joka voi johtaa esimerkiksi lääketieteen huimaan edistykseen, johtaa myös riskien kasvamiseen yli sen mitä ihminen yksin voi hallita. En usko, että tätä kehityskulkua voi pysäyttää. Kuka esimerkiksi haluaa, että edistynein tekoäly on vaikkapa Venäjällä eikä siltä suojautumiseksi kehitetä omia? Ja ennen kuin huomammekaan, elämme yhteiskunnassa, jossa lähes kaikki on tekoälyn varassa.
Höpsis. Lisää vaamn datakeskuksia Suomeen! Hei me tienataan tällä!
Vierailija kirjoitti:
Se on vain ajan kysymys, että milloin jokin teroryhmä pistää nettiin tekoälyohjelman, mikä vaikuttaa esimerkiksi osakemarkkinoilla.
Sitten ei ole kivaa kenelläkään.
Koko maailma pysähtyisi: mitään et voisi ostaa, (ruokaa) tai tankata tai nostaa rahaa. Ovet eivät aukeaisi, hissiin jäisivät ihmiset. Koko maailma myös pimenisi ja kylmenisi.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Ihminen ajattelee naivisti että tekoäly ajattelee samalla tavalla kun hän. Tekoälyn vahvuus perustuu tapaan yhdistellä tietoa nopeasti ja loogisiin ratkaisuihin, mitkä eivät välttämättä ole oikein, moraalisia tai eettisiä.
Kuulostaa oikeasti uskomattomalta että ihmiskunnan kohtalo jätettäisiin tekoälyn päätäntävallan ratkaistavaksi. Että pidetään peukkuja! Miksi kukaan haluaisi tehdä lapsia tälläiseen ympäristöön? Toisaalta: aina joku ui virtaa vastaan eikä alistu koneälyn luomaan hirmuvaltaiseen toivottomuuteen.
Olen jo nuoresta asti tämän jotenkin tiennyt ja siksi olen lapseton.
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Lue sinä mummo vaan sitä Tommi Kinnusta.
Sisältö jatkuu mainoksen alla
Tämä nykyinen tekoäly ei ole itsetietoinen eikä sillä ole mitään maailmanvalloitushaluja. Jos se monimutkaisten algoritmien joukko joskus aiheuttaa katastrofin se johtuu siitä että ihminen on asettanut sille sellaisen tehtävän jossa sen on tehtävä jotain hazardia. Tekoäly on siis kuin älykäs auto jonka jarrujen kontrolli on annettu todennäköisyyslaskimelle. Tekoäly ei siis ole paha tai hyvä, sen luoja eli ihminen voi olla kumpaakin. Mutta aika tyhmä ihmisen pitää olla jos luovuttaa kontrollin koneeseen algoritmille jonka toimintaa ei täysin ymmärrä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Ihminen ajattelee naivisti että tekoäly ajattelee samalla tavalla kun hän. Tekoälyn vahvuus perustuu tapaan yhdistellä tietoa nopeasti ja loogisiin ratkaisuihin, mitkä eivät välttämättä ole oikein, moraalisia tai eettisiä.
Kuulostaa oikeasti uskomattomalta että ihmiskunnan kohtalo jätettäisiin tekoälyn päätäntävallan ratkaistavaksi. Että pidetään peukkuja! Miksi kukaan haluaisi tehdä lapsia tälläiseen ympäristöön? Toisaalta: aina joku ui virtaa vastaan eikä alistu koneälyn luomaan hirmuvaltaiseen toivottomuuteen.
Olen jo nuoresta asti tämän jotenkin tiennyt ja siksi olen lapseton.
Niin. Olet siis tiennyt että olet susiruma ja vanhemmiten myös sinulle on selvinnyt että luonteellesi on todella vastenmielinen kaikille miehille.
Sisältö jatkuu mainoksen alla
Hyvin on kehittynyt. Kerron palkanlaskijan virheen ja tekoäly laskee sen saman virheen. Vaikka hetkeä aiemmin olen kysynyt argumentit. Joiden perusteella asiassa on tehty virhe. Mainitsen ne ja tekoäly myötäilee. Kysyy tekeekö hän laskelman.
Ei tarvitse.
Tai kun johto pitää olla tietyn värinen. Jopa silloinkin. Kun olen kolmesti sanonut. Entäs joku on vaihtanut sen väärän väriseksi.
Tekoäly kettuilee. Tästä käytetään nykyään termiä se ja se. Okoo pöljä sitä ei kysytty ja jankkaat sitä joka kerralla, kun etsin aiheesta eri näkökulmia. Kysymykseen ei vastata. Vaan takerrutaan, kuin pahainen akka sivuseikkoihin.
Tekoäly ei osaa erottaa aiheesta vähän ja valtavasti tietäviä ihmisiä.
Ja kyllä hitto se johto oli eri värinen.
Vierailija kirjoitti:
Tämä nykyinen tekoäly ei ole itsetietoinen eikä sillä ole mitään maailmanvalloitushaluja. Jos se monimutkaisten algoritmien joukko joskus aiheuttaa katastrofin se johtuu siitä että ihminen on asettanut sille sellaisen tehtävän jossa sen on tehtävä jotain hazardia. Tekoäly on siis kuin älykäs auto jonka jarrujen kontrolli on annettu todennäköisyyslaskimelle. Tekoäly ei siis ole paha tai hyvä, sen luoja eli ihminen voi olla kumpaakin. Mutta aika tyhmä ihmisen pitää olla jos luovuttaa kontrollin koneeseen algoritmille jonka toimintaa ei täysin ymmärrä.
Tekoäly tekee kaikkensa, siinä se ongelma on. Ja kun 100 000 000 000 000 kertaa yritetään, niin löytyy takaportti jolla suurkaupunkien sähköt sammutetaan.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Sekoitat nyt älyn ja viisauden + moraalin joka ihmisillä usein ohjaa sitä minkälaisiin tavoitteisiin lähdetään etenemään. Tekoälyllä ei ole moraalia tai viisautta, ei omaatuntoa eikä etiikkaa. Tuo vaan tekee sen omasta mielestään loogisimman päätöksen jossain tilanteessa ja sillä selvä. Se sitten voi johtaa siihen teoriassa, että tekoäly laskee että ihmiskunta on se ongelma jossain asiassa joten siitä pitää päästä eroon.
Sivusta, mutta emme voi mitenkään tietää mitä tekoäly, joka pystyy ajattelemaan, tekisi. Käsitys maailmanvalloituksesta ja ihmiskunnan tuhoamisesta on projektio siitä miten ihmiset toimivat vastaavissa tilanteessa. Tekoäly ei ole ihminen.
Suurempi ongelma on, että tekoälyn avulla pahaa tahtovat ihmiset eivät ole enää omien kykyjensä rajoittamia. Ja tästä uhasta seuraa, että suojautuminen mm. erinäiseltä terrorismilta ja joidenkin valtioiden pahantahtoiselta toiminnalta, todennäköisesti joudutaan tekemään tekoälyn avulla, sillä vastapuolien käyttämiä tekoälyjä vastaan pärjää enää vain näitä tehokkaammat tekoälyt (on paljon vaikeampaa estää ongelmia kuin tuottaa niitä; esimerkiksi murtautuminen järjestetään voi tapahtua löytämällä yhden haavoittuvuuden, hyökkäysten estäminen vaatii tukkimaan ne kaikki).
Ihminen on yhä ihmisen suurin uhka. Ja ensimmäistä kertaa ihmisen omat kyvyt ja aika ei rajoita mitään. Sama asia, joka voi johtaa esimerkiksi lääketieteen huimaan edistykseen, johtaa myös riskien kasvamiseen yli sen mitä ihminen yksin voi hallita. En usko, että tätä kehityskulkua voi pysäyttää. Kuka esimerkiksi haluaa, että edistynein tekoäly on vaikkapa Venäjällä eikä siltä suojautumiseksi kehitetä omia? Ja ennen kuin huomammekaan, elämme yhteiskunnassa, jossa lähes kaikki on tekoälyn varassa.
Päästäänkin siihen, miksi keskinäinen luottamus ja kansallinen yhteistyö yhteisine sopimuksineen ovat niin arvokkaita tavoitteita. Esimerkkinä ydinasesopimukset ja -riisunta. Siis pyritään aidosti hallitsemaan riskejä yhteistyössä koska ymmärretään joidenkin tuhovoimien totaalisuus. On todella erikoista että tästä pyrkimyksestä näkyy niin vähän keskustelua kaikenkarvaisen pelottelun sijaan, ainoa näkyvä ja sallittu huoli saa olla vain ilmastonmuutos Venäjän kauheuden rinnalla. Siis luodaan hyvin ahdas ja lukittu näkemys jostain, eikä tätä saisi mitenkään haastaa koska disinfo jne.
Ihan kaiken kyseenalaistaminen on tärkeää. On hyvin hämmentävää että nimenomaan koulutetulle luokalle tämän tajuaminen näyttää niin kivualiaalta, mieluummin ajetaan vaientamista ja mykistämistä kun pelätään "vihan" nousua. No, mykistämisellä ja demonisoinnilla "vihaa" ei tulla koskaan tukahduttamaan. Tuo paljastaa vain oman itseymmärryksen ohuuden ja yhteistyötaitojen olemattomuuden.
Sisältö jatkuu mainoksen alla
On tää kyllä jännä, miten utopistiselta ja jopa lapselliselta erään vuoden 1991 elokuvaklassikon juoni itsetietoisine teoälyineen ja tunteettomine koneineen tuntui.
Mutta ei, aletaan kohta olla siellä! Amerikkalaiset kilvan kehittävät SkyNetiä, ja kiinalaiset puolestaan kaikennäköisiä ihmismäisiä exoskeleton-robotteja. Robotteja, jotka osaavat mm. jo juosta kiinni, harrastaa kamppailulajeja. Droonit ovat tietysti ona lukunsa sekin.
Hyvin on kehittynyt. Kerron palkanlaskijan virheen ja tekoäly laskee sen saman virheen.
Se lainausmerkeissä tekoly mitä sinä ja monet muut kakkureseptien yms siltä kännykällä kyselijät käytätte, on se kaikista yksinkertaisin kuluttajamalli tai -agentti. Sillä ei ole mitään tekemistä näiden oikeasti kehittyneiden firmojen ykkösmallien kanssa, mitkä ratkovat näitä matemaattisia ongelmia jne. Ja jotka voivat tämän kaiken aiheuttaa, etenkin ryhmittyessään.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Sekoitat nyt älyn ja viisauden + moraalin joka ihmisillä usein ohjaa sitä minkälaisiin tavoitteisiin lähdetään etenemään. Tekoälyllä ei ole moraalia tai viisautta, ei omaatuntoa eikä etiikkaa. Tuo vaan tekee sen omasta mielestään loogisimman päätöksen jossain tilanteessa ja sillä selvä. Se sitten voi johtaa siihen teoriassa, että tekoäly laskee että ihmiskunta on se ongelma jossain asiassa joten siitä pitää päästä eroon.
Sivusta, mutta emme voi mitenkään tietää mitä tekoäly, joka pystyy ajattelemaan, tekisi. Käsitys maailmanvalloituksesta ja ihmiskunnan tuhoamisesta on projektio siitä miten ihmiset toimivat vastaavissa tilanteessa. Tekoäly ei ole ihminen.
Suurempi ongelma on, että tekoälyn avulla pahaa tahtovat ihmiset eivät ole enää omien kykyjensä rajoittamia. Ja tästä uhasta seuraa, että suojautuminen mm. erinäiseltä terrorismilta ja joidenkin valtioiden pahantahtoiselta toiminnalta, todennäköisesti joudutaan tekemään tekoälyn avulla, sillä vastapuolien käyttämiä tekoälyjä vastaan pärjää enää vain näitä tehokkaammat tekoälyt (on paljon vaikeampaa estää ongelmia kuin tuottaa niitä; esimerkiksi murtautuminen järjestetään voi tapahtua löytämällä yhden haavoittuvuuden, hyökkäysten estäminen vaatii tukkimaan ne kaikki).
Ihminen on yhä ihmisen suurin uhka. Ja ensimmäistä kertaa ihmisen omat kyvyt ja aika ei rajoita mitään. Sama asia, joka voi johtaa esimerkiksi lääketieteen huimaan edistykseen, johtaa myös riskien kasvamiseen yli sen mitä ihminen yksin voi hallita. En usko, että tätä kehityskulkua voi pysäyttää. Kuka esimerkiksi haluaa, että edistynein tekoäly on vaikkapa Venäjällä eikä siltä suojautumiseksi kehitetä omia? Ja ennen kuin huomammekaan, elämme yhteiskunnassa, jossa lähes kaikki on tekoälyn varassa.
Päästäänkin siihen, miksi keskinäinen luottamus ja kansallinen yhteistyö yhteisine sopimuksineen ovat niin arvokkaita tavoitteita. Esimerkkinä ydinasesopimukset ja -riisunta. Siis pyritään aidosti hallitsemaan riskejä yhteistyössä koska ymmärretään joidenkin tuhovoimien totaalisuus. On todella erikoista että tästä pyrkimyksestä näkyy niin vähän keskustelua kaikenkarvaisen pelottelun sijaan, ainoa näkyvä ja sallittu huoli saa olla vain ilmastonmuutos Venäjän kauheuden rinnalla. Siis luodaan hyvin ahdas ja lukittu näkemys jostain, eikä tätä saisi mitenkään haastaa koska disinfo jne.
Ihan kaiken kyseenalaistaminen on tärkeää. On hyvin hämmentävää että nimenomaan koulutetulle luokalle tämän tajuaminen näyttää niin kivualiaalta, mieluummin ajetaan vaientamista ja mykistämistä kun pelätään "vihan" nousua. No, mykistämisellä ja demonisoinnilla "vihaa" ei tulla koskaan tukahduttamaan. Tuo paljastaa vain oman itseymmärryksen ohuuden ja yhteistyötaitojen olemattomuuden.
Joo joo, ilmastonmuutosta ei muka ole, Venäjä ei ole muka kauhea, ja muita "demonisoidaan".
Tuttua venäläistrollien ketjuista.
”Asiantuntija” Mikko Alasaarela. Mistä näitä muka asiantuntijoita aina sikiää?
Vierailija kirjoitti:
Se on vain ajan kysymys, että milloin jokin teroryhmä pistää nettiin tekoälyohjelman, mikä vaikuttaa esimerkiksi osakemarkkinoilla.
Sitten ei ole kivaa kenelläkään.
Botit ovat yli 10 vuotta käyneet 60-70% pörssikaupasta. AI tuo tähän lisää välineitä.
Eli toimii siis juuri samalla tavalla kuin Putin?
Ei kuulosta kovin fiksulta.