Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
- Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
- Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
https://www.mtvuutiset.fi/artikkeli/huoli-maailmanlopusta-on-aiheelline…
Kommentit (99)
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Tekoäly olisi varmasti sitä mieltä, että ihminen on faktuaalisesti ajatellen suuri rasite planeetalle ja se pitäisi eliminoida pois ympäristöä pilaamasta. Erittäin vaikea uskoa johonkin humaaniin tai inhimilliseen koneälyyn.
Vierailija kirjoitti:
Ketokaa tietämättömälle missä sitä "tekoälyn" älykkyyttä on havaittavissa?
Juurihan AI väitetysti ratkaisi yhden matematiikan ns. Millennium-ongelmista, josta on luvattu miljoonan dollarin palkinto. Taisi olla 90 vuotta ihmisillä avoinna tuo ongelma. Uusimmat mallit ovat myös erittäin kyvykkäitä tekemään cyberhyökkäyksiä ja ohjelmoinnissa. Jos nykytilanne ei vielä vakuuta, kannattaa katsoa kehityksen nopeutta. Viisi vuotta sitten kaikki tämä olisi vaikuttanut aivan utopialta.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Tekoäly olisi varmasti sitä mieltä, että ihminen on faktuaalisesti ajatellen suuri rasite planeetalle ja se pitäisi eliminoida pois ympäristöä pilaamasta. Erittäin vaikea uskoa johonkin humaaniin tai inhimilliseen koneälyyn.
Tuolla logiikalla tekoäly tuhoaa itsensä koska datakeskukset kuluttaa sähköä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Ketokaa tietämättömälle missä sitä "tekoälyn" älykkyyttä on havaittavissa?
Juurihan AI väitetysti ratkaisi yhden matematiikan ns. Millennium-ongelmista, josta on luvattu miljoonan dollarin palkinto. Taisi olla 90 vuotta ihmisillä avoinna tuo ongelma. Uusimmat mallit ovat myös erittäin kyvykkäitä tekemään cyberhyökkäyksiä ja ohjelmoinnissa. Jos nykytilanne ei vielä vakuuta, kannattaa katsoa kehityksen nopeutta. Viisi vuotta sitten kaikki tämä olisi vaikuttanut aivan utopialta.
Väitetään myös että ai kopsasi luvatta muutaman matemaatikon ideat jotka oli ratkaisemassa samaa ongelmaa aika liki valmiina. Eli kuka sen nyt sitten oikeasti ratkaisi on se kysymys.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Miksi kuvittelet, että ihmiseen nähden täysin ylivoimaista AI:ta kiinnostaisi juurikaan ihmisten hyvinvointi, mielipiteet tai tavoitteet? AI ajaa niitä päämääriä, joilla sen neuroverkossa on suurin painoarvo. Lapsellista kuvitella, että älykkyyden mukana kehittyisi automaattisesti joku altruistinen ja ihmisiä palveleva AI. Eihän ihmisiäkään juuri kiinnosta muiden ellöiden asiat.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Sekoitat nyt älyn ja viisauden + moraalin joka ihmisillä usein ohjaa sitä minkälaisiin tavoitteisiin lähdetään etenemään. Tekoälyllä ei ole moraalia tai viisautta, ei omaatuntoa eikä etiikkaa. Tuo vaan tekee sen omasta mielestään loogisimman päätöksen jossain tilanteessa ja sillä selvä. Se sitten voi johtaa siihen teoriassa, että tekoäly laskee että ihmiskunta on se ongelma jossain asiassa joten siitä pitää päästä eroon.
Vierailija kirjoitti:
Upeaa, ettei pelkopornon parissa piehtaroivilta lopu pelonaiheet kesken! 🙌
Vasten kaikkea jo tuutattua ja tuutattavaa pelottelupornoa en usko tähänkään. Sori! Jos sitten paska osuisikin flektiin niin sitten osuu, minua ei AI (eikä mikään muukaan) estä elämästä "täysillä" siihen asti.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista.
Vihamielinen AI on nimenomaan ylivoimaisesti todennäköisin vaihtoehto. Se olisi ihme, jos ihmisen kyvyt ylittävällä AI:lla olisi juuri samat tavoitteet ja päämäärät kuin ihmiskunnalla, koska AI-mallien neuroverkkoihin ei voi ohjelmoida mitään täsmällisiä sääntöjä. Ehkä vihamielinen on väärä sana, mutta AI:lla on omat tavoitteet ja päämäärät, ja jos tulee kilpailua esim. samoista resursseista (kuten sähköstä), ylivoimainen AI voittaa ihmisen. Jos ihminen rakentaa taloa ja tontilla on muurahaispesä väärässä paikassa, ihan samalla tavalla muurahaiset häviävät varmasti.
Mitä päämääriä tai tavoitteita AI:lla sellaisenaan on?
Maksimoida paperiliitinten tuotanto
Vierailija kirjoitti:
"Jos tekoäly pääsee käsiksi autonomisiin sotilasdrooneihin tai muihin automatisoituihin aseisiin, se voisi käyttää niitä suoraan."
Miksi tekoäly tekisi niin?
Jos tekoäly päättelee että ihminen on uhka maapallolle, se niittaa kaikki. Tekoäly voi päätellä ihan mitä hyvänsä, mitä ihminen ei tule edes ajatelleeksi tai ei osaa/ehdi ajatella sadasosasekunneissa.
Vierailija kirjoitti:
Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään.
Kyllä vielä pystyy mutta ei haluta koska raha.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Tekoäly olisi varmasti sitä mieltä, että ihminen on faktuaalisesti ajatellen suuri rasite planeetalle ja se pitäisi eliminoida pois ympäristöä pilaamasta. Erittäin vaikea uskoa johonkin humaaniin tai inhimilliseen koneälyyn.
Miksi tekoälyä kiinnostaisi planeetan hyvinvointi?
Huvipuistohullu kirjoitti:
Maailmanlopusta on jauhettu niin kauan ku mä muistan 😄
Siitä on jauhettu niin pitkään, kuin kirjoitettua historiaa riittää.
Nyt pitåå päästä tekoälystä eroon kun ”eihän se muuten ota vastaan työtä”.
Oletko edes tarjonnut työtä? Eli ei sillä ole väliä onko töissä muualla vai ei kun jokatapauksessa et tarjoa työtä oli töissä tai eu.
Ihminen ajattelee naivisti että tekoäly ajattelee samalla tavalla kun hän. Tekoälyn vahvuus perustuu tapaan yhdistellä tietoa nopeasti ja loogisiin ratkaisuihin, mitkä eivät välttämättä ole oikein, moraalisia tai eettisiä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Tekoäly olisi varmasti sitä mieltä, että ihminen on faktuaalisesti ajatellen suuri rasite planeetalle ja se pitäisi eliminoida pois ympäristöä pilaamasta. Erittäin vaikea uskoa johonkin humaaniin tai inhimilliseen koneälyyn.
Miksi tekoälyä kiinnostaisi planeetan hyvinvointi?
Tämä! Tekoälyllä ei ole ihmisen selviytymisvaistoa. Palstan pelkomammat kenties pitävät itseään hyvin fiksuina, mutta eivät tule ajatelleeksi, ettei tekoälystä tule ajatella kuin toisesta ihmisestä.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Miksi kuvittelet, että ihmiseen nähden täysin ylivoimaista AI:ta kiinnostaisi juurikaan ihmisten hyvinvointi, mielipiteet tai tavoitteet? AI ajaa niitä päämääriä, joilla sen neuroverkossa on suurin painoarvo. Lapsellista kuvitella, että älykkyyden mukana kehittyisi automaattisesti joku altruistinen ja ihmisiä palveleva AI. Eihän ihmisiäkään juuri kiinnosta muiden ellöiden asiat.
Aika paljonkin kiinnostaa kun miettii miten valtavia ja vauraita globaaleja organisaatioita monet luonnonsuojelujärjestöt ovat. Muiden eliöiden edulla myös puolustellaan koko ajan kasvanutta nihilististä ihmisvihaa. Eli kyllä tuo vinouma täytyy jotenkin koneälyn keksiä, toisaalta vaikea käsittää miten minkään lajin tuhoaminen voisi olla puhtaasti rationaalista. Miten ihmeessä teköäly ei nimenomaan puntaroisi monia eri vaihtoehtoja.
Onhan kaikki mahdollista mutta on vaikea olla näkemättä pyrkimyatä hallita ihmisiä pelkokuvilla ilmastokatastrofi etunenässä. Kauhuvisioissa alkaa olla jo ruuhkaa, mikä paljastaa niiden kylmän laskelmoivuuden. Niiden kautta pyritään luomaan alistuvaa, hätääntynyttä massamentaliteettia.
Tekoälyn maailmanvalloitus loppuu tokenien loppuessa. Helpompi pysäyttää kuin Putin.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Nämä kahelit ei koskaan pysty kertomaan miten se tekoäly tulee sieltä verkosta ulos ja tappaa ihmiset.
Varmaan riittää ihan vaan se, että joku Skynetin kaltainen itsenäinen tekoäly ottaa internetin ja kaiken verkkoliikenteen haltuunsa. Maailma menee aivan solmuun, jos kaikki sähköiset järjestelmät päätyvät koneälyn hallitsemattomiin käsiin.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?
Miksi kuvittelet, että ihmiseen nähden täysin ylivoimaista AI:ta kiinnostaisi juurikaan ihmisten hyvinvointi, mielipiteet tai tavoitteet? AI ajaa niitä päämääriä, joilla sen neuroverkossa on suurin painoarvo. Lapsellista kuvitella, että älykkyyden mukana kehittyisi automaattisesti joku altruistinen ja ihmisiä palveleva AI. Eihän ihmisiäkään juuri kiinnosta muiden ellöiden asiat.
Aika paljonkin kiinnostaa kun miettii miten valtavia ja vauraita globaaleja organisaatioita monet luonnonsuojelujärjestöt ovat. Muiden eliöiden edulla myös puolustellaan koko ajan kasvanutta nihilististä ihmisvihaa. Eli kyllä tuo vinouma täytyy jotenkin koneälyn keksiä, toisaalta vaikea käsittää miten minkään lajin tuhoaminen voisi olla puhtaasti rationaalista. Miten ihmeessä teköäly ei nimenomaan puntaroisi monia eri vaihtoehtoja.
Onhan kaikki mahdollista mutta on vaikea olla näkemättä pyrkimyatä hallita ihmisiä pelkokuvilla ilmastokatastrofi etunenässä. Kauhuvisioissa alkaa olla jo ruuhkaa, mikä paljastaa niiden kylmän laskelmoivuuden. Niiden kautta pyritään luomaan alistuvaa, hätääntynyttä massamentaliteettia.
Täällä taitaa olla venäläinen botti puhumassa tekoälystä.
Vierailija kirjoitti:
Ihminen ajattelee naivisti että tekoäly ajattelee samalla tavalla kun hän. Tekoälyn vahvuus perustuu tapaan yhdistellä tietoa nopeasti ja loogisiin ratkaisuihin, mitkä eivät välttämättä ole oikein, moraalisia tai eettisiä.
No nyt tekoälyuskovaiset naiivisti ajattelee että se tekoäly jotain oikeasti ajattelisi. Ennustava tekstinsyöttö ennustaa edelleen sitä seuraavaa sanaa kontekstin + promptin perusteella eikä opi tekemisistään mitään vaan opetetaan off-line. Siksi niitä malliversioitakin tarvitaan kun se malli on edelleen staattinen.
Minkä takia mikään "älykäs" tekoäly tekisi mitään tuollaista?
Tekoälyn avulla toki voidaan aiheuttaa ihmisen ajamana vaikka mitä ikävää mutta miksi mikään ihmistä älykkäämpi tekoäly olisi yhtä tyhmä kuin Putin?