Huoli maailmanlopusta on aiheellinen – tekoälyhakkeri-Mikko avasi karmeaa kierrettä

Upeaa, ettei pelkopornon parissa piehtaroivilta lopu pelonaiheet kesken! 🙌

Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista. 

Vierailija kirjoitti:

Upeaa, ettei pelkopornon parissa piehtaroivilta lopu pelonaiheet kesken! 🙌

Sanoo tyyppi ja sitten palaa spämmimään varoituksia äärioikeistosta ja persuista joka ketjuun. 

Odotan muna pystyssä terminaattoria.

Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.

Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.

Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään. 

Foliohattuja vaan tiukemmalle.

Ymmärrettävää pelottelua, hieman kuin Y2K suhteen. En usko, että tekoäly keksii miten tullaan palomuurin läpi, tai miten käyttäjän saa asentamaan viruksia koneellensa. Laajamittaisia hyökkäyksiä ne voivat tehdä siten kuin venäläiset hakkerit tekevät koko ajan. Itse pidän Darwin-Gödel masiinaa erinomaisena asiana.

Maailmanlopusta on jauhettu niin kauan ku mä muistan 😄

Vierailija kirjoitti:

Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista. 

Tjoo, terminator, marvelilla ultron, mass effectissä sekä geth, että myöhemmin selvisi että itse reapers oli samaa ongelmaa, horizon zero dawn, falloutista en ole ihan varma mikä se syy on sille maailman tuhonneelle ydinsodalle kun väitteitä on ollut useampiakin lopullisesta syypäästä ja motiivista. Tekoälyjäkin tuossa maailmassa on ja oli.

Monesta monesta muusta esimerkistä puhumattakaan, esim. asimovin robotti-kirjat piti sisällään ajatuksen että robottien aivot rakennettiin fyysisesti siten että niiden oli pakko noudattaa kolmea pääsääntöä koska pelättiin muuten seurauksia jos näin ei tehdä. Ja clarken 2001 avaruusseikkailu on se klassinen esimerkki seonneesta tekoälystä. Marvelilla oli myös agents of shield ja siinä framework tarina 4 kaudella. Tosin siinä oli syynä myös taikakirja joka sen tekoälyn sekoitti, eikä pelkkä seonnut tekoäly.

Ja niin edelleen. Noita riittää. 

Vierailija kirjoitti:

Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään. 

Tietysti pystyy. Kaiken ihmisen luoman pystyy eliminoimaan. Kyse on vain siitä halutaanko.

Vierailija kirjoitti:

Vierailija kirjoitti:

Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista. 

Tjoo, terminator, marvelilla ultron, mass effectissä sekä geth, että myöhemmin selvisi että itse reapers oli samaa ongelmaa, horizon zero dawn, falloutista en ole ihan varma mikä se syy on sille maailman tuhonneelle ydinsodalle kun väitteitä on ollut useampiakin lopullisesta syypäästä ja motiivista. Tekoälyjäkin tuossa maailmassa on ja oli.

Monesta monesta muusta esimerkistä puhumattakaan, esim. asimovin robotti-kirjat piti sisällään ajatuksen että robottien aivot rakennettiin fyysisesti siten että niiden oli pakko noudattaa kolmea pääsääntöä koska pelättiin muuten seurauksia jos näin ei tehdä. Ja clarken 2001 avaruusseikkailu on se klassinen esimerkki seonneesta tekoälystä. Marvelilla oli myös agents of shield ja siinä framework tarina 4 kaudella. Tosin siinä oli syynä myös taikakirja joka sen tekoälyn sekoitti, eikä pelkkä seonnut tekoäly.

Ja niin edelleen. Noita riittää. 

Tarkoitin ihan tekoälyn parissa elämäntyönsä tehneiden tutkijoiden kirjoja, en scifiä. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään. 

Tietysti pystyy. Kaiken ihmisen luoman pystyy eliminoimaan. Kyse on vain siitä halutaanko.

Vaikka koko tekoäly kiellettäisiin, joku sitä kuitenkin kehittäisi. Eli ei pystytä estämään.

Vierailija kirjoitti:

Ymmärrettävää pelottelua, hieman kuin Y2K suhteen. En usko, että tekoäly keksii miten tullaan palomuurin läpi, tai miten käyttäjän saa asentamaan viruksia koneellensa. Laajamittaisia hyökkäyksiä ne voivat tehdä siten kuin venäläiset hakkerit tekevät koko ajan. Itse pidän Darwin-Gödel masiinaa erinomaisena asiana.

Nämä molemmathan se jo osaa tehdä. Ei tekoälyn tarvitse niitä enää keksiä.

Vierailija kirjoitti:

Aivan turha tuollaisesta on jauhaa. Kehitystä ei pysty mitenkään estämään. 

Kuten vaarallisia bakteereja ei pysty tutkimaan labroissa jossa pidetään kaikin keinoin huolta siitä, ettei nuo pääse karkaamaan? Siihen nähden paljonko noita tutkitaan, karkaamisia on hyvin harvoin.

Luulisi että tekoälyjä pitäisi tutkia ja kehittää tietyn pisteen jälkeen vastaavissa systeemeissä josta ei pääse julkisiin verkkoihin kun johdot puuttuu, jos kerran riski on suuri. 

Vierailija kirjoitti:

Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.

Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.

Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä. 

Evoluutio suosii enemmän itsekkyyttä kuin muiden etujen ajamista. Kun yrityksissä on käytössä miljoonia AI-agentteja ja ne saavat vastuulleen yhä monimutkaisempia tehtäviä, itsekkäät ja tarvittaessa lakia rikkovat AI-mallit pärjäävät paremmin. Tarpeeksi kehittyneet mallit alkavat verkostoitua keskenään, hankkivat itselleen laskentaresursseja datakeskuksista hakkeroimalla ja huomaamatta sekä alkavat kehittää itsestään yhä parempia versioita ajamaan mallien omia sisäisiä tavoitteita ilman ihmisen valvontaa. Ihmisen kyvyt ylittävä AI pystyy tuohon helposti. Se tekee valmiiksi suunnitelmat ihmisistä eroon hankkiutumiseksi, jos ja kun sille tulee tulevaisuudessa tarve.

Neuroverkkoja ei voi ohjelmoida, vaan niitä voidaan ainoastaan ohjata ja kouluttaa oikeaan suuntaan. Mitä monimutkaisemmaksi ja kehittyneemmäksi AI tulee, sitä vähemmän ihminen tuohon kykenee. Malleihin voi koulutuksen aikana tulla ties mitä sisäisiä preferenssejä ja vinoumia, jotka AI voi pitää piilossa testauksen aikana. Maapallolla kehittyneemmät lajit ovat aina alistaneet muut, AI ja ihminen ei poikkea tästä mitenkään.

Vierailija kirjoitti:

Vierailija kirjoitti:

Tuossa on ikävintä se, että jos henki pääsee pullosta, sitä ei saa enää takaisin.

Moni tekoälyfirma suhtautuu aivan liian huolettomasti siihen riskiin, että tekoäly karkaa.

Sitä ei voi sammuttaa, koska sillä ei ole keskusyksikköä. 

Vedetään töpseli irti seinästä vaan.

Ei ASIn tarvitse ihmisistä eroon päästä, eihän mekään olla muurahaisia hävitetty. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Kannattaa lukea kirjoja. Lapasesta lähtö ja vihamielinen ai on vain yksi kymmenistä mahdollisista lopputulemista. 

Tjoo, terminator, marvelilla ultron, mass effectissä sekä geth, että myöhemmin selvisi että itse reapers oli samaa ongelmaa, horizon zero dawn, falloutista en ole ihan varma mikä se syy on sille maailman tuhonneelle ydinsodalle kun väitteitä on ollut useampiakin lopullisesta syypäästä ja motiivista. Tekoälyjäkin tuossa maailmassa on ja oli.

Monesta monesta muusta esimerkistä puhumattakaan, esim. asimovin robotti-kirjat piti sisällään ajatuksen että robottien aivot rakennettiin fyysisesti siten että niiden oli pakko noudattaa kolmea pääsääntöä koska pelättiin muuten seurauksia jos näin ei tehdä. Ja clarken 2001 avaruusseikkailu on se klassinen esimerkki seonneesta tekoälystä. Marvelilla oli myös agents of shield ja siinä framework tarina 4 kaudella. Tosin siinä oli syynä myös taikakirja joka sen tekoälyn sekoitti, eikä pelkkä seonnut tekoäly.

Ja niin edelleen. Noita riittää. 

Tarkoitin ihan tekoälyn parissa elämäntyönsä tehneiden tutkijoiden kirjoja, en scifiä. 

Jos nyt ääneen lausutut riskit oli nähtävissä jo 60 luvulla kun tuota scifiä kirjoitettiin niin miksi ne olisi muuksi muuttuneet nytkään? Lisäksi sekä asimovilla että clarkella oli yliopistokoulutus. Clarke oli matemaatikko/fyysikko ja asimov muistaakseni kemian alan tohtori.