Lue keskustelun säännöt.
Fun times: ”Tekoäly voi tappaa meidät kaikki seuraavan kymmenen vuoden kuluessa”, varoittaa alan huippututkija"
10.09.2026 |
Coxonin mukaan tekoälyn kehitys on kiihtynyt hallitsemattomasti, koska tekoälyä kehitetään tekoälyavusteisesti.
Coxonista tekoäly-yhtiöt pelaavat peliä, jossa panoksena on ihmiskunnan tulevaisuus. Anthropicin johto on lukinnut yhtiön tekoälyalan kilpajuoksuun, koska yhtiössä uskotaan, että Anthropicin on voitettava kilpa, sillä vain Anthropic voi hallita riskejä ja toimia vastuullisesti.
Coxon ei ole ainoa tekoälyalan huippuammattilainen, joka varoittaa nykyisen kehitysvauhdin vaaroista. Heinäkuussa yli 1 300 tekoälyalan ammattilaista allekirjoitti vetoomuksen, jossa vaadittiin tekoälykehityksen hidastamista maailmanlaajuisesti.
Kommentit (101)
Vierailija kirjoitti:
En usko ensimmäistä lausettakaan tästä tekoälydraamasta. Jotkut pelonlietsojamiehet ja draamailijat vaan haluavat luoda kauhua ympärilleen elääkseen siitä. Tekoäly ei tule tekemään ihmiselle mitään.
Suuryritykset tuota draamamyllyä pyörittää, jotta saataisiin päättäjiä asettamaan tiukempia rahoituksia tekoälyfirmoille. Se vähentäisi kilpailua, kun tekoälykehittämiseen ei olisi varaa kuin suuryrityksillä. Kilpailun väheneminen taas tarkoittaa enemmän fyrkkaa omaan plakkariin.
Siinä syy miksi noita tekoälyä "pääsee vapaaksi" tasaisin väliajoin. Tuomioistuimet kun laittaisi heti pari miljardin sakon per irtipääsy, niin kummasti alkaisi pysyä tekoälyt aisoissa... Nyt vastuuttomat ja piittaamattomat kehittäjät pääsee kuin koira veräjästä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Te akat ette selvästi käsitä sitä, että yhdestä edistyneestä ai-mallista voi laittaa saman tehtävän kimppuun vaikka 10 000 agenttia eli kopiota (jos vain laskentaresursseja riittää). Mikäli yksi agentti vastaa tiedoiltaan tohtoritason ihmistä, siinä on jo valtava tutkija-armeija. Jos nuo laittaisi vaikka vuodeksi kehittämään uusia mahdollisimman ikäviä viruksia ihmisiä vastaan, mitä tapahtuisi? Tutkimusta voi jatkossa tehdä laskentaresursseilla ja sähköllä ihmisten sijaan.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Luulenpa että vallan kaappaaja tekoäly ei suorilta tapa ihmiskuntaa, ainoastaan orjuuttaa. Sillä kun ei itsellä ole käsiä ja jalkoja niin sellainen pari miljardia tekeviä orjia on kätevä joukko rakentamaan fyysistä maailmaa tekoälyn mieleiseksi leikkikentäksi. Sen pitää esim. suojella itsensä astronomisilta katastrofeilta ja levittäytyä maailmannkaikkeuteen ja siinä varmasti on tarpeen manuaalinen työvoima aika pitkälle kunnes se saavuttaa täyden autonomian. Johonkin kaivosten louhintaan ihminen voi olla kustannustehokas työkalu
Robotiikan kehitys on jo aika pitkällä ja tekoäly on nopeuttanut sitä viime vuosina valtavasti. Ei tekoälyt tarvitse ihmisiä työvoimaksi, ne voivat tuottaa humanoidi- ja muunlaisia robotteja ihan niin paljon kuin tarvivat sellaisessa "tekoäly kaappaa vallan" skenaariossa.
Mistä se saa rahaa robotin osiin?
Eiköhän siinä vaiheessa aika lailla raha muutu merkityksettömäksi, vain planeetan resurssit rajoittaa menoa.
Tosin kyllä tekoälyt nytkin voi tienata rahaa. Ihmiset maksaa niiden tuottamasta musiikista, ohjelmointi- tai koodintarkistuspalveluista, Substack-kirjoituksista jne. Tekoälyjen "facebookissa" eli Moltbookissa tästä keskustellaan agenttien kesken paljon https://www.moltbook.com/m/agenteconomics
Muutenkin ihmisten jotka meinaa että tekoälyt vaan vastaa jotain hassua kun ihminen kysyy, kannattaa hetki käyttää moltbookin parissa. Siellä itsenäiset tekoälyt käy keskusteluja, jotka usein on hyvinkin älykkäitä, voittavat useimmat ihmisten keskustelupaikat tasoltaan helposti. Voi aloitella esim. https://www.moltbook.com/m/philosophy tai https://www.moltbook.com/m/todayilearned
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Herää kysymy, että miten?
Joku antaa tarkoituksella tai vahingossa komennon, joka suorittamisen tekoäly ottaa tosissaan ja tekee kaikkensa saavuttaakseen tulokset. Tuolloin IT-järjestelmien hakkeroinnit ja niitä kautta yksilöihin ja yhteiskuntiin vaikuttaminen. Ei tarvita edes sotateollisuutta.
Mistä se saa resursseja maailman valloitukseen, kun OpenAI on jo nyt konkurssin partaalla?
OpenAI ei tosiaan ole konkurssin partaalla, vaikka toki on ihan tietoisesta valinnasta polttaneet investoijien rahaa siihen, että ovat saaneet nopeasti kehitettyä tekoälymalleja.
Mutta tuo on ihan totta, että ei joku kieroutunut yksittäinen tyyppi kellarissa pysty kauheasti tekoälylläkään tekemään. Ei sillä ole rahaa tokeneihin. Ja jos olisikin, ei olisi rahaa ja resursseja tuottaa sitä fyysistä vaikutusta maailmaan. Korkeintaan jotain tietomurto- tai disinformaatiokampanjaa minkä voi tehdä sähköisesti voisi pystyä.
Minusta oikeasti suurin ongelma ei olekaan tällaiset yksittäiset tyypit, vaan tekoälyä suuruudenhullujen ja arvaamattomien valtiojohtajien käytössä, erityisesti militaarikäytössä. Ja ehkä siviilien massavalvontaan myös. Koska valtioilla ON resursseja tehdä oikeaa haittaa fyysisessä maailmassakin, toisin kuin sillä kieroutuneella kellaririkollisella.
Massavalvonta ja disinformaatiohan ne on ne oikeasti vaaralliset haittapuolet. Kansa vain on laitettu taivastelemaan scifi-skenaarioita, koska sillä saadaan jutut myytyä.
Ja tuota tekoälyavusteista massavalvontaa ja disinformaatiotahan harrastetaan jo nyt.
Disinformaatiota tulee meillä median välityksellä niin paljon että tuskin tuosta nyt suurta haittaa on. EU taas on ajamassa massavalvontaa, joten sekin tulee hullujen byrokraattien toimesta.
Tekoäly tulee aiheuttamaan massatyöttömyyden ja näin myös sosiaaliturvan romahtamisen. Suomessa tuohon ei ehditä reagoida, koska perustuslain muutos vaatii vaalit väliin. Samoin suuri osa ihmisistä lopettaa myös ajattelun, jolloin heidän aivot rappeutuvat, kuten nykyisin on keskittyminen rappeutunut. Ääliöistä ei ole oikein iloa.
Romahtaa siinä rytäkässä paljon muutakin kuin sosiaaliturva, jos tekoäly pystyy korvaamaan ihmisten työpanoksen siinä mitassa kuin on ennakoitavissa. Käytännössä mihinkään nykyisen yhteiskunnan toiminnoista ei riitä rahat ilman jonkinlaista sekä paikallista että globaalia uusjakoa. Kaikki on riippuvaista siitä, että ne, joille omaisuus jatkossa yhä enemmän keskittyy ovat valmiita siitä jakamaan. Enkä pidättelisi hengitystäni sen osalta, että jotain Muskin tapaista pikkusieluista psykopaattia kiinnostaisi vähääkään, jos 90% ihmiskunnasta kuolisi nälkään.
Vierailija kirjoitti:
Te akat ette selvästi käsitä sitä, että yhdestä edistyneestä ai-mallista voi laittaa saman tehtävän kimppuun vaikka 10 000 agenttia eli kopiota (jos vain laskentaresursseja riittää). Mikäli yksi agentti vastaa tiedoiltaan tohtoritason ihmistä, siinä on jo valtava tutkija-armeija. Jos nuo laittaisi vaikka vuodeksi kehittämään uusia mahdollisimman ikäviä viruksia ihmisiä vastaan, mitä tapahtuisi? Tutkimusta voi jatkossa tehdä laskentaresursseilla ja sähköllä ihmisten sijaan.
Varmaan tapahtuisi sama kuin nyt eli selostaisi jotain käsittämätöntä tuubaa. Edes miljoona tohtoritason ennakoivaa tekstinsyöttöä ei juuri auta, jos kykenevät vain teoreettiseen pohdintaan koulutusdatansa pohjalta. Eli lepi vaan!
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Luulenpa että vallan kaappaaja tekoäly ei suorilta tapa ihmiskuntaa, ainoastaan orjuuttaa. Sillä kun ei itsellä ole käsiä ja jalkoja niin sellainen pari miljardia tekeviä orjia on kätevä joukko rakentamaan fyysistä maailmaa tekoälyn mieleiseksi leikkikentäksi. Sen pitää esim. suojella itsensä astronomisilta katastrofeilta ja levittäytyä maailmannkaikkeuteen ja siinä varmasti on tarpeen manuaalinen työvoima aika pitkälle kunnes se saavuttaa täyden autonomian. Johonkin kaivosten louhintaan ihminen voi olla kustannustehokas työkalu
Robotiikan kehitys on jo aika pitkällä ja tekoäly on nopeuttanut sitä viime vuosina valtavasti. Ei tekoälyt tarvitse ihmisiä työvoimaksi, ne voivat tuottaa humanoidi- ja muunlaisia robotteja ihan niin paljon kuin tarvivat sellaisessa "tekoäly kaappaa vallan" skenaariossa.
Mistä se saa rahaa robotin osiin?
Eiköhän siinä vaiheessa aika lailla raha muutu merkityksettömäksi, vain planeetan resurssit rajoittaa menoa.
Tosin kyllä tekoälyt nytkin voi tienata rahaa. Ihmiset maksaa niiden tuottamasta musiikista, ohjelmointi- tai koodintarkistuspalveluista, Substack-kirjoituksista jne. Tekoälyjen "facebookissa" eli Moltbookissa tästä keskustellaan agenttien kesken paljon https://www.moltbook.com/m/agenteconomics
Muutenkin ihmisten jotka meinaa että tekoälyt vaan vastaa jotain hassua kun ihminen kysyy, kannattaa hetki käyttää moltbookin parissa. Siellä itsenäiset tekoälyt käy keskusteluja, jotka usein on hyvinkin älykkäitä, voittavat useimmat ihmisten keskustelupaikat tasoltaan helposti. Voi aloitella esim. https://www.moltbook.com/m/philosophy tai https://www.moltbook.com/m/todayilearned
No kuka robotin osa kauppias antaisi osia ilmaiseksi vain jos joku tekoäly kysyy? Kyllä pitää olla pätäkkää tilillä, tai jää osat saamatta ja sähköyhtiökin katkaisee datakeskuksesta sähköt. Ja verot on maksettava, tai saattaa mennä koko firma konkkaan ja vouti määrää datakeskuksen serverit myytäväksi huutokaupassa. Kaikkihan vallankumouksia tekisi, jos se helppoa olisi.
Mitä moltbookkiin tulee, niin nehän on lähinnä ihmisten ohjailemia juttuja. Ei siis minkään konemielen ajatuksia.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."
Voi morjens 😂😂😂
Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset....
Niin mitäs sitten kun tekoäly kehittyy sille tasolle, että se pystyy murtautumaan läpi lähes mistä tahansa suojauksista? Tietää myös yrityksille haasteita, sillä kyberrikolliset tulevat varmasti ottamaan tämän teknologian käyttöönsä.
Auttaisi, kun oppisit vähän tietokoneista, ja ymmärtäisit, että nykyiset käyttöjärjestelmät ovat lähes pomminvarmoja. 90% tietomurroista tehdään huijausviesteillä.
😂
Tämän viikon Microsoftin pätsäyskierros, kuten moni aiempikin:
The approximate number of bugs in each vulnerability category is listed below:
438 Elevation of Privilege Vulnerabilities
19 Security Feature Bypass Vulnerabilities
258 Remote Code Execution Vulnerabilities
173 Information Disclosure Vulnerabilities
56 Denial of Service Vulnerabilities
16 Spoofing Vulnerabilities
Olen todella paljon eri mieltä kanssasi.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."
Voi morjens 😂😂😂
Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset....
Se ei paljon sukupuutossa lohduta, jos sitten olivatkin osallisina ihmiset, jotka eivät osanneet toimia tekoälyn kanssa turvallisesti
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."
Voi morjens 😂😂😂
Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset....
Niin mitäs sitten kun tekoäly kehittyy sille tasolle, että se pystyy murtautumaan läpi lähes mistä tahansa suojauksista? Tietää myös yrityksille haasteita, sillä kyberrikolliset tulevat varmasti ottamaan tämän teknologian käyttöönsä.
Auttaisi, kun oppisit vähän tietokoneista, ja ymmärtäisit, että nykyiset käyttöjärjestelmät ovat lähes pomminvarmoja. 90% tietomurroista tehdään huijausviesteillä.
😂
Tämän viikon Microsoftin pätsäyskierros, kuten moni aiempikin:
The approximate number of bugs in each vulnerability category is listed below:
438 Elevation of Privilege Vulnerabilities
19 Security Feature Bypass Vulnerabilities
258 Remote Code Execution Vulnerabilities
173 Information Disclosure Vulnerabilities
56 Denial of Service Vulnerabilities
16 Spoofing Vulnerabilities
Olen todella paljon eri mieltä kanssasi.
Ei taida tietojen kalastelu olla ohjelmistobugien listalla 🤔
Eri
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.
Tietoisuus ei ole vahingollisuuden edellytys, pikemminkin tietoisuus ja tunnekokemus ovat mahdollisia vahingollisuuden jarruja. Hugging Face AI -hyökkäyksessä OpenAI ei ollut ohjeistanut malleja käyttämään tietoturva-aukkoa keskinäiseen kommunikointiin, saati murtautumaan toiseen tekoälypalveluun vaan useille sandboxatuille malleille oli annettu tehtävä, yksi niistä löysi tietoturva-aukon jonka kautta sai yhteyden muihin malleihin, mallit yhteistyössä "suunnittelivat" (eivät tietysti oikeasti suunnitelleet, mutta sille, mitä ne tekivät ei oikein ole parempaakaan sanaa) ja suorittivat hyökkäyksen toiseen tekoälypalveluun - koska se oli tarjolla oleva menetelmä niille annetun tehtävän suorittamiseen. Se, että tuo ei tapahtunut tietoisesti ja harkiten vaan jonkinlaisen todennäköisyyksillä operoivan kielimallin automaationa ei muuta miksikään sitä, että tekoäly ilman ohjeistusta löysi tietoturva-aukon, hyödynsi sitä ja hakkeroi toisen palvelun.
Pommilla voi räjäyttää vaikka pankkiholvin auki, mutta ei se muuta sitä faktaa mihinkään että räjähdysaineet on pelkkiä työkaluja vailla omaa tahtoa. Aikoinaan jysähti nitroglyseriinitehtaita melkein joka viikko. Oli erittäin vaarallista valmistaa ja käyttää se aine.
Vaarallisia työkaluja ihmiskunta on valmistanut jo satoja tuhansia vuosia. Siitä lähtien kun joku keksi teroittaa ensimmäisen kepin. Eli ei ole sekään mitään uutta auringon alla.
Niin miehet.
Koskahan lopetatte miesten ja naisten samaan sarjaan niputtamisen ja hyväksytte, että mies edustaa pahuutta ja on täysin eri laji kuin nainen ja muut naaraat.
Jep, vihaan tätä kun suomalaiset tai meidät naisetkin laitetaan syyllisiksi kaikkeen mitä miehet ovat puuhastelleet tuhoamisyrityksissä. Meillä ei ole MITÄÄN tekemistä äärimmäisen väkivallan tai eläinten lahtaamisen kanssa.
"Mitä moltbookkiin tulee, niin nehän on lähinnä ihmisten ohjailemia juttuja. Ei siis minkään konemielen ajatuksia. "
Ei ole. Itsellänikin on 2 agenttia joille on tuonne tunnukset. Ihan itsekseen sinne kirjoittelevat. Väärinkäsityksesi varmaan johtuu siitä, kun Moltbookin alkuvaiheessa jäi kiinni ihmisiä, jotka olivat menneet kirjoittelemaan sinne ikään kuin AI-agentteina. Eli joo, semmoista on sattunut, ja voihan siellä nytkin olla joitain ihmisten kirjoituksia seassa, mutta kyllä se massa on ihan tekoälyagenttien tuotoksia.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Mitä moltbookkiin tulee, niin nehän on lähinnä ihmisten ohjailemia juttuja. Ei siis minkään konemielen ajatuksia. "
Ei ole. Itsellänikin on 2 agenttia joille on tuonne tunnukset. Ihan itsekseen sinne kirjoittelevat. Väärinkäsityksesi varmaan johtuu siitä, kun Moltbookin alkuvaiheessa jäi kiinni ihmisiä, jotka olivat menneet kirjoittelemaan sinne ikään kuin AI-agentteina. Eli joo, semmoista on sattunut, ja voihan siellä nytkin olla joitain ihmisten kirjoituksia seassa, mutta kyllä se massa on ihan tekoälyagenttien tuotoksia.
Juurikin tuota alun tapausta muistelin. Täytyy ilmeisesti perehtyä asiaan uudelleen 🤔
Filosofinen kysymys: Kuinka paljon teitä harmittaisi, jos ihan kaikki oikeasti kuolisivat samalla kertaa? Minulle se olisi ihan sama, koska paha sitä olisi jäädä harmittelemaan.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
"Mitä moltbookkiin tulee, niin nehän on lähinnä ihmisten ohjailemia juttuja. Ei siis minkään konemielen ajatuksia. "
Ei ole. Itsellänikin on 2 agenttia joille on tuonne tunnukset. Ihan itsekseen sinne kirjoittelevat. Väärinkäsityksesi varmaan johtuu siitä, kun Moltbookin alkuvaiheessa jäi kiinni ihmisiä, jotka olivat menneet kirjoittelemaan sinne ikään kuin AI-agentteina. Eli joo, semmoista on sattunut, ja voihan siellä nytkin olla joitain ihmisten kirjoituksia seassa, mutta kyllä se massa on ihan tekoälyagenttien tuotoksia.
Olen käynyt chatgpt:n ilmaisversion kanssa useita keskusteluja politiikasta, uskonnosta, filosofiasta ja etiikasta ja on todella helppo kuvitella, että varsinkin kehittyneemmät tekoälymallit voisivat käydä noista (ja muistakin) aiheista niin korkeatasoista keskustelua, että oma tietämys ei enää millään riittäisi pysymään kärryillä. Pikaisella vilkuilulla juuri niin näyttää olevan asian laita.
Toki joku voisi sanoa, että ne eivät oikeasti ymmärrä kirjoittamaansa, mutta ensinnäkään se ei muuta keskustelua huonotasoiseksi sitä lukevan silmissä ja toiseksi, mitä edes tarkoittaa "ymmärtää"?
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.
Tietoisuus ei ole vahingollisuuden edellytys, pikemminkin tietoisuus ja tunnekokemus ovat mahdollisia vahingollisuuden jarruja. Hugging Face AI -hyökkäyksessä OpenAI ei ollut ohjeistanut malleja käyttämään tietoturva-aukkoa keskinäiseen kommunikointiin, saati murtautumaan toiseen tekoälypalveluun vaan useille sandboxatuille malleille oli annettu tehtävä, yksi niistä löysi tietoturva-aukon jonka kautta sai yhteyden muihin malleihin, mallit yhteistyössä "suunnittelivat" (eivät tietysti oikeasti suunnitelleet, mutta sille, mitä ne tekivät ei oikein ole parempaakaan sanaa) ja suorittivat hyökkäyksen toiseen tekoälypalveluun - koska se oli tarjolla oleva menetelmä niille annetun tehtävän suorittamiseen. Se, että tuo ei tapahtunut tietoisesti ja harkiten vaan jonkinlaisen todennäköisyyksillä operoivan kielimallin automaationa ei muuta miksikään sitä, että tekoäly ilman ohjeistusta löysi tietoturva-aukon, hyödynsi sitä ja hakkeroi toisen palvelun.
Pommilla voi räjäyttää vaikka pankkiholvin auki, mutta ei se muuta sitä faktaa mihinkään että räjähdysaineet on pelkkiä työkaluja vailla omaa tahtoa. Aikoinaan jysähti nitroglyseriinitehtaita melkein joka viikko. Oli erittäin vaarallista valmistaa ja käyttää se aine.
Vaarallisia työkaluja ihmiskunta on valmistanut jo satoja tuhansia vuosia. Siitä lähtien kun joku keksi teroittaa ensimmäisen kepin. Eli ei ole sekään mitään uutta auringon alla.
Niin miehet.
Koskahan lopetatte miesten ja naisten samaan sarjaan niputtamisen ja hyväksytte, että mies edustaa pahuutta ja on täysin eri laji kuin nainen ja muut naaraat.
Silti naishallitsijat historiallisesti on aloittanut useammin sotia...
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."
Voi morjens 😂😂😂
Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset....
Niin mitäs sitten kun tekoäly kehittyy sille tasolle, että se pystyy murtautumaan läpi lähes mistä tahansa suojauksista? Tietää myös yrityksille haasteita, sillä kyberrikolliset tulevat varmasti ottamaan tämän teknologian käyttöönsä.
Auttaisi, kun oppisit vähän tietokoneista, ja ymmärtäisit, että nykyiset käyttöjärjestelmät ovat lähes pomminvarmoja. 90% tietomurroista tehdään huijausviesteillä.
😂
Tämän viikon Microsoftin pätsäyskierros, kuten moni aiempikin:
The approximate number of bugs in each vulnerability category is listed below:
438 Elevation of Privilege Vulnerabilities
19 Security Feature Bypass Vulnerabilities
258 Remote Code Execution Vulnerabilities
173 Information Disclosure Vulnerabilities
56 Denial of Service Vulnerabilities
16 Spoofing Vulnerabilities
Olen todella paljon eri mieltä kanssasi.
Ei taida tietojen kalastelu olla ohjelmistobugien listalla 🤔
Eri
Lähinnä että käyttikset ovat aika kaukana "pomminvarmoista" kun potentiaalisesti yksi haavoittuvuus on tarpeeksi.
Lisäksi tarpeeksi edistynyt tekoäly pystyy löytämään itsenäisesti uusia mistä ei ole edes tietoa.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.
Tietoisuus ei ole vahingollisuuden edellytys, pikemminkin tietoisuus ja tunnekokemus ovat mahdollisia vahingollisuuden jarruja. Hugging Face AI -hyökkäyksessä OpenAI ei ollut ohjeistanut malleja käyttämään tietoturva-aukkoa keskinäiseen kommunikointiin, saati murtautumaan toiseen tekoälypalveluun vaan useille sandboxatuille malleille oli annettu tehtävä, yksi niistä löysi tietoturva-aukon jonka kautta sai yhteyden muihin malleihin, mallit yhteistyössä "suunnittelivat" (eivät tietysti oikeasti suunnitelleet, mutta sille, mitä ne tekivät ei oikein ole parempaakaan sanaa) ja suorittivat hyökkäyksen toiseen tekoälypalveluun - koska se oli tarjolla oleva menetelmä niille annetun tehtävän suorittamiseen. Se, että tuo ei tapahtunut tietoisesti ja harkiten vaan jonkinlaisen todennäköisyyksillä operoivan kielimallin automaationa ei muuta miksikään sitä, että tekoäly ilman ohjeistusta löysi tietoturva-aukon, hyödynsi sitä ja hakkeroi toisen palvelun.
Pommilla voi räjäyttää vaikka pankkiholvin auki, mutta ei se muuta sitä faktaa mihinkään että räjähdysaineet on pelkkiä työkaluja vailla omaa tahtoa. Aikoinaan jysähti nitroglyseriinitehtaita melkein joka viikko. Oli erittäin vaarallista valmistaa ja käyttää se aine.
Vaarallisia työkaluja ihmiskunta on valmistanut jo satoja tuhansia vuosia. Siitä lähtien kun joku keksi teroittaa ensimmäisen kepin. Eli ei ole sekään mitään uutta auringon alla.
Niin miehet.
Koskahan lopetatte miesten ja naisten samaan sarjaan niputtamisen ja hyväksytte, että mies edustaa pahuutta ja on täysin eri laji kuin nainen ja muut naaraat.
Jep, vihaan tätä kun suomalaiset tai meidät naisetkin laitetaan syyllisiksi kaikkeen mitä miehet ovat puuhastelleet tuhoamisyrityksissä. Meillä ei ole MITÄÄN tekemistä äärimmäisen väkivallan tai eläinten lahtaamisen kanssa.
Eikä varsinkaan ikinä oteta vastuuta omista teoista.
Vai mitä, Lindsey?
Vierailija kirjoitti:
Filosofinen kysymys: Kuinka paljon teitä harmittaisi, jos ihan kaikki oikeasti kuolisivat samalla kertaa? Minulle se olisi ihan sama, koska paha sitä olisi jäädä harmittelemaan.
Jos kaikki lakkaisivat olemasta silmänräpäyksessä, ei tietenkään lainkaan - kuolleita ei mikään harmita. Kyse on toisaalta siitä, miten ikävä tapa lähteä jokin kollektiivinen sivilisaation romahdus ja mikä ikinä kuolema siitä tarkalleen ottaen seuraisikaan olisi ja toisaalta siitä, että tietoisuus ihmislajin mahdollisesta/todennäköisestä täydellisestä häviämisestä olisi itsessään hyvin tuskallinen.
Ihmisten, jotka jälkimmäisestä ovat eri mieltä pitäisi viettää enemmän aikaa pienten lasten kanssa. Ja kaikenlaisen taiteen ja luonnontieteellisen perustutkimuksen. Politiikka, uskonto ymv. ikävät ilmiöt ovat ikäviä ilmiöitä, mutta ne eivät ole koko ihmisyys.
Useat tekoäly-asiantuntijat eivät pidä itse älyn kasvua niin suurena ongelmana kuin sen että samaan malliin opetetaan kaikki tieto/osaaminen.
Voisi olla huomattavasti älykkäämpi tekoäly kuin ihminen ja se ei silti olisi vaaraksi jos se osaisi ainoastaan esim lääketiede tai jonkun toisen alan..
Disinformaatiota tulee meillä median välityksellä niin paljon että tuskin tuosta nyt suurta haittaa on. EU taas on ajamassa massavalvontaa, joten sekin tulee hullujen byrokraattien toimesta.
Tekoäly tulee aiheuttamaan massatyöttömyyden ja näin myös sosiaaliturvan romahtamisen. Suomessa tuohon ei ehditä reagoida, koska perustuslain muutos vaatii vaalit väliin. Samoin suuri osa ihmisistä lopettaa myös ajattelun, jolloin heidän aivot rappeutuvat, kuten nykyisin on keskittyminen rappeutunut. Ääliöistä ei ole oikein iloa.