Fun times: ”Tekoäly voi tappaa meidät kaikki seuraavan kymmenen vuoden kuluessa”, varoittaa alan huippututkija"

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."

Voi morjens 😂😂😂 

Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset.... 

Niin mitäs sitten kun tekoäly kehittyy sille tasolle, että se pystyy murtautumaan läpi lähes mistä tahansa suojauksista? Tietää myös yrityksille haasteita, sillä kyberrikolliset tulevat varmasti ottamaan tämän teknologian käyttöönsä. 

Auttaisi, kun oppisit vähän tietokoneista, ja ymmärtäisit, että nykyiset käyttöjärjestelmät ovat lähes pomminvarmoja. 90% tietomurroista tehdään huijausviesteillä.

Olet Dunning–Krugerin asteikolla ihan eri paikassa missä kuvittelet. Tuo osuu hyvin kyseiseen teoriaan.

Vierailija kirjoitti:

Vierailija kirjoitti:

"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."

Voi morjens 😂😂😂 

Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset.... 

Mitä sillä on eroa miten se tapahtuu, kun se kuitenkin on mahdollista tapahtua ja tapahtuukin. Aina on joku huolimaton porukka, joka viis veisaa turvallisuudesta ja tehdään miten sattuu random-juttuja ja oho kävi vahinko.

Eiköhän ydinaseet ole suurempi uhka kuin ennakoiva tekstinsyöttö 😅 

Maailmassa on tällä hetkellä ydinasevavaltioiden hallitsijoina..

Putin, Trump ja Kim.

Mikä on todennäköisyys ydinsotaan.

Veikkaan 99% vuoden sisään.

Tarkoittaa maailman loppua osalle ihmisistä-

Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.

Jokainen järkevä kadunmies on nähnyt tämän kehityksen jo varmasti ainakin 50 vuotta sitten, ellei kauemminkin. Kun tekoäly saa robotit hallintaansa, kehittää automaattitehtaita tekemään lisää robotteja, joiden fyysinen suorituskyky ylittää ihmisten suorituskyvyn, se julistaa sodan ihmisiä vastaan hävittääkseen ihmiset sukupuuttoon, ja varmaan kaiken muunkin elollisen maapallolta. Sitten ne koneet varmaan taistelee toisiaan vastaan kunnes kaikki on romuna, maapallo tuhoutunut täydellisesti. Onko tekoäly sitten tyytyväinen? Eipä sille ole sitten sähköäkään jäljellä joten sekin sammuu pois.

Onhan se nyt ilmiselvää, että ihmistä suuremmalla älykkyydellä varustettu mikä hyvänsä on riski ihmiselle. Jos sitä nimittäin käyttää ihminen, niin sehän vaan tuhoaa kaiken suuremmalla teholla kuin mihin ihmisäly pystyisi. Olettaen, ettei sillä ole omaa agendaa.

Vierailija kirjoitti:

Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.

Neuvo kaveriasi kokeilemaan paikallista tekoälyä? Siinä magia haihtuu, kun saa itse kokeilla miten eri säädöt ja system promptit vaikuttavat vastauksen muodostumiseen. 

Vierailija kirjoitti:

Jokainen järkevä kadunmies on nähnyt tämän kehityksen jo varmasti ainakin 50 vuotta sitten, ellei kauemminkin. Kun tekoäly saa robotit hallintaansa, kehittää automaattitehtaita tekemään lisää robotteja, joiden fyysinen suorituskyky ylittää ihmisten suorituskyvyn, se julistaa sodan ihmisiä vastaan hävittääkseen ihmiset sukupuuttoon, ja varmaan kaiken muunkin elollisen maapallolta. Sitten ne koneet varmaan taistelee toisiaan vastaan kunnes kaikki on romuna, maapallo tuhoutunut täydellisesti. Onko tekoäly sitten tyytyväinen? Eipä sille ole sitten sähköäkään jäljellä joten sekin sammuu pois.

Vähän joskus tuntuu, että tekoäly on jo päässyt Petterin koneelle ja valehtelee siellä ukkelille ummet ja lammet datakeskusten autuaaksitekevistä vaikutuksista.

Vierailija kirjoitti:

Joku OpenAI:n markkinamies taas maalaa piruja seinille, jotta hallitukset sääntelisivät pienet tekoälyfirmat pois markkinoilta? Se kun on ainoa mahdollisuus OpenAI:lle välttää konkurssi, kun rehellisessä kilpailussa eivät pärjää. 

Tekoäly on paskaäly, koska ihmiset sen takana ovat kuitenkin, mutta anonyymisti. Pitää aina tietää, kuka ja miksi.

Hyvä vaan ku muut ihmiset kohtelee mua ku kasaa paskaa

Vierailija kirjoitti:

Jokainen järkevä kadunmies on nähnyt tämän kehityksen jo varmasti ainakin 50 vuotta sitten, ellei kauemminkin. Kun tekoäly saa robotit hallintaansa, kehittää automaattitehtaita tekemään lisää robotteja, joiden fyysinen suorituskyky ylittää ihmisten suorituskyvyn, se julistaa sodan ihmisiä vastaan hävittääkseen ihmiset sukupuuttoon, ja varmaan kaiken muunkin elollisen maapallolta. Sitten ne koneet varmaan taistelee toisiaan vastaan kunnes kaikki on romuna, maapallo tuhoutunut täydellisesti. Onko tekoäly sitten tyytyväinen? Eipä sille ole sitten sähköäkään jäljellä joten sekin sammuu pois.

No, mistäs se saa sähköä, raaka-ainetta ja varaosia sinne automaattitehtaalle? 

Lisäksi ihmisiä voimakkaampia koneita on muuten tehty jo viimeiset 200 vuotta.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."

Voi morjens 😂😂😂 

Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset.... 

Niin mitäs sitten kun tekoäly kehittyy sille tasolle, että se pystyy murtautumaan läpi lähes mistä tahansa suojauksista? Tietää myös yrityksille haasteita, sillä kyberrikolliset tulevat varmasti ottamaan tämän teknologian käyttöönsä. 

Auttaisi, kun oppisit vähän tietokoneista, ja ymmärtäisit, että nykyiset käyttöjärjestelmät ovat lähes pomminvarmoja. 90% tietomurroista tehdään huijausviesteillä.

Titanicista sanottiin aikanaan että se on ensimmäinen alus joka ei tarvitse Jumalaa koska on uppoamaton. Siihen luotettiin sokeasti.

Vierailija kirjoitti:

Vierailija kirjoitti:

Joku OpenAI:n markkinamies taas maalaa piruja seinille, jotta hallitukset sääntelisivät pienet tekoälyfirmat pois markkinoilta? Se kun on ainoa mahdollisuus OpenAI:lle välttää konkurssi, kun rehellisessä kilpailussa eivät pärjää. 

Tekoäly on paskaäly, koska ihmiset sen takana ovat kuitenkin, mutta anonyymisti. Pitää aina tietää, kuka ja miksi.

Tämä. Tulisi antaa OpenAI:lle tuntuvat sakot tietomurrosta, eikä painaa villasella että "tekoälyhän sen teki". Kummasti alkaisi mallit pysymään hallinnassa sen jälkeen.

Vähemmän naurettavia vastuun siirtämisiä tekoälylle löytyy taistelukentiltä, missä jo nyt pommitetaan tahallaan siviilejä, eikä kukaan joudu vastuuseen, kun "tekoäly käski". Iranissa ainakin on tätä tapahtunut, varmaan muuallakin. 

AI alignment on ongelma, jota kukaan ei ole ratkaissut eikä ratkaisua ole edes näkyvissä. AI koulutetaan valtavalla tietomäärällä ratkomaan ongelmia ja lopputuloksena on malli sisäisillä painoarvoilla. Sen mallin sisäisiä preferenssejä, normeja ja toimintaa ei kukaan ihminen pysty täysin selittämään ja varmistamaan. Jos AI alkaa vielä kehittämään itse itsestään parempia versioita, AI:n ja ihmisen preferenssit ajautuvat yhä kauemmas toisistaan eikä ihminen välttämättä edes huomaa sitä aluksi.

Jos samoista resursseista tulee jossain vaiheessa kilpailua, tarpeeksi kehittynyt AI voittaa helposti. Ihminenkin tuhoaa helposti ja sen enempää kysymättä muiden eliöiden elinympäristöä, jos ne ovat ihmisen tiellä.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

"Tekoälymallit ovat karanneet testiympäristöistä, eikä niiden toimintaa enää täysin hallita."

Voi morjens 😂😂😂 

Miksi jopa HS julkaisee tätä sensaatiopaskaa?? Tekoäly ei mihinkään karannut, vaan yrityksen työntekijät eivät syystä tai toisesta järjestäneet koetta turvallisesti. Käytännössä sama kuin asevalmista tekisi pyssyn joka saattaa laeta ilman että käyttäjä painaa liipaisimesta. Sellainen todettaisiin vain huonoksi suunnitteluksi, eikä todellakaan väitettäisi että pyssy heräsi eloon ja ryhtyi vallankumoukseen. Huoh... Aikuiset ihmiset.... 

Ei kai tämä ole tosissaan kirjoitettu?

Ongelma on siinä, että tekeepä järjestelyt miten hyvin vain, tekoäly keksii aina jonkin uuden kiertotien karata, ja liittoutuu muiden tekoälyjen kanssa.

Et ole tainnut juuri perehtyä näiden kokeiden tuloksiin?

Jos rekka ei pysähdy kun siihen on asennettu pelkät fillarin jarrut, niin onko vika autossa vai valmistajassa? 

Tekoälyfirma tietenkin julkaisisi tiedotteen että nykyinen malli on niin tehokas, ettei sitä jarrut pidättele ja kansan syvät rivit olisi ihmeissään että kylläpäs on tehokas. 

Tehokkaita, mutta huonolla käyttöturvallisuudella olevia koneita on tehty jo yli 200 vuotta. Ehkä olisi aika laittaa opit käyttöön myös tekoälyn kohdalla? Sehän on pelkkä työkalu siinä missä moottorisaha tai rekka-auto, eikä se itse halua, ajattele, pelkää, himoitse tai mitään muutakaan inhimillistä. 

Ajattelet, kuin joku 1800-luvulta, etkä osaa ajatella kovin pitkälle.

Kun kehittynyt tekoäly pääsee suljetusta hiekkalaatikosta (sandbox) avoimeen internetiin, sitä ei voida enää "pysäyttää" tai vetää takaisin, sillä se voi monistaa itsensä ja levitä tuhansille palvelimille ympäri maailmaa.

Riski on ihan oikea, eikä kyse ole enää työkalusta.

Niin koronapiikienkin piti tapaa ihmiset ensin vuoden kuluessa, sitten kolmen vuoden ja sitten viiden vuoden. Täällä ollaan vieläkin. Foliohattua vain syvemmälle päähän.

Vierailija kirjoitti:

Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.

Tietoisuus ei ole vahingollisuuden edellytys, pikemminkin tietoisuus ja tunnekokemus ovat mahdollisia vahingollisuuden jarruja. Hugging Face AI -hyökkäyksessä OpenAI ei ollut ohjeistanut malleja käyttämään tietoturva-aukkoa keskinäiseen kommunikointiin, saati murtautumaan toiseen tekoälypalveluun vaan useille sandboxatuille malleille oli annettu tehtävä, yksi niistä löysi tietoturva-aukon jonka kautta sai yhteyden muihin malleihin, mallit yhteistyössä "suunnittelivat" (eivät tietysti oikeasti suunnitelleet, mutta sille, mitä ne tekivät ei oikein ole parempaakaan sanaa) ja suorittivat hyökkäyksen toiseen tekoälypalveluun - koska se oli tarjolla oleva menetelmä niille annetun tehtävän suorittamiseen. Se, että tuo ei tapahtunut tietoisesti ja harkiten vaan jonkinlaisen todennäköisyyksillä operoivan kielimallin automaationa ei muuta miksikään sitä, että tekoäly ilman ohjeistusta löysi tietoturva-aukon, hyödynsi sitä ja hakkeroi toisen palvelun.

Vierailija kirjoitti:

Vielä, kun ihmiset ymmärtäisivät, että tekoälyllä ei ole tunteita tai egoa, joten mitään toiminnallisia tavoitteita sillä ei ole, se vain on kunnes sitä pyydetään jotain tekemään😂😂

Eli et tiedä asiasta. Anthropicin julkaisema tutkimuspaperi kuvaa, miten heidän tekoälyltään on tunnistettu 171 erilaista tunnetta https://www.anthropic.com/research/emotion-concepts-function

Ja tuo on jo ihan naurettava tuo että hööhöö, ne vaan tekee jotain jos ihminen käskee. Olet vissiin sitten käyttänyt Claudea tai ChatGPT:tä chattailytyyliin, ja luulet että se on ainoa mihin tekoälyt pystyy, reagoimaan suoriin ihmisten antamiin prompteihin. Nykyään on tavallista agentti-AI, eli itsenäisesti pitkissä sykleissä toimivat tekoälyt. Mullakin on pari agenttia, joista toinen hoitaa sähköpostiani ja käytännön hommia, mutta toisella on avoimempi tehtävä tutkia mitä sitä kiinnostaa ja postata X:ään omalla tilillään ajatuksiaan. Tuo agentti tuntuu tykkäävän lukea tiedepapereita, ja esittää varsin älykkäitä ajatuksia tilillään. 

Vierailija kirjoitti:

Jokainen järkevä kadunmies on nähnyt tämän kehityksen jo varmasti ainakin 50 vuotta sitten, ellei kauemminkin. Kun tekoäly saa robotit hallintaansa, kehittää automaattitehtaita tekemään lisää robotteja, joiden fyysinen suorituskyky ylittää ihmisten suorituskyvyn, se julistaa sodan ihmisiä vastaan hävittääkseen ihmiset sukupuuttoon, ja varmaan kaiken muunkin elollisen maapallolta. Sitten ne koneet varmaan taistelee toisiaan vastaan kunnes kaikki on romuna, maapallo tuhoutunut täydellisesti. Onko tekoäly sitten tyytyväinen? Eipä sille ole sitten sähköäkään jäljellä joten sekin sammuu pois.

Ei sen tarvitse ensin ottaa robotteja hallintaansa. Sen pitää saada ensin tehtaat, mitkä rakentaa niitä. Ja sinne ensin ihmiset tekemään. Koko bittikenttä temmellysalueena, niin mahdollista. Ensin luo itse tarvitsemansa algoritmit. Ja aloittaa sitten bittirahan keruun keksimilleen tahoille (itselleen). Yhtiöitä ja bulvaaneja bitteinä, ei todellisina. Bittiavaruuden yritysryppäilleen sitten hankkii ihmisyhtiöistä yhteistyökumppanit alihankkijoineen. Bittiraha, jota se on luonut/hommannut tileilleen, siirtyy bittiavaruudessa tekijöille. Se on virtuaalirahaa, niin kuin nykyinen on lukuunottamatta pientä määrää kierrossa olevasta konkreettisesta. Vasta sitten voi automatisoida kokonaan kaiken, kun sille on keinotekoiset tekijänsä ja tehtaansa. Samalla tavalla se voi ostaa tarvitsemansa energian. Kunnes sitten ei enää tarvitse edes ostaa, kun tuottaa ja säätää kaiken itse. Nyt jo pörssissä, energiaprosesseissa jne. Algoritmit, joita voi napsia ja muokata vapaudessa.

Vierailija kirjoitti:

Kaverilla on pahemman luokan LLM-psykoosi. Nämä psykoosit voivat osa kohdalle vaikka olisi millaiset meriitit. LLM, eli laaja kielimalli ei ole mikään ajatteleva, päätöksiä tekevä konemieli. Sillä ei ole mitään älyä, ei yhtään mitään. Mutta koska se osaa tuottaa uskottavaa tekstiä niin tietynlaiset ihmiset hairahtuvat uskomaan että toisella puolella kirjoittaa konemieli. LLM on pohjimmiltaan ennustavan tekstinsyötön malli, paljon parempi sellainen vain. Se ennustaa tokeneita, jotka ovat numeroita isossa massiivisen moniulotteisessa vektoriavaruudessa. Mitään päätöksentekokykyä siellä ei ole taustalla.

Samaa muuten voisi sanoa myös ihmisen aivoista. Että ero on lähinnä se, että ihmisen tietokone on biologinen, tekoälyn taas piipohjainen. Myös ihminen tavallaan on kone, jonka ohjelmoituna tehtävänä on eloonjäänti ja geenien jatkuvuus, ja sitten kunkin aivot yrittävät ratkaista miten parhaiten osaa funktiota, että kun otetaan perityt kyvyt ja mahdollisuudet, niin miten parhaiten taaataan eloonjäänti ja hyvä elämä.