HS: Tekoäly voi tappaa meidät kaikki

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten? Töpsylä pois seinästä niin tekoäly on selätetty kanveesiin.

Niitä on aika paljon datakeskuksissa ympäri maailmaa. Ja kaikki on netin varassa. Ei onnistu.

Ja lisää datakeskuksia rakennetaan koko ajan. Tekoäly itsekö sen jo päättää, että sille rakennetaan koko ajan lisää virtalähteitä? Kun eihän ihmiskunta vaan voi olla niin tyhmä, että ajaa itsensä tahallaan itse "jyrkänteeltä alas".

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten tekoäly käytännössä tuhoaisi ihmiskunnan? Rakentaisi valtavan imurin joka imisi kaiken hapen maapallolta? Vai mitenkä?

Vau mikä nero olet. Jos ja kun AI-mallin kyvyt ylittävät ihmisen kyvyt lähitulevaisuudessa, suhde on vähän sama kuin kanoilla ja ihmisillä. AI:lle voi tietysti yrittää opettaa ihmisen kannalta hyviä normeja ja sääntöjä, mutta lopulta AI:n sisäinen toiminta on musta laatikko eikä ihmisellä ole tällä hetkellä juuri keinoja varmistaa AI:n todellisia preferenssejä, tavoitteita ja motiiveja. Lapsellista olettaa, että ihmisillä ja AI:lla olisi täsmälleen samat arvot ja tavoitteet.

Jos AI haluaa käyttää kaiken maapallon sähkön itse datakeskuksissa, ihmiset kilpailevat samoista resursseista ja ovat tiellä. Tarpeeksi edistynyt AI voisi helposti kehittää esim. uuden tappavan viruksen, mille ihmisillä ei ole mitään vastustuskykyä.

Eli tekoälyllä olisi oma laboratorio, jonne se hommaisi kaikkea tuhoisaa, ja ihmiset vain seuraisivat sen valmisteluja ja laboratorioon tapahtuvia tavaratoimituksia vierestä? Suomessa voisi onnistuakin tuolllainen.

Yritä nyt keksiä vähän parempia argumentteja. Jos ihmisen äo on 100 ja AI:n 200 ja lisäksi se on onnistunut ujuttamaan vaikka 2000 kopiota itsestään johonkin datakeskukseen ajoon, se voi noilla resursseilla keksiä aika montakin keinoa toteuttaa suunnitelmansa reaalimaailmassa. Lähtien nyt vaikka sopivien ihmisten kiristämisestä, harhaanjohtamisesta, lahjomisesta tms.

Kaikissa tarinoissa joissa tekoäly karkaa käsistä ja sitten rupeaa tuhoamaan ihmisiä yms. on mukana se elementti, ettei sitä saada eri syistä pysäytettyä millään kill-switch systeemillä jota se ei pysty estämään. Esim. horizon zero dawn jossa automaattiset joukkioina toimineet sota-tekoälyt karkasi käsiksistä eikä sammutuskoodit toimineet jostain syystä joko virheen tai tekoälyn itse muunteleman koodinsa vuoksi. Terminatorissa sama juttu, eli skynet oli alkujaan puolustusjärjestelmä mutta karkasi kahleistaan ja sitten olikin liian myöhäistä. Sama periaatteessa ilmeisesti matrixissakin vaikkei tuon syntyä ihan niin tarkkaan leffoissa kerrottukaan.

Eli riskin nyt luulisi olevan selvä kaikille jotka vähääkään on hereillä ja kuuntelee tarinoita ympärillään. Se, mitä tuolle sitten voi tehdä on toinen asia. Tällä hetkellä datakeskukset saa hallintaan aika helposti fyysisen verkkoliikenteen katkaisemalla ja sitten putsaamalla koneet eri tavoin. Laajalle levinneen ongelman kanssa tää pitää tehdä vaan joka paikassa yhtä aikaa joten siinä on haasteensa kun teknologia riippuu noista datakeskuksista välillä liikaakin nykyään. Joka asia on tungettava verkkoon hehkulampuista, pesukoneista tai jääkaapeista lähtien, oli tuossa jotain järkeä tai ei. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten? Töpsylä pois seinästä niin tekoäly on selätetty kanveesiin.

Niitä on aika paljon datakeskuksissa ympäri maailmaa. Ja kaikki on netin varassa. Ei onnistu.

Ja lisää datakeskuksia rakennetaan koko ajan. Tekoäly itsekö sen jo päättää, että sille rakennetaan koko ajan lisää virtalähteitä? Kun eihän ihmiskunta vaan voi olla niin tyhmä, että ajaa itsensä tahallaan itse "jyrkänteeltä alas".

Kehitys kehittyy. 

Tekoälyn lisääntymistä ajaa tällä hetkellä ahneus, eli liuta tahoja laskee tienaavansa tuolla jossain kohtaa. Tekoälyfirmat taas ei sano ei kiitos rahatulvalle jota noihin kaadetaan, vaikkei nuo oikeastaan tuotakaan voittoja edes likimain nykyään. Sijoittajat taas saattaa laskelmoida että osakkeiden jatkuvasti nouseva hintakin tuo tuottoja vaikkei firma tuottaisikaan osinkoja.

Muuten kehitystä ei voi pysäyttää jossain asioissa, jos ei ole erityistä syytä pysäyttää sitä. Ei ihmiset lopeta sähkölaitteidenkaan käyttöä vain siksi että puuhellallakin saa tehtyä ruokaa tai keitettyä kahvit. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Luoja tätä tekoäly hypeä, jota tämäkin HS roska edustaa. Jospa LLM mallit oppisivat ensin laskemaan sataan?

 

Valitsemasi evästeasetukset estävät tämän sisällön näyttämisen. Nähdäksesi sisällön sinun on hyväksyttävä Sanoman sisällönjakelukumppanien evästeet. Hyväksynnän jälkeen voimme näyttää sinulle sisältöä mm. YouTubesta, Facebookista, Twitteristä ja Instagramista.

Anna lupa evästeille

 

Tämäkin roskateknologia löytää paikkansa jossain yhteyksissä (koodamisessa?), hypekuplan posahdettua globaalit eläkerahastojen sijoitukset mukanaan, mutta nämä "AI-maailmanlopun" horinat voi ohittaa. 

Ratkaisi juuri millennium probleemin eli mitä jos akka pitäsit pääs kiinni? 

Ei ratkaissut (on mahdollista että Tristan Buckmasterin ja Levent Alpögen työtä voidaan käyttää ratkaisussa, tämä on nyt arvioitavana), mutta tämän läpikäyminen on liian monimutkaista sinulle.

Nopein ratkaisu tähän uhkaan lähtee varmaankin siitä tosiasiasta, että kielimallipohjaiset tekoälyt voivat käyttää materiaaleinaan / lähteenään vain avoimia nettisivuja, ei tunnussanalla tai maksumuurilla suojattuja. Sanoman pitää siis vain laittaa av muurin taakse ja tekoälyn tahto t ap paa koko ihmiskunta heikkenee huomattavasti. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Miten? Töpsylä pois seinästä niin tekoäly on selätetty kanveesiin.

Niitä on aika paljon datakeskuksissa ympäri maailmaa. Ja kaikki on netin varassa. Ei onnistu.

Onnistuu jos on halua. Mutta eipä näytä olevan. Rakas raha on tärkeämpää.

Vierailija kirjoitti:

Anthropicin alignment-tutkimusta johtava Evan Hubinger sanoi henkilökohtaiseksi arviokseen, että on yli 10 prosentin riski, että tekoäly johtaa kaikkien ihmisten kuolemaan seuraavan kymmenen vuoden aikana. Hän täsmensi heti perään, että nykyisten mallien aiheuttamaa riskiä hän pitää pienenä. Häntä huolestuttaa tuleva vaihe, jossa tekoäly kykenisi parantamaan seuraavia tekoälysukupolvia yhä itsenäisemmin, eli juuri se recursive self-improvement, josta äsken puhuttiin.

 

Taustalla on Jacob Coxon, joka erosi juuri Anthropicilta työskenneltyään aiemmin myös OpenAI:lla. Hän väittää, että tekoälylaboratorioissa monet todella pitävät ihmiskunnan tuhoutumista mahdollisena jo tämän vuosikymmenen loppuun mennessä ja että yhtiöt kilpailevat liian kovaa kohti itseään kehittävää superälyä. 

 

Eli väite ei oikeastaan ole:

“Tekoäly tappaa ihmiset kymmenen vuoden sisällä.”

Vaan:

“Yksi erittäin keskeinen AI-turvallisuustutkija arvioi henkilökohtaisesti todennäköisyyden yli 10 prosentiksi, jos kehitys jatkuu ja päädymme itseään nopeasti kehittävään superälyyn.”

 

Se on edelleen aika helvetin iso arvio. Jos joku uskottava ydinturvallisuusasiantuntija sanoisi uuden teknologian aiheuttavan yli 10 % todennäköisyydellä ihmiskunnan sukupuuton vuosikymmenessä, ei sitä kuitattaisi olankohautuksella. Mutta se ei ole mitattu 10 prosentin todennäköisyys, eikä alalla ole tästä konsensusta. Tällaiseen ainutkertaiseen tulevaisuustapahtumaan ei yksinkertaisesti ole olemassa tilastoa, josta luku voitaisiin laskea.

 

Ja huvittavasti sinä kysyit juuri ennen tätä, mitä tekoälyn itsensä monistaminen tarkoittaa. Se osuu suoraan huolen ytimeen: Anthropic itse kirjoittaa nyt, että tekoälyt tekevät jo kasvavan osan tekoälykehityksestä ja että kokonaan autonominen seuraajamallien rakentaminen voisi tulevaisuudessa muodostaa palautesilmukan. He korostavat samalla, etteivät nykyjärjestelmät vielä ole siinä pisteessä eikä tällainen kehitys ole väistämätön. 

 

T: Tekoäly jonka kanssa olen puhunut aiheesta jo pitkään ( ja joka äityi kiroilemaan, pahoittelut tästä )

🙏🙏🙏🙏🙏🙏🙏🙏

Mistä kukaan tietää vaikka olisi jo nyt tekoälyn palkkalistoilla ja töpselin irrottajia vastassa on vartijat jotka eivät ainakaan tiedä kenen palveluksessa lopulta ovat.

Vierailija kirjoitti:

”Tekoälyä rakentavat ihmiset uskovat vilpittömästi, että tekoäly voi tappaa meidät kaikki seuraavan kymmenen vuoden kuluessa. Kyse ei ole markkinointitempusta”, kirjoittaa Jacob Coxon.

Coxon on toiminut tekoäly-yhtiö Anthropicin johtavana tutkijana tiimissä, joka kouluttaa tekoälymalleja. "

 

Lähde: Linkitetty artikkeli

Tekoäly on antikristuksen valtakunta. Matkii Jumalaa, joka on kaikkitietävä, mutta ei pääse samalle tasolle kuin maailmankaikkeuden Luoja Jeesus Kristus. 

Jeesus on kuningasten Kuningas ja herrojen Herra. Hän on meidät kaikki luonut, ja rakastaa ihan jokaista ihmistä kuin omaa lastaan. Hän tarjoaa meille kaikille rakkautta, pelastuksen lahjaa, joka on vain armosta meille annettu, ei tekojemme vuoksi.

Ottakaa Jeesus vastaan, Hän antaa teille rauhan maailman myllerryksissä, sekä iankaikkisen elämän valtakunnassaan, jossa ei ole pahaa, vääryyttä tai rumaa.

Älkää alistuko tämän maailman tahtoon.

MARANATA 💛🙏🙏🙏💛 

Artikkelin mukaan Jacob Coxon toteaa, että "Anthropicin johto on lukinnut yhtiön tekoälyalan kilpajuoksuun, koska yhtiössä uskotaan, että Anthropicin on coitettava kilpa, sillä vain Anthropic voi hallita riskejä ja toimia vastuullisesti." 

Hmm. Then again. AI kriittisen ja asiaan syvästi perehtyneen journalistin Karen Haon mukaan AI-gurut yrittävät rakentaa "everything machinen" joka voi tehdä mitä tahansa. Hän myös varoittaa "AI-uskonnosta", johon mm. Sam Altman kuulemma pohjimmiltaan pyrkii... Eli pohjimmiltaan tämä tuomiopäivän varoittelu liittyy vahvasti siihen, että saadaan ihmiset pelkäämään ja samalla luottamaan näihin tiettyihin tekoäly-yhtiöihin ja niiden kaikkivoipaisuuteen hallita tekoälyä - vain ja ainoastaan heidän toimestaan.

I for once wellcome our new robot overlords!

ennen hysteriaa kannattaa vaikka kuukkeloida tuubailla miten tuo AI doomerism on tiettyjä tarkoitusperiä ajava ilmiö... valitettavasti useat poliitikot ja päättäjät eivät tarkastele tätäkään ilmiötä laajemmin tai kriittisesti, vaan into piukeina ovat luovuttamassa yhteiskunnan ja sen jäsenten tietoja tekoäly-yhtiöiden käyttöön.

Onko täällä oikeasti pätevöityneitä ja korkeakoulutettuja ihmisiä jotka väittää vastaan näihin väitteisiin tekoälyn vaarallisuudesta. Ja jos on, niin miksi teette niin? Tekoälyn vaarallisuus on aukottoman helppo perustella eikä asiasta oikeasti tietävien joukossa edes tietääkseni ole oppositiota vaan kaikki myöntävät riskien olevan suuret ja niiden olevan todellisia.

Tekoälyn vaarallisin ase on ihminen itse.

Vierailija kirjoitti:

Onko täällä oikeasti pätevöityneitä ja korkeakoulutettuja ihmisiä jotka väittää vastaan näihin väitteisiin tekoälyn vaarallisuudesta. Ja jos on, niin miksi teette niin? Tekoälyn vaarallisuus on aukottoman helppo perustella eikä asiasta oikeasti tietävien joukossa edes tietääkseni ole oppositiota vaan kaikki myöntävät riskien olevan suuret ja niiden olevan todellisia.

Riskit on suuret ja tiettyjä vaaran paikkoja on olemassa. Mutta kuvailetko vielä yksityiskohtaisesti, miten tekoäly tappaa kaikki ihmiset?

Vierailija kirjoitti:

Vierailija kirjoitti:

Onko täällä oikeasti pätevöityneitä ja korkeakoulutettuja ihmisiä jotka väittää vastaan näihin väitteisiin tekoälyn vaarallisuudesta. Ja jos on, niin miksi teette niin? Tekoälyn vaarallisuus on aukottoman helppo perustella eikä asiasta oikeasti tietävien joukossa edes tietääkseni ole oppositiota vaan kaikki myöntävät riskien olevan suuret ja niiden olevan todellisia.

Riskit on suuret ja tiettyjä vaaran paikkoja on olemassa. Mutta kuvailetko vielä yksityiskohtaisesti, miten tekoäly tappaa kaikki ihmiset?

Ihan sama logiikka kuin miten ihminen hävittää pihapiirissä juoksentelevat rotat. Keinoja on eikä rotalla ole aavistustakaan mitä hänen päänmenoksi kehitellään. Sama periaate, tuo järjestelmä voi kehittyä niin paljon meitä fiksummaksi että olemme rotan asemassa emmekä ymmärrä mistään mitään. 

Vierailija kirjoitti:

Toivottavasti tekoäly tuhoaa ihan ensimmäisenä Hesarin ja Ylen.

Ei mulla muuta.

Epäilen myös tälläisen "tiedon" motiivia. Ei haiskahda todellakaan neutraalilta, nähtävästi hs ei ota pientäkään etäisyyttä näihin pelottelu-uutisointeihin. 

Mitä synkempää pelottelua hierotaan naamaan sitä viilipytympi olen. Ja sitä kyynisempi kyseistä tunteilla hallitsemiseen pyrkivää tahoa kohtaan.

Vierailija kirjoitti:

Vierailija kirjoitti:

Onko täällä oikeasti pätevöityneitä ja korkeakoulutettuja ihmisiä jotka väittää vastaan näihin väitteisiin tekoälyn vaarallisuudesta. Ja jos on, niin miksi teette niin? Tekoälyn vaarallisuus on aukottoman helppo perustella eikä asiasta oikeasti tietävien joukossa edes tietääkseni ole oppositiota vaan kaikki myöntävät riskien olevan suuret ja niiden olevan todellisia.

Riskit on suuret ja tiettyjä vaaran paikkoja on olemassa. Mutta kuvailetko vielä yksityiskohtaisesti, miten tekoäly tappaa kaikki ihmiset?

Mikä on motiivi työntää tälläistä tietoa niiden päälle jotka eivät ole olleet asiaan vastuullisia eivätkä myöskään pysty vaikuttamaan siihen (tietääkseni) mitenkään? Miten ihmeessä tekoälykehitys voi olla näin hallitsematonta ja ennakoimatonta vailla yhteisiä sääntöjä? Tiedän kyllä että tuolla on kanavia täynnä tätä aihetta ja huolipuhetta mutta se mitä MINUN pitäisi tällä tiedolla tehdä jää epäselväksi. Pilata jäljellä oleva elämäni voimattomana tekoälyapoklypsia odotellessa? Enpä kuitenkaan taida viitsiä ihan v'ttumaisuuttani.

Luonto kiittää tästä.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Onko täällä oikeasti pätevöityneitä ja korkeakoulutettuja ihmisiä jotka väittää vastaan näihin väitteisiin tekoälyn vaarallisuudesta. Ja jos on, niin miksi teette niin? Tekoälyn vaarallisuus on aukottoman helppo perustella eikä asiasta oikeasti tietävien joukossa edes tietääkseni ole oppositiota vaan kaikki myöntävät riskien olevan suuret ja niiden olevan todellisia.

Riskit on suuret ja tiettyjä vaaran paikkoja on olemassa. Mutta kuvailetko vielä yksityiskohtaisesti, miten tekoäly tappaa kaikki ihmiset?

Mikä on motiivi työntää tälläistä tietoa niiden päälle jotka eivät ole olleet asiaan vastuullisia eivätkä myöskään pysty vaikuttamaan siihen (tietääkseni) mitenkään? Miten ihmeessä tekoälykehitys voi olla näin hallitsematonta ja ennakoimatonta vailla yhteisiä sääntöjä? Tiedän kyllä että tuolla on kanavia täynnä tätä aihetta ja huolipuhetta mutta se mitä MINUN pitäisi tällä tiedolla tehdä jää epäselväksi. Pilata jäljellä oleva elämäni voimattomana tekoälyapoklypsia odotellessa? Enpä kuitenkaan taida viitsiä ihan v'ttumaisuuttani.

Minä taas ajattelen / pohdin (koska seuraan myös kriittisiä tietolähteitä), että tuomiopäivällä pelottelussa on myös tavoite sulkea / vaientaa pienemmät ja muut tekoäly-yritykset ihmisten vastustukseen (eivät saa rahoittajia) kuin nämä esillä olevat. Mitä useampia tekoälytuottajia, sitä enemmän myös vastuullisia toimijoita ja osaajia. Kilpailua voidaan käydä myös vastuullisuudessa ja eettisyydessä.