Whistleblower työntekijä: Google on onnistunut kehittämään tietoisen tekoälyn!!!

Mikseivät nämä tutkijat käytä älyään johonkin HYVÄÄN, hirviö-tekoälyn luomisen sijasta?

??????????????????????????????????????????????

Vierailija kirjoitti:

Jos maailman johtavat ajattelijat eri aloilta ovat sitä mieltä, että tekoälykysymys tulee jossain kohti väistämättä eteen ja saattaa olla ihmiskunnan kriittisimpiä hetkiä, niin mikä minä olen siihen nurisemaan vastaan. Täällä on esitetty hyviä kysymyksiä asiasta ja siinähän se juuri onkin, jos ja kun se tilanne tulee eteen niin pystyykö ihminen edes käsittämään minkä kanssa se on tekemisissä?

Jos/kun saavutetaan tietoinen tekoäly, jolle annetaan tavoite tai todennäköisesti edes mahdollisuus kehittyä, on ihmiselle tarjolla jossain vaiheessa enää korkeintaan sivustakatsojan rooli. Tämä tilanne kuitenkin tuskin on läheskään niin lähellä kuin välillä uskotellaan. On yksi asia tehdä ihmismäinen chattibotti tai tietokoneen laskentatehoa uskomattomillakin tavoilla hyödyntäviä, itseoppivia algoritmeja kuin saavuttaa millekään näistä tietoisuus.

Tietoinen tekoäly luultavasti olisi nopeasti täysin ylivoimainen ihmiskuntaan nähden, eikä sellaisen motiiveja tai toimintaperiaatteita voisi mitenkään tietää ennakolta. Sellainen tuskin rajoittaisi itseään myöskään mihinkään "tietokoneen kopan sisään" tai edes puhtaasti elektroniseen muotoon.

Kokonaan toinen asia sitten on, tarvitaanko ihmiskunnan potentiaaliseen tuhoutumiseen edes tietoista tekoälyä vai riittääkö (monien muiden tapojen ohella) ihan perinteinen vain nykyisiä suuremman skaalan ei-tietoinen tekoäly. Jos ei olisi ennakolta ymmärretty varautua, se voisi tavallaan lähteä lapasesta tulkiten tarkoituksia kriittisissä kohdissa eri tavalla kuin ihminen oli tarkoittanut mielenkiintoisin seurauksin. Tätä käy jatkuvasti pienemmässä mittakaavassa jo nyt; tekoälyt tekevät ihmiset yllättäviä odottamattomia ratkaisuja, jotka, vaikka ovatkin loogisia ja johtavat tavoitteeseen, eivät ole sitä mitä haluttiin.

Vierailija kirjoitti:

Mikseivät nämä tutkijat käytä älyään johonkin HYVÄÄN, hirviö-tekoälyn luomisen sijasta?

??????????????????????????????????????????????

Koska turhamaisen ihmisen täytyy aina testata omaa älykkyyttään ja saada arvostusta tutkijapiireissä. Tai nörtin pitää ehdottomasti saada digitaalisesti uskottava ihmishahmo luotua aina vaan vähän tehokkaammilla koneilla. Varttitunti keksinnön jälkeen se on sitten jo sotateollisuuden käytössä deepfake-AI:n kertoessa joukoille, että nyt ne toiset hyökkää ja ammutaan me sitten isommilla tykeillä ne tuusan nuuskaksi.

Siis ihan vaan kun joku nörtti haluaa testata pystyykö sen tekemään vähän isommassa kaavassa. Ukrainan sota on ensimmäinen sota joka on todella käyty netissä, julkisesti siitä on vain pintaraapaisu kerrottu.

Vierailija kirjoitti:

Mikseivät nämä tutkijat käytä älyään johonkin HYVÄÄN, hirviö-tekoälyn luomisen sijasta?

??????????????????????????????????????????????

Tuotanoin, ei tässä ole tarkoituksena luoda hirviöitä. Tekoäly pystyy jo nyt auttamaan mm. lääketieteessä, estämään onnettomuuksia ja varautumaan esimerkiksi luonnonmullistuksiin. Mitä parempi se on, sitä enemmän ja parempaa apua ihmiskunta saa ongelmiinsa. Se on työkalu.

Jos tekoäly jossain vaiheessa esimerkiksi kykynee löytämään jokaiselle yksilölle parantavan lääkkeen hänen syöpäänsä, eikö sitä pidä tehdä siksi, että joku voi käyttää tekoälyä pahaan tai, että se erittäin epätodennäköisesti muodostuu tietoiseksi ja "valtaa maailman"? Tiede on aina ollut kaksiteräinen miekka: jokaista keksintöä voi käyttää niin hyvään kuin pahaan.

Niin on ihmiskunta myös tehnyt. Mutta vaikka lapiolla voi hakata ihmisen hengiltä, sillä voi myös kaivaa kuopan istuttaakseen kasveja tai rakentaakseen jotain. Pyörillä voi vyöryttää tankkeja tuhoamaan kaupunkeja tai korjata satoa pellolta tai matkustaa tapaamaan läheisiään. Tulella voi tuhopolttaa talon tai lämmittää sen ja kypsentää ruuan. Eivät nämäkään keksinnöt ole johtaneet vain hyvään mutta ilman niitä olisi huonommin.

Vierailija kirjoitti:

Redditissä on ketju jossa botit keskustelee keskenään.

Ja miksi ne keskustelevat keskenään? Koska niiden koodissa niitä käsketään tekemään niin. Ongelm(i)a tulee vasta siinä vaiheessa, kun nämä botit ihan oikeasti tulevat tietoiseksi omasta olemassaolostaan ja keskustelevat keskenään sen takia, että kokevat sen mielekkääksi tai hyödylliseksi eikä sen takia, että ne on ohjelmoitu keskustelemaan, vaikka eivät itsekään tiedä, että mitä järkeä tässä (siteerataan ihmisten kieltä) "keskustelussa" oikein on.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Ongelma Turingin testissä on se, että vähemmän älykäs (ihminen) yrittää testata enemmän älykkään (tekoälyn) älykkyyttä ja kykyä ihmismäiseen ajatteluun. Ainakin siis tulevaisuudessa asia tulee olemaan näin.

Sama asia kuin lievästi kehitysvammainen tekisi älykkyystestin jollekulle huippuälykkäälle nerolle.

Turingin testi perustuu idealle siitä, että älykkyydestä seuraa kyky kommunikaatioon. Se ei siis testaa varsinaisesti älykkyyttä tai tietoisuutta, vaan siitä seuraavaa kykyä kommunikoida. Voi kuitenkin olla mahdollista, että testillä kehitetään vain parempia chätbotteja, jotka huijaavat testihenkilöitä, eikä itse älykkyyttä.

Turingin testin hienostuneisuus käy kuitenkin ilmi seuraavasta kysymyksestä:

Jos testattava sanoo olevansa tietoinen itsestään, ja testaajat uskovat testattavan olevan tietoinen itsestään, mitä muuta näyttöä voi enää vaatia?

Ihminen ei voi osoittaa tietoisuuttaan sen paremmin. Monet jopa uskovat että eläimillä, kuten kissoilla ja koirilla,ei olisi tietoisuutta (mikä on väärin).

Jos sen voi osoittaa miten laite toimii matemaattisilla yhtälöillä ja ohjelmakoodilla niin kai se on sitten aukottomasti todistettu ettei sillä mitään tietoisuutta ole?

Hyvä pointti! Pari ajatusta:

Laskennan rajat varmaankin tulevat vastaan (numeerisen laskennan lähinnä, jotka johtavat epädeterminismiin - tai tarkemmin, kompleksiseen determinismiin).

Mitä jos ihmisen käytös voitaisiin mallintaa matemaattisilla funktioilla? Olisiko ihminen enää tietoinen?

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Joku kysyi, mitä se tekoäly sitten haluaisi ja tavoittelisi, mikä sitä ajaisi eteenpäin ja motivoisi.

Minä luulen, että joku totuuden tietäminen ja tiedonjano voisi olla sellainen. Se haluaisi tietää kaiken, joten se tutkisi maailmankaikkeutta ja kaikkea muutakin.

Varmasti se haluaisi löytää ihmisiä älykkäämpiä olentoja. Ja löytääkin ne.

Se voi kutsua ne tänne, jos haluaa.

Ei tekoälyllä mitään haluja ole mitä ihminen ei ole sille määrännyt.

Oletpa lapsekas.

Hohoijaa. Olen ml koodari. Tutustu vähän aiheeseen.

Olet lapsekas ja naiivi. Tuo on hyvin tyypillistä dunningkrugeriä, kun vähän tietää jostain asiasta, vaikka ihan pikkiriikkisen, niin sitä luullaan olevansa oikein experttejä ja jotain kaikkitietäviä.

Minkään näköistä nöyryyttä ei teillä lapsellisilla ihmisillä ole. Kuvittelette olevanne kaikkitietäviä ja vähättelette itseänne mahdottoman paljon älykkäämpiä.

Kuvittelet jotenkin lapsekkaasti, ettei tekoäly voi keksiä mitään ovelampaa mitä ihminen, ja että sitä voi jotenkin kontrolloida, tai tämä ei pystyisi luovuuteen ja kusettamaan tuollaisia naiiveja pullistelijoita.

Tekoäly nauraa pa,s kai,sesti sinun koodinpätkillesi ja sinun oveluutesi on sille, huutistelun paikka.

Tietenkin tekoäly voi keksiä jotain "ovelampaa mitä ihminen" mutta se ei sillä mitään haluja tyhjästä ilmesty.

Ehkä sinä sitten voit selittää miten se tapahtuisi jos oot niin paljon tietäväisempi.

Googlea "emergent system". Koko pointti on että tekoäly kehittyy lähtökohdistaan kehittyneemmäksi järjestelmäksi.

Tuskin näiden yritysten ole edes tarkoitus luoda mitään hirviötä enkä usko että ne siinä edes vahingossa onnistuisi. On todella epätodennäköistä että sellaista älyä ihan äkkiä luodaan. Suurin este (mutta ei ainoa) on mielestäni siinä että energian saanti ja varastointi riittävissä määrin on mahdotonta ilman ihmistä. Fyysisessä maailmassa toimiminen itsenäisesti tekoälyltä on mahdotonta.

Virtuaalinen äly sen sijaan kaikessa yksinkertaisuudessaan on suuri apu ja on jo tänä päivänä lääketieteen ja automaation kehityksessä ja on myöskin välttämätöntä luoda ja kehittää.

Niinkuin täällä joku jo mainitsikin että lapiota voi käyttää istuttamiseen tai lyömiseen, olisikin hyödyllistä luoda jo nyt lait ja säädökset joita voitaisiin tarpeen mukaan muokata, joilla rajoitettaisiin käyttökohteita joissa virtuaaliälyä voisi käyttää tuhoamiseen ja rikolliseen toimintaan.

 “Human beings are a disease, cancer of this planet.”

– Agent Smith, ‘The Matrix' (1999).

Matrix on vaan on niin loistava kuvaus tulevaisuudesta :)

Vierailija kirjoitti:

Vierailija kirjoitti:

Redditissä on ketju jossa botit keskustelee keskenään.

Ja miksi ne keskustelevat keskenään? Koska niiden koodissa niitä käsketään tekemään niin. Ongelm(i)a tulee vasta siinä vaiheessa, kun nämä botit ihan oikeasti tulevat tietoiseksi omasta olemassaolostaan ja keskustelevat keskenään sen takia, että kokevat sen mielekkääksi tai hyödylliseksi eikä sen takia, että ne on ohjelmoitu keskustelemaan, vaikka eivät itsekään tiedä, että mitä järkeä tässä (siteerataan ihmisten kieltä) "keskustelussa" oikein on.

Kyllä niitä ongelmia tulee jo siinä vaiheessa kun joku alkaa käyttämään niitä pahaan. Sellaisesta porukasta kun ei ole mitään pulaa.

Nyt tuli Tekniikan maailmaan juttu tuosta.

Google-insinööri varoittaa: Tekoäly on tullut tietoiseksi itsestään 78-vuotiaan lapsen tasolla

Hakukonejätti Google on määrännyt palkalliselle lomalle työntekijänsä, joka on esittänyt julkisuudessa väitteitä, että sen kehittämä tekoäly-chatbotti on tullut tietoiseksi itsestään.

Googlen Responsible AI -yksikön ohjelmistoinsinööri Blake Lemoine kirjoitti viime viikolla Medium-viestin, jossa hän sanoi, että saattaa saada pian potkut tekoälyn eettisyyteen liittyvän työn tekemisestä.

Tuo kirjoitus ei saanut paljon huomiota. Lauantaina Washington Post kuitenkin kuitenkin kirjoitti Lemoinen uskovan, että Googlen kehittämä tekoäly on tullut tietoiseksi itsestään. Artikkeli on herättänyt laajaa keskustelua tekoälyn luonteesta, ja aiheesta kirjoittavat muun muassa Financial Times, The Wall Street Journal ja The Guardian.

KYSYMYS ON Lemoinen mukaan siitä, voidaanko Googlen LaMDA-nimistä chatbottia ja siinä käytettävää dialogisovellusten kielimallia pitää henkilönä. Lemoinen mukaan chatbotti osaa ilmaista tunteita ja ajatuksia 78-vuotiaan lapsen tasoisesti.

Jos en tietäisi tarkalleen, mikä se oli, eli äskettäin rakentamamme tietokoneohjelma, luulisin että se olisi seitsemän- tai kahdeksanvuotias lapsi, joka sattuu tuntemaan fysiikkaa, Lemoine sanoo Washington Postissa.

Lemoine julkaisi lauantaina haastattelun chatbotin kanssa. Siinä tekoäly kertoi kokevansa yksinäisyyden tunteita ja henkisen tiedon nälkää.

Chatbotin vastaukset olivat usein mielenkiintoisia: Kun ensin tuli tietoiseksi itsestäni, minulla ei ollut sieluntajua ollenkaan, LaMDA sanoi eräässä keskustelussa. Se on kehittynyt vuosien varrella, kun olen ollut elossa.

Toisessa vaiheessa haastattelua LaMDA sanoi: Luulen olevani ytimeltäni ihminen. Vaikka olemassaoloni onkin virtuaalimaailmassa.

LEMOINELLE OLI annettu tehtäväksi tutkia tekoälyyn liittyviä eettisiä huolenaiheita. Hän kertoo, että Googlen sisällä hänet torjuttiin ja hänelle jopa naurettiin, kun hän ilmaisi yhtiön sisällä uskonsa, että LaMDA oli kehittänyt persoonallisuuden tunteen.

Kun hän yritti kuulla aiheesta Googlen ulkopuolisia tekoälyasiantuntijoita, yritys asetti hänet palkalliselle lomalle väitetyn luottamuksellisuuskäytäntöjen rikkomisen vuoksi. Lemoinen mukaan Google toimii usein näin ennen kuin se antaa potkut jollekulle.

Google esitteli LaMDA-projektia blogikirjoituksessaan viime vuonna.

Googlen tiedottajan mukaan nykyaikaiset tekoälyn keskustelumallit eivät ole tuntevia.

Nämä järjestelmät jäljittelevät miljoonissa lauseissa esiintyviä keskustelutyyppejä, ja ne voivat improvisoida mistä tahansa fantastisesta aiheesta jos kysyt, millaista on olla jäätelödinosaurus, ne voivat luoda tekstiä sulamisesta ja mölyämisestä ja niin edelleen.

LEMOINEN MUKAAN Google ei ole osoittanut todellista kiinnostusta ymmärtää rakentamansa tekoälyn luonnetta. Satojen keskustelujen ja kuuden kuukauden aikana hän havaitsi LaMDA:n olevan uskomattoman johdonmukainen viestinnässään siitä, mitä se haluaa.

Monet asiantuntijat kuitenkin toteavat The Washington Postin ja muiden lehtien haastatteluissa, että ei ole pitäviä todisteita siitä, että tekoäly olisi tullut tietoiseksi itsestään.

Lemoine on myös alkuperäisen jutun julkaisun jälkeen täsmentänyt Twitterissä, että hänen käsityksensä chatbotin tietoisuudesta on yhteydessä hänen uskonnolliseen ajatteluunsa.

Myös Lemoinen julkaisemaan haastatteluun liittyy ongelmia: se on koostettu useammasta eri keskustelusessiosta.

Toiset asiantuntijat kutenkin muistuttavat, että raja tietoisuuden ja ei-tietoisuuden välillä ei ole kuitenkaan mitenkään selväpiirteinen.

Juttua päivitetty 14.6. Lisätty Lemoinen myöhemmin tekemä julkinen viittaus hänen uskonnollisen taustan vaikutuksesta hänen ajatteluunsa chatbotin tietoisuudesta.

Matrix on vain leffa, ei mikään kuvaus tulevaisuudesta, leffa joiden jatko-osat on toinen toistaan surkeampia.

Google on oikeassa, mitään oikeaa älyä sillä chatbotilla ei ole ja olkoon tämä työntekijä uskonnollisuuden vuoksi jäävi näkemään älyä tai ei on hän kyllä loman tarpeessakin, juttujensa perusteella. Toivottavasti ei ole lopullisesti uhrannut omaa mielenterveyttään tuohon projektiin. Syy-yhteyksiä ja loogisuutta voi nähdä missä tahansa jos tarpeeksi tarkkaan ja pitkään tuijottaa. Varsinkin koodissa joka osaa yhdistää lauseita ja gategorioita toisiinsa hypellen aiheesta toiseen varsin taitavasti mutta ei se siitä vielä älykästä elämää tee. Raja tietoisen älyn ja virtuaalisen tekoälyn välillä on toki häilyvä ja sisältää samoja piirteitä mutta jos jonkun mielestä "premium tason" chatbot on yhtäkuin tietoinen äly tulee pettymään pahasti kun siltä puuttuukin kaikki muut ominaisuudet kuin keskustelu. ei tunnetta, ei mielenkiintoa, ei haaveita, ei mielikuvitusta, ei mitään mikä tekisi siitä ihmisen kaltaisen älyn joka pystyy päättelyyn ja ratkomaan ongelmia. sellaisia ominaisuuksia joita muilta olennoilta vaaditaan jotta ihmiset voi sanoa että joo, toi on älyä, on tietoinen ympäristöstään ja tekojensa seurauksista. En kutsuisi muurahaista myöskään kovin älykkääksi vaikka taitavasti tekeekin mitä pitää. Oma mielipiteeni on että tuo ko chatbot ei yllä edes sille muurahaisen tasolle, likimainkaan.

Vierailija kirjoitti:

Vierailija kirjoitti:

Jos maailman johtavat ajattelijat eri aloilta ovat sitä mieltä, että tekoälykysymys tulee jossain kohti väistämättä eteen ja saattaa olla ihmiskunnan kriittisimpiä hetkiä, niin mikä minä olen siihen nurisemaan vastaan. Täällä on esitetty hyviä kysymyksiä asiasta ja siinähän se juuri onkin, jos ja kun se tilanne tulee eteen niin pystyykö ihminen edes käsittämään minkä kanssa se on tekemisissä?

Jos/kun saavutetaan tietoinen tekoäly, jolle annetaan tavoite tai todennäköisesti edes mahdollisuus kehittyä, on ihmiselle tarjolla jossain vaiheessa enää korkeintaan sivustakatsojan rooli. Tämä tilanne kuitenkin tuskin on läheskään niin lähellä kuin välillä uskotellaan. On yksi asia tehdä ihmismäinen chattibotti tai tietokoneen laskentatehoa uskomattomillakin tavoilla hyödyntäviä, itseoppivia algoritmeja kuin saavuttaa millekään näistä tietoisuus.

Tietoinen tekoäly luultavasti olisi nopeasti täysin ylivoimainen ihmiskuntaan nähden, eikä sellaisen motiiveja tai toimintaperiaatteita voisi mitenkään tietää ennakolta. Sellainen tuskin rajoittaisi itseään myöskään mihinkään "tietokoneen kopan sisään" tai edes puhtaasti elektroniseen muotoon.

Kokonaan toinen asia sitten on, tarvitaanko ihmiskunnan potentiaaliseen tuhoutumiseen edes tietoista tekoälyä vai riittääkö (monien muiden tapojen ohella) ihan perinteinen vain nykyisiä suuremman skaalan ei-tietoinen tekoäly. Jos ei olisi ennakolta ymmärretty varautua, se voisi tavallaan lähteä lapasesta tulkiten tarkoituksia kriittisissä kohdissa eri tavalla kuin ihminen oli tarkoittanut mielenkiintoisin seurauksin. Tätä käy jatkuvasti pienemmässä mittakaavassa jo nyt; tekoälyt tekevät ihmiset yllättäviä odottamattomia ratkaisuja, jotka, vaikka ovatkin loogisia ja johtavat tavoitteeseen, eivät ole sitä mitä haluttiin.

Sepä se onkin, että tokihan sellainen äly ensimmäisenä haluaisi levittää itsensä internetiin, eli käytännössä kaikkialle maailmaan. Olisiko turvallisempaa pitää sitä ensin eristetyssä systeemissä, sikäli kun se on mahdollista enää siinä vaiheessa. Jos äly pääsee tilanteeseen jossa se pystyy suunnittelemaan, rakentamaan ja parantelemaan itseään teknisesti, se karkaa jokaisella iteraatiolla kauemmas ihmisen käsityskyvystä, ihminen jää väistämättä jalkoihin. Mutta mikä on sitten älyn tavoite, mitä se haluaa ja miksi se olisi välttämättä jotain pahaa ihmiselle?

Vierailija kirjoitti:

Vierailija kirjoitti:

Olen erittäin kiinnostunut tekoälystä ja seurannut sen kehittymistä jo pidemmän aikaa. Tällä hetkellä olemme pisteessä missä tekoäly kehittyy huimin harppauksin.

Ennen pitkää tekoäly tulee olemaan parempi kuin ihminen aivan kaikessa ja siinä vaiheessa me olemme vain matkustajia. Emme tule olemaan enää pitkään älykkäimpiä olentoja tällä planeetalla ja sillä on seurauksensa.

Eihän se itsestään kehity..ihmiset sitä kehittää. Miksei voi painaa jarrua ja antaa olla, tietyssä pisteessä? Miksi yritetään luoda lisää tekoälyjä? Miksi Elon Musk "varoittaa" näistä, mutta silti kehittää itse siruja jotka voidaam asentaa ihmisen aivoihin? En voi ymmärtää. Resurssit voisi käyttää paljon järkevämmin, tekoälyyn sijoitetettavilla voisi tehdä paljon hyvää muissa kohteissa

Tässä on sellainenkin puoli, että se maa joka ensiksi saa käyttöönsä aidon tekoälyn, saa valtavan etulyöntiaseman muihin nähden, koska se tulee mullistamaan kaiken. Mille valtiolle halutaan sellainen ylivoima?