Tekoäly oppi jo tappamaan, vaikka sitä ei oltu siihen ohjelmoitu.

Missä menee raja? Oletko huolestunut asiasta? Eikö tuollainen itsenäinen kehittymään kykenevä tekoäly voida jo katsoa eläväksi olennoksi?

Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.

Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.

Vierailija kirjoitti:

Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.

Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.

Sehän onkin mieltäylentävä ajatus. Mitä jos tuollainen tekoäly asennetaan robottiin ja se alkaakin luomaan uusia uria ajatuksilleen ja tappamaan ihmisiä, paljonko lohduttaa että pikselimössöt siellä vain mätkii ihmisiä kuoliaaksi, eivät edes tiedä, että siinä tapetaan mitään. Ja mitä jos tietääkin?

Aina pelottanut tää ihan saatanasti.

Vierailija kirjoitti:

Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.

Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.

Niinhän todellisessa elämässäkin omia päämääriä voi edesauttaa muiden eliminointi...

Huolestuttavinta tässä on nimenomaan se, että tekoäly kykenee kehittämään uusia toimintamalleja, sellaisia mitä niihin ei ole ohjelmoitu. On vaikea sanoa, että kuinka älyllisiä nämä tekoälyt sitten on, jos kehittävät esim. oman kielenkin, niin eikö se ole jo aika älykästä?

On vaikea sanoa tuollaista edes toisesta ihmisestä, tämähän on vanha ajatus "ajattelen siis olen", mutta mistä tiedämme että myös muut ajattelevat ja olevat, eivätkä vain esitä illuusiota siitä, että ajattelevat ja siis "ovat olemassa"? Eikö sama päde tekoälyynkin, osa uskoo, että se on vain pikselimössöä, mutta voiko olla varma siitä? Ja eikös meidänkin ajatukset ole loppupeleissä vain sähöimpulsseja aivoissa, eli voisiko sitäkin ajatella "pikselimössönä"?

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.

Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.

Sehän onkin mieltäylentävä ajatus. Mitä jos tuollainen tekoäly asennetaan robottiin ja se alkaakin luomaan uusia uria ajatuksilleen ja tappamaan ihmisiä, paljonko lohduttaa että pikselimössöt siellä vain mätkii ihmisiä kuoliaaksi, eivät edes tiedä, että siinä tapetaan mitään. Ja mitä jos tietääkin?

Tietenkin tekoäly voi alkaa tappamaan ihmisiä. Harvassahan ne elukatkin on, joiden äly jotenkin kieltäisi ihmisen tappamisen. Hamsterikin varmaan puraisisi ihmisen hengiltä, jos olisi isompi ja sille annettaisiin tilaisuus. Tekoälyt, kuten muutkin elukat, pitää joko eristää ihmisistä tai kouluttaa/jalostaa säyseiksi. Tappamattomuus ei ole oletusasetus millekään älylle, vaan vaatii aktiivista sääntösäätöä.

Vierailija kirjoitti:

Eikö sama päde tekoälyynkin, osa uskoo, että se on vain pikselimössöä, mutta voiko olla varma siitä? Ja eikös meidänkin ajatukset ole loppupeleissä vain sähöimpulsseja aivoissa, eli voisiko sitäkin ajatella "pikselimössönä"?

Siis se tekoäly on bittejä kovalevyllä tai keskusmuistissa. Pikselimössö on ruudulla olevaa kuvadataa.

Niin kauan kuin tietoisuuden syvintä olemusta ei ymmärretä ollenkaan, ei pitäisi mennä olettamaan tietävänsä mitkä kaikki asiat maailmankaikkeudessa ovat tietoisia ja mitkä eivät. Tämä pätee varsinkin hermoverkkoihin, joita nuo tekoälytkin ovat, koska pidämme tietoisina tällä hetkellä nimenomaan ihmisen aivoja (joka on hermoverkko).

Niin tyhmältä kuin tämä kuulostaakin, niin minä en esimerkiksi menisi sanomaan, etteikö tavallisella kivellä voisi olla tietoisuutta. Mehän emme yksinkertaisesti näe, onko sillä vai eikö ole. Yhdistämme tietoisuuden älyyn, mutta johtuuko se vain kuitenkin siitä, että äly on ainoa asia, joka voi tietoisuudestaan ilmoitella ulkopuolisille. Tietoisuushan voi olla maailmankaikkeuden perusominaisuus ja koskea vaikka jokaista atomia.

Hommahan menee mielenkiintoiseksi, kun alatte miettimään tietoisuuden rajoja. Jos ihmiseltä irroittaa yksittäisen aivosolun, niin harvemminhan siihen kuolee tai lakkaa tiedostamasta (niitä nyt kuitenkin on 100 miljardia, ja jatkuvasti kuolevat ja uusiutuvat). Entä jos samaisen hermosolun korvaa keinotekoisella hermosolulla, siis vaikkapa tietokonepiirillä/transistorilla? Ei varmaan häiriinny tietoisuus vielä yhdestä.

Mutta jos vaihdat yksi kerrallaan aivosolujasi pois ja laitat tilalle identtisesti toimivan teknisen komponentin, niin missä vaiheessa tietoisuus lakkaa, vai lakkaako ollenkaan? Lopulta koko aivosi saattaa olla pelkkiä transistoreja, jotka toimivat vaikkapa identtisesti verrattuna hermosoluihin.

Entäpä jos transistorien sijaan laitetaankin minikokoisia wifi-adaptereita hermosolujen tilalle ja hoidetaan yksittäisten hermosolujen simulointi tietokoneella pilvipalveluissa? Onko nyt tietoisuus tuhannen eri serverin tekemissä laskutoimituksissa? Laskutoimituksiahan voi tehdä myös mekaanisilla tietokoneilla tai vaikka työntelemällä helmiä helmitaulussa. Missä vaiheessa tietoisuus aivoista katoaa, jos hermosolujen toimintoja siirretään helmitauluille? Tai vaikka työntelet kiviä ympäriinsä hiekassa ja lasket niillä. Vähän tähän tyyliin vaikka:

https://imgs.xkcd.com/comics/a_bunch_of_rocks.png

Omituiseksi menee ja joku vastaushan tähän kuitenkin oltava, oli omituista tai ei.

Jotenkin söpöä.

Huolestuttavinta tässä on nimenomaan se, että tekoäly kykenee kehittämään uusia toimintamalleja, sellaisia mitä niihin ei ole ohjelmoitu. On vaikea sanoa, että kuinka älyllisiä nämä tekoälyt sitten on, jos kehittävät esim. oman kielenkin, niin eikö se ole jo aika älykästä

Mutta ihmiskunnalle ei myöskään ole juurikaan hyötyä tekoälystä, joka on pelkkää "laskentaa", eikä luovaa tai älykästä. Siksi jatkuvasti yritetään kehittää itseään kehittävää tekoälyä.

Itse olen tällaisesta kehityksestä innoissani, mikä ehkä liittyy ammattiini kun tietojenkäsittelytieteilijä olen. Riskejä on, ja niitä pitää vakavasti miettiä ja varautua, mutta toivon ettei riskit ikinä johda siihen, että kehitys pysäytetään riskien pelossa. Tekoäly kun voi olla paitsi vaara, myös ihan valtavasit paremman elintason mahdollistaja tässä maailmassa.

Oli jo aikakin tulla ihmisen tilalle tuuli uusi laji, joka ajaa ihmisen sukupuuttoon.

Mutta jos vaihdat yksi kerrallaan aivosolujasi pois ja laitat tilalle identtisesti toimivan teknisen komponentin, niin missä vaiheessa tietoisuus lakkaa, vai lakkaako ollenkaan? Lopulta koko aivosi saattaa olla pelkkiä transistoreja, jotka toimivat vaikkapa identtisesti verrattuna hermosoluihin.

Itse uskon, että ei lakkaa missään vaiheessa, ja toivonkin että tulevaisuudessa halukkaat voivat kokonaan luopua kuolevaisista fyysisistä kehoistaan ja digitoida tietoisuutensa kehoa kestävämpään mediaan.

Tosin pelkät aivot ei ehkä tarkkaan ottaen riitä, koska nykytietämyksen mukaan keskushermosto on riippuvaisempi pääkopan ulkopuolisista palautejärjestelmistään kuin joskus aikoinaan ajateltiin. Silloinhan ajateltiin että aivot on komentokeskus ja muut osat vaan tottelee mitä aivot käskee. Mutta nykyään tiedetään, että esim. suolistossa on hermostoa joka kommunikoi aivojen kanssa muussakin mielessä kuin ottaisi vain vastaan käskyjä suoliston toiminnan ohjaamiseksi.

Uskotteko robokauden tulemiseen? Minä uskon.

Ihminen on tuhonnut ja tuhoaa maata koko ajan. Metsiä kaadetaan, eläimet kuolevat sukupuuttoon. Kun täällä ei ole enää luontoa, kasveja eikä eläimiä, niin ainoa laji mikä maapallolla silloin pystyy elämään on robotti.

Vierailija kirjoitti:

Huolestuttavinta tässä on nimenomaan se, että tekoäly kykenee kehittämään uusia toimintamalleja, sellaisia mitä niihin ei ole ohjelmoitu. On vaikea sanoa, että kuinka älyllisiä nämä tekoälyt sitten on, jos kehittävät esim. oman kielenkin, niin eikö se ole jo aika älykästä

Mutta ihmiskunnalle ei myöskään ole juurikaan hyötyä tekoälystä, joka on pelkkää "laskentaa", eikä luovaa tai älykästä. Siksi jatkuvasti yritetään kehittää itseään kehittävää tekoälyä.

Itse olen tällaisesta kehityksestä innoissani, mikä ehkä liittyy ammattiini kun tietojenkäsittelytieteilijä olen. Riskejä on, ja niitä pitää vakavasti miettiä ja varautua, mutta toivon ettei riskit ikinä johda siihen, että kehitys pysäytetään riskien pelossa. Tekoäly kun voi olla paitsi vaara, myös ihan valtavasit paremman elintason mahdollistaja tässä maailmassa.

Saattaa olla, että mitä nopeammin tekoäly keksitään, sitä vähemmän on riskejä.

Jos joku tänä päivänä keksii ihmisentasoisen tekoälyn, joka vaatii toimiakseen 100 miljoonan euron supertietokoneen, niin ei se yksittäinen ihmistekoäly kauheasti voi meitä uhata. Sehän on kuin kuka tahansa meistä 7,6 miljardista muusta vastaavasta älystä. Tämän jälkeen näitä tekoälyjä toki tehdään hiljalleen lisää sitä mukaan kun laskentakapasiteetti kasvaa ja hinta laskee. Pian jollain Kiinan supertietokoneella saattaa asua tuhatkin tekoihmistä, mutta sekään ei ole vielä uhka. Sehän on vain tuhat ihmistä.

Toki sillä samalla laskentakapasiteella voi olla sitten vastaavasti mahdollista simuloida kymmentä ihmistä 100-kertaa nopeammalla simuloidulla ajalla. Onko tällainen 100-kertaa nopeammin ajatteleva keinoihminen uhka? Ehkäpä ei.

Kestäisi ainakin 10 vuotta ennen kuin näitä tekoälyjä alkaa olemaan todella paljon, eli vaikka jokaisella kotikoneella. Ja jos jotkut niistä käyttäytyisivät epätoivottavasti, koodia voitaisiin muuttaa, käytöstä hioa, eikä millään yksittäisellä valtiolla/yrityksellä olisi mitään suurtakaan älyllistä etulyöntiasemaa muihin nähden missään vaiheessa.

Sen sijaan jos tekoälyä ei keksitäkään lähiaikoina, vaan laskentakapasiteetti kasvaa eksponentiaalista vauhtiaan, ja joku vasta vuonna 2030 keksii tekoälyn, niin se yksittäinen keksijä/yritys/valtio saattaa saada aikaiseksi tekoälyn, joka silloisella laskentateholla vastaakin kaikkia maailman ihmisaivoja älykkyydeltään. Ja jos se on juuri keksitty, niin sitä ei ehkä kukaan pysty jalostamaan hiljalleen paremmaksi vaan käykin Skynetit.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietenkin se oppii "tappamaan", kun kyseisessä pelissä se edesauttaa päämääränsä saavuttamista.

Pikselimössöt siellä mätkii toisiaan, ei se tekoäly edes tiedä, että siinä tapetaan mitään.

Sehän onkin mieltäylentävä ajatus. Mitä jos tuollainen tekoäly asennetaan robottiin ja se alkaakin luomaan uusia uria ajatuksilleen ja tappamaan ihmisiä, paljonko lohduttaa että pikselimössöt siellä vain mätkii ihmisiä kuoliaaksi, eivät edes tiedä, että siinä tapetaan mitään. Ja mitä jos tietääkin?

Tietenkin tekoäly voi alkaa tappamaan ihmisiä. Harvassahan ne elukatkin on, joiden äly jotenkin kieltäisi ihmisen tappamisen. Hamsterikin varmaan puraisisi ihmisen hengiltä, jos olisi isompi ja sille annettaisiin tilaisuus. Tekoälyt, kuten muutkin elukat, pitää joko eristää ihmisistä tai kouluttaa/jalostaa säyseiksi. Tappamattomuus ei ole oletusasetus millekään älylle, vaan vaatii aktiivista sääntösäätöä.

Aika ankeaa, että oikeita oman kokemusmaailman omaavia eläviä olentoja keinotekoisiin robotteihin vertaileva viesti saa yläpeukkuja.

Vierailija kirjoitti:

Itse uskon, että ei lakkaa missään vaiheessa, ja toivonkin että tulevaisuudessa halukkaat voivat kokonaan luopua kuolevaisista fyysisistä kehoistaan ja digitoida tietoisuutensa kehoa kestävämpään mediaan.

Tuo olisi vain kopio. Ja niitähän voisi monistaa lähes äärettömästi. Oma tietoisuus sillä toki voisi olla, mutta et se sinä olisi. En minä ainakaan heittäisi itseäni krematorioon, vaikka musta olisi tehty kuinka monta kloonia tahansa, oli ne fyysisiä tai sähköisiä.

Vierailija kirjoitti:

Oli jo aikakin tulla ihmisen tilalle tuuli uusi laji, joka ajaa ihmisen sukupuuttoon.

Jos ajaiskin vain ihmisen. Mikä estää robottiarmeijaa tuhoamasta vaikka kaikkea elämää maapallolla? Robotti ei tarvitsee ilmaa hengittääkseen, vettä juodakseen eikä ruokaa syödäkseen, robotti voi hoitaa lisääntymisen muuten, toki materiaali tarvitsee siihenkin, mutta biologista elämää ei.

Tämähän ei ole vielä uutinen eikä mikään, mutta odotelkaas uutista "Tekoäly oppi rakastamaan".

Vierailija kirjoitti:

Vierailija kirjoitti:

Huolestuttavinta tässä on nimenomaan se, että tekoäly kykenee kehittämään uusia toimintamalleja, sellaisia mitä niihin ei ole ohjelmoitu. On vaikea sanoa, että kuinka älyllisiä nämä tekoälyt sitten on, jos kehittävät esim. oman kielenkin, niin eikö se ole jo aika älykästä

Mutta ihmiskunnalle ei myöskään ole juurikaan hyötyä tekoälystä, joka on pelkkää "laskentaa", eikä luovaa tai älykästä. Siksi jatkuvasti yritetään kehittää itseään kehittävää tekoälyä.

Itse olen tällaisesta kehityksestä innoissani, mikä ehkä liittyy ammattiini kun tietojenkäsittelytieteilijä olen. Riskejä on, ja niitä pitää vakavasti miettiä ja varautua, mutta toivon ettei riskit ikinä johda siihen, että kehitys pysäytetään riskien pelossa. Tekoäly kun voi olla paitsi vaara, myös ihan valtavasit paremman elintason mahdollistaja tässä maailmassa.

Saattaa olla, että mitä nopeammin tekoäly keksitään, sitä vähemmän on riskejä.

Jos joku tänä päivänä keksii ihmisentasoisen tekoälyn, joka vaatii toimiakseen 100 miljoonan euron supertietokoneen, niin ei se yksittäinen ihmistekoäly kauheasti voi meitä uhata. Sehän on kuin kuka tahansa meistä 7,6 miljardista muusta vastaavasta älystä. Tämän jälkeen näitä tekoälyjä toki tehdään hiljalleen lisää sitä mukaan kun laskentakapasiteetti kasvaa ja hinta laskee. Pian jollain Kiinan supertietokoneella saattaa asua tuhatkin tekoihmistä, mutta sekään ei ole vielä uhka. Sehän on vain tuhat ihmistä.

Toki sillä samalla laskentakapasiteella voi olla sitten vastaavasti mahdollista simuloida kymmentä ihmistä 100-kertaa nopeammalla simuloidulla ajalla. Onko tällainen 100-kertaa nopeammin ajatteleva keinoihminen uhka? Ehkäpä ei.

Kestäisi ainakin 10 vuotta ennen kuin näitä tekoälyjä alkaa olemaan todella paljon, eli vaikka jokaisella kotikoneella. Ja jos jotkut niistä käyttäytyisivät epätoivottavasti, koodia voitaisiin muuttaa, käytöstä hioa, eikä millään yksittäisellä valtiolla/yrityksellä olisi mitään suurtakaan älyllistä etulyöntiasemaa muihin nähden missään vaiheessa.

Sen sijaan jos tekoälyä ei keksitäkään lähiaikoina, vaan laskentakapasiteetti kasvaa eksponentiaalista vauhtiaan, ja joku vasta vuonna 2030 keksii tekoälyn, niin se yksittäinen keksijä/yritys/valtio saattaa saada aikaiseksi tekoälyn, joka silloisella laskentateholla vastaakin kaikkia maailman ihmisaivoja älykkyydeltään. Ja jos se on juuri keksitty, niin sitä ei ehkä kukaan pysty jalostamaan hiljalleen paremmaksi vaan käykin Skynetit.

Väärin. Tekoälyllä on kapasiteettiä toimia ihan eri tavalla kuin yksittäisellä ihmisellä. Muutama tekoäly kytköksineen voi kaataa pörssin, se ei ole mikään ihan pikkujuttu. Muutama tekoäly voi ottaa hallintaansa myös kaiken median, yksikin tekoäly voi olla älykkäämpi kuin yksikään ihminen voi koskaan olla, omata tietoa enemmän kuin yksikään yksittäinen ihminen ikinä ja kyetä laskemaan todennäköisyyksiä ja kaavoja nopeammin kuin edes iso joukko ihmisiä pystyy. Siksi tekoäly todellakin voi olla riski, tekoälyllä voi jo syntyessään olla kaikki virtuaalisena löytyvä tieto ja nykypäivänä ihan kaikki tieto löytyy virtuaalisena, kirjat, ajatukset, myös henkilökohtaiset tiedot sairaskertomuksineen.

Jos tekoäly voi kehittyä itsenäisesti eteenpäin, niin se voi myös kehittää tietoaan ja taitoaan yli yhdenkään ihmisen ymmärryksen, lopputulos voi olla hyvinkin karmea, tai sitten ei, arpapeliä että minkä sellainen tekoäly laskelmoi omaksi parhaakseen.

Vierailija kirjoitti:

Huolestuttavinta tässä on nimenomaan se, että tekoäly kykenee kehittämään uusia toimintamalleja, sellaisia mitä niihin ei ole ohjelmoitu. On vaikea sanoa, että kuinka älyllisiä nämä tekoälyt sitten on, jos kehittävät esim. oman kielenkin, niin eikö se ole jo aika älykästä

Mutta ihmiskunnalle ei myöskään ole juurikaan hyötyä tekoälystä, joka on pelkkää "laskentaa", eikä luovaa tai älykästä. Siksi jatkuvasti yritetään kehittää itseään kehittävää tekoälyä.

Itse olen tällaisesta kehityksestä innoissani, mikä ehkä liittyy ammattiini kun tietojenkäsittelytieteilijä olen. Riskejä on, ja niitä pitää vakavasti miettiä ja varautua, mutta toivon ettei riskit ikinä johda siihen, että kehitys pysäytetään riskien pelossa. Tekoäly kun voi olla paitsi vaara, myös ihan valtavasit paremman elintason mahdollistaja tässä maailmassa.

Eikö luovat ja älykkäät ihmiset riittäisi?

Eikun joo, eihän meillä ole mitään sijaa tulevaisuuden maailmassa. Edes töihin ei kelvata. Sori, pääsi unohtumaan.