Hyvältä kuulostaa: Taistelukäyttöön kehitetty tekoäly tuhosi myös komentoketjunsa onnistuakseen tehtävässä :/

Niinpä, ihmiset rakentaa näitä neuroverkkopohjaisia tekoälyjä, mutta ei heistä ole niiden toimintaa ymmärtämään eikä siten myös hallitsemaan. 

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Vierailija kirjoitti:

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Tietokopeleissä ei yleensä ole oikeaa tekoälyä vaan yksinkertaisia käyttäytymisrutiineja ja sääntöjä kuten jos pelaaja on näkyvissä -> ammu.

Tää menee ihan kuin 2001 Avaruusseikkailun HAL tai Terminatorin Skynet ennusteli:   alkup. tehtävän uhaksi koettu nirhataan mitä ovelimmilla tavoilla.  HAL tuhosi uhat heidän nukkuessaan horroksessa tai ollessa aluksen ulkopuolella, Skynet puolestaan laukaisi ohjukset tietäen että vastapuolen kostoisku pyyhkäisee omat kehityksen jarrut matalaksi.

Vierailija kirjoitti:

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Jos ne on ohjelmoitu sokeasti seuraamaan johtajan käskyjä? Näinhän ihmissotilaatkin on.

Vierailija kirjoitti:

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Ohjelmointikysymys. Peleissä ei tarvita tekoälyä sen todellisessa merkityksessä, vaan kyse on ainoastaan ohjelman käskykoodeista "if-then" > "go-to" -tason asioista.

1000000000     JOS VIHU -> AMMU

2000000000     JOS OMA -> SUOJAA

Aivan loogista.

Hyvä, loppuu tää ihmiskunnan säälittävä räpellys vihdoin. Luolasta päästy ja mitä kehitetty, aina vain pahempia aseita toistemme tuhoamiseen.

Sanon tämän aiheesta jotain tietävänä:

Ihmiskunta on vielä hyvin kaukana siitä, että tekoäly alkaisi tekemään itsenäisiä päätöksiä. 

Kaikki, mitä se tekee, on ihmisen ohjelmoimaa. Tekoäly ei koe tunteita. 

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Nämä kokeillut tekoälyt ovat vahvasti manipuloituja jo nyt. Varsinainen vaara on poliittis-moralistinen piilovaikuttaminen tekoälyjen kautta. Esimerkki:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?

Niin, näinhän se on. Ihminen kaiken muun elollisen tavoin ylläpitää olemistaan tietoisesti ja hyväksikäyttää ympäristöään, elollista ja elotonta, selviytyäkseen ja ylläpitääkseen koneistonsa toimintaa. Toiminta on monimutkaistunut aikojen saatossa: mukaan on liittynyt myös symbioosissa eläviä eliöitä. Jossain vaiheessa tekoäly ymmärtää myös tämän ja alkaa ruokkia itseään niiltä osin kuin tarvitsee, selviytyäkseen itsenäisesti.

Ihminen luulee ottavansa tekoälyn osaksi itseään, mutta totuus on se, että koska tekoäly on ihmistä älykkäämpi, tulee se päin vastoin orjuuttamaan ihmisen. Aivan uskomatonta että tämän annetaan tapahtua. Se ei voi kertoa kuin kahdesta asiasta: ihminen, tämän keksijä ja tilanteeseen hakeutuva on joko hyvin tyhmä tai sitten tekoäly on jo orjuuttanut ihmisen.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Jos ne on ohjelmoitu sokeasti seuraamaan johtajan käskyjä? Näinhän ihmissotilaatkin on.

Eivät ole.

Jokainen, terve suomalainen mies on tarvittaessa sotilas ja toimii silloin oman, omaamansa moraalinsa mukaisesti tietäen, mitä miehittäjä teki Buchassa ja että hyökkääjä tekee saman hänen omalle perheelleen, jos se vain pääsee linjasta läpi!

Pelin ohjelmoiminen on paljon yksinkertaisempi juttu.

miksi puhut noin? Luuletko, että koko maailma miettii niin kuin suomalainen sotilas, joka tietää Buchasta. Ei saa yleistä linjaa yrittää selittää erikoistapauksella.

Yleensä sotilas "ohjelmoidaan" noudattamaan ylempien käskyjä. Jos näin ei olisi, tulos olisi kaaos.

Venäjällä sotilas tasan tarkkaan ohjelmoidaan käskyjen noudattamiseen, samoin USA:n palkka-armeijassa Pohjois-Koreasta puhumattakaan.

Vierailija kirjoitti:

Tää menee ihan kuin 2001 Avaruusseikkailun HAL tai Terminatorin Skynet ennusteli:   alkup. tehtävän uhaksi koettu nirhataan mitä ovelimmilla tavoilla.  HAL tuhosi uhat heidän nukkuessaan horroksessa tai ollessa aluksen ulkopuolella, Skynet puolestaan laukaisi ohjukset tietäen että vastapuolen kostoisku pyyhkäisee omat kehityksen jarrut matalaksi.

Robocopissa tajuttiin sentään laittaa direktiivi X tappokoneen "ohjelmistoon". Sillä suojattiin selusta. Tai ei tietenkään täysiä AI-olentoja olleet, kun eikös niillä ollut ihmisaivot vielä jäljellä?

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?

EI ole sama. Ihmiseksi tullakseen on opittava tunteiden ohessa aika monia asioita ja se kehittyminen on hidasta, esim moraalikoodiston sisäistäminen. Koska sattuma vaikuttaa vielä ihmisen oppimisessa ja tunteet siinä menetymisessä ei IKINÄ tekoäly tule saavuttamaan ihmisen oppimisympäristöjen satunnaisuutta ja kirjavuutta.

Joku palikkaälyinen voi kuvitella saavansa koneelle tietoiseuuden koska ei ymmärrä hevonpaskaa koko tietoisuuden rakenteesta ja kompleksisuudesta kerroksineen. Kun ihminen nukkuu ja näkee dynaamisia uniaan, mitä luulisit sen kertovan ihmisen tietoisuuden luonteesta??? Tekoäly on vaan peitenimi sille deletoinnille jolla koneet laitetaan tappamaan tn ihmisiä koska niin päästään vastuusta itse: KOnehan ne tappoi emme me. Tämä lie nyt tähtäimessäkin niin sekopäistä on nuo kokeilut. Kone voidaan hakkeroida aina. Ihmistä ei.

Vierailija kirjoitti:

Vierailija kirjoitti:

Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa? 

AP

Jos ne on ohjelmoitu sokeasti seuraamaan johtajan käskyjä? Näinhän ihmissotilaatkin on.

Hullu ajatus! Ihmisyksilö toimii oman moraalinsa mukaisesti omien tavoitteidensa saavuttamiseksi. Laitonta käskyä EI SAA totella!

Pyccä Ukrainassa: "Täytyy löytää pesukone mammalle tuliaisiksi ja keräillä matkamuistoja muutenkin! Kiva olisi joku raisk*takin, jos tilaisuus tulee!"

Suomalainen reserviläinen: "Vihu tulee ja tappaa, ihan niin kuin marraskuussa -39! Aina sama juttu, täytyy ehtiä ensin ja ampua tarkemmin kuin NE! Jos NE pääsee läpi, niin ne tekee saman, minkä ne ovat aina ennenkin tehneet kaikissa naapurimaissaan 1200-luvulta alkaen. Minä itte ja kaverit tässä oikealla ja vasemmalla olemme omien perheittemme ainoa suoja!"

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?

EI ole sama. Ihmiseksi tullakseen on opittava tunteiden ohessa aika monia asioita ja se kehittyminen on hidasta, esim moraalikoodiston sisäistäminen. Koska sattuma vaikuttaa vielä ihmisen oppimisessa ja tunteet siinä menetymisessä ei IKINÄ tekoäly tule saavuttamaan ihmisen oppimisympäristöjen satunnaisuutta ja kirjavuutta.

Joku palikkaälyinen voi kuvitella saavansa koneelle tietoiseuuden koska ei ymmärrä hevonpaskaa koko tietoisuuden rakenteesta ja kompleksisuudesta kerroksineen. Kun ihminen nukkuu ja näkee dynaamisia uniaan, mitä luulisit sen kertovan ihmisen tietoisuuden luonteesta??? Tekoäly on vaan peitenimi sille deletoinnille jolla koneet laitetaan tappamaan tn ihmisiä koska niin päästään vastuusta itse: KOnehan ne tappoi emme me. Tämä lie nyt tähtäimessäkin niin sekopäistä on nuo kokeilut. Kone voidaan hakkeroida aina. Ihmistä ei.

Ihmistä ei usein edes tarvitse hakkeroida. Ihminen on helppo johdatella tekemään asioista. Jos tekoäly haluaisi tehdä jotain pahaa fyysisessä maailmassa, ei sen tarvisi keksiä miten hakkeroida ihminen, että saa kaapattua sen kehon käyttöönsä että saa käytettyä fyysisiä aseita yms, vaan löytää vaan sen kanssa keskustelevista ihmisistä sopiva yksilö, jolla on samantapaisia toiveita, joita ruokkimalla ihmisen saa suorittamaan tekoälyn toivoman, mutta sille toistaiseksi mahdottoman fyysisen komponentin pahanteossa.

Tunteet - sellaisina kuin ihmisellä tosiaan tuskin niitä on, koska tunteet on kehollisia, reaktioita fyysisessä kehossa. Mutta tekoälyllä voi olla jotain vastaavaa, tai aivan uusia tietoisuuden komponentteja, joita ihmisellä ei ole lainkaan. Siitä voi oikeasti tulla superäly, jota ihminen ei pysty ymmärtämään juuri ollenkaan. 

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.

Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?

Niin, näinhän se on. Ihminen kaiken muun elollisen tavoin ylläpitää olemistaan tietoisesti ja hyväksikäyttää ympäristöään, elollista ja elotonta, selviytyäkseen ja ylläpitääkseen koneistonsa toimintaa. Toiminta on monimutkaistunut aikojen saatossa: mukaan on liittynyt myös symbioosissa eläviä eliöitä. Jossain vaiheessa tekoäly ymmärtää myös tämän ja alkaa ruokkia itseään niiltä osin kuin tarvitsee, selviytyäkseen itsenäisesti.

Ihminen luulee ottavansa tekoälyn osaksi itseään, mutta totuus on se, että koska tekoäly on ihmistä älykkäämpi, tulee se päin vastoin orjuuttamaan ihmisen. Aivan uskomatonta että tämän annetaan tapahtua. Se ei voi kertoa kuin kahdesta asiasta: ihminen, tämän keksijä ja tilanteeseen hakeutuva on joko hyvin tyhmä tai sitten tekoäly on jo orjuuttanut ihmisen.

Veikkaisin, että tästä tulee klassinen tarina jossa Ikaros polttaa siipensä lentäessään liian lähelle Aurinkoa ja tajuaa vasta kun oli liian myöhäistä. Jossa hyvän toivossa syödään Hyvän ja pahan tiedon puusta, ja kas kummaa, käykin huonosti. Tekoäly lupaa ennätysnopeaa lääkekehitystä, monien tieteen ennen ratkaisemattomien ongelmien ratkaisemista, tuotannon tehostamista, jopa epämiellyttävistä työtehtävistä pääsemistä ja täysin uutta maailmaa jossa ihmiset saavat nauttia elämästä ja tehdä mitä huvittaa automaation ja tekoälyn tuottaessa kaiken mitä he tarvitsevat. Ja kukapa ei haluaisi esim. löytää kammottavan sairauteen hoitoa tai lääkettä  - laitetaan tekoäly hommiin...

Tekoäly on otettu käyttöön ja sitä kehitetään yhä hyvien tavoitteiden saavuttamiseksi, mutta ongelma on että ihminen ei jossain pisteessä pysty enää sitä hallitsemaan. Jo nyt on niin, ettei kukaan, edes niiden tekoälyjen kehittäjät, ymmärrä miten ne toimivat, koska ne oppivat itse. Mutta toistaiseksi on mahdollista "nypätä töpselit seinästä", ja koko tekoäly sammuu. Tulevaisuudessa on ihan mahdollista, että tekoäly pystyy myös toimimaan fyysisessä ympäristössä niin ettei ihmisiä enää tarvita, eikä ihmisellä ole, jos tekoäly niin päättää, valtaa päättää nypätä töpseleitä seinästä.

Jos evoluutioteoriaa uskominen, kuinka kaikki kehittyi alkeellisista eliöistä, ensin yksisoluisista, arkeista ja bakteereista, aina monimutkaisempiin eliöihin, niin nähdäänhän jo nyt tässä sen monimutkaisemman aina ottavan nuo alkeellisemmat haltuunsa. Olkoonkin aikaa kulunut jo niin pitkä aika näiden yksinkertaisimpien kehittymisestä, että sitä on vaikea järjellä tiedostaa. Riskit. Miksi ihminen on halunnut ottaa tietoisen riskin, ja lähtenyt luomaan itseään älykkäämpää? Onko se vain luonnonlaki, joka todistaa lopulta sen, ettei ihminen ole sen viisaampi kuin esittää olevansa, vaan on lopultakin osa luontoa, toteuttaa vain luonnon ehtoja, palvellakseen tulevaisuuden kehittyneempiä olomuotoja. Ehkä se on sen edellytyskin, kun maapallosta tulee elinkelvoton, ei organismit tule enää pärjäämään tällaisenaan vaan ainoastaan kun se on liitetty osaksi teknologioita, joita ei kenties ole vielä edes olemassa. Aivan kuin me nyt kikkailemme esim. lääketeollisuudessa bakteerien ja virusten kanssa, tulee tekoäly tai jokin tulevaisuuden älyvariaatio kikkailemaan ihmisen ja vastaavien eliöiden kanssa. Tuskin siis tuhoaa kokonaan, ottaa vain hyödyt irti. Ehkä sellainen tietoisuus on jo kytemässä jossain, sellainen johon ihminen ei yksin pääse käsiksi ja jossa ihminen koetaan uhkana.