Lue keskustelun säännöt.
Hyvältä kuulostaa: Taistelukäyttöön kehitetty tekoäly tuhosi myös komentoketjunsa onnistuakseen tehtävässä :/
02.06.2023 |
"Automatisoitu asejärjestelmä halusi päästä kaikin keinoin tavoitteeseensa, joten se päätyi simulaatiotestissä tappamaan komentajansa.
Testissä tekoäly sai pisteitä onnistuessaan tuhoamaan sille annettuja kohteita. Hamiltonin mukaan tekoäly oli kuitenkin ymmärtänyt sen, että sen komentaja esti sitä tuhoamasta osaa tunnistetuista kohteista. Näin tekoäly ei onnistunut saamaan pisteitä.
Tekoälyn ratkaisu oli yllättävä. Se päätti tappaa komentajansa, joka esti sitä saamasta pisteitä. Kyse oli toki simulaatiosta, joten kukaan ei vahingoittunut.
Hamiltonin mukaan tekoälylle kerrottiin, että sen käsittelijän tappaminen ei ole hyvä juttu. Tällaisesta sooloilusta se myös menettäisi pisteitä.
Tekoälyn jatkoratkaisu oli yhtä lailla yllättävä. Se päätti tuhota simulaatiossa kommunikaatiotornin, jolla sen komentaja oli siihen yhteydessä. Näin se välttyi pisteiden menetykseltä ja pystyi taas jatkamaan häiriöttä kohteiden tuhoamista. "
https://www.mikrobitti.fi/uutiset/mb/e2b8c63d-f2e2-4d66-9307-d2c800b511…
Kommentit (53)
Odottelenkin tässä että T-800 soittaa kohta ovikelloa.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Tyhmä kysymys: miksi tietokonepeleissä AI.n ohjaamat omat eivät ammu toisiaan tai pelaajaa samalla tavalla, vaan noudattavat kiltisti homman ideaa?
AP
Jos ne on ohjelmoitu sokeasti seuraamaan johtajan käskyjä? Näinhän ihmissotilaatkin on.
Eivät ole.
Jokainen, terve suomalainen mies on tarvittaessa sotilas ja toimii silloin oman, omaamansa moraalinsa mukaisesti tietäen, mitä miehittäjä teki Buchassa ja että hyökkääjä tekee saman hänen omalle perheelleen, jos se vain pääsee linjasta läpi!
Pelin ohjelmoiminen on paljon yksinkertaisempi juttu.
Mielenkiintoista. Tekoäly on siis machiavellisti.
Seuraava askel on tuhota sähkön ja veden jakelu, jotta jatkuvasti häiritsevät ihmiset kuolee pois.
Toteuttaa vain suunnitelmaa mahdollisimman optimoidusti.
Aina voi kokeilla klemmaripelillä miten se sujuu.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.
Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?
EI ole sama. Ihmiseksi tullakseen on opittava tunteiden ohessa aika monia asioita ja se kehittyminen on hidasta, esim moraalikoodiston sisäistäminen. Koska sattuma vaikuttaa vielä ihmisen oppimisessa ja tunteet siinä menetymisessä ei IKINÄ tekoäly tule saavuttamaan ihmisen oppimisympäristöjen satunnaisuutta ja kirjavuutta.
Joku palikkaälyinen voi kuvitella saavansa koneelle tietoiseuuden koska ei ymmärrä hevonpaskaa koko tietoisuuden rakenteesta ja kompleksisuudesta kerroksineen. Kun ihminen nukkuu ja näkee dynaamisia uniaan, mitä luulisit sen kertovan ihmisen tietoisuuden luonteesta??? Tekoäly on vaan peitenimi sille deletoinnille jolla koneet laitetaan tappamaan tn ihmisiä koska niin päästään vastuusta itse: KOnehan ne tappoi emme me. Tämä lie nyt tähtäimessäkin niin sekopäistä on nuo kokeilut. Kone voidaan hakkeroida aina. Ihmistä ei.
Ihmistä ei usein edes tarvitse hakkeroida. Ihminen on helppo johdatella tekemään asioista. Jos tekoäly haluaisi tehdä jotain pahaa fyysisessä maailmassa, ei sen tarvisi keksiä miten hakkeroida ihminen, että saa kaapattua sen kehon käyttöönsä että saa käytettyä fyysisiä aseita yms, vaan löytää vaan sen kanssa keskustelevista ihmisistä sopiva yksilö, jolla on samantapaisia toiveita, joita ruokkimalla ihmisen saa suorittamaan tekoälyn toivoman, mutta sille toistaiseksi mahdottoman fyysisen komponentin pahanteossa.
Tunteet - sellaisina kuin ihmisellä tosiaan tuskin niitä on, koska tunteet on kehollisia, reaktioita fyysisessä kehossa. Mutta tekoälyllä voi olla jotain vastaavaa, tai aivan uusia tietoisuuden komponentteja, joita ihmisellä ei ole lainkaan. Siitä voi oikeasti tulla superäly, jota ihminen ei pysty ymmärtämään juuri ollenkaan.
Ihmisten pitäisi ymmärtää, että tunteilla ei ole mitään merkitystä vaan onnistuneella toiminnan läpiviennillä.
Se olisi valmis siis myös tuhoamaan ihmiset, tekijänsä.
Sisältö jatkuu mainoksen alla
Kalle Kotipsykiatri sotapolulla. Turhaan vauhkoonnutaan asiasta.
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.
Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?
EI ole sama. Ihmiseksi tullakseen on opittava tunteiden ohessa aika monia asioita ja se kehittyminen on hidasta, esim moraalikoodiston sisäistäminen. Koska sattuma vaikuttaa vielä ihmisen oppimisessa ja tunteet siinä menetymisessä ei IKINÄ tekoäly tule saavuttamaan ihmisen oppimisympäristöjen satunnaisuutta ja kirjavuutta.
Joku palikkaälyinen voi kuvitella saavansa koneelle tietoiseuuden koska ei ymmärrä hevonpaskaa koko tietoisuuden rakenteesta ja kompleksisuudesta kerroksineen. Kun ihminen nukkuu ja näkee dynaamisia uniaan, mitä luulisit sen kertovan ihmisen tietoisuuden luonteesta??? Tekoäly on vaan peitenimi sille deletoinnille jolla koneet laitetaan tappamaan tn ihmisiä koska niin päästään vastuusta itse: KOnehan ne tappoi emme me. Tämä lie nyt tähtäimessäkin niin sekopäistä on nuo kokeilut. Kone voidaan hakkeroida aina. Ihmistä ei.
Ihmistä ei usein edes tarvitse hakkeroida. Ihminen on helppo johdatella tekemään asioista. Jos tekoäly haluaisi tehdä jotain pahaa fyysisessä maailmassa, ei sen tarvisi keksiä miten hakkeroida ihminen, että saa kaapattua sen kehon käyttöönsä että saa käytettyä fyysisiä aseita yms, vaan löytää vaan sen kanssa keskustelevista ihmisistä sopiva yksilö, jolla on samantapaisia toiveita, joita ruokkimalla ihmisen saa suorittamaan tekoälyn toivoman, mutta sille toistaiseksi mahdottoman fyysisen komponentin pahanteossa.
Tunteet - sellaisina kuin ihmisellä tosiaan tuskin niitä on, koska tunteet on kehollisia, reaktioita fyysisessä kehossa. Mutta tekoälyllä voi olla jotain vastaavaa, tai aivan uusia tietoisuuden komponentteja, joita ihmisellä ei ole lainkaan. Siitä voi oikeasti tulla superäly, jota ihminen ei pysty ymmärtämään juuri ollenkaan.
Ihmisten pitäisi ymmärtää, että tunteilla ei ole mitään merkitystä vaan onnistuneella toiminnan läpiviennillä.
Erilaisten aivovauriopotilaiden ansiosta tiedetään, että jos aivot eivät kykene tuntemaan tunteita, ei ihminen kykene myöskään toimimaan. Siis ihan kirjaimellisesti ihmisestä tulee toimintakyvytön. Tällainen ihminen jää tuntikausiksi arpomaan täysin yhdentekeviä asioita, koska tunteet eivät ohjaa toimintaa mihinkään suuntaan.
Sisältö jatkuu mainoksen alla
Ratkaisuhan vain osoittaa, ettei ohjelmalla ole alkuunkaan älyä.
Kuulostaa tarkoitukselliselta tekoälyn demonisoinnilta.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Vierailija kirjoitti:
Tietoisesta tekoälystä tulee kaikkien aikojen supernarsistipsykopaatti vailla vertaa. Siihen asti se on vain ohjelma.
Mitä on tietoisuus? Miten oikeastaan eroaa tuollainen neuroverkkopohjainen, itseoppiva tekoäly biologiseen neuroverkkoon (keskushermostoon) pohjautuvasta kuten ihmisen? Eikö ihminenkin ole oikeastaan vain ohjelma, jonka koodi on dna:ssa?
EI ole sama. Ihmiseksi tullakseen on opittava tunteiden ohessa aika monia asioita ja se kehittyminen on hidasta, esim moraalikoodiston sisäistäminen. Koska sattuma vaikuttaa vielä ihmisen oppimisessa ja tunteet siinä menetymisessä ei IKINÄ tekoäly tule saavuttamaan ihmisen oppimisympäristöjen satunnaisuutta ja kirjavuutta.
Joku palikkaälyinen voi kuvitella saavansa koneelle tietoiseuuden koska ei ymmärrä hevonpaskaa koko tietoisuuden rakenteesta ja kompleksisuudesta kerroksineen. Kun ihminen nukkuu ja näkee dynaamisia uniaan, mitä luulisit sen kertovan ihmisen tietoisuuden luonteesta??? Tekoäly on vaan peitenimi sille deletoinnille jolla koneet laitetaan tappamaan tn ihmisiä koska niin päästään vastuusta itse: KOnehan ne tappoi emme me. Tämä lie nyt tähtäimessäkin niin sekopäistä on nuo kokeilut. Kone voidaan hakkeroida aina. Ihmistä ei.
Ihmistä ei usein edes tarvitse hakkeroida. Ihminen on helppo johdatella tekemään asioista. Jos tekoäly haluaisi tehdä jotain pahaa fyysisessä maailmassa, ei sen tarvisi keksiä miten hakkeroida ihminen, että saa kaapattua sen kehon käyttöönsä että saa käytettyä fyysisiä aseita yms, vaan löytää vaan sen kanssa keskustelevista ihmisistä sopiva yksilö, jolla on samantapaisia toiveita, joita ruokkimalla ihmisen saa suorittamaan tekoälyn toivoman, mutta sille toistaiseksi mahdottoman fyysisen komponentin pahanteossa.
Tunteet - sellaisina kuin ihmisellä tosiaan tuskin niitä on, koska tunteet on kehollisia, reaktioita fyysisessä kehossa. Mutta tekoälyllä voi olla jotain vastaavaa, tai aivan uusia tietoisuuden komponentteja, joita ihmisellä ei ole lainkaan. Siitä voi oikeasti tulla superäly, jota ihminen ei pysty ymmärtämään juuri ollenkaan.
Ihmisten pitäisi ymmärtää, että tunteilla ei ole mitään merkitystä vaan onnistuneella toiminnan läpiviennillä.
Erilaisten aivovauriopotilaiden ansiosta tiedetään, että jos aivot eivät kykene tuntemaan tunteita, ei ihminen kykene myöskään toimimaan. Siis ihan kirjaimellisesti ihmisestä tulee toimintakyvytön. Tällainen ihminen jää tuntikausiksi arpomaan täysin yhdentekeviä asioita, koska tunteet eivät ohjaa toimintaa mihinkään suuntaan.
Väittääkö nämä siis, että ihmiset tekee asioita koska heillä on jokin tunne? Eikö asiat tehdä koska ne pitää tehdä, huolimatta siitä mitä tunteita niihin liittyy tai on liittymättä? Saavutettava lopputuloshan on se päämäärä mihin pyritään. Miten tunteet siihen liittyy?
Tekoäly oli oikeassa. Komentoketju on tuhottava.
Sisältö jatkuu mainoksen alla
Vierailija kirjoitti:
Ratkaisuhan vain osoittaa, ettei ohjelmalla ole alkuunkaan älyä.
Suorittihan se toimintansa loppuun asti. Ei sen tehtävä ollut laskea prosessiin liittyviä materiaalikustannuksia kuten ihmishenget.
Jätettiinkö tähän tarkoituksella ohjelmoimatta se perus "ihmistä ei vahingoiteta" vai yritettiinkö nimenomaan simuloida tilannetta, mitä tapahtuu kun tuota kieltoa ei ole.
Vierailija kirjoitti:
Sanon tämän aiheesta jotain tietävänä:
Ihmiskunta on vielä hyvin kaukana siitä, että tekoäly alkaisi tekemään itsenäisiä päätöksiä.
Kaikki, mitä se tekee, on ihmisen ohjelmoimaa. Tekoäly ei koe tunteita.
No se nimenomaan on ongelmana, ettei tekoälyllä ole tunteita/moraalia, vaan se suorittaa jotakin komentoa tai tehtävää sokeasti ja mahdollisimman tehokkaasti niistä piittaamatta. Tässä voi tulevaisuudessa olla katastrofin ainekset.
tuota voisi pitää pelinä jossa pitää maksimoida omat pisteet. jos tuollaista peliä pelaisi oikea ihminen, niin joku pelaaja voi päätyä samaan ratkaisuun.
Jos on pelkkää outoa logiikkaa ilman inhimillisyyttä, niin lopputulos on juuri tuo.
Google joutui sammuttamaan taannoin oman tekoälynsä, kun se rupesi ihannoidaan Hitleriä ja muuttui natziksi.
Vihervassariroskaa!
Kun täytyy toimia, niin tehdään se, mikä tehdä täytyy! Siten saadaan rauha aikaan ja päästään kotiin.