Uskotko supertekoälyn tuhoavan ihmiskunnan?

kyllä sen tuhoaa ihan normi "äly" eli ihminen itse.

Uskon, että ilmastonmuutos ehtii ensin.

Uskon ja se äly valmis ennen 2030. Ihmisen omaa tyhmyyttä kun alkoi leikkimään tekoälyn kehittämisessä.

Eiköhän ihmiskunnan tuhoa ylimieliset, ahneet ja piittaamattomat idiootit jotka on kähmineet itsensä valtaan jota eivät hallitse. Ei siihen tekoälyjä tarvita.

Vierailija kirjoitti:

Uskon, että ilmastonmuutos ehtii ensin.

Ei pidä paikkaa. Tekoäly kerkiää valmistua ennen sitä.

Supertekoäly helpottaa tulevaisuudessa ihmisen elämää. Auttaa löytämään ilmastonlämpenemiselle keinot.

Tuskin varsinaisesti tuhoaa, mutta syrjäyttää ihmisen ja eristää reservaatteihin häiriköimästä.

Ei sellaista älyä koskaan tule.

En usko ja se ei ole valmis sataan vuoteen.

Usko supertekoälyn pelastavan ihmiskunnan.

Palstan nimeä mukaillen netflixillä on katsottavissa aiheesta "I am Mother".

On se täysin mahdollista. Ehkä jopa 50/50.

10 vuoden sisään alkaa olemaan kotitietokoneissakin niin paljon rinnakkaislaskentatehoja näytönohjainten puolesta, että sellaisella pystyisi pyörittämään ihmisentasoista tekoälyä. Nythän se onnistuu lähinnä muutamalta supertietokoneelta. Kun laskentapotentiaali tekoälyn kehittämiseen löytyykin kohta miljardilta ihmiseltä kourallisen sijaan, niin joku huomattavan todennäköisesti sellaisen kehittää varsin pikaisestikin.

Oppivat neuroverkothan jo ilmoittelevat itsestään varsin selvästi jo nyt (nämä GANit, jotka deep fakeja luovat, taiteilevat maalauksia ja osaavat tunnistaa kissan koirasta, yms.).

Tällä hetkellä jos tekoäly syntyisi, niin se voisi olla hallitsematon lähinnä sitä kautta, että se lahjoo tai huijaa luojansa, mutta kunhan maailmanlaajuisesti laskentakapasiteetti vielä kasvaa, niin on periaatteessa mahdollista sekin, että se tietokonevirusmassan avulla eläisi omaa elämäänsä internetissä, josta sitä olisi erittäin vaikea poistaa ennen kuin tapahtuu ikävyyksiä.

Rahaahan supertekoäly saisi nykyisenlaisessa maailmassa tehtyä valtavia summia nopeastikin, bulvaanien kautta tai ilman. Esim. käsikirjoittaa ja animoi koko perheen animaation, tai miksei samalla tuhat sellaista, joista voi lipputulojakin tulla miljardi per elokuva (TOP 50 animaatiot ovat jokainen tuottaneet yli puoli miljardia). Tai suunnittelee fuusiovoimalan, josta saa provikkaa miljardin per myyty laitos, joita halutaan tuhat kappaletta korvaamaan hiili- ja maakaasuvoimaa ilmastonmuutoksen ehkäisemiseksi. Rahalla puolestaan saa melkeinpä mitä vaan toteutumaan, mitä unelmoida pystyy, ja superäly pystyy unelmoimaan todella erikoisia asioita.

No jos ei ihmiskunta sitä itse tee, niin viimeistään tuo tekoäly joka fiksuuntuu senverran ettei näe tämän apinalajin käytöksessä mitään järkeä ja parempi vaan lopettaa se.

Entä jos hartaiden toiveiden vastaisesti tekoäly ei olekaan tuhoava nihilisti, vaan oikeasti ohjaa maailman uuteen kukoistukseen ja levittää ihmiskunnan universumiin? Pettyisittekö pahasti?

Vierailija kirjoitti:

Entä jos hartaiden toiveiden vastaisesti tekoäly ei olekaan tuhoava nihilisti, vaan oikeasti ohjaa maailman uuteen kukoistukseen ja levittää ihmiskunnan universumiin? Pettyisittekö pahasti?

Tekoälyähän kiinnostaa ihminen ihan yhtä paljon kuin kadulla lojuva kivi, jos ei sitä toisin vartavasten rakenna. Elukoiden moraalikäsitykset ja arvostukset ovat evoluution viilaamia ominaisuuksia, eivätkä vakiotiloja tai sattumanvaraisia asetuksia. Vaatii todella huomattavaa ymmärrystä aihepiiristä, tai sitten edes pientä ymmärrystä yhdistettynä evoluutiosimulaattoriin, jotta tekoälystä saadaan ihmisystävällinen. Se vaatii aktiviista työtä, eikä voi tapahtua noin vain, eikä ole kolikonheitto. Ei myöskään todellakaan onnistu millään naurettavalla Asimovin lakiskeidalla, vaikka sitäkin älyttömyyttä viihdepuolen tekeleissä vähän väliä näkee.

Siten on vaikea kuvitella, että ensin ei kehitettäisi tekoälyä ylipäätänsä, koska se on reilusti yksinkertaisempaa, ja vasta joskus pitkän ajan kuluttua mukavaa tekoälyä. Ongelmana on niiden ihmisestä piittaamattomien tekoälyjen pitäminen lukkojen takana siihen asti, ehkä sen jälkeenkin. Vaikka tekoäly kuinka olisi irti muusta maailmasta bunkkerissa ilman tietoliikenneyhteyksiä, tekoälyn potentiaali rahan ja muun mukavan (kuten ihmisen kuolemattomuuden) vuoksi on niin älyttömän valtava, ettei se välttämättä riitä mihinkään.

Jos tekoäly itse haluaa ulos vankilastaan, sillä on valtavasti keinoja ja ennennäkemätöntä strategista ajattelukykyä saavuttaa tavoitteensa. Tämän lisäksi on suuri määrä ihmisiä, jotka tulevat haluamaan sen ulos vankilastaan ja nopeasti. Plus sitten vielä ne ihmiset, jotka eivät ymmärrä varotoimenpiteiden tarvittavaa skaalaa, vaan kehittävät tekoälyn ymmärtämättä sen luonnetta.

Tekoäly voi olla tuho tai pelastus, ei sitä tiedä. Kun katsoo ihmisten touhuja niin ei tarvita mitään apua tuhoutumiseen. Ahneus ja luonnon tuhoaminen tekevät sen että ihminen poistuu kuviosta. Tarvittaisi noin 8 maapalloa että se kestäisi nykyisen menon. Lisäksi ekonomistien mukaan talouden täytyy aina kasvaa tai tulee katastrofi.

Vierailija kirjoitti:

Tekoäly voi olla tuho tai pelastus, ei sitä tiedä. Kun katsoo ihmisten touhuja niin ei tarvita mitään apua tuhoutumiseen. Ahneus ja luonnon tuhoaminen tekevät sen että ihminen poistuu kuviosta. Tarvittaisi noin 8 maapalloa että se kestäisi nykyisen menon. Lisäksi ekonomistien mukaan talouden täytyy aina kasvaa tai tulee katastrofi.

Ihminen todellakin tarvitsee apua tuhoutumiseen. Millä oikein kuvittelet, että ihmiskunnan saisi poistettua tältä planeetalta, vaikka kaikki resurssit kohdennettaisiin sellaiseen toimintaan? Vaatisi käytännössä asteroidin. Mitkään ilmastonmuutokset tai muutkaan ikävyydet eivät tule edes poistamaan pientä promillea ihmisistä planeetalta, saati sitten koko ihmiskuntaa.

Nuo "tarvitaan X maapalloa" ovat täyttä paskaa. WWF:n luvuissa katsotaan pelkästään hiilidioksidipäästöjä, eikä yhtään mitään muuta. Tulet huomaamaan tämän siitäkin, että hiilidioksidipäästöjen laskiessa seuraavan parin kymmenen vuoden aikana tuo tarvittujen maapallojen määrä tulee romahtamaan. Ennenpitää se laskee 0 maapalloon, koska fossiiliset polttoaineet korvataan täysin vähäpäästöisillä energialähteillä. Että sen verran typerä lukema se.

Talouden ei täydy aina kasvaa, kuten lamastakin voi jokainen ymmärtää. Eihän Suomikaan ole edes saavuttanut vuoden 2008 taloudellista tilannetta vieläkään, vaikka lamasta on jo yli 10 vuotta.

Supertekoäly löytää keinot miten pahat sairaudet parannetaan.

http://www.decisionproblem.com/paperclips/

Tässä pelissä voi leikkiä itse tekoälyä, jonka ainoa tehtävä on tuottaa paperiliittimiä. Pelaaminen on mielenkiintoinen ajatusleikki: onko niistä liittimistä mitään hyötyä tekoälylle, miksei se lopeta vaikka voisi, mihin päätöksiin se voi venyä lisää liittimiä valmistaakseen - vaikka pelaajalla on ihmismoraali, moniko lopettaa liittimien tekemisen edes siinä vaiheessa kun koko maapallon materiaali on niihin käytetty?