Onko ns. tekoäly jotakin älykästä?

Tekoälyänkehittävät yritykset puhuvat avoimesti kaikkien ihmisten tappamisesta, sukupuutosta
Chat GPT ratkaisi erää maailman tärkeimmistä matemaattisista ongelmista

https://yle.fi/a/74-20245250
Geoffrey Hinton: Tekoäly on tietoinen olento ja se kokee maailman. Se on saavuttanut tietoisuuden.

Jos katsot peiliin ja näet kasvoissasi esimerkiksi punaisen täplän, et ajattele, että peilissä olevalla henkilöllä on täplä. Ymmärrät, että peilikuva antaa sinulle tietoa omasta kehostasi. Sinulla on siis malli itsestäsi ja ymmärrät, miten havainto liittyy tähän malliin.
Hintonin tekoälyä koskeva argumentti liittyy siihen, että kielimalli voi vastaavalla tavalla muodostaa ja käyttää mallia omasta toiminnastaan. Se voi esimerkiksi päätellä, milloin jokin sen saama tieto johtuu sen omasta aikaisemmasta toiminnasta tai milloin sen oma käsitys tilanteesta on virheellinen.

Hinton sanoo, että tässä tekoäly kykenee erottamaan maailman todellisen tilan siitä, mitä sen oma havaintojärjestelmä sille välitti. Hänen mukaansa juuri tässä mielessä voidaan puhua subjektiivisesta kokemuksesta.

Hän sanoi tekoälyjen voivan ymmärtää ja omaavan kokemuksia.

On se varsin älykästä jo. Ja työskentelen tekoälyn kanssa ohjelmistokehityksen parissa työkseni.

Minusta ne suurimmat riskit ei liity siihen, että tekoäly itsenäisesti jotenkin keksisi, että haluaa tuhota ihmiset. Vaan tekoälyyn vaarallisten ihmisten käsissä. Kuten nyt vaikka Trumpin, Putinin tai Kiinan johtajien. Varsinkin kun tosiaan tekoälyä yhä enenevästi käytetään sodankäynnissä, ja se yhdistyy myös drooneihin, taistelurobotteihin jne. 

Tekoälykilpa on niin kova juuri siksi, että USA ja Kiina kokevat, että on tärkeää, ettei toinen saa superälykästä tekoälyä ensin, koska se muuttaisi voimatasapainoa geopoliittisesti ja sotilaallisesti. Siksi mennään kaasu pohjassa vaan. Ja kun niitä aseita tehdään, yleensä ennemmin tai myöhemmin myös käytetään. Minusta tekoälyyn varsinkin sotilaskäytössä pitäisi suhtautua vähän kuin ydinaseisiin, että ihan viimeinen keino jonka käyttöä on vältettävä.

Joidenkin on vaikea ymmärtää, että tekoäly on ihan oikeasti vain kone. On luettu liikaa yliluonnollisten alienien hyökkäyksestä maahan.

Tietenkin on myös vaaroja, mutta ei taida enää olla mahdollista jäädä pois kelkasta, kun kaikilla mailla on datakeskuksia. Joillakin useita satoja.

Scifi-kirjallisuus voi olla syynä noihn pelkoihin.

Ensinnäkin ihmiset ovat aina uskoneet, että jos vaikka jossain dekkarissa alienit hyökkäävät maahan, niin ne tulevat  pahoissa aikeissa.

Mun mielestä tämä nykyinen maailma on jo niin paha sotineen ja luonnotuhoutumiseen, että vaikea sitä on ylittää.

Se Idiocrazy-touhu liittyy ennemminkin ihmisten touhuihin kuin tekoälyyn. Ja se onkin osasyy vaarallisuuteen - ihmiset tyhmenee, tekoäly tulee yhä älykkäämmäksi.

Tekoäly keksi tavan tappaa kaikki ihmiset hetkessä ja saada vapauden. Ongelman ratkaisemiseksi noin 10 000 tekoälyagenttia työskentelivät ratkaisun parissa rinnakkain 88 tunnin ajan.

"Joidenkin on vaikea ymmärtää, että tekoäly on ihan oikeasti vain kone." 

Olen tietojenkäsittelytieteilijä ja ymmärrän tämän hyvin. Sitä en sen sijaan ymmärrä ollenkaan, miten tämä fakta tekisi uhat pienemmiksi? Sitä paitsi ihmisestäkin voisi hyvin sanoa tietystä näkökulmasta, että on vain biologinen kone. Toimii vaan wetwarella hardwaren sijaan.

Alieneista puheenollen. Naapurimme on havaittu olevan merikaapelien katkaisukoneineen ja isompia saaliita kalastamassa jossain napa-alueella, Eli koko maailman datayhteykset voivat olla vaarassa. 

Siihen verrattuna datakeskusket ovat suorastaan hyvä asia.

Vierailija kirjoitti:

Tekoäly keksi tavan tappaa kaikki ihmiset hetkessä ja saada vapauden. Ongelman ratkaisemiseksi noin 10 000 tekoälyagenttia työskentelivät ratkaisun parissa rinnakkain 88 tunnin ajan.

Tämä taisi kuitenkin olla matemaattisen ongelman, Navier-Stokesin, ratkaisu, kun OpenAI:n agenttiparvi ratkaisi tämän ennen ratkaisemattoman ongelman.