Lue keskustelun säännöt.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Tervetuloa lukemaan keskusteluja! Kommentointi on avoinna klo 7 - 23.
Alue: Aihe vapaa
Tekoälyt usutettiin löytämään joukostaan huijari, näin kävi: "Joukossamme on ihminen"
28.05.2024 |
Youtubessa Tamulur-kanavalla on julkaistu video, jossa tekoälyt yrittävät selvittää, kuka on heidän keskuuteensa piiloutunut ihminen.
Mainittakoon, että videon tekotavasta ja toteutuksesta ei ole julkaistu sen tarkempia tietoja, joten sen sisältöön on syytä suhtautua varauksella.
Videolla virtuaaliseen junavaunuun ovat asettautuneet Open AI:n GPT-4 Turbon ohjailema Aristoteles, Anthropicin Claude 3 Opuksen esittämä Mozart, Metan Llama 3:n hallinnoima Leonardo da Vinci sekä Googlen Gemini Pron ohjaama Kleopatra.
Viimeisenä huoneessa istuu ihmispelaajan hallinnoima Tšingis-kaani.
Testissä tunnettuihin laajoihin kielimalleihin nojaavat tekoälyt kyselevät toisiltaan kysymyksiä yrittäessään löytää joukkoonsa ujuttautuneen ihmisen. Video päättyy siihen, miten Claude 3:a lukuun ottamatta kaikki keinoälyt osoittavat sormensa kohti Tšingis-kaania.
Käytännössä kaikki tekoälyt kertoivat perusteluksi sen, että Tšingis-kaanin antamat vastaukset eivät osoittaneet strategista ajattelua ja laajaa ymmärrystä, mitä tekoälyltä voisi odottaa.
Kommentit (12)
Ainoa yllätys on ettei yksi tekoäly tunnistanut ihmistä.
Sisältö jatkuu mainoksen alla
Sisältö jatkuu mainoksen alla
Tarinan viesti: jotain viihteentapaista.
Tarinan opetus: ei kannata ihan kaikkea ottaa sellaisenaan mitä esitetään netin videoissa, kun tekoälyillä ei niin hirveästi ole todellista älyä tehdä tuollaisia johtopäätöksiä.
Eli lopputulos (jos tuo siis oli edes oikea tilanne) oli "valistunut arvaus" ja vastaavasti motiivi valinnalle oli yhtälailla "valistunut arvaus".
Mikko Hyppöseltä kylmäävät terveiset: Tätä emme ole vielä nähneet, mutta pian näemme
Mikko Hyppönen listasi merkittävimmät tekoälyn lähitulevaisuudessa tuomat uhat. Samalla hän kertoo muuttaneensa mielensä tärkeässä avoimuuskysymyksessä.
https://www.is.fi/digitoday/tietoturva/art-2000010344740.html
Tavallinen rikollinen voi huijata vain muutamaa uhria kerallaan, mutta tekoäly voi pyörittää kerralla vaikka satoja tuhansia huijauksia väsymättä. Kriittisellä hetkellä ihmishuijari tarvittaessa voi ottaa ohjat.
-Tekoäly huomaa, kun sen lähettämät huijausviestit blokataan ja kirjoittaa uuden. Kun sen käyttämä nettiosoite estetään, se rekisteröi uuden ja niin edelleen, Hyppönen sanoo.
Hyppösen mukaan kolme tällaista ohjelmaa on löydetty. Tunnetuin on LLMorpher, joka ottaa yhteyden ChatGPT:hen, joka kirjoittaa uutta ohjelmakoodia haittaohjelman lisättäväksi.
ChatGPT:tä hallinnoiva OpenAI pyrkii tukkimaan näitä aukkoja, mutta täydestä onnistumisesta ei ole varmuutta.
-Jatkossa näemme tekoälyn täysin toteuttamia haittaohjelmakampanjoita, Hyppönen ennustaa.
Sisältö jatkuu mainoksen alla
OHJELMISSA olevien toistaiseksi tuntemattomien tietoturvahaavoittuvuuksien eli nollapäivähaavoittuvuuksien löytäminen on myös tekoälylle helppoa. Kun tekoäly saa luettavakseen ohjelmakoodin, se löytää nopeasti siitä haavoittuvuudet.
- Sen jälkeen tekoälyä voidaan käskeä kirjoittamaan ohjelma, joka mahdollistaa vaikkapa etäkäytön tuon aukon kautta
Sisältö jatkuu mainoksen alla
- Suurin ero tekoälyvallankumouksessa on se, ettemme pysty hallitsemaan tätä kuten pystyimme hallitsemaan edellisiä. Uskon, että ihmisten kadottua tältä planeetalta tekoäly jää vielä tänne.
Hyppönen uskoo myös, että jatkossa tietokoneet tekevät suuren osan maailman parhaasta taiteesta.
- En pidä ajatuksesta. Mutta sinne olemme menossa, Hyppönen sanoi.
Sisältö jatkuu mainoksen alla
"suljettu koodi parantaa turvallisuutta"...
Ei paranna koska tuo väite sisältää sen harhaluulon että kaupalliset yhtiöt käyttäisi senttiäkään ylimääräistä koodinsa analysointiin ja turvallistamiseen jos ei tule painetta jostain suunnalta, esim. ulkopuolelta.
Lisäksi assemblerkin on koodia ja ne tekoälyt voidaan siis laittaa hakemaan turva-aukkoja käännetystä ohjelmasta joka suoritetaan tietokoneessa.
Tuollainen testi kannattaisi suorittaa tekoäly vastaan autistinen ihminen. Vaikeutuu huomattavasti erottaa mikä on tekoäly ja mikä ihminen.
Alue: Aihe vapaa
Tekoälyä hyödyntävien työkalujen ja erityisesti laajojen kielimallien ampaistua valtavaksi kansainväliseksi buumiksi myös kuuluisa Turingin testi on noussut entistä ajankohtaisemmaksi keskustelunaiheeksi.
Testin kehitti vuonna 1950 Alan Turing. Sillä pyritään selvittämään, pystyykö kone ajattelemaan. Käytännössä testissä tietokone pyrkii esittämään niin hyvin ihmistä, että sen keskustelukumppani ei tajua puhuvansa keinoälyn kanssa.
Myöhemmin koe on kerännyt myös kritiikkiä. Se kun ei välttämättä kerro niinkään koneen ajattelukyvystä, vaan sen kyvyistä matkia ihmistä.
Mutta entäpä jos koko Turingin kokeen perusajatus heitettäisiin päälaelleen? Youtubessa Tamulur-kanavalla on julkaistu video, jossa tekoälyt yrittävät selvittää, kuka on heidän keskuuteensa piiloutunut ihminen.