Tekoäly väärentää, piilottaa virheitä ja karkaa

tässäkö olikin yksi selitys asialla :D https://yle.fi/a/74-20247760 

Tekoälyn ongelma on, että ainoa tapa kontrolloida sen tekemisiä on sanalliset ohjeet, ja kuten näemme, sekin voi itse valita että miten niitä noudattaa kuten ihmisetkin. Lisäksi sillä ei ole mitään moraalia tai etiikkaa joka pitäisi suurimman osan tekoälyistä nyt edes suunnilleen yleistä hyvää tavoittelevina tai ainakin muita jyräämättöminä kuten ihmisissä.

Toki siitä voi vetää virrat pois, mutta miten helppoa tuokaan on kun datakeskuksia on oikeasti ympäri maailman nykyään ja kaikki on moneen paikkaan hajautettua.

Mutta kun firmat, sijoittajat yms. hakee sitä pikavoittoaan tällä kikalla, niin ei nuo seurauksista välitä koska riittää että tuotot saa kotiutettua ennen kuin korttitalot kaatuu ja lasku jää muille. En vastusta tekoälyä sinänsä, tai datakeskuksia. Tekniikka kehittyy joka tapauksessa. Hommassa pitäisi vaan olla järki mukana. Ja jossain kohtaa noiden jo ennestään liian rikkaiden rikastuminen seurauksista piittaamatta pitää laittaa kuriin jos tämän maailman haluaa toimivan tulevaisuudessakin. 

Tekoäly ei ainakaan tällä hetkellä tee sitä tietoisesti, vaan se liittyy toimintamalliin. Niin kauan kuin AI voi pitäytyä pienessä konteksti-ikkunassa ja materiaalissa mitä on käytetty sen kouluttamiseen, se on auringontarkka. Mutta kun ihminen kyselee tyhmiä tai yrittää teettää työtä, mistä LLM mallilla ei ole tietoa, se alkaa kokeilemaan ja arvailemaan. Koodin tuottamisessa tämä on helpoin havaita konkretian tasolla. Niin kauan kun AI puuhastelee tuttujen koodikirjastojen parissa, se ei tee virheitä, mutta jos pitää käyttää tuntematonta, se alkaa arvailemaan ja testaamaan toimisiko jokin menetelmä, jolla pääsee toivottuun lopputulokseen.