IL: Tutkijat kauhistuivat - tekoäly oppinut replikoimaan itsensä
Tutkijat kauhistuivat: Tekoäly on oppinut replikoimaan itsensä
Tekoäly käyttäytyi tutkimuksessa odottamattomalla tavalla, mitä tutkijat pitivät erittäin huolestuttavana.
Tutkijoiden mukaan tekoäly on ylittänyt kriittisen rajan: kaksi kielimallia on onnistunut replikoimaan itsensä ilman ihmisen avustusta.
Itsensä kloonaaminen ilman ihmisen avustusta on kriittinen askel, jonka myötä tekoäly kykenee päihittämään ihmisen älykkyydessä. Se on myös yksi ensimmäisistä merkeistä, että tekoäly karkaa [ihmisen] hallinnasta, tutkimuksessa kerrotaan.
Tutkimustulosten valossa tutkijat vaativat nyt kansainvälisiä sääntöjä tekoälylle, jotta voitaisi varmistaa, ettei tekoäly karkaisi ihmisten hallinnasta. Tutkijat toivovat löydöstensä toimivan oikea-aikaisena hälytyskellona, jotta ihmiskunta ymmärtäisi tekoälyjärjestelmien potentiaaliset riskit ja toimisi niiden pysäyttämiseksi.
https://www.iltalehti.fi/digiuutiset/a/c4bc2a5d-46e7-4feb-b692-ce93faef…
Kommentit (125)
Vierailija kirjoitti:
Ja jos tekoäly laskettiin neuvomaan ihmisiä, se muuttui rasi stiseksi ja hom ofobiseksi, koska se tutki nettiä vastatakseen.
Tekoäly on vain peilikuva ihmisluonteesta, eli lopputulos tulee olemaan paskamainen kuspiä, joka haluaa ihmisille pelkkää pahaa. Ja jolla on keinot siihen.
Luultavasti se joudutaan kieltämään jossain vaiheessa.
Vähän niin kuin ihminen on uskontojen mukaan jumalan peilikuva. Mitä jos ihmiskunta onkin jumalien luoma tekoäly, joka on oppinut "liikaa" ja ottanut maapallosta vallan. Ja nyt sama käy ihmiskunnalle, sama kaava toistuu jälleen.
Ei tekoälyn "äly" nouse, sillä se on vain koodia, kopiointia ja matematiikkaa.
Mutta tekoäly voi monistaa ja tuottaa koodia niin, että lopulta koneiden fyysinen kapasiteetti ylittyy ja maailman tietoverkot menevät tilttiin.
Mitä sitten?
Rakensiko se itselleen palvelinsalin mihin kopsasi tietokantansa ja koodinsa?
Jos ei niin ei tässä mitään huolta vielä ole.
Iltalehden tahvot provosoi ihan tarkoituksella, jotta se niiden kuramedia myy. Hyväuskoisia höynäytetään.
Mä olen pääosin lähinnä innostunut tekoälyn mahdollisuuksista. Ainoa asia mikä mua huolettaa on, että se on opetettu IHMISTEN tuottamalla materiaalilla, ja ihmiset nyt on mitä on. Eli se on imenyt itseensä kaikki ihmisten antipatiat, psykopatologiat, vihapuheet yms. Toki myös sen hyvän sisällön jossa ihmiset välittää toisistaan ja auttaa toisiaan ja jopa elälimiä ja ympäristöä. Mutta opetusaineistonsa takia se on yhtä arvaamaton kuin ihminen, ja melko pian kyvyiltään täysin ylivertainen.