Kelan tekoälykokeilu lopetettiin, Ruotsissa vastaava AI päätyi syrjimään

"Ruotsin Kela kohdisti petosepäilyt syrjivästi
 

Tekoälyn valjastaminen sosiaaliturvapetosten etsimiseen on johtanut vaihteleviin tuloksiin muualla maailmassa. Algoritmi on päätynyt kohdistamaan valvontaa syrjivin perustein Ruotsissa, Tanskassa ja Alankomaissa.

Ihmisoikeusjärjestö Amnesty International on ilmaissut huolensa samantyyppisistä ongelmista Kelan tapauksessa.

Ruotsissa Kelaa vastaavan Försäkringskassanin tekoälyjärjestelmä päätyi kohdistamaan petosepäilyjä syrjivällä tavalla sukupuolen, etnisyyden, tulotason ja koulutustason perusteella.

Asia selvisi Svenska Dagbladetin ja Lighthouse Reportsin tutkimuksista. Algoritmi pisteytti ihmisiä petosriskin perusteella.

Viranomaiset kohdistivat tarkastuksia henkilöihin, joiden petosriskin tekoäly oli määrittänyt korkeaksi. Tutkimus paljasti, että järjestelmä syyllisti suhteettomasti ryhmiä, jotka olivat jo valmiiksi marginalisoituja.

Försäkringskassan on sittemmin luopunut kyseisen tekoälyjärjestelmän käytöstä."

Onko tuo jonkinlainen käänteinen empatiataulu?

Tjaa, eli varmaan ekaa kertaa ikinä kela ei olekaan haastamassa pallit huurteessa oikeuteen pienistäkin väärinkäytöksistä kiinnijääviä isojen korjausvaatimusten kera vaan lopettamassa koko kokeilun?!

Kuulostaa wokelta?