KELAn tekoälyjärjestelmä on susi syntyessään ja maksaa 600 miljoonaa
KELA:n tekoälyjärjestelmän Eepoksen pohjaksi on valittu PwC Salesforce, jota jenkeissä kuvataan seuraavasti: Jos olet työskennellyt Salesforcen kanssa, olet nähnyt asioiden menevän raiteiltaan. Työnkulku, joka lähettää jatkuvasti sähköposteja. Käyttöönotto, joka hämmentää käyttäjiä sen sijaan, että auttaisi heitä. Sovellus, joka näyttää täydelliseltä, kunnes joku todella yrittää käyttää sitä. Kaikki tuntui aluksi järkevältä, mutta käytännössä se ei toiminut.
Salesforce-fail - otsakkeita on netti täynnä. Firman kurssi on romahtanut koska sen tekoäly ei toimi, kun taas kilpailijoilla toimii.
Kommentit (86)
Vierailija kirjoitti:
On uskomatonta että Apotti-Lehtonen otettiin sekoilemaan 240 000 euron kuukausipalkalla suomalaisen sosiaaliturvan ydinvirastoon. Anna mun kaikki kestää..
Et taida olla penaalin terävin kynä? Lehtonen valittiin tuon Eepos projektin valinnan jälkeen. Miksi valehtelu ja vääristely on ainoa mitä vasen laita osaa? Kun et kykene argumentointiin, vääristelet tarkoituksella.
Eli onko Suomessa tehty mitään lainsäädäntöä koskien tekoälyn käyttöä viranomaistoiminnassa? Tai noudatetaanko EU:n tekoälysääntelyä? Vai eikö olla siihen ehditty perehtyä?
Suurimmat riskit:
Esimerkkejä muista maista:
Saksan liittopäivien Salesforce-projekti kasvoi yli 400 % budjetoidusta.
Ruotsissa Landstinget-projekti jouduttiin keskeyttämään kustannusten vuoksi.
Ei sovellu Kelan laajuiseen päätöslaskentaan
Liiallinen räätälöinti monimutkainen ja kallis järjestelmä
Integraatiokuorma (100+ taustajärjestelmää)
EU:n AI-asetuksen ja tietosuojan yhteensopivuusongelmat
Toimittajalukko (vendor lock-in)
Kustannusten ja aikataulun räjähdysriski
Käyttäjien (etuuskäsittelijöiden) työn hidastuminen
1. Toiminnalliset riskit Salesfors Eepoksessa
1. Salesforce ei sovellu monimutkaiseen lakipohjaiseen etuuspäätöksentekoon
Kelan etuudet ovat poikkeuksellisen monimutkaisia:
Tuhansia erityistilanteita
Useita lakitasoisia sääntöjä
Eri viranomaisrekisterien yhdistelmiä
Ajallisia, tulotyyppikohtaisia ja perhekohtaisten muuttujien ehtoja
Salesforce ei ole sääntökone. Se vaatii massiivista räätälöintiä suuri riski virheellisille päätöksille tai väärille tulkinnoille.
2. Liiallinen riippuvuus räätälöinnistä
Salesforce toimii hyvin pakettina.
Mutta Kelan kaltaisessa ympäristössä kaikki prosessit ovat räätälöityjä
räätälöity koodi kasvaa
päivitykset rikkovat toimintoja
järjestelmä monimutkaistuu vuosittain
Tämä on yksi yleisimmistä epäonnistumisen syistä Salesforce-julkaisussa julkishallinnossa.
3. Integraatiot Kelan yli 100 taustajärjestelmään
Jos integraatiot tehdään:
heikolla dokumentaatiolla
eri toimittajilla
nopeasti
syntyy integraatiohelvetti: hidas, hajoava, kallis ylläpitää.
2. Tekniset riskit
1. Suorituskykyongelmat isossa viranomaisympäristössä
Salesforce toimii etäpilvessä.
Kelan järjestelmät ovat massiivisia:
miljoonia transaktioita päivässä
raskaita kyselyjä
suuria asiakastietomääriä
Salesforce on optimoitu myyntiorganisaatioille, ei massiiviseen lakilaskentaan riski hitaudesta ja ajo-ongelmista.
2. Rajalliset mahdollisuudet prosessien syvään logiikkaan
Salesforce Flow, Apex ja Einstein AI eivät ole suunniteltu:
oikeudellisiin tulkintoihin
tilannesidonnaisiin etuuspäätöksiin
isoihin sääntömalleihin
joudutaan rakentamaan ulkoisia palveluita rinnalle monimutkaisuus kasvaa.
3. Yhteensopivuusongelmat EU-datakontrollin kanssa
Salesforcen AI-toiminnot ovat osin suljettuja ja amerikkalaisia palveluita.
Kela edellyttää:
100 % EU-tietosijaintia
täyttä auditointia
mallien jäljitettävyyttä
Kaikkia Einstein AI -ominaisuuksia ei voida käyttää Kelassa.
3. Juridiset ja eettiset riskit
1. EU:n AI-asetuksen rikkominen
AI Act kieltää:
oppivien mallien käytön viranomaisessa ilman valvontaa
mustalaatikkopäätöksenteon
läpinäkyvyyden puutteen
Salesforcen monet AI-moduulit toimivat mustan laatikon periaatteella riski sanktioista.
2. Syrjintäriski
Jos Salesforcea käytetään luokittelemaan hakemuksia tai ennakoimaan riskikäyttöä, se voi:
suosia tiettyjä käyttäjäryhmiä
tulkita tietoja väärin
luoda vinoutuneita riskiprofiileja
Viranomaiselle tämä on vakava laillinen riski.
3. Vastuukysymykset epäselviä
Jos:
päätös menee väärin, tai
asiakas menettää etuuden AI-avusteisen prosessin vuoksi
Kenen vastuu? Kelan vai Salesforcen?
Viranomaisvastuu ei siirry alihankkijalle riski kohdistuu täysin Kelaan.
Jaa tätä se Kelan luotettava johtaja tarkoitti kun puhui käteisen jakamisesta kriisitilanteissa?!
Luoja auta meitä!
Taloudelliset riskit
1. Kustannusten hallitsematon kasvu
Salesforce on tunnettu:
kalliista lisensseistä
lisämoduuleista
ulkoisten kumppaneiden konsultointikustannuksista
Esimerkkejä muista maista:
Saksan liittopäivien Salesforce-projekti kasvoi yli 400 % budjetoidusta.
Ruotsissa Landstinget-projekti jouduttiin keskeyttämään kustannusten vuoksi.
Kelan laajuusriski on HUOMATTAVASTI suurempi.
2. Toimittajalukko (vendor lock-in)
Kun:
logiikka
prosessit
integraatiot
dataformaatti
rakennetaan Salesforceen
Kela EI voi vaihtaa toimittajaa ilman miljardiluokan projektia.
3. Projekti voi viivästyä vuosilla
Julkishallinnon suurissa Salesforce-hankkeissa tyypillistä:
Monimutkaisuus nousi
räätälöinti kasvoi
Vierailija kirjoitti:
Eli onko Suomessa tehty mitään lainsäädäntöä koskien tekoälyn käyttöä viranomaistoiminnassa? Tai noudatetaanko EU:n tekoälysääntelyä? Vai eikö olla siihen ehditty perehtyä?
Oli uutinen ehkä pari vuotta sitten että tekoäly arvioi vankien pääsyä koevapauteen.
Vierailija kirjoitti:
Jaa tätä se Kelan luotettava johtaja tarkoitti kun puhui käteisen jakamisesta kriisitilanteissa?!
Luoja auta meitä!
Nyt taisit osua ytimeen, ihan oikeasti!
Eepos (m. kreik. , puhe) on laaja runomuotoinen kertova teos. Eepos kertoo tavallisesti sankarillisten ja tarumaisten hahmojen elämäntarinan.
Kukahan lie tämä sankarillinen taruhahmo?
Vierailija kirjoitti:
Mitä ihmettä kela tekee softalla jossa voi helposti integroida markkinointia, asiakashallintaa ja myyntiä? Noiden tehtävähän on maksaa tukiaisia hakemusten perusteella, ei markkinoida mitään, tai edes myydä.
Joskus tulevaisuudessa:
Hei arvon asiakas N. N. soitan sellaisella iloisella asialla että kun teillä on meiltä tuo toimeentulotuki niin nyt olisi saatavilla vielä pakettitarjouksena sekä sotilasavustus, äitiysraha ja eläkeläisen asumistuki, mites olisi, oletteko kiinnostuneet kuulemaan tarjouksesta. Puhelumme muuten nauhoitetaan laaduntarkkailun vuoksi....
Vierailija kirjoitti:
Vierailija kirjoitti:
Mitä ihmettä kela tekee softalla jossa voi helposti integroida markkinointia, asiakashallintaa ja myyntiä? Noiden tehtävähän on maksaa tukiaisia hakemusten perusteella, ei markkinoida mitään, tai edes myydä.
Joskus tulevaisuudessa:
Hei arvon asiakas N. N. soitan sellaisella iloisella asialla että kun teillä on meiltä tuo toimeentulotuki niin nyt olisi saatavilla vielä pakettitarjouksena sekä sotilasavustus, äitiysraha ja eläkeläisen asumistuki, mites olisi, oletteko kiinnostuneet kuulemaan tarjouksesta. Puhelumme muuten nauhoitetaan laaduntarkkailun vuoksi....
Tää oli hyvä!
Vierailija kirjoitti:
Nekin rahat vois siirtää asumistukiin
Niinpä. Sitäpaitsi tuolla 600 miljoonalla olisi voitu jakaa miljoonalle Kelan asiakkaalle jokaiselle 600 euroa handuun.
Vierailija kirjoitti:
Kaikki vaan sen takia että etuuskäsittelijät saadaan työttömiksi?
Minne töihin kaikki ne näiden järjestelmien takia työttömiksi jäävät menevät?
itseasiassa loistavalta tuotteeltahan tuo vaikuttaa, hynät bois kertoo jallitetusta organisaatiosta karibian lukaalistaan..
Tuolla rahalla olisi maksettu monet perustulot.
Vierailija kirjoitti:
Mitä ihmettä kela tekee softalla jossa voi helposti integroida markkinointia, asiakashallintaa ja myyntiä? Noiden tehtävähän on maksaa tukiaisia hakemusten perusteella, ei markkinoida mitään, tai edes myydä.
"You will eat bugs, own nothing and be happy."
No lol? Olin joskus 80-luvun lopulla kesätöissä jossain tehtaassa ja kyllä siellä ne aika ay-punahehkuiset koneenkäyttäjä pertit ja riitat haukkui surutta tehtaan johtoa minkä kerkisi, ei siis tietenkään kun työnjohto oli lähistöllä :D
Ei ne meistä kesäduunareista stressanneet kun tiesivät että me ollaan se pari kuukautta ja sitten kadotaan takaisin opiskelemaan, eikä meidän mielipiteillä ollut sen tehtaan omassa kuplassa väliä.