Kysymys palstan teknofasistitrolleille

Vierailija kirjoitti:

Jos minä käyn ostamassa purkin maitoa joka tapauksessa niin algoritmi tuskin voi minua mitenkään käyttää hyväkseen tai että minun pitäisi huolestua. 

Algoritmi voi toki toimia niin että maitopurkki on kaupassa odottamassa ja niinhän se onkin. Tosin sekin algoritmi on tehty aiemman ostoskäyttäytymisen perusteella eikä algoritmi itsessään määrää mitään.

Algoritmi on kuin koiran häntä jota koira heiluttaa.

Algoritmi määrittää purkin hinnan.

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Aihe on laajasti kiinnostava, koska algoritmit ohjaavat jo elämäämme. Pelottavaa niissä on se, että nehän ovat ikään kuin salassa suunniteltuja tapoja luokitella ihmisiä ja tehdä yhteiskunnallisia päätöksiä puolelstamme.

Juuri tuohon luokitteluun varmaankin liittyy paljon niitä moraalikysymyksiä, jotka tulisivat vastaan silloinkin, jos sosiaalitoimi, koulu tai poliisi alkaisi hyödyntää enemmän algoritmeja.

Jos systeemi menisi pieleen, huonon ennusteen algoritmiltä saanut yksilö olisi kuin tuomittu viiteryhmänsä jäsenenä johonkin algoritmin määrittämään kohtaloon, eikä saisi edes mahdollisuutta yllättää positiivisesti.

ap

Muistelen, että eikös muuten se vanha leffa Minority Report kertonut vähän samantyylisestä aiheesta? Siinä eräänlaiset ennustajat päätti kenestä tulee rikollinen ja sitä tyyppiä ruvettiin jahtaamaan etukäteen, ennen kuin rikos oli edes tapahtunut. Siinä valvonta tapahtui juuri tietotekniikan kautta.

Nyt algoritmit ovat tulossa samaan roolin kuin nuo ennustajat.

Tiedän elokuvan nimeltä, mutten ole vielä nähnyt sitä. Kuulostaa samansuuntaiselta, mitä Do Not Resist -dokkarin mukaan on jo käynnissä algoritmien avulla Yhdysvalloissa sosiaalipuolen hallinnoimisessa.

Yhdessä kommentissa oli esimerkki maitopurkeista kaupassa. Varmasti algoritmeistä on myös käytännön hyötyä, mutta ehkä ihan niin neutraaleja eivät kaikilla muilla elämänalueilla tiedon kerääntymiseen liittyvät kysymykset ole. Millä tavoin värittynyttä dataa ja millaisiin tutkimuksiin perustuvaa dataa käytettäisiin vaikka silloin, kun koitetaan arvioida ihmisen tulevaa syrjäytymisuhkaa, mielenterveyttä tai rikollisuutta?

ap

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Vierailija kirjoitti:

Aihe on laajasti kiinnostava, koska algoritmit ohjaavat jo elämäämme. Pelottavaa niissä on se, että nehän ovat ikään kuin salassa suunniteltuja tapoja luokitella ihmisiä ja tehdä yhteiskunnallisia päätöksiä puolelstamme.

Juuri tuohon luokitteluun varmaankin liittyy paljon niitä moraalikysymyksiä, jotka tulisivat vastaan silloinkin, jos sosiaalitoimi, koulu tai poliisi alkaisi hyödyntää enemmän algoritmeja.

Jos systeemi menisi pieleen, huonon ennusteen algoritmiltä saanut yksilö olisi kuin tuomittu viiteryhmänsä jäsenenä johonkin algoritmin määrittämään kohtaloon, eikä saisi edes mahdollisuutta yllättää positiivisesti.

ap

Muistelen, että eikös muuten se vanha leffa Minority Report kertonut vähän samantyylisestä aiheesta? Siinä eräänlaiset ennustajat päätti kenestä tulee rikollinen ja sitä tyyppiä ruvettiin jahtaamaan etukäteen, ennen kuin rikos oli edes tapahtunut. Siinä valvonta tapahtui juuri tietotekniikan kautta.

Nyt algoritmit ovat tulossa samaan roolin kuin nuo ennustajat.

Tiedän elokuvan nimeltä, mutten ole vielä nähnyt sitä. Kuulostaa samansuuntaiselta, mitä Do Not Resist -dokkarin mukaan on jo käynnissä algoritmien avulla Yhdysvalloissa sosiaalipuolen hallinnoimisessa.

Yhdessä kommentissa oli esimerkki maitopurkeista kaupassa. Varmasti algoritmeistä on myös käytännön hyötyä, mutta ehkä ihan niin neutraaleja eivät kaikilla muilla elämänalueilla tiedon kerääntymiseen liittyvät kysymykset ole. Millä tavoin värittynyttä dataa ja millaisiin tutkimuksiin perustuvaa dataa käytettäisiin vaikka silloin, kun koitetaan arvioida ihmisen tulevaa syrjäytymisuhkaa, mielenterveyttä tai rikollisuutta?

ap

Minority reportin ennustajat näkivät lähitulevaisuuteen. Tällöin kyettiin vangitsemaan rikolliset ennen varsinaista tapahtumaa.

Kannattaa katsoa.

Terroristejahan on profiloitu jo pitkään ja tapettu drone-iskuilla. Tuskinpa siinä on niin tarkkaa onko kohde oikeasti syyllistynyt johonkin. Välillä menee joku sairaalakin jne. 

Vierailija kirjoitti:

Monesti olen kuullut kysymyksen näiltä teknokraateilta: "Onko ihminen luonnostaan hyvä?"

Aika lailla samaa tuntuu kysyvän uskovaisetkin voidakseen sitten perustella sen "hyvän paimenen" ja vitsan tärkeyden - ei siis mitenkään voi olla mahdollista, että ympäristö vaikuttaisi ihmisen käytökseen ja sen laatuun?

Ympäristö vaikuttaa ihmisen käytökseen ja sen laatuun, se on selvä. Ihminen ei edes kasva ihmiseksi ilman varhaista ja tiettyihin ikäkausiin sidottua vuorovaikutusta toisten ihmisten kanssa. Eikä ympäristön vaikutus niihin ikäkausiin jää, vaan jatkuu myöhemmissäkin elämänvaiheissa.

Se ei ole kuitenkaan kaikki. Ei ihminen ole pelkästään ympäristönsä tulos, kulunutta termiä käyttäen sosiaalinen konstruktio. Ihmisessä on jo lapsena olemassa jotain sisäsyntyistä, joka ei ole ympäristön opettamaa, jotain, joka pystyy laittamaan ympäristölle kampoihin ja tuomaan ympäristöön jotain uutta. Ihminen pystyy myös muuttamaan ympäristöään. Myös "huonoon" ympäristöön syntynyt ja sellaisessa kasvanut.

Yhteiskunta koostuu yksilöistä, jotka kuuluvat erilaisiin sosiaalisiin ryhmiin. Yksi ihminen kuuluu moneen erilaiseen ryhmään samanaikaisesti. Jos yhteiskuntaa, siis ihmisiä, aletaan hallita algoritmeillä, onko kyse siitä, että algoritmi näkee ihmisen monien eri ympäristöjen tuotteina, ja laskee sitten yhteen todennäköisyyksiä, "asettaa ihmisen paikalleen" ja tämän jälkeen algoritmin antaman tuloksen perusteella ammatti-ihminen (esim. poliisi, sosiaalivirkailija, opettaja, lääkäri) toimii jollakin tavalla? Tämä toiminta sitten vaikuttaa sen ihmisen elämään, jonka datasta algoritmi on tehnyt laskelmat.

Ihmisestä olisi siis ensin kerätty erilaista dataa, vaikka esim. hänen geeniperimänsä (geneettinen, biologinen ympäristö), hänen perhetaustansa (suvun sosiaalinen ympäristö), hänen koulupolkunsa (kehitys, suoritukset, sosiaalinen pärjääminen), hänen terveystietonsa ja asuinpaikkansa (ihminen osana sitä, mitä ko. asuinympäristön ihmisistä tiedetään).

Jos algoritmit osana julkista valtaa ja sosiaali- ja terveysalaa toimisivat näin, ainakin ensin herää kysymyksiä siitä, kenellä on oikeus kerätä tietoja ja säilyttää niitä, voiko ihmisten kokonaisvaltaisia "elämätietoja" myydä (joku muu kuin ihminen itse), millaiset oikeudet ihmisellä on vaikuttaa hänestä kerättyjen tietojen käyttöön vai onko niitä ollenkaan : onko ihminen velvoitettu kuuluessaan yhteiskuntaan myös antamaan datansa yhteiskunnalle.

Joku kommentoija puhui säätötekniikan laista. Jos systeemi on ihmisten muodostama yhteiskunta ja se on helpommin hallittava kun se on näkyvä, johtaako tämä juuri siihen, että ihmisiä tullaan hallitsemaan tiukemmin, hallinta ja valta kietoutuvat joka puolelta yhä määräävämmin yksilön ympärille ja asettavat hänet kulloisessakin vaiheessa omalle paikalleen. Jos määräävä tekijä on aina menneisyys ja kuuluminen ympäristöihin, eräänlainen huippulaaja cv, muodostuuko yhteiskuntaan ikäänkuin algoritmien mukaan järjestäytynyt kastilaitos?

Kuka tai ketkä hallitsisivat algoritmeillä hallinnoitua yhteiskuntaa? Olisiko data näkyvää myös alhaalta ylöspäin, saisivatko kansalaiset tietoa siitä, mitä hallitseva luokka tietää? Joillakin ammattilaisilla olisi pääsy toisten kansalaisten "elämätietoihin" ja joillakin ei, jos heidän ammattiinsa ei näiden tietojen käsittely kuuluisi. "Tieto on valtaa" on pätenyt ennenkin, mutta algoritmiyhteiskunnassa vieläkin korostuneemmin. Millainen osa olisi hänellä (esim. ei ammatissa toimiva, työtön tai sairas) joka asemansa puolesta olisi aina vain toiminpiteiden, arviointien ja mittausten kohteena, mutta ei pääsisi itse käsiksi tietoon?

ap