Sosiaaliturvan digitalisointi voi lisätä joihinkin ihmisryhmiin kohdistuvaa syrjintää. Kelan pitäisi varoa sitä tekoälyhankkeessaan.
Sosiaaliturvan digitalisointi ja hallinnointi tekoälyn avulla yleistyy monissa Euroopan maissa. Algoritmeja eli koneoppimismalleja hyödynnetään muun muassa sosiaaliturvan väärinkäytösten etsimisessä.
Amnesty International on tutkinut algoritmeja, joita viranomaiset käyttävät sosiaalietuuksien väärinkäytösten havaitsemiseksi Tanskassa, Alankomaissa, Ruotsissa ja Ranskassa. Missään näistä maista sosiaalietuuksien hallinnointiin käytettävät tekoälyjärjestelmät eivät toimi ihmisoikeusnormien edellyttämällä tavalla. Ne kohdistavat marginalisoituihin ihmisryhmiin valvontaa, kiihdyttävät syrjintää ja syventävät eriarvoisuutta.
Tanskassa viranomaiset ovat käyttäneet kymmeniä erilaisia algoritmeja sosiaaliturvan hallinnointiin ja väärinkäytösten havaitsemiseen. Malleilla yritetään esimerkiksi kotitalouden koon tai koostumuksen perusteella tunnistaa epätyypillisiä ihmissuhteita ja asuinjärjestelyjä, jotka voisivat johtaa sosiaaliturvapetosten jäljille.
Mallit eivät kuitenkaan huomioi tilastollisesta normista poikkeavia eroja, joiden takana ovat kulttuuriset syyt. Maahanmuuttajataustaiset ihmiset asuvat esimerkiksi keskimääräistä useammin monen sukupolven yhteisessä kotitaloudessa. Pienituloiset taas saattavat elää tavanomaista suuremmissa kotitalouksissa, koska heillä ole varaa asua omillaan. Myös vammaisten ihmisten asuinolot voivat poiketa kapeasta normista. Ja kun algoritmeilla pyritään tunnistamaan edunsaajien sidonnaisuuksia ulkomaille, käytetyt mallit kiinnittävät huomiota etenkin sellaisiin edunsaajiin, joilla on sidonnaisuuksia EU- ja Eta-alueen ulkopuolisiin maihin.
Tekoälyä käyttävät järjestelmät perustuvat laaja-alaiseen henkilökohtaisen datan hyödyntämiseen. EU-sääntely kieltää kuitenkin sellaiset tekoälysovellukset, jotka jakavat ihmisiä ryhmiin sosioekonomisen aseman, käyttäytymisen tai henkilökohtaisten ominaisuuksien perusteella ja altistavat heidät jaottelun perusteella syrjivälle kohtelulle.
Sosiaaliturvan digitalisointi voi olla joiltain osin hyödyllistä ja parantaa sosiaaliturvan saatavuutta. Jos teknologiaa kuitenkin käytetään ensisijaisesti ihmisten valvontaan, siitä on enemmän haittaa kuin hyötyä.
Suomessakin edistetään sosiaaliturvan digitalisaatiota. Kela on aloittanut lähes 600 miljoonan euron hankkeen, jonka tavoitteena on lisätä tehokkuutta ja tietoturvaa. Hankkeeseen kuuluu tekoälyn integroiminen sosiaalietuuksien hallintaan, ja yhtenä tavoitteena on havaita sosiaaliturvaetuuksien väärinkäyttöä algoritmien avulla.
Kelan oikeuskanslerille toimittaman selvityksen mukaan kehitteillä oleva tekoälypohjainen malli tunnistaa sosiaaliturvan väärinkäytösepäilyjä ja merkitsee ne jatkoselvityksiä varten. Kela kertoo, että riskitekijöitä ei haeta profiloimalla henkilön henkilökohtaisia ominaisuuksia.
Kelan hanke ei saa muuttua mustaksi laatikoksi.
Sosiaaliturvan automatisoinnin ja digitalisoinnin ihmisoikeusriskit on otettava vakavasti, ja Kelan pitää tunnistaa ja ennaltaehkäistä näitä riskejä. Kehitystyö ei saa johtaa sosiaaliturvaa saavien ihmisten syrjivään kohteluun.
Kelan on varmistettava, ettei monikansallisen yrityskumppanin kanssa kehitettävä hanke muutu läpinäkymättömäksi mustaksi laatikoksi. Ihmisoikeuksien noudattamista digitalisoidussa sosiaaliturvajärjestelmässä voidaan arvioida vain, jos se on avoin ja riippumattomien Kelan ulkopuolisten toimijoiden arvioitavissa.
Vuonna 2024 Kelan kirjaamat etuuksien väärinkäytösepäilyt olivat vain 0,43 promillea kaikista maksetuista etuuksista. Kelassa on arvioitu, että etuuksien alikäyttö on niiden väärinkäyttöä yleisempää.
Suomi voisi edelläkävijänä kehittää ihmisoikeusperustaista sosiaaliturvahallintoa, joka ei johda syrjiviin tuloksiin ja yksilöitä rankaisevaan joukkovalvontaan. Se edellyttää laajaa avoimuutta sosiaaliturvan digitalisoinnin joka vaiheessa, aina kehitystyöstä käyttöönottoon.
Teksti: Likhita Banerji, Amnesty Internationalin algoritmien ihmisoikeusvaikutuksia tutkivan yksikön johtaja ja Mariko Sato, Amnestyn Suomen osaston taloudellisten ja sosiaalisten oikeuksien asiantuntija.
Hei vielä! Kun nyt olet täällä…
… niin uskomme, että välität ihmisoikeuksista kaikille, kaikkialla maailmassa. Tiesitkö, että Amnestyn työ perustuu juuri sinunkaltaistesi välittävien ihmisten tukeen? Olemme riippumaton toimija, joka ei ota vastaan julkista rahoitusta. Mutta riippumattomuutemme on mahdollista säilyttää vain yksityishenkilöiden tuen voimalla.
Työmme on tehokasta. Lahjoittajiemme ansiosta vapautamme satoja vääryydellä vangittuja ihmisiä, painostamme hallituksia muuttamaan syrjiviä lakeja paremmiksi, estämme teloituksia ja pelastamme ihmishenkiä. Lahjoittajien avulla asiantuntijamme pystyvät tutkimaan ja paljastamaan ihmisoikeusloukkauksia. Tuomme vääryyksiä julki ja vaadimme päättäjiä korjaamaan ne.
Tämä kaikki on mahdollista, mutta vain sinun avullasi. Yhdessä voimme lopettaa kidutuksen, sorron ja syrjinnän, auttaa pahoinpideltyjä naisia, sekä tarjota paremman tulevaisuuden sotaa ja tuhoa pakeneville ihmisille.
Siksi kysymme: tekisitkö lahjoituksen sinulle sopivalla summalla? Jokainen lahjoitus on tärkeä. Tue nyt ihmisoikeuksia Suomessa ja kaikkialla maailmassa ja lahjoita!