kuvakaappaus Terminator 1 Algoritmit päättävät mitä luet facebookissa
Vaikutusvaltaisia tiedon portinvartijoita ovat nykyisin esimerkiksi Google, Facebook, Apple ja Twitter. Varsinkin Facebookista on tullut yhä tärkeämpi väylä uutisiin ja muuhun journalismiin. Google ja Facebook piiloutuvat mielellään algoritmiensa taakse ja kutsuvat itseään teknologiayrityksiksi, jotka eivät käytä journalistista harkintaa. Tosiasiassa ne ovat myös mediayrityksiä, jotka vaikuttavat siihen, millaisia uutisia saamme luettavaksi, kirjoittaa Piraattipuolueen puheenjohtaja Jonna Purojärvi.
Algoritmit eli tietokoneohjelmat päättävät, mitä saamme luettavaksi ja katsovaksi sosiaalisen median tai hakukoneiden kautta. Ne seuraavat klikkauksiamme ja valintojamme ja tarjoavat meille yhä enemmän samankaltaista ja -mielistä sisältöä. Tavoitteena on, että käyttäjä viihtyy samanmielisten seurassa ja internetyhtiön liiketoiminta kasvaa. Samalla vähenee aito keskustelu.
Facebookin itse suorittamissa kyseenalaisissa kenttäkokeissa on havaittu, että ohjaamalla algoritmien avulla sisältöjä, Facebook pystyy manipuloimaan käyttäjien tunnetiloja. Henkilöt, joiden uutissyötteeseen nostettiin positiivisia asioita, reagoivat kirjoittamalla positiivisia päivityksiä. Lisäksi Facebookin itse tekemissä tutkimuksissa on havaittu, että Facebook vahvistaa sosiaalisten todellisuuksien polarisoitumista. Facebookin mukaan käytännössä kaikki sisällön tarkastamiseen liittyvät yksityiskohdat ovat liikesalaisuuksia.
Tekoäly eli keinoäly on tietokone tai tietokoneohjelma, joka kykenee tekemään älykkäinä pidettäviä toimintoja. Tekoälyn tarkoitus on yrittää matkia ihmisen tajuntaa ja suorittaa tehtäviä kuten ihminen. Käytännössä se tarkoittaa siis koneen/ohjelman kykyä ajatella ja oppia.
Jo nyt ja yhä enemmän tulevaisuudessa tekoälyn avulla lasketaan kansalaisten luottokelpoisuutta, palkkoja, kyvykkyyttä vanhempana ja jopa sukupuolista suuntautumista ja rikostuomioiden pituutta.
Tietokonepohjaiset laskentamenetelmät yleistyvät kotimaisen varainhoidon ja pankkisysteemin sisällä. Kun puhumme talouspäätöksiä tekevistä markkinavoimista, puhumme yhä useammin algoritmeista. Algoritmi ei kyseenalaista tai huomioi, se vain suorittaa.
Hanna Nikkasen mukaan Facebookin algoritmit ovat pienille kielialueille iso ongelma. Yritys ei kerro, onko sillä yhtään suomenkielistä moderoijaa.
Nikkanen kertoo, kuinka seurasi kerran suomenkielistä Facebook-keskustelua, josta vaikutti koko ajan häviävän kommentteja." Lopulta käsitimme, että kyse on Kike Elomaasta: ”kike” on englanniksi rasistinen haukkumasana, joten aina kun joku keskustelijoista viittasi kansanedustaja Elomaahan, Facebook päätteli koneellisesti, että sisältö on sopimatonta".
Somessa kaikki viranomaisten väärinkäytöksistä kertova puhe, jota päättäjät vihaavat voidaan luokitella vihapuheeksi ja poistaa vaikka vihapuheen torjuntayritysten sijasta pitäisi keskittyä kitkemään pois sellaista politiikkaa, joka tuota vihaa tuottaa.
Koneiden tekemät päätökset yleistyvät kaikkialla. Algoritminen päätöksenteko voi vähentää virheitä ja nopeuttaa julkihallinnon prosesseja, mutta päätöksiä tekeviin koneisiin liittyy monta yhteiskunnallista ongelmaa.
Esimerkiksi rekrytointi- ja vakuutuspäätöksiä tekevien koneiden algoritmit eivät ole julkista tietoa, vaikka ne vaikuttavat ihmisten elämiin merkittävästi. Algoritmit tekevät virheitä, ja algoritmin virheet toistavat aineistojen vinoumia, kirjoittaa filosofian professori Arto Laitinen ROSE-hankkeen blogissa.
Laitinen kirjoittaa, että yhteiskunnallinen eriarvoisuus ei ole algoritmien synnyttämää, mutta algoritmit voivat tehdä eriarvoisuudesta salakavalampaa.
Hyvään tähtäävät algoritmit kuitenkin saattavat aiheuttaa vahinkoa, jopa ”massatuhoa”, kirjoittaa Laitinen. Ongelmien torjumisessa olennaista olisi laaja avoimuusperiaate.
"Läpinäkyvyys, periaatteellinen avoimuus ja julkisuus ovat aivan keskeisiä sosiaalisen oikeudenmukaisuuden kannalta: vaikka algoritmi toimisi virheettömästi, ilman vinoumia, tämän voi tietää vain jos kyetään tietämään millä perusteella algoritmi on suosituksiinsa päätynyt", Laitinen kirjoittaa.
Profilointi ja automaattinen päätöksenteko mahdollistetaan sosiaaliturvassa
Hallitus on tuonut eduskunnan käsiteltäväksi seuraavan esityksen, jossa ollaan säätämässä kansallisia poikkeuksia vakuutusyhtiöille ja sosiaaliturvaa käsitteleville tahoille: HE 52/2018 vp Hallituksen esitys eduskunnalle sosiaaliturva- ja vakuutuslainsäädännön muuttamiseksi EU:n yleisen tietosuoja-asetuksen johdosta.
Niko Kaistakorven mukaan lakiesitys mahdollistaa terveystietojen avulla tehdyn henkilökohtaisen profiloinnin ja tekee siitä laillista. Laki mahdollistaa myös keskustelua herättäneen Soten kapitaatiomallin profiloinnin toteuttamisen mikäli niin halutaan. Ehdotettu laki estää pääosin omien tietojen käytön kieltämisen vakuutusyhtiöiltä ja sosiaaliturvaa käsitteleviltä tahoilta. Laki mahdollistaa edellämainituille siis laajat oikeudet automaattiseen päätöksentekoon, profilointiin sekä tekoälyn käyttämiseen tietojen käsittelyssä.
USA:ssa on käytetty ohjelmistoja myös arvioimaan rikostuomion yhteydessä annettavan tuomion sopivaa pituutta perustuen automatisoituun riskiarvioon tuomitusta ja hänen todennäköisyydestään syyllistyä uudelleen rikokseen, kirjoittaa Niko Kaistakorpi.
Tässä erityisesti esimerkiksi rodun tai asuinalueen myötä saatetaan tehdä johtopäätöksiä, jotka perustuvat menneisiin tehtyihin ratkaisuihin, jotka ovat saattaneet olla hyvinkin puolueellisia ja ennakkoluuloisia. Huonosti suunniteltu järjestelmä oppii nämä samat asiat tehden ne automatisoidusti.
Suomessa käynnissä olevan biopankkilain uudistus yhdessä toisiolain kanssa mahdollistaa geenitiedon luovuttamisen.
Toisiolakia useissa puheenvuoroissaan arvostellut professori Lasse Lehtonen kertoo Kauppalehdessä, että " on pelottavaa ajatella, että geenitietoja hyödyntävä tekoäly tulevaisuudessa valitsee lasten puolesta, mitä heidän kannattaa tehdä ja mille alalle he sopivat. Tietojen käyttö ei varmasti rajoitu sairauksien ehkäisyyn". Lehtosen mukaan potilastietojen salassapito Suomessa on heikolla tasolla eurooppalaiseen standardiin verrattuna ja ehkä jo heikointa koko Euroopassa. (US, 15.4.2018). " Sipilän hallitus on hoitanut hankkeensa tietoturvan lähinnä kirjoittamalla sanan ”tietoturvallinen” lakihankkeen esittelykalvoihin ilman, että mitään konkreettista salausjärjestelmää on arkaluonteisille potilastiedoille hankittu" (US, 6.8.2017). "Lehtonen varoittaa, että terveydenhuollon toimintayksikkö ei lopulta voi käyttöoikeushallinnallaan määrittää, kuka sen kokoamia henkilötietoja käsittelee. " Tilanne on analoginen sen suhteen, että finanssialalla yhden pankin asiakkaan kaikki tili- ja luottotiedot olisivat ilman asiakkaan omaa suostumusta kaikkien Suomen pankkien kaikkien virkailijoiden nähtävillä ja vielä myytävissä kauppaketjuille"(US, 12.8.2018).
Vaikutusvaltaisia tiedon portinvartijoita ovat nykyisin esimerkiksi Google, Facebook, Apple ja Twitter. Varsinkin Facebookista on tullut yhä tärkeämpi väylä uutisiin ja muuhun journalismiin. Google ja Facebook piiloutuvat mielellään algoritmiensa taakse ja kutsuvat itseään teknologiayrityksiksi, jotka eivät käytä journalistista harkintaa. Tosiasiassa ne ovat myös mediayrityksiä, jotka vaikuttavat siihen, millaisia uutisia saamme luettavaksi, kirjoittaa Piraattipuolueen puheenjohtaja Jonna Purojärvi.
Algoritmit eli tietokoneohjelmat päättävät, mitä saamme luettavaksi ja katsovaksi sosiaalisen median tai hakukoneiden kautta. Ne seuraavat klikkauksiamme ja valintojamme ja tarjoavat meille yhä enemmän samankaltaista ja -mielistä sisältöä. Tavoitteena on, että käyttäjä viihtyy samanmielisten seurassa ja internetyhtiön liiketoiminta kasvaa. Samalla vähenee aito keskustelu.
Facebookin itse suorittamissa kyseenalaisissa kenttäkokeissa on havaittu, että ohjaamalla algoritmien avulla sisältöjä, Facebook pystyy manipuloimaan käyttäjien tunnetiloja. Henkilöt, joiden uutissyötteeseen nostettiin positiivisia asioita, reagoivat kirjoittamalla positiivisia päivityksiä. Lisäksi Facebookin itse tekemissä tutkimuksissa on havaittu, että Facebook vahvistaa sosiaalisten todellisuuksien polarisoitumista. Facebookin mukaan käytännössä kaikki sisällön tarkastamiseen liittyvät yksityiskohdat ovat liikesalaisuuksia.
Tekoäly eli keinoäly on tietokone tai tietokoneohjelma, joka kykenee tekemään älykkäinä pidettäviä toimintoja. Tekoälyn tarkoitus on yrittää matkia ihmisen tajuntaa ja suorittaa tehtäviä kuten ihminen. Käytännössä se tarkoittaa siis koneen/ohjelman kykyä ajatella ja oppia.
Jo nyt ja yhä enemmän tulevaisuudessa tekoälyn avulla lasketaan kansalaisten luottokelpoisuutta, palkkoja, kyvykkyyttä vanhempana ja jopa sukupuolista suuntautumista ja rikostuomioiden pituutta.
Tietokonepohjaiset laskentamenetelmät yleistyvät kotimaisen varainhoidon ja pankkisysteemin sisällä. Kun puhumme talouspäätöksiä tekevistä markkinavoimista, puhumme yhä useammin algoritmeista. Algoritmi ei kyseenalaista tai huomioi, se vain suorittaa.
Hanna Nikkasen mukaan Facebookin algoritmit ovat pienille kielialueille iso ongelma. Yritys ei kerro, onko sillä yhtään suomenkielistä moderoijaa.
Nikkanen kertoo, kuinka seurasi kerran suomenkielistä Facebook-keskustelua, josta vaikutti koko ajan häviävän kommentteja." Lopulta käsitimme, että kyse on Kike Elomaasta: ”kike” on englanniksi rasistinen haukkumasana, joten aina kun joku keskustelijoista viittasi kansanedustaja Elomaahan, Facebook päätteli koneellisesti, että sisältö on sopimatonta".
Somessa kaikki viranomaisten väärinkäytöksistä kertova puhe, jota päättäjät vihaavat voidaan luokitella vihapuheeksi ja poistaa vaikka vihapuheen torjuntayritysten sijasta pitäisi keskittyä kitkemään pois sellaista politiikkaa, joka tuota vihaa tuottaa.
Koneiden tekemät päätökset yleistyvät kaikkialla. Algoritminen päätöksenteko voi vähentää virheitä ja nopeuttaa julkihallinnon prosesseja, mutta päätöksiä tekeviin koneisiin liittyy monta yhteiskunnallista ongelmaa.
Esimerkiksi rekrytointi- ja vakuutuspäätöksiä tekevien koneiden algoritmit eivät ole julkista tietoa, vaikka ne vaikuttavat ihmisten elämiin merkittävästi. Algoritmit tekevät virheitä, ja algoritmin virheet toistavat aineistojen vinoumia, kirjoittaa filosofian professori Arto Laitinen ROSE-hankkeen blogissa.
Laitinen kirjoittaa, että yhteiskunnallinen eriarvoisuus ei ole algoritmien synnyttämää, mutta algoritmit voivat tehdä eriarvoisuudesta salakavalampaa.
Hyvään tähtäävät algoritmit kuitenkin saattavat aiheuttaa vahinkoa, jopa ”massatuhoa”, kirjoittaa Laitinen. Ongelmien torjumisessa olennaista olisi laaja avoimuusperiaate.
"Läpinäkyvyys, periaatteellinen avoimuus ja julkisuus ovat aivan keskeisiä sosiaalisen oikeudenmukaisuuden kannalta: vaikka algoritmi toimisi virheettömästi, ilman vinoumia, tämän voi tietää vain jos kyetään tietämään millä perusteella algoritmi on suosituksiinsa päätynyt", Laitinen kirjoittaa.
Profilointi ja automaattinen päätöksenteko mahdollistetaan sosiaaliturvassa
Hallitus on tuonut eduskunnan käsiteltäväksi seuraavan esityksen, jossa ollaan säätämässä kansallisia poikkeuksia vakuutusyhtiöille ja sosiaaliturvaa käsitteleville tahoille: HE 52/2018 vp Hallituksen esitys eduskunnalle sosiaaliturva- ja vakuutuslainsäädännön muuttamiseksi EU:n yleisen tietosuoja-asetuksen johdosta.
Niko Kaistakorven mukaan lakiesitys mahdollistaa terveystietojen avulla tehdyn henkilökohtaisen profiloinnin ja tekee siitä laillista. Laki mahdollistaa myös keskustelua herättäneen Soten kapitaatiomallin profiloinnin toteuttamisen mikäli niin halutaan. Ehdotettu laki estää pääosin omien tietojen käytön kieltämisen vakuutusyhtiöiltä ja sosiaaliturvaa käsitteleviltä tahoilta. Laki mahdollistaa edellämainituille siis laajat oikeudet automaattiseen päätöksentekoon, profilointiin sekä tekoälyn käyttämiseen tietojen käsittelyssä.
USA:ssa on käytetty ohjelmistoja myös arvioimaan rikostuomion yhteydessä annettavan tuomion sopivaa pituutta perustuen automatisoituun riskiarvioon tuomitusta ja hänen todennäköisyydestään syyllistyä uudelleen rikokseen, kirjoittaa Niko Kaistakorpi.
Tässä erityisesti esimerkiksi rodun tai asuinalueen myötä saatetaan tehdä johtopäätöksiä, jotka perustuvat menneisiin tehtyihin ratkaisuihin, jotka ovat saattaneet olla hyvinkin puolueellisia ja ennakkoluuloisia. Huonosti suunniteltu järjestelmä oppii nämä samat asiat tehden ne automatisoidusti.
Suomessa käynnissä olevan biopankkilain uudistus yhdessä toisiolain kanssa mahdollistaa geenitiedon luovuttamisen.
Toisiolakia useissa puheenvuoroissaan arvostellut professori Lasse Lehtonen kertoo Kauppalehdessä, että " on pelottavaa ajatella, että geenitietoja hyödyntävä tekoäly tulevaisuudessa valitsee lasten puolesta, mitä heidän kannattaa tehdä ja mille alalle he sopivat. Tietojen käyttö ei varmasti rajoitu sairauksien ehkäisyyn". Lehtosen mukaan potilastietojen salassapito Suomessa on heikolla tasolla eurooppalaiseen standardiin verrattuna ja ehkä jo heikointa koko Euroopassa. (US, 15.4.2018). " Sipilän hallitus on hoitanut hankkeensa tietoturvan lähinnä kirjoittamalla sanan ”tietoturvallinen” lakihankkeen esittelykalvoihin ilman, että mitään konkreettista salausjärjestelmää on arkaluonteisille potilastiedoille hankittu" (US, 6.8.2017). "Lehtonen varoittaa, että terveydenhuollon toimintayksikkö ei lopulta voi käyttöoikeushallinnallaan määrittää, kuka sen kokoamia henkilötietoja käsittelee. " Tilanne on analoginen sen suhteen, että finanssialalla yhden pankin asiakkaan kaikki tili- ja luottotiedot olisivat ilman asiakkaan omaa suostumusta kaikkien Suomen pankkien kaikkien virkailijoiden nähtävillä ja vielä myytävissä kauppaketjuille"(US, 12.8.2018).
kuvakaappaus wikipedia Lastensuojelun virheellisen datan sisältävä tietokone- ohjelma arvioi vanhemmuutesi
Julkinen sektori näyttää ajautuneen niin sijaishuollon kuin it-alan konsulttien ja bisnesmiesten maksuautomaatiksi. Tieteellisyyden auraa ja vastuunkevennystä janoava lastensuojelu on tarttunut kritiikittömästi erilaisiin tietokonepohjaisiin arviointeihin ja mittareihin uskottavuutensa pelastaakseen.
Arviointien ja mittareiden samoin kuin lastensuojelun työvälineiden ja dokumenttien keskeinen ja usein ainut funktio tuntuu olevan legitimoida lastensuojelun sosiaalityöntekijöiden oikeus puuttua puuttumista vastustavan lapsen ja vanhemman elämään.
Mittareilla tapahtuvaan puoskarointiin havahtunut THL on antanut suosituksen vastuullisesta mittareiden käytöstä havaitsematta että vikaa on työntekijöiden osaamisen lisäksi myös mittareissa ja mittaamisen motiiveissa.
Espoon kaupungin ja ohjelmisto- ja palveluyritys Tiedon juuri päättynyt tekoälykokeilu saattaa tulevaisuudessa johtaa lapsiperheiden automatisoituun riskiarviointiin ja huoliliputukseen.
Epäonnistuneesta huoliliputuksesta puuhataan uutta digitaalista muotoa Espoossa, jossa kiireelliset sijoitukset ja huostaanotot ovat kasvaneet räjähdysmäisesti.
Huonosti suunnitellulle weapon of math destruction- kriteerit osin täyttävälle järjestelmälle siirretään lastensuojelun päättelyvirheet ja disinformaatio, jotta ne voidaan uusintaa automatisoidusti. Algoritmit ovat työntekijöiden niihin tietoisesti tai tiedostamattaan koodaamien ennakkoluulojen värittämiä.
Myös Suomi 100- ohjelman Kaikille elämän eväät- hankkeessa kehitellään vanhempien kaltoinkohtelupotentiaalin tunnistavaa riskiarviointityökalua, joka tulkitsee vanhemmuuden riskiksi mm. siivousinnon.
Perhe- ja sosiaalipalveluiden johtaja Mari Ahlströmin mukaan Espoon tavoitteena on väline, jolla pystytään ennustamaan lastensuojelun asiakkuus ja tunnistamaan perheiden riskejä- tilanteessa, jossa oikeusasiamies Petri Jääskeläinen on todennut lastensuojelun itsessään vakavaksi perus- ja ihmisoikeusongelmaksi, alan ettisiä normeja ei noudateta, alalta puuttuvat riippumattomat tuomioistuimet, tutkimustieto, valvonta, seuranta, tulosvastuu, toimivat avohuollon tukimuodot ja oikeussuojakeinot perheille, kriittinen journalismi ja työntekijöiden vastuu- ja korvausvelvoitteet väärinkäytöksistä.
Espoossa pelkkä lakisääteisten palveluiden hakeminen voi johtaa perheet lainvastaisesti lastensuojelun asiakkuuteen, joka puolestaan sinetöi avutta ja palveluitta jäämisen. Tekoäly löysi esimerkiksi noin 280 tekijää, jotka ennakoivat lastensuojelun asiakkuutta, kertoo HS. ”Esille tuli, että perheen lisääntynyt terveyspalveluiden käyttö voi ennustaa lastensuojelun tai lasten- tai nuorisopsykiatrian asiakkuutta.”
Sen sijaan, että lastensuojelussa etsittäisiin ja eliminoitaisiin kaikin mahdollisin keinoin palvelujärjestelmien riskitekijät, jotka johtavat havaittuihin lainvastaisiin käytäntöihin, tekoälyä käytetään keppihevosena sillä ratsastavalle bisnesälylle. Turhiin ja laittomiin lastensuojeluasiakkuuksiin johtavista järjestelmäkäytännöistä yritetään lavastaa asiakkaiden ongelmia ja ominaisuuksia. Lainvastaisista asiakashankintakäytännöistä tehdäänkin lastensuojelun asiakkuuden ja puutteellisen vanhemmuuden riskitekijöitä ja osoittimia. Sen sijaan, että Espoo resursoisi vaikkapa kotiapuun, kotiavun hakeminen voidaan luokitella vanhemmuuden riskitekijäksi, joka johtaa helposti lastensuojelun kiireelliseen sijoitukseen ja vähintään 200 000 euroa per lapsi sijaisperheessä ja 1000 000 euroa per lapsi perhekodissa maksavaan pysyvään huostaanottoon.
Omia alati kasvavia kustannuksiaan ja vallan- ja reviirinlaajennushankkeitaan oikeuttaakseen sijaishuollon edunvalvojaksi ryhtynyt lastensuojelu ei ole epäröinyt manipuloida tietoperustaansa, fabrikoida asiakkaiden kaikista yhteydenottopyynnöistä lastensuojeluilmoituksia, siirtää vanhemmuudenarviointeja ja muita viranomaistehtäviä lapsibisnesyritysten tehtäväksi ja tehdä omista asennevammoistaan ja ennakkoluuloistaan itsensätoteuttavia profetioita. Miten osallistuminen tällaiseen valehteluun ja keplotteluun sopii Tieto- yrityksen tavoitteisiin torjua korruptiota, toimia eettisenä edelläkävijänä globaalissa yhteiskunnassa ja luoda arvoa sidosryhmilleen?
Julkinen sektori näyttää ajautuneen niin sijaishuollon kuin it-alan konsulttien ja bisnesmiesten maksuautomaatiksi. Tieteellisyyden auraa ja vastuunkevennystä janoava lastensuojelu on tarttunut kritiikittömästi erilaisiin tietokonepohjaisiin arviointeihin ja mittareihin uskottavuutensa pelastaakseen.
Arviointien ja mittareiden samoin kuin lastensuojelun työvälineiden ja dokumenttien keskeinen ja usein ainut funktio tuntuu olevan legitimoida lastensuojelun sosiaalityöntekijöiden oikeus puuttua puuttumista vastustavan lapsen ja vanhemman elämään.
Mittareilla tapahtuvaan puoskarointiin havahtunut THL on antanut suosituksen vastuullisesta mittareiden käytöstä havaitsematta että vikaa on työntekijöiden osaamisen lisäksi myös mittareissa ja mittaamisen motiiveissa.
Espoon kaupungin ja ohjelmisto- ja palveluyritys Tiedon juuri päättynyt tekoälykokeilu saattaa tulevaisuudessa johtaa lapsiperheiden automatisoituun riskiarviointiin ja huoliliputukseen.
Epäonnistuneesta huoliliputuksesta puuhataan uutta digitaalista muotoa Espoossa, jossa kiireelliset sijoitukset ja huostaanotot ovat kasvaneet räjähdysmäisesti.
Huonosti suunnitellulle weapon of math destruction- kriteerit osin täyttävälle järjestelmälle siirretään lastensuojelun päättelyvirheet ja disinformaatio, jotta ne voidaan uusintaa automatisoidusti. Algoritmit ovat työntekijöiden niihin tietoisesti tai tiedostamattaan koodaamien ennakkoluulojen värittämiä.
Myös Suomi 100- ohjelman Kaikille elämän eväät- hankkeessa kehitellään vanhempien kaltoinkohtelupotentiaalin tunnistavaa riskiarviointityökalua, joka tulkitsee vanhemmuuden riskiksi mm. siivousinnon.
Perhe- ja sosiaalipalveluiden johtaja Mari Ahlströmin mukaan Espoon tavoitteena on väline, jolla pystytään ennustamaan lastensuojelun asiakkuus ja tunnistamaan perheiden riskejä- tilanteessa, jossa oikeusasiamies Petri Jääskeläinen on todennut lastensuojelun itsessään vakavaksi perus- ja ihmisoikeusongelmaksi, alan ettisiä normeja ei noudateta, alalta puuttuvat riippumattomat tuomioistuimet, tutkimustieto, valvonta, seuranta, tulosvastuu, toimivat avohuollon tukimuodot ja oikeussuojakeinot perheille, kriittinen journalismi ja työntekijöiden vastuu- ja korvausvelvoitteet väärinkäytöksistä.
Espoossa pelkkä lakisääteisten palveluiden hakeminen voi johtaa perheet lainvastaisesti lastensuojelun asiakkuuteen, joka puolestaan sinetöi avutta ja palveluitta jäämisen. Tekoäly löysi esimerkiksi noin 280 tekijää, jotka ennakoivat lastensuojelun asiakkuutta, kertoo HS. ”Esille tuli, että perheen lisääntynyt terveyspalveluiden käyttö voi ennustaa lastensuojelun tai lasten- tai nuorisopsykiatrian asiakkuutta.”
Sen sijaan, että lastensuojelussa etsittäisiin ja eliminoitaisiin kaikin mahdollisin keinoin palvelujärjestelmien riskitekijät, jotka johtavat havaittuihin lainvastaisiin käytäntöihin, tekoälyä käytetään keppihevosena sillä ratsastavalle bisnesälylle. Turhiin ja laittomiin lastensuojeluasiakkuuksiin johtavista järjestelmäkäytännöistä yritetään lavastaa asiakkaiden ongelmia ja ominaisuuksia. Lainvastaisista asiakashankintakäytännöistä tehdäänkin lastensuojelun asiakkuuden ja puutteellisen vanhemmuuden riskitekijöitä ja osoittimia. Sen sijaan, että Espoo resursoisi vaikkapa kotiapuun, kotiavun hakeminen voidaan luokitella vanhemmuuden riskitekijäksi, joka johtaa helposti lastensuojelun kiireelliseen sijoitukseen ja vähintään 200 000 euroa per lapsi sijaisperheessä ja 1000 000 euroa per lapsi perhekodissa maksavaan pysyvään huostaanottoon.
Omia alati kasvavia kustannuksiaan ja vallan- ja reviirinlaajennushankkeitaan oikeuttaakseen sijaishuollon edunvalvojaksi ryhtynyt lastensuojelu ei ole epäröinyt manipuloida tietoperustaansa, fabrikoida asiakkaiden kaikista yhteydenottopyynnöistä lastensuojeluilmoituksia, siirtää vanhemmuudenarviointeja ja muita viranomaistehtäviä lapsibisnesyritysten tehtäväksi ja tehdä omista asennevammoistaan ja ennakkoluuloistaan itsensätoteuttavia profetioita. Miten osallistuminen tällaiseen valehteluun ja keplotteluun sopii Tieto- yrityksen tavoitteisiin torjua korruptiota, toimia eettisenä edelläkävijänä globaalissa yhteiskunnassa ja luoda arvoa sidosryhmilleen?
Matematiikka ja teknologia halutaan nähdä puolueettomina
Algorimien avulla tehtyjä malleja tekevät ihmiset ja ne pohjautuvat heidän käsityksiinsä. Tällöin niitä voidaan käyttää myös subjektiivisesti ja ne voivat sisältää tekijän omia ennakkoluuloja - ja niissä voi yksinkertaisesti vain olla virheitä.
Suuri ongelma on myös, että pääosa näiden ohjelmistojen ja järjestelmien toimintatavoista jää liikesalaisuudeksi.
Lainsäädäntö on pitkällä takamatkalla näissä asioissa ja teknologia porskuttaa kaukana edellä osin hallitsemattomasti.
Kansalaiset ovat huolissaan siitä, että asioita viedään eteenpäin teknisinä hankkeina vaikka ollaan poliittisen toiminnan ja poliittisten arvovalintojen ytimessä. Asioista päättävät tahot eivät enää ole omien tehtäviensä tasolla ja tarvitsisivat uudelleenkoulutusta tietotekniikasta. Asiat jotka pitäisi alistaa yleiseen keskusteluun junaillaan kulisseissa ja takahuoneissa läpi teknisiksi hankkeiksi verhoittuina vaikka todellisuudessa kansalaisten ja hallinnon suhde muuttuu näiden päätösten myötä enemmän kuin vuosisatoihin.
Jonna Purojärven mukaan kansalaisten yksityisyydensuojaa ei käytännössä katsoen ole enää olemassa millään tasolla. Teknologiayritysten tuottamat laitteistot ja palvelut keräävät kansalaisten tietoja tienaten niillä, ulkomaiset tiedustelupalvelut pääsevät käsiksi niin kansalaisten kuin yritystenkin tietoihin, ja turvaksemme luotu poliisijärjestelmä- sen sijaan, että huolehtisi yksityisyydestämme- haluaa samoihin tietoihin käsiksi lain turvin.
Tarvitsemme vahvaa kansalaisaktivismia palauttaaksemme yleisinhimillisen oikeuden omaan yksityisyyteemme.
Tohtori O´Neil varoittaa matikkatuhoaseista
Perikato - ja Nollakohta- blogit esittelevät Cathy O´Neilin kirjan Weapons of math Destruction, suomeksi nimellä Matikkatuhoaseet (suom. Kimmo Pietiläinen, Terra Cognita), jossa O’Neil rinnastaa jotkin algoritmien voimalla käyvät päätöksentekojärjestelmät joukkotuhoaseisiin.
Maailman johtaviin data-aktivisteihin kuuluva tohtori Cathy O’Neil on liike-elämässä algoritmien tuhovoiman nähnyt matemaatikko ja Occupy Wall Street-liikkeen toimintaan osallistunut aktivisti, joka varoitellut big datan pimeistä puolista Mathbabe-blogissaan.
Algoritmejä yhtenä ihmiskunnan pahimmista vitsauksista pitävä O’Neil on huolissaan esim. siitä kuinka big data toimii ajattelun ja päätöksenteon ulkoistamisen keinona ja sillä saatetaan vain hämätä heikosti matematiikkaa ymmärtäviä ihmisiä.
Big datan pimeät puolet osuvat erityisesti köyhempään väestönosaan. Algoritmit ovat epäreiluja. Jos asiaan ei kiinnitetä erityistä huomiota, ne heijastelevat yhteiskunnan syrjiviä rakenteita. Tämä on epäsuotuisaa niille, jotka ovat altavastaajan asemassa alunperinkin, kuten esimerkiksi naisille, pienituloisille ja vähemmistöryhmien edustajille. Pahimmassa tapauksessa vaikutukset ovat tuhoisia.
Oikeusvaltiossa olisi sangen outoa, että sukulaisia tai postinumeroa käytettäisiin todisteina syytettyä vastaan. Algoritmi voi kuitenkin tehdä niin.
Vankeinhoidossa LSI-R-algoritmi voi päättää tuomitun postinumeron perusteella rikoksenuusinnan todennäköisyydestä. Tuomarit tottelevat ohjelmaa, ja määräävät algoritmin liputtamalle ensikertalaiselle pidemmän tuomion, vaikka aihetta ei olisikaan.
O’Neil mainitsee kuinka Yhdysvalloissa rikoksen uusimistodennäköisyyttä on arvioitu algoritmien avulla, joissa yhtenä tekijänä on ollut se, ovatko sukulaiset olleet vankilassa. Tämä lisää ennustuksen tarkkuutta, mutta on hyvin kyseenalaista kun sitä käytetään yhtenä tekijänä arvioitessa, pitääkö rikoksen tekijän istua tuomionsa loppuun asti. On selvää, että lakituvassa tämä ei menisi läpi, mutta kun se leivottu sisään matemaattisesti hienostuneeseen algoritmiin, niin tätä ongelmaa ei mietitä samalla tavalla.
Numerothan eivät valehtele koskaan.
Kun rikoksenuusijaksi leimattu tuomitaan pidempään rangaistukseen, hänellä on huonommat mahdollisuudet työllistyä vapauduttuaan. Luultavasti hän sekaantuu syvemmin ei-toivottuihin porukoihin. Ennustus siis toteuttaa itse itsensä. Yksilö kärsii, koska malli pitää häntä ulkoisesti muistuttavia ihmisiä uhkana.
O'Neil esittää matikkatuhoaseelle kolme kriteeriä:
Huono malli ei myöskään opi. Se käyttää aina samoja oletuksia, tuli niillä hyviä tuloksia tai ei. Vielä huonompi tapaus on tietenkin se, jossa malli toteuttaa itse itseään ja oppii siitä — myös tällaisesta kierteestä on esimerkkejä kirjassa. Jokainen malli kantaa rakenteessaan ja lähtödatassaan ennakkoluuloja ja virheitä. Malleja täytyy osata tulkita.
Kaikkein pahinta on, jos mallia pidetään erehtymättömänä: että luvut ja laskukaavat eivät kärsi inhimillisistä virheistä. Esimerkkinä kirjassa on opettajien arviointiin käytetty malli, joka oli käytännössä satunnaislukugeneraattori. Silti sillä tehtiin päätöksiä siitä, ketkä saivat kenkää.
IMPACT-algoritmi päätti, että hyvä opettaja on huono, koska hänen oppilaidensa arvosanat eivät ole nousseet lukuvuoden aikana. Se ei tiennyt, että edellisen vuosikurssin opettaja vääristeli arvosanoja ylöspäin, jotta saisi itse puhtaat paperit.
Ratkaisuksi algoritmien käytön villiin länteen O´Neil esittää, että asiakkaan ja yrityksen lisäksi kolmas, riippumaton osapuoli valvoisi järjestelmän laillisuutta ja oikeudenmukaisuutta. Tutkija on tarttunut itse toimeen perustamalla yrityksen, joka tekee algoritmiauditointeja ja riskikonsultointia Yhdysvalloissa.
Tulevaisuudessa O’Neil haluaisi asiakkaikseen niitä toimijoita, jotka ehdottomasti eivät halua hänen palveluitaan. Facebook olisi O’Neilin mukaan hänen unelma-asiakkaansa.
Kohti digitaalista diktatuuria?
Kirjassaan Homo Deus israelilainen historioitsija Yuval Harari ennusti, että ihmiskunta menettää valtansa tekoälylle, joka pystyy tekemään kaikki päätökset puolestamme, kirjoittaa HS.
Nyt Harari arvioi, että algoritmien nouseva valta vaikuttaa jo poliittisiin pohjavirtoihin. Tavallinen ihminen tuntee itsensä koko ajan tarpeettomammaksi, ja Hararin mukaan havainto on oikea.
Tekoäly pystyy pian suoriutumaan meitä paremmin niistäkin tehtävistä, joissa vaaditaan toisten ihmisten tunteiden ja reaktioiden ymmärtämistä ja ennakointia. Se voittaa ihmisen lääkärinä ja autonkuljettajana, valitsee sinulle sopivan puolison ja säveltää mieleistäsi musiikkia.
Tulevaisuuden eliitti rikastuu hallitsemalla tekoälyä ja datavirtoja. Se ei enää tarvitse ihmismassoja tuotannon ylläpitoon eikä oman vaurautensa rakentamiseen.
Viime vuosisadalla työntekijät nousivat joukkovoimalla taloudellista riistoa vastaan. Massat onnistuivat muuttamaan tärkeän taloudellisen roolinsa poliittiseksi vallaksi. Kun massat menettävät merkityksensä taloudessa, ne voivat menettää myös kaiken muun. Edes valtio ei välttämättä ole kiinnostunut tarpeettomien ihmisten terveydestä ja koulutuksesta.
Liberalismilla ei ole tähän uhkaan vastausta. Putoajien turvaksi on ehdotettu perustuloa. Ilman lupausta tarpeellisuudesta se ei luo uskoa äänestäjiin.
Jos halutaan estää kaiken vallan ja varallisuuden keskittyminen pienen eliitin käsiin, on alettava säännellä datan omistusta. Nyt annamme Facebookin ja Googlen kaltaisten yhtiöiden vapaasti kerätä ja myydä valtavasti tietoa itsestämme.
Datavirtojen kansallistaminen hallituksille rajoittaisi suuryritysten valtaa. Tuloksena saattaisi kuitenkin olla kammottavia digitaalisia diktatuureja, Harari varoittaa. Tekoälyn ansiosta on mahdollista käsitellä valtavia tietomääriä keskitetysti. Digitaalinen diktatuuri voisi olla pelottavan tehokas.
Yksilön järkeen ja ymmärrykseen Harari ei paljoa luota.
”Yksittäiset ihmiset tietävät nolostuttavan vähän maailmasta, ja historian kuluessa heidän tietomääränsä on koko ajan vähentynyt”, hän väittää.
Emmekä suinkaan ajattele omilla aivoillamme, vaan omaksumme näkemyksemme ryhmän mukana.
Tarvitsemme vastaisuudessa ennennäkemätöntä oppimis- ja uudistumiskykyä sekä taitoa säilyttää henkinen tasapaino jatkuvassa muutoksessa ja epävarmuudessa.
Tulevaisuuden ihminen eli nykynuori saa Hararilta pari selviytymisvinkkiä mm:
Älä luota liikaa aikuisiin. He tarkoittavat hyvää, mutta eivät pysy kärryillä siitä, mihin maailma on menossa.
Selvitä omat ennakkoasenteesi ja varmista tietolähteesi. Jos haluat luotettavaa tietoa, maksa siitä.
Tunne itsesi. Jos algoritmit tuntevat sinut paremmin, ne pystyvät helposti hallitsemaan ja manipuloimaan sinua.
#Algoritmi #BigData #Tekoäly #Tieto #Espoonlastensuojelu #MariAhlström #KimmoAlkio #matikkatuhoaseet #WeaponsofmathDestruction #CathyO´Neil #YuvalHarari
Lue myös:
http://www.lokakuunliike.com/ll-uutiset/terveystietosi-ovat-pian-myytavana
https://www.lokakuunliike.com/ll-uutiset/tarkista-omat-asiakirjasi
http://www.lokakuunliike.com/elena-maria-uusitalon-blogi/ruoka-avun-tarve-ei-oikeuta-rekisterointiin
http://www.lokakuunliike.com/ll-uutiset/sosiaalihuollon-tiedonhallinta-uudistus-rapauttaa-asiakkaiden-oikeusturvaa
http://www.lokakuunliike.com/ll-uutiset/vihapuhe-sosiaalityossa
http://www.lokakuunliike.com/ll-uutiset/tarjolla-neuvolassa-ensi-vuonna-riskiseulausta-ja-turhia-epailyja
http://www.lokakuunliike.com/myyraumln-blogi/heiliolainen-lastensuojelunakemys-lastensuojelukriisin-ja-oikeusturvaongelmien-aiheuttajana
http://www.lokakuunliike.com/ll-uutiset/posti-voitti-lastensuojelun-perhetyon-kilpailutuksen-saalistajat-haistavat-lastensuojelun-haaskan
http://www.lokakuunliike.com/ll-uutiset/suomi-100-ohjelman-kaikille-evaat-elamaan-hankkeessa-mitataan-vanhempien-kaltoinkohtelupotentiaali
http://www.lokakuunliike.com/ll-uutiset/lapsen-paras-yhdessa-enemman-huostaanottoja
http://www.lokakuunliike.com/ll-uutiset/omat-vanhemmat-eivat-saa-terveystietoja-lapsesta
https://www.lokakuunliike.com/ll-uutiset/eun-tietosuoja-asetus-tuo-uusia-oikeuksia-kansalaisille
https://www.lokakuunliike.com/ll-uutiset/tutkimustiedon-keruuta-vai-asiakassegmentointia-yritysten-tarpeisiin
http://www.lokakuunliike.com/ll-uutiset/tajua-mut-huoliliputuksen-huolestuttavia-tuloksia
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-moniammatillinen-yhteistyo-havittaa-niin-vuorovaikutuksen-kuin-vastuun
http://www.lokakuunliike.com/ll-uutiset/hiljainen-tieto-ei-kuulu-sosiaalityohon
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-sosiaalityontekijat-valtasivat-tyovoimatoimistotkin
https://www.lokakuunliike.com/ll-uutiset/urkinta-lisaantyy-lastensuojelussa
https://www.lokakuunliike.com/ll-uutiset/professori-varoittaa-potilastietojen-arkisto-kannan-riskeista
https://www.lokakuunliike.com/ll-uutiset/lastensuojelija-urkki-130-perheen-tiedot-oulussa
https://www.lokakuunliike.com/ll-uutiset/lokakuun-liikkeen-uhkakuvat-toteutuivat-sote-pisteytyksessa
https://www.lokakuunliike.com/ll-uutiset/asiakirjojen-panttaamisesta-ja-vaarentamisesta-on-tullut-viranomaisten-rutiinia
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-1-fabrikoitu-lastensuojeluilmoitus
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-2-fabrikoitu-lastensuojelulausunto
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-3-fabrikoitu-rikosilmoitus
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-4-fabrikoitu-asiakassuunnitelma
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-5-miten-tunnistaa-fabrikointi
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-valehtelun-ja-vaarentamisen-tekniikat-osa-1
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-tyomenetelmat-2-laiton-sijoitus-huostaanotto
https://www.lokakuunliike.com/ll-uutiset/talous-iii-vanhemmuudenarviointi-kasvavana-bisneksena
https://www.lokakuunliike.com/ll-uutiset/talous-ii-lastensuojelujarjestot-bisneksen-syrjassa
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-kehittamisen-ihanteet-ja-todellisuus
https://www.lokakuunliike.com/ll-uutiset/lasten-ja-perheiden-ongelmat-vahenevat-sijoitukset-lisaantyvat-ilman-tietoa-sijoitussyista
https://www.lokakuunliike.com/ll-uutiset/lokakuun-liikkeen-uhkakuvat-toteutuivat-sote-pisteytyksessa
http://www.lokakuunliike.com/ll-uutiset/espoossa-tekoaly-on-lastensuojelun-bisnesalyn-palveluksessa
http://www.lokakuunliike.com/ll-uutiset/leipa-syottina-tuleville-lypsylehmille-mista-ruoka-avun-uudistuksessa-on-kyse
Algorimien avulla tehtyjä malleja tekevät ihmiset ja ne pohjautuvat heidän käsityksiinsä. Tällöin niitä voidaan käyttää myös subjektiivisesti ja ne voivat sisältää tekijän omia ennakkoluuloja - ja niissä voi yksinkertaisesti vain olla virheitä.
Suuri ongelma on myös, että pääosa näiden ohjelmistojen ja järjestelmien toimintatavoista jää liikesalaisuudeksi.
Lainsäädäntö on pitkällä takamatkalla näissä asioissa ja teknologia porskuttaa kaukana edellä osin hallitsemattomasti.
Kansalaiset ovat huolissaan siitä, että asioita viedään eteenpäin teknisinä hankkeina vaikka ollaan poliittisen toiminnan ja poliittisten arvovalintojen ytimessä. Asioista päättävät tahot eivät enää ole omien tehtäviensä tasolla ja tarvitsisivat uudelleenkoulutusta tietotekniikasta. Asiat jotka pitäisi alistaa yleiseen keskusteluun junaillaan kulisseissa ja takahuoneissa läpi teknisiksi hankkeiksi verhoittuina vaikka todellisuudessa kansalaisten ja hallinnon suhde muuttuu näiden päätösten myötä enemmän kuin vuosisatoihin.
Jonna Purojärven mukaan kansalaisten yksityisyydensuojaa ei käytännössä katsoen ole enää olemassa millään tasolla. Teknologiayritysten tuottamat laitteistot ja palvelut keräävät kansalaisten tietoja tienaten niillä, ulkomaiset tiedustelupalvelut pääsevät käsiksi niin kansalaisten kuin yritystenkin tietoihin, ja turvaksemme luotu poliisijärjestelmä- sen sijaan, että huolehtisi yksityisyydestämme- haluaa samoihin tietoihin käsiksi lain turvin.
Tarvitsemme vahvaa kansalaisaktivismia palauttaaksemme yleisinhimillisen oikeuden omaan yksityisyyteemme.
Tohtori O´Neil varoittaa matikkatuhoaseista
Perikato - ja Nollakohta- blogit esittelevät Cathy O´Neilin kirjan Weapons of math Destruction, suomeksi nimellä Matikkatuhoaseet (suom. Kimmo Pietiläinen, Terra Cognita), jossa O’Neil rinnastaa jotkin algoritmien voimalla käyvät päätöksentekojärjestelmät joukkotuhoaseisiin.
Maailman johtaviin data-aktivisteihin kuuluva tohtori Cathy O’Neil on liike-elämässä algoritmien tuhovoiman nähnyt matemaatikko ja Occupy Wall Street-liikkeen toimintaan osallistunut aktivisti, joka varoitellut big datan pimeistä puolista Mathbabe-blogissaan.
Algoritmejä yhtenä ihmiskunnan pahimmista vitsauksista pitävä O’Neil on huolissaan esim. siitä kuinka big data toimii ajattelun ja päätöksenteon ulkoistamisen keinona ja sillä saatetaan vain hämätä heikosti matematiikkaa ymmärtäviä ihmisiä.
Big datan pimeät puolet osuvat erityisesti köyhempään väestönosaan. Algoritmit ovat epäreiluja. Jos asiaan ei kiinnitetä erityistä huomiota, ne heijastelevat yhteiskunnan syrjiviä rakenteita. Tämä on epäsuotuisaa niille, jotka ovat altavastaajan asemassa alunperinkin, kuten esimerkiksi naisille, pienituloisille ja vähemmistöryhmien edustajille. Pahimmassa tapauksessa vaikutukset ovat tuhoisia.
Oikeusvaltiossa olisi sangen outoa, että sukulaisia tai postinumeroa käytettäisiin todisteina syytettyä vastaan. Algoritmi voi kuitenkin tehdä niin.
Vankeinhoidossa LSI-R-algoritmi voi päättää tuomitun postinumeron perusteella rikoksenuusinnan todennäköisyydestä. Tuomarit tottelevat ohjelmaa, ja määräävät algoritmin liputtamalle ensikertalaiselle pidemmän tuomion, vaikka aihetta ei olisikaan.
O’Neil mainitsee kuinka Yhdysvalloissa rikoksen uusimistodennäköisyyttä on arvioitu algoritmien avulla, joissa yhtenä tekijänä on ollut se, ovatko sukulaiset olleet vankilassa. Tämä lisää ennustuksen tarkkuutta, mutta on hyvin kyseenalaista kun sitä käytetään yhtenä tekijänä arvioitessa, pitääkö rikoksen tekijän istua tuomionsa loppuun asti. On selvää, että lakituvassa tämä ei menisi läpi, mutta kun se leivottu sisään matemaattisesti hienostuneeseen algoritmiin, niin tätä ongelmaa ei mietitä samalla tavalla.
Numerothan eivät valehtele koskaan.
Kun rikoksenuusijaksi leimattu tuomitaan pidempään rangaistukseen, hänellä on huonommat mahdollisuudet työllistyä vapauduttuaan. Luultavasti hän sekaantuu syvemmin ei-toivottuihin porukoihin. Ennustus siis toteuttaa itse itsensä. Yksilö kärsii, koska malli pitää häntä ulkoisesti muistuttavia ihmisiä uhkana.
O'Neil esittää matikkatuhoaseelle kolme kriteeriä:
- Läpinäkymättömyys: malli on musta laatikko eivätkä uhrit tiedä sen toiminnasta.
- Vaikuttavuus: osa uhreista kärsii suhteettomasti mallin seurauksena.
- Skaalautuvuus: malli voi laajentua alkuperäisen vaikutusalueensa ulkopuolelle.
Huono malli ei myöskään opi. Se käyttää aina samoja oletuksia, tuli niillä hyviä tuloksia tai ei. Vielä huonompi tapaus on tietenkin se, jossa malli toteuttaa itse itseään ja oppii siitä — myös tällaisesta kierteestä on esimerkkejä kirjassa. Jokainen malli kantaa rakenteessaan ja lähtödatassaan ennakkoluuloja ja virheitä. Malleja täytyy osata tulkita.
Kaikkein pahinta on, jos mallia pidetään erehtymättömänä: että luvut ja laskukaavat eivät kärsi inhimillisistä virheistä. Esimerkkinä kirjassa on opettajien arviointiin käytetty malli, joka oli käytännössä satunnaislukugeneraattori. Silti sillä tehtiin päätöksiä siitä, ketkä saivat kenkää.
IMPACT-algoritmi päätti, että hyvä opettaja on huono, koska hänen oppilaidensa arvosanat eivät ole nousseet lukuvuoden aikana. Se ei tiennyt, että edellisen vuosikurssin opettaja vääristeli arvosanoja ylöspäin, jotta saisi itse puhtaat paperit.
Ratkaisuksi algoritmien käytön villiin länteen O´Neil esittää, että asiakkaan ja yrityksen lisäksi kolmas, riippumaton osapuoli valvoisi järjestelmän laillisuutta ja oikeudenmukaisuutta. Tutkija on tarttunut itse toimeen perustamalla yrityksen, joka tekee algoritmiauditointeja ja riskikonsultointia Yhdysvalloissa.
Tulevaisuudessa O’Neil haluaisi asiakkaikseen niitä toimijoita, jotka ehdottomasti eivät halua hänen palveluitaan. Facebook olisi O’Neilin mukaan hänen unelma-asiakkaansa.
Kohti digitaalista diktatuuria?
Kirjassaan Homo Deus israelilainen historioitsija Yuval Harari ennusti, että ihmiskunta menettää valtansa tekoälylle, joka pystyy tekemään kaikki päätökset puolestamme, kirjoittaa HS.
Nyt Harari arvioi, että algoritmien nouseva valta vaikuttaa jo poliittisiin pohjavirtoihin. Tavallinen ihminen tuntee itsensä koko ajan tarpeettomammaksi, ja Hararin mukaan havainto on oikea.
Tekoäly pystyy pian suoriutumaan meitä paremmin niistäkin tehtävistä, joissa vaaditaan toisten ihmisten tunteiden ja reaktioiden ymmärtämistä ja ennakointia. Se voittaa ihmisen lääkärinä ja autonkuljettajana, valitsee sinulle sopivan puolison ja säveltää mieleistäsi musiikkia.
Tulevaisuuden eliitti rikastuu hallitsemalla tekoälyä ja datavirtoja. Se ei enää tarvitse ihmismassoja tuotannon ylläpitoon eikä oman vaurautensa rakentamiseen.
Viime vuosisadalla työntekijät nousivat joukkovoimalla taloudellista riistoa vastaan. Massat onnistuivat muuttamaan tärkeän taloudellisen roolinsa poliittiseksi vallaksi. Kun massat menettävät merkityksensä taloudessa, ne voivat menettää myös kaiken muun. Edes valtio ei välttämättä ole kiinnostunut tarpeettomien ihmisten terveydestä ja koulutuksesta.
Liberalismilla ei ole tähän uhkaan vastausta. Putoajien turvaksi on ehdotettu perustuloa. Ilman lupausta tarpeellisuudesta se ei luo uskoa äänestäjiin.
Jos halutaan estää kaiken vallan ja varallisuuden keskittyminen pienen eliitin käsiin, on alettava säännellä datan omistusta. Nyt annamme Facebookin ja Googlen kaltaisten yhtiöiden vapaasti kerätä ja myydä valtavasti tietoa itsestämme.
Datavirtojen kansallistaminen hallituksille rajoittaisi suuryritysten valtaa. Tuloksena saattaisi kuitenkin olla kammottavia digitaalisia diktatuureja, Harari varoittaa. Tekoälyn ansiosta on mahdollista käsitellä valtavia tietomääriä keskitetysti. Digitaalinen diktatuuri voisi olla pelottavan tehokas.
Yksilön järkeen ja ymmärrykseen Harari ei paljoa luota.
”Yksittäiset ihmiset tietävät nolostuttavan vähän maailmasta, ja historian kuluessa heidän tietomääränsä on koko ajan vähentynyt”, hän väittää.
Emmekä suinkaan ajattele omilla aivoillamme, vaan omaksumme näkemyksemme ryhmän mukana.
Tarvitsemme vastaisuudessa ennennäkemätöntä oppimis- ja uudistumiskykyä sekä taitoa säilyttää henkinen tasapaino jatkuvassa muutoksessa ja epävarmuudessa.
Tulevaisuuden ihminen eli nykynuori saa Hararilta pari selviytymisvinkkiä mm:
Älä luota liikaa aikuisiin. He tarkoittavat hyvää, mutta eivät pysy kärryillä siitä, mihin maailma on menossa.
Selvitä omat ennakkoasenteesi ja varmista tietolähteesi. Jos haluat luotettavaa tietoa, maksa siitä.
Tunne itsesi. Jos algoritmit tuntevat sinut paremmin, ne pystyvät helposti hallitsemaan ja manipuloimaan sinua.
#Algoritmi #BigData #Tekoäly #Tieto #Espoonlastensuojelu #MariAhlström #KimmoAlkio #matikkatuhoaseet #WeaponsofmathDestruction #CathyO´Neil #YuvalHarari
Lue myös:
http://www.lokakuunliike.com/ll-uutiset/terveystietosi-ovat-pian-myytavana
https://www.lokakuunliike.com/ll-uutiset/tarkista-omat-asiakirjasi
http://www.lokakuunliike.com/elena-maria-uusitalon-blogi/ruoka-avun-tarve-ei-oikeuta-rekisterointiin
http://www.lokakuunliike.com/ll-uutiset/sosiaalihuollon-tiedonhallinta-uudistus-rapauttaa-asiakkaiden-oikeusturvaa
http://www.lokakuunliike.com/ll-uutiset/vihapuhe-sosiaalityossa
http://www.lokakuunliike.com/ll-uutiset/tarjolla-neuvolassa-ensi-vuonna-riskiseulausta-ja-turhia-epailyja
http://www.lokakuunliike.com/myyraumln-blogi/heiliolainen-lastensuojelunakemys-lastensuojelukriisin-ja-oikeusturvaongelmien-aiheuttajana
http://www.lokakuunliike.com/ll-uutiset/posti-voitti-lastensuojelun-perhetyon-kilpailutuksen-saalistajat-haistavat-lastensuojelun-haaskan
http://www.lokakuunliike.com/ll-uutiset/suomi-100-ohjelman-kaikille-evaat-elamaan-hankkeessa-mitataan-vanhempien-kaltoinkohtelupotentiaali
http://www.lokakuunliike.com/ll-uutiset/lapsen-paras-yhdessa-enemman-huostaanottoja
http://www.lokakuunliike.com/ll-uutiset/omat-vanhemmat-eivat-saa-terveystietoja-lapsesta
https://www.lokakuunliike.com/ll-uutiset/eun-tietosuoja-asetus-tuo-uusia-oikeuksia-kansalaisille
https://www.lokakuunliike.com/ll-uutiset/tutkimustiedon-keruuta-vai-asiakassegmentointia-yritysten-tarpeisiin
http://www.lokakuunliike.com/ll-uutiset/tajua-mut-huoliliputuksen-huolestuttavia-tuloksia
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-moniammatillinen-yhteistyo-havittaa-niin-vuorovaikutuksen-kuin-vastuun
http://www.lokakuunliike.com/ll-uutiset/hiljainen-tieto-ei-kuulu-sosiaalityohon
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-sosiaalityontekijat-valtasivat-tyovoimatoimistotkin
https://www.lokakuunliike.com/ll-uutiset/urkinta-lisaantyy-lastensuojelussa
https://www.lokakuunliike.com/ll-uutiset/professori-varoittaa-potilastietojen-arkisto-kannan-riskeista
https://www.lokakuunliike.com/ll-uutiset/lastensuojelija-urkki-130-perheen-tiedot-oulussa
https://www.lokakuunliike.com/ll-uutiset/lokakuun-liikkeen-uhkakuvat-toteutuivat-sote-pisteytyksessa
https://www.lokakuunliike.com/ll-uutiset/asiakirjojen-panttaamisesta-ja-vaarentamisesta-on-tullut-viranomaisten-rutiinia
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-1-fabrikoitu-lastensuojeluilmoitus
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-2-fabrikoitu-lastensuojelulausunto
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-3-fabrikoitu-rikosilmoitus
http://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-4-fabrikoitu-asiakassuunnitelma
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-asiakirjat-osa-5-miten-tunnistaa-fabrikointi
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-valehtelun-ja-vaarentamisen-tekniikat-osa-1
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-tyomenetelmat-2-laiton-sijoitus-huostaanotto
https://www.lokakuunliike.com/ll-uutiset/talous-iii-vanhemmuudenarviointi-kasvavana-bisneksena
https://www.lokakuunliike.com/ll-uutiset/talous-ii-lastensuojelujarjestot-bisneksen-syrjassa
https://www.lokakuunliike.com/ll-uutiset/lastensuojelun-kehittamisen-ihanteet-ja-todellisuus
https://www.lokakuunliike.com/ll-uutiset/lasten-ja-perheiden-ongelmat-vahenevat-sijoitukset-lisaantyvat-ilman-tietoa-sijoitussyista
https://www.lokakuunliike.com/ll-uutiset/lokakuun-liikkeen-uhkakuvat-toteutuivat-sote-pisteytyksessa
http://www.lokakuunliike.com/ll-uutiset/espoossa-tekoaly-on-lastensuojelun-bisnesalyn-palveluksessa
http://www.lokakuunliike.com/ll-uutiset/leipa-syottina-tuleville-lypsylehmille-mista-ruoka-avun-uudistuksessa-on-kyse