Tekoälyä eettisesti, kiitos!

Tekoäly on hyvä renki, mutta huono isäntä, toteaa Ketamo (2020). Tuore esimerkki sen osoittaa.

Tekoäly on ihmisen suunnittelemia, oppivia ja auttavia laitteita ja ohjelmia (Tuominen & Neittaanmäki, 2019, 1). Ajattelu, suunnittelu, eettinen pohdinta ja kontrollointi ovat ihmisen tehtäviä. Tekoäly ei pohdi tietosuojaa, etiikkaa eikä reflektoi, vaikka oppii toiminnastaan. Se on riippuvainen datasta ja sen laadusta (mt., 2019).

Koronan vuoksi peruutettiin Internationale Baccalaureate -lukioiden ylioppilaskokeet. Arvosanat laski kone, ihmiset määrittivät algoritmin sisältäen lopputöiden tulokset, opiskelijan aiemman koulumenestyksen ja koulun ennustehistorian. Oppilaitoksissa annetut ennakkoarvosanat romahtivat osalla kaikissa tai osassa aineita. Yleisesti tulokset laskivat. Selitystä ei löytynyt (Aholainen, 2020).

Tulokset tarkoittivat mm. opiskelupaikan menetyksiä, toisen pääsykoevaiheen peruuntumisia. Valitustulva käynnistyi tietosuojavaltuutettuja myöten. Opiskelijan parhaaksi tarkoitetusta ratkaisusta syntyi ikävä sotku, mutta hyvä esimerkki.

Mitä opittavaa?

1. Läpinäkyvyyden puuttuminen. Tietosuojavaltuutetut syyttivät IB-organisaatiota (IBO) tekoälyn käyttämisestä päätöksenteossa (Aholainen 2020). Sen IBO kieltää (IBO, 2020). Tulokset perustuivat kuitenkin koneen tekemiin päätöksiin. Kone ei saa tehdä päätöksiä ihmisiä koskevissa asioissa (EU:n yleinen tietosuoja-asetus, 2016/679/EU). Opiskelijalla on oikeus tietää, mitä ja miten dataa hänestä käytetään, se pitää osoittaa (Tietosuoja-asetus, artikla 5.). IBO avaa arviointiperusteitaan, mutta se ei selitä tuloksia (IBO, 2020). Suomessa arvioinnista ja sen soveltamisesta opiskelijalla on oikeus saada tietoa (esim. Ammattikorkeakoululaki 14.11.2014/923 luku 6 § 37).

2. Arviointialgoritmin eettisyys. Koulut saivat ennusteet historioidensa perusteella. Onko eettistä määritellä opiskelijan arvosana koulun historian perusteella? Paljastuiko IBO:n asenteet vai ”vinoutettu” data-analyysi?

3. Ennustehistoria arviointiperusteena. Miten koulun ennustehistoria ja yhdenvertaisuuden vaade kohtaavat? Koulutuksenjärjestäjän velvollisuus on myös edistää yhdenvertaisuutta (Yhdenvertaisuuslaki, luku 2 § 6).

4. Tietosuojan vaikutusten arviointi. Miten koneen tekemien arviointipäätösten vaikutuksia testattiin ja riskejä arvioitiin (tietosuoja-asetus, artikla 35.)?

5. Datan käyttö uudessa käyttötarkoituksessa. Lupaa ei pyydetty. Datan uusissa tarkoituksissa on pyydettävä lupa opiskelijoilta (tietosuoja-asetus, artikla 5.).

6. Ohjauksen eettisten periaatteiden toteutuminen? Opiskelupaikkansa ja suunnitelmansa menetyksen lisäksi nuorten kohtelu aiheutti luottamussärön järjestelmään ja tulevaisuuteen, vaikka IBO korjasi arvosanat ja korkeakoulut ottivat korjatut arvosanat huomioon (Aholainen, 2020; Unifi 2020).

Tapaus sisältää keskeisiä, eettistä tekoälyä kehittävien ydinkysymyksiä, jotka ovat läsnä päivittäin. Samalla kun kehitetään rohkeasti ja ennakkoluulottomasti uusia opiskelijalähtöisiä ratkaisuja, on turvattava ja varmistettava opiskelijan oikeuksia, yhdenvertaisuutta ja tietosuojaa eettisin, kestävin perustein! Tekoäly on siis uhka ja mahdollisuus. Näin myös meillä.

Lähteet

Aholainen, S. 17.8.2020. Laajaa kritiikkiä arvosanoja määrittäneestä algoritmista saanut IB-kattojärjestö laski opiskelijoiden loppuarvosanat uudelleen – Koulut ja opiskelijat toivovat korkeakoulujen vielä ottavan uudet tulokset huomioon. Helsingin Sanomat. https://www.hs.fi/kotimaa/art-2000006586116.html

Euroopan unionin Yleinen tietosuoja-asetus https://eur-lex.europa.eu/legal-content/FI/TXT/HTML/?uri=CELEX:32016R0679

Härkönen, A. 3.8.2020. Kun IB-lukiolaisten loppukokeet koronan vuoksi peruttiin, päättöarvosanat määräsikin algoritmi – Nyt selitystä tekoälyn sanelemiin arvosanoihin vaativat niin opiskelijat, koulut kuin tietosuojaviranomaisetkin. Aamulehti. https://www.aamulehti.fi/a/b8d4ebbe-4190-4873-825a-64956a01b7d7. Luettu 3.8.2020

IB-organization. 2020. IB update on May 2020 Diploma Programme and Career-related Programme results. Luettavissa: https://ibo.org/news/news-about-the-ib/update-m20-dp-cp-results/. Luettu 14.8.2020

Ketamo, H. 5.9.2020.Tekoäly ja data opetuksessa. Podcast. Kuunneltavissa: https://www.youtube.com/watch?v=Xmdaqpo3Iw4&t=4726s

Unifi. 17.8.2020. Yliopistot ottavat tarkistetut IB-arvosanat huomioon opiskelijavalinnoissaan – ”Pidimme tärkeänä, että asia ratkaistaan hakijoiden kannalta parhain päin” Luettavissa: https://www.unifi.fi/uutiset/yliopistot-ottavat-tarkistetut-ib-arvosanat-huomioon-opiskelijavalinnoissaan/. Luettu 17.8.2020

Uraohjaajat ja -valmentajat. Uraohjauksen eettiset periaatteet. Luettavissa: https://uraohjaajat.fi/yhdistys/eettiset-periaatteet/. Luettu 15.8.2020

Yleinen tietosuoja-asetus (GDPR). https://europa.eu/youreurope/business/dealing-with-customers/data-protection/data-protection-gdpr/index_fi.htm