Tekoälylukutaito on eri asia kuin tekoälylukutaito

SeOppi 1/2025
Teksti: Tarmo Toikkanen, puheenjohtaja, eOppimisen neuvottelukunta | johtava asiantuntija, Data ja tekoäly -ohjelma, Sitra

---

– Mitenkäs se tekoälylukutaito? Kai teilläkin on opettajat ottaneet sen haltuun? – Ai mikä? Riittäisikö digilukutaito? Tai datalukutaito? Tai monilukutaito? Mediakriittisyys? Maalaisjärki? … Eikö riitä? Ja valmista piti olla viime helmikuussa?

Tekoälylukutaito voi tarkoittaa sitä osaamista, jota haluamme oppilaitoksessa oppijoille antaa. Se on varsin laaja kokonaisuus ja sen voi ajatella laajennuksena tai lisäosana perusasteen monilukutaitoon tai muihin vastaaviin digiajan lukemisen, ymmärryksen tai mediataitojen käsitteisiin.

Toisaalta, tekoälyasetus edellytti jo 2.2.2025 alkaen yrityksissä tekoälylukutaitoa. Vaikka sana on sama, se tarkoittaa paljon suppeampaa ja tilannekohtaista osaamista.

Tiivistettynä tekoälyasetus edellyttää, että yritysten työntekijät osaavat käyttää heille annettuja tekoälytyökaluja ammattimaisesti.

Yksinkertaisissa chatboteissa osaamisen haaliminen on melko helppoa, mutta kuvitellaanpa tilanne, jossa työntekijä valvoo tekoälyä, joka ohjaa kaikkia Suomen raiteilla kulkevia junia. Nyt kyseessä on suuririskinen järjestelmä ja tämä valvonta vaatii aikamoista asiantuntemusta. Tällaisen järjestelmän toimittaja on laatinut tekoälyasetuksen vaatiman yksityiskohtaisen käyttöohjeen, jota valvovan henkilön on seurattava pilkulleen. Hänen on kirjaimellisesti tiedettävä, missä on hätäjarru, jotta tekoälyn virhe ei aiheuta onnettomuutta.

Kolme väärinymmärrystä tekoälyasetuksesta

Tekoälyasetuksesta (AI Act, AIA) liikkuu paljon vääriä käsityksiä, jotka ovat aiheuttaneet jopa tekoälyvälineiden täysiä käyttökieltoja joissain kunnissa. Sitran tuottama Datatalouden ABC -kurssisarjan kolmas osa kertoo, mitä tekoälyasetus konkreettisesti tarkoittaa. Kurssi on maksuton, saatavilla kahdella kielellä ja sen käsikirjoitus on lisensoitu CC BY-SA 4.0 -lisenssillä jatkokäyttöä varten.

Puran tässä kolme yleisintä väärinymmärrystä, joita tulee vastaan liiankin säännöllisesti. Kirjoitan otsikot asian oikean laidan muodossa enkä väärinymmärryksen muodossa, koska osa lukijoista kuitenkin vilkuilee vain otsikot.

Vain hyvin pieni osa tekoälyjärjestelmistä on suuririskisiä

Kun AIA:n velvoitteista puhutaan, monesti jää sellainen tuntuma, että nyt EU:ssa on sitten tosi hankalaa käyttää tekoälyä. Tämä on väärinymmärrys. Ainoastaan suuririskisiä tekoälyjärjestelmiä säännellään, ja niitä on häviävän pieni osa kaikista tekoälyn käyttökohteista.

Tekoäly on suuririskinen, jos
a) se liittyy tuoteturvallisuuden alaiseen laitteeseen kuten autoon, hissiin, leluun tms. tai
b) voi aiheuttaa merkittävän riskin ihmisten terveydelle, hyvinvoinnille tai perusoikeuksille.

Autoa ajava tekoäly on selvästi suuririskinen. Samoin tekoäly, joka tekee automaattisesti vaikkapa päätöksiä terveyspalveluihin pääsystä. Valtaosa tekoälyn käyttökohteista on kuitenkin tämän sääntelyn ulkopuolella. Tällöin tekoälyasetus ei aseta juuri mitään velvoitteita. Lähinnä on hyvä varmistaa, että tekoälyn kohde ymmärtää olevansa tekoälyn kanssa tekemisissä.

Suuririskinen tekoäly ei ole kiellettyä

Vaikka jokin tekoäly olisikin suuririskistä, se ei ole kiellettyä. Se vain pitää tehdä perusteellisesti dokumentoiden ja riskit minimoiden ja sitä tulee käyttää huolellisesti, riskit minimoiden.

Riski sanana on kuitenkin juristeille usein punainen vaate. On siis aivan mahdollista, että organisaation lakiosasto kieltää jonkin tekoälyjärjestelmän hankinnan, koska “se on suuririskinen emmekä hyväksy riskejä”. Tässä pitää sitten olla napakasti argumentoimassa, että suuri riski tarkoittaa vain huolellista käyttöönottoa, joka minimoi riskit.

Tekoäly koulutuksessa ei ole useinkaan suuririskistä

Moni on törmännyt ns. Liite III:n luetteloon, jossa kerrotaan tilanteet, jotka voivat aiheuttaa aiemmin mainitun b-kohdan mukaisen merkittävän riskin. Siinä luettelossa mainitaan suuririskisiksi seuraavat käyttötapaukset: opiskelijoiden valinta oppilaitoksiin, oppimistulosten arviointi, tulevien oppimispolkujen arviointi, opiskelijoiden tarkkailu ja vilpin havaitseminen.

Moni on lukenut vain tuon luettelon ja uskoo, että kaikki tällainen tekoäly on automaattisesti suuririskistä, eli todella raskasta kehittää ja käyttää. Tämä on väärinymmärrys, joka voi valitettavan usein estää järkevää tuotekehitystä tai tekoälyratkaisujen hankkimista oppilaitoksiin.

Mikä jää huomaamatta on se, että mikäli tekoälyn toimivaltuutta rajataan riittävästi, kyse ei enää ole suuresta riskistä ihmisten oikeudelle opiskella. Lienee selvää, että jos tekoäly arvioi oppijoiden suorituksia ja syöttää arvosanat suoraan Koski-järjestelmään, on tällaisen tekoälyn väärin toimiminen melkoinen riski ihmisten oikeuksille. Mutta jos tekoäly tuottaa arvosanaehdotukset, jotka sitten ammattilainen (eli tekoälylukutaidolla varustettu kyseisen oppiaineen opettaja) käy läpi, korjaa ja hyväksyy, on riski hävinnyt.

Tekoälyä saa siis hankkia ilman raskasta sääntelyä arviointiin, oppilaanohjaukseen, oppilasvalintaan ja muuhun, kunhan sen toiminta rajoitetaan tukiälynä toimimiseen tai avustaviin tehtäviin eikä sen anneta tehdä päätöksiä.

PS. Tämä kolumni on 100 % luomua.

» Datatalouden ABC, Reilun tekoälyn säännöt: www.sitra.fi/hankkeet/datatalouden-abc/