Tekoäly on yhä useammin mukana päätöksenteossa eri aloilla turvallisuudesta liike- ja operatiiviseen toimintaan. Samalla tekoälyjärjestelmät ovat kehittyneet nopeasti yhä monimutkaisemmiksi, ja niiden tuottamien suositusten taustalla oleva logiikka ei ole helposti ymmärrettävissä. Tämä luo uudenlaisen haasteen: vaikka tekoäly pystyy tunnistamaan ilmiöitä ja tekemään tarkkoja ennusteita, käyttäjien on yhä vaikeampi ymmärtää, mihin nämä johtopäätökset oikeasti perustuvat.
Tämä herättää kysymyksen siitä, voiko tekoälyn tekemiin päätöksiin todella luottaa? Selittävä tekoäly vastaa osaltaan tähän haasteeseen, mutta tuore Social Explainable AI -kirja esittää, että tämän hetken selittävä tekoäly ei tuota sellaisia selityksiä, jotka olisivat ymmärrettäviä ei-teknisille käyttäjille. Jotta tekoälyn selitykset olisivat ymmärrettäviä, ne tulisi esittää sellaisella kielellä sekä sellaisessa muodossa, jotka ovat käyttäjälle soveltuvia, samalla tavalla kuin kielimallit mukauttavat vastauksiaan käyttäjän kysymysten mukaisesti. Selittävän tekoälyn pitäisi pystyä samaan, kuitenkin niin, että vastaukset todella vastaavat tekoälyn päättelyä, mistä ei ole varmuutta kielimallien tuottamien vastausten tapauksessa.
Kirjan yksi kirjoittajista, Kary Främling, toimii tutkimusjohtajana LOUHElla sekä professorina Aalto-yliopistossa ja Uumajan yliopistossa. Kirjan kirjoittaminen alkoi Japanissa järjestetyn seminaarin jälkeen, jonka järjesti Kary sekä professorit Katharina Rohlfing ja Brian Lim. Seminaariin kutsuttiin monen alan asiantuntijoita, eli selittävän tekoälyn osaajien lisäksi muun muassa filosofeja, yhteiskuntatieteilijöitä, psykologeja sekä robotiikan asiantuntijoita. Ajatuksena oli hyödyntää jo olemassa olevaa tietoa ja kokemuksia siitä, mikä on hyvä selitys nimenomaan loppukäyttäjän kannalta.
Tämänhetkiset selittävän tekoälyn menetelmät ja tutkijat eivät näytä juurikaan välittävän loppukäyttäjästä, mikä näkyy myös tämän hetkisten johtavien selittävän tekoälyn menetelmien puutteellisissa kyvykkyyksissä tuottaa loppukäyttäjille ymmärrettäviä selityksiä. Tämä on vastoin EU:n periaatteita koskien tekoälyn läpinäkyvyyttä ja avoimuutta, joita on mahdotonta saavuttaa nykymenetelmien avulla.
Käyttäjälähtöinen selitettävyys tekee tekoälystä ymmärrettävämpää
Selittävää tekoälyä on kehitetty pitkälti teknisestä näkökulmasta: miten algoritmit toimivat, miten mallit tekevät päätöksiä ja millä tavoin niiden lopputuloksia voidaan avata. Kuten Social Explainable AI tuo esiin, monissa lähestymistavoissa käyttäjän näkökulma ja selitysten käytännön hyödyllisyys jäävät kuitenkin vähälle huomiolle. Tällöin selitykset voivat olla teknisesti oikeita, mutta vaikeasti ymmärrettäviä tai irrallisia käyttäjän todellisesta tarpeesta.
Juuri tähän haasteeseen kirja tuo uuden näkökulman. Selitettävyys ei synny pelkästään algoritmista, vaan siitä, miten selitys kohtaa käyttäjän: hänen roolinsa, tavoitteensa ja tilanteensa. Jos tämä näkökulma puuttuu, selitys jää helposti irralliseksi tiedoksi. Kun käyttäjä huomioidaan, selitettävyys muuttuu käytännössä toimivaksi työkaluksi, joka tukee päätöksentekoa ja auttaa viemään tekoälyn tuottaman tiedon käytäntöön.
Selitettävyys ei ole ominaisuus, vaan vuorovaikutus
Social Explainable AI nostaa esiin, että selitettävyys ei ole vain tekoälyn tekninen ominaisuus, joka voidaan lisätä malliin jälkikäteen. Sen sijaan selittäminen nähdään sosiaalisena käytäntönä, jossa merkitys syntyy ihmisen ja tekoälyn vuorovaikutuksessa. Kirjassa tätä kuvataan tilanteena, jossa selitykset rakentuvat käyttäjän ja järjestelmän vuorovaikutuksessa sekä kontekstin mukana muotoutuen. Tämä tarkoittaa käytännössä sitä, että tekoäly ei vain tuota valmista selitystä, vaan voi mukauttaa selitystä käyttäjän tarpeet ja tilanne huomioiden. Selitys ei siis ole staattinen vastaus, vaan prosessi, joka kehittyy käytön aikana.
Tämä näkökulma muuttaa käyttäjän roolia: hän ei ole pelkkä selityksen vastaanottaja, vaan aktiivinen osapuoli, joka osallistuu ymmärryksen rakentamiseen. Selittävyydessä korostuvat myös käyttäjän osallistuminen selitysten muodostamiseen sekä vuorovaikutuksen merkitys selityksen relevanssille. Kun selitettävyys nähdään vuorovaikutuksena, sen tavoitteena ei ole vain avata tekoälymallin toimintaa, vaan varmistaa, että selitys on aidosti relevantti ja hyödyllinen juuri kyseisessä tilanteessa.
Kolme näkökulmaa, jotka muuttavat ajattelua
Kirjassa Social Explainable AI selitettävyyttä lähestytään kolmen keskeisen näkökulman kautta. Ensinnäkin se korostaa kontekstin merkitystä: eri tilanteet ja sosiaaliset roolit vaikuttavat siihen, millaisia selityksiä tarvitaan. Toiseksi selitys ei ole kertaluonteinen, vaan sitä kuvataan asteittaisena prosessina, jossa selitykset muotoutuvat vuorovaikutuksessa käyttäjän kanssa. Kolmanneksi selittäminen ei rajoitu pelkkään tekstiin, vaan voi hyödyntää erilaisia esitystapoja, kuten visuaalisia, kielellisiä tai muita viestinnän muotoja. Yhdessä nämä näkökulmat korostavat selitettävyyden kontekstisidonnaisuutta, vuorovaikutteisuutta ja monimuotoisuutta.
Selitettävyydestä kilpailueduksi
Tekoälyn arvo ei synny pelkästään sen kyvystä analysoida dataa, vaan siitä, miten hyvin sen tuottama tieto voidaan ymmärtää ja viedä käytäntöön. Kun selitettävyys ymmärretään vuorovaikutuksena pelkän teknisen ominaisuuden sijaan, se tukee päätöksentekoa, tehostaa toimintaa sekä lisää läpinäkyvyyttä. Samalla selitettävyys nousee yhä tärkeämmäksi tekijäksi tekoälyratkaisujen käytettävyydessä ja hyödynnettävyydessä.
Tämä ajattelutapa näkyy myös käytännön ratkaisuissa, kuten LOUHElla, jossa tekoälyä hyödynnetään fyysisen turvallisuuden ja riskienhallinnan tukena. Pelkkä havainto ei riitä, vaan järjestelmän on pystyttävä myös avaamaan, miksi poikkeama on tunnistettu ja mihin se perustuu. Kun havainnot ovat ymmärrettäviä, niistä voidaan siirtyä nopeammin perusteltuihin päätöksiin ja konkreettisiin toimenpiteisiin. LOUHE hyödyntää selittävän tekoälyn menetelmää Contextual Importance and Utility (CIU), jonka Kary Främling kehitti alun perin väitöskirjassaan. Kirjassa näytetään myös, miten ja miksi nimenomaan CIU mahdollistaa “sosiaalisen selittävyyden” ja miksi muut tämän hetken selittävän tekoälyn menetelmät eivät pysty siihen.
Juuri LOUHEn kaltaisissa järjestelmissä selitettävä tekoäly tuo selitettävyyden lähemmäs käytännön soveltamista: se ei ainoastaan tue analyysiä, vaan mahdollistaa toiminnan.
