Social Explainable AI<\/a> -kirja esitt\u00e4\u00e4, ett\u00e4 t\u00e4m\u00e4n hetken selitt\u00e4v\u00e4 teko\u00e4ly ei tuota sellaisia selityksi\u00e4, jotka olisivat ymm\u00e4rrett\u00e4vi\u00e4 ei-teknisille k\u00e4ytt\u00e4jille. Jotta teko\u00e4lyn selitykset olisivat ymm\u00e4rrett\u00e4vi\u00e4, ne tulisi esitt\u00e4\u00e4 sellaisella kielell\u00e4 sek\u00e4 sellaisessa muodossa, jotka ovat k\u00e4ytt\u00e4j\u00e4lle soveltuvia, samalla tavalla kuin kielimallit mukauttavat vastauksiaan k\u00e4ytt\u00e4j\u00e4n kysymysten mukaisesti. Selitt\u00e4v\u00e4n teko\u00e4lyn pit\u00e4isi pysty\u00e4 samaan, kuitenkin niin, ett\u00e4 vastaukset todella vastaavat teko\u00e4lyn p\u00e4\u00e4ttely\u00e4, mist\u00e4 ei ole varmuutta kielimallien tuottamien vastausten tapauksessa.<\/p>\nKirjan yksi kirjoittajista, Kary Fr\u00e4mling, toimii tutkimusjohtajana LOUHElla sek\u00e4 professorina Aalto-yliopistossa ja Uumajan yliopistossa. Kirjan kirjoittaminen alkoi Japanissa j\u00e4rjestetyn seminaarin j\u00e4lkeen, jonka j\u00e4rjesti Kary sek\u00e4 professorit Katharina Rohlfing ja Brian Lim. Seminaariin kutsuttiin monen alan asiantuntijoita, eli selitt\u00e4v\u00e4n teko\u00e4lyn osaajien lis\u00e4ksi muun muassa filosofeja, yhteiskuntatieteilij\u00f6it\u00e4, psykologeja sek\u00e4 robotiikan asiantuntijoita. Ajatuksena oli hy\u00f6dynt\u00e4\u00e4 jo olemassa olevaa tietoa ja kokemuksia siit\u00e4, mik\u00e4 on hyv\u00e4 selitys nimenomaan loppuk\u00e4ytt\u00e4j\u00e4n kannalta.<\/p>\n
T\u00e4m\u00e4nhetkiset selitt\u00e4v\u00e4n teko\u00e4lyn menetelm\u00e4t ja tutkijat eiv\u00e4t n\u00e4yt\u00e4 juurikaan v\u00e4litt\u00e4v\u00e4n loppuk\u00e4ytt\u00e4j\u00e4st\u00e4, mik\u00e4 n\u00e4kyy my\u00f6s t\u00e4m\u00e4n hetkisten johtavien selitt\u00e4v\u00e4n teko\u00e4lyn menetelmien puutteellisissa kyvykkyyksiss\u00e4 tuottaa loppuk\u00e4ytt\u00e4jille ymm\u00e4rrett\u00e4vi\u00e4 selityksi\u00e4. T\u00e4m\u00e4 on vastoin EU:n periaatteita koskien teko\u00e4lyn l\u00e4pin\u00e4kyvyytt\u00e4 ja avoimuutta, joita on mahdotonta saavuttaa nykymenetelmien avulla.<\/p>\n
K\u00e4ytt\u00e4j\u00e4l\u00e4ht\u00f6inen selitett\u00e4vyys tekee teko\u00e4lyst\u00e4 ymm\u00e4rrett\u00e4v\u00e4mp\u00e4\u00e4<\/h2>\n
Selitt\u00e4v\u00e4\u00e4 teko\u00e4ly\u00e4 on kehitetty pitk\u00e4lti teknisest\u00e4 n\u00e4k\u00f6kulmasta: miten algoritmit toimivat, miten mallit tekev\u00e4t p\u00e4\u00e4t\u00f6ksi\u00e4 ja mill\u00e4 tavoin niiden lopputuloksia voidaan avata. Kuten Social Explainable AI tuo esiin, monissa l\u00e4hestymistavoissa k\u00e4ytt\u00e4j\u00e4n n\u00e4k\u00f6kulma ja selitysten k\u00e4yt\u00e4nn\u00f6n hy\u00f6dyllisyys j\u00e4\u00e4v\u00e4t kuitenkin v\u00e4h\u00e4lle huomiolle. T\u00e4ll\u00f6in selitykset voivat olla teknisesti oikeita, mutta vaikeasti ymm\u00e4rrett\u00e4vi\u00e4 tai irrallisia k\u00e4ytt\u00e4j\u00e4n todellisesta tarpeesta.<\/p>\n
Juuri t\u00e4h\u00e4n haasteeseen kirja tuo uuden n\u00e4k\u00f6kulman. Selitett\u00e4vyys ei synny pelk\u00e4st\u00e4\u00e4n algoritmista, vaan siit\u00e4, miten selitys kohtaa k\u00e4ytt\u00e4j\u00e4n: h\u00e4nen roolinsa, tavoitteensa ja tilanteensa. Jos t\u00e4m\u00e4 n\u00e4k\u00f6kulma puuttuu, selitys j\u00e4\u00e4 helposti irralliseksi tiedoksi. Kun k\u00e4ytt\u00e4j\u00e4 huomioidaan, selitett\u00e4vyys muuttuu k\u00e4yt\u00e4nn\u00f6ss\u00e4 toimivaksi ty\u00f6kaluksi, joka tukee p\u00e4\u00e4t\u00f6ksentekoa ja auttaa viem\u00e4\u00e4n teko\u00e4lyn tuottaman tiedon k\u00e4yt\u00e4nt\u00f6\u00f6n.<\/p>\n
Selitett\u00e4vyys ei ole ominaisuus, vaan vuorovaikutus<\/h2>\n
Social Explainable AI nostaa esiin, ett\u00e4 selitett\u00e4vyys ei ole vain teko\u00e4lyn tekninen ominaisuus, joka voidaan lis\u00e4t\u00e4 malliin j\u00e4lkik\u00e4teen. Sen sijaan selitt\u00e4minen n\u00e4hd\u00e4\u00e4n sosiaalisena k\u00e4yt\u00e4nt\u00f6n\u00e4, jossa merkitys syntyy ihmisen ja teko\u00e4lyn vuorovaikutuksessa. Kirjassa t\u00e4t\u00e4 kuvataan tilanteena, jossa selitykset rakentuvat k\u00e4ytt\u00e4j\u00e4n ja j\u00e4rjestelm\u00e4n vuorovaikutuksessa sek\u00e4 kontekstin mukana muotoutuen. T\u00e4m\u00e4 tarkoittaa k\u00e4yt\u00e4nn\u00f6ss\u00e4 sit\u00e4, ett\u00e4 teko\u00e4ly ei vain tuota valmista selityst\u00e4, vaan voi mukauttaa selityst\u00e4 k\u00e4ytt\u00e4j\u00e4n tarpeet ja tilanne huomioiden. Selitys ei siis ole staattinen vastaus, vaan prosessi, joka kehittyy k\u00e4yt\u00f6n aikana.<\/p>\n
T\u00e4m\u00e4 n\u00e4k\u00f6kulma muuttaa k\u00e4ytt\u00e4j\u00e4n roolia: h\u00e4n ei ole pelkk\u00e4 selityksen vastaanottaja, vaan aktiivinen osapuoli, joka osallistuu ymm\u00e4rryksen rakentamiseen. Selitt\u00e4vyydess\u00e4 korostuvat my\u00f6s k\u00e4ytt\u00e4j\u00e4n osallistuminen selitysten muodostamiseen sek\u00e4 vuorovaikutuksen merkitys selityksen relevanssille. Kun selitett\u00e4vyys n\u00e4hd\u00e4\u00e4n vuorovaikutuksena, sen tavoitteena ei ole vain avata teko\u00e4lymallin toimintaa, vaan varmistaa, ett\u00e4 selitys on aidosti relevantti ja hy\u00f6dyllinen juuri kyseisess\u00e4 tilanteessa.<\/p>\n
Kolme n\u00e4k\u00f6kulmaa, jotka muuttavat ajattelua<\/h2>\n
Kirjassa Social Explainable AI selitett\u00e4vyytt\u00e4 l\u00e4hestyt\u00e4\u00e4n kolmen keskeisen n\u00e4k\u00f6kulman kautta. Ensinn\u00e4kin se korostaa kontekstin merkityst\u00e4: eri tilanteet ja sosiaaliset roolit vaikuttavat siihen, millaisia selityksi\u00e4 tarvitaan. Toiseksi selitys ei ole kertaluonteinen, vaan sit\u00e4 kuvataan asteittaisena prosessina, jossa selitykset muotoutuvat vuorovaikutuksessa k\u00e4ytt\u00e4j\u00e4n kanssa. Kolmanneksi selitt\u00e4minen ei rajoitu pelkk\u00e4\u00e4n tekstiin, vaan voi hy\u00f6dynt\u00e4\u00e4 erilaisia esitystapoja, kuten visuaalisia, kielellisi\u00e4 tai muita viestinn\u00e4n muotoja. Yhdess\u00e4 n\u00e4m\u00e4 n\u00e4k\u00f6kulmat korostavat selitett\u00e4vyyden kontekstisidonnaisuutta, vuorovaikutteisuutta ja monimuotoisuutta.<\/p>\n
Selitett\u00e4vyydest\u00e4 kilpailueduksi<\/h2>\n
Teko\u00e4lyn arvo ei synny pelk\u00e4st\u00e4\u00e4n sen kyvyst\u00e4 analysoida dataa, vaan siit\u00e4, miten hyvin sen tuottama tieto voidaan ymm\u00e4rt\u00e4\u00e4 ja vied\u00e4 k\u00e4yt\u00e4nt\u00f6\u00f6n. Kun selitett\u00e4vyys ymm\u00e4rret\u00e4\u00e4n vuorovaikutuksena pelk\u00e4n teknisen ominaisuuden sijaan, se tukee p\u00e4\u00e4t\u00f6ksentekoa, tehostaa toimintaa sek\u00e4 lis\u00e4\u00e4 l\u00e4pin\u00e4kyvyytt\u00e4. Samalla selitett\u00e4vyys nousee yh\u00e4 t\u00e4rke\u00e4mm\u00e4ksi tekij\u00e4ksi teko\u00e4lyratkaisujen k\u00e4ytett\u00e4vyydess\u00e4 ja hy\u00f6dynnett\u00e4vyydess\u00e4.<\/p>\n
T\u00e4m\u00e4 ajattelutapa n\u00e4kyy my\u00f6s k\u00e4yt\u00e4nn\u00f6n ratkaisuissa, kuten LOUHElla, jossa teko\u00e4ly\u00e4 hy\u00f6dynnet\u00e4\u00e4n fyysisen turvallisuuden ja riskienhallinnan tukena. Pelkk\u00e4 havainto ei riit\u00e4, vaan j\u00e4rjestelm\u00e4n on pystytt\u00e4v\u00e4 my\u00f6s avaamaan, miksi poikkeama on tunnistettu ja mihin se perustuu. Kun havainnot ovat ymm\u00e4rrett\u00e4vi\u00e4, niist\u00e4 voidaan siirty\u00e4 nopeammin perusteltuihin p\u00e4\u00e4t\u00f6ksiin ja konkreettisiin toimenpiteisiin. LOUHE hy\u00f6dynt\u00e4\u00e4 selitt\u00e4v\u00e4n teko\u00e4lyn menetelm\u00e4\u00e4 Contextual Importance and Utility (CIU), jonka Kary Fr\u00e4mling kehitti alun perin v\u00e4it\u00f6skirjassaan. Kirjassa n\u00e4ytet\u00e4\u00e4n my\u00f6s, miten ja miksi nimenomaan CIU mahdollistaa \u201csosiaalisen selitt\u00e4vyyden\u201d ja miksi muut t\u00e4m\u00e4n hetken selitt\u00e4v\u00e4n teko\u00e4lyn menetelm\u00e4t eiv\u00e4t pysty siihen.<\/p>\n
Juuri LOUHEn kaltaisissa j\u00e4rjestelmiss\u00e4 selitett\u00e4v\u00e4 teko\u00e4ly tuo selitett\u00e4vyyden l\u00e4hemm\u00e4s k\u00e4yt\u00e4nn\u00f6n soveltamista: se ei ainoastaan tue analyysi\u00e4, vaan mahdollistaa toiminnan.<\/p>\n","protected":false},"excerpt":{"rendered":"
Teko\u00e4ly on yh\u00e4 useammin mukana p\u00e4\u00e4t\u00f6ksenteossa eri aloilla turvallisuudesta liike- ja operatiiviseen toimintaan. Samalla teko\u00e4lyj\u00e4rjestelm\u00e4t ovat kehittyneet nopeasti yh\u00e4 monimutkaisemmiksi, ja niiden tuottamien suositusten taustalla oleva logiikka ei ole helposti ymm\u00e4rrett\u00e4viss\u00e4. T\u00e4m\u00e4 luo uudenlaisen haasteen: vaikka teko\u00e4ly pystyy tunnistamaan ilmi\u00f6it\u00e4 ja tekem\u00e4\u00e4n tarkkoja ennusteita, k\u00e4ytt\u00e4jien on yh\u00e4 vaikeampi ymm\u00e4rt\u00e4\u00e4, mihin n\u00e4m\u00e4 johtop\u00e4\u00e4t\u00f6kset oikeasti perustuvat. T\u00e4m\u00e4 […]<\/p>\n","protected":false},"author":10,"featured_media":2470,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"footnotes":""},"categories":[31],"tags":[],"class_list":["post-2477","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-artikkelit"],"acf":[],"_links":{"self":[{"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/posts\/2477","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/comments?post=2477"}],"version-history":[{"count":1,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/posts\/2477\/revisions"}],"predecessor-version":[{"id":2478,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/posts\/2477\/revisions\/2478"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/media\/2470"}],"wp:attachment":[{"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/media?parent=2477"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/categories?post=2477"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/louhe.com\/fi\/wp-json\/wp\/v2\/tags?post=2477"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}