Mustan laatikon ongelma ja oikeus selityksen saamiseen

Syväoppimiseen perustuva tiedonkäsittely on liian monimutkaista ihmisymmärrykselle. Algoritmi tuottaa tietyn vastauksen, mutta ei kerro (ihmisille ymmärrettävällä tavalla) miksi, millä logiikalla tai millä mekanismilla se on tuotettu. ”Kurkistaminen konepellin alle” paljastaa jotain liian monimutkaista tai epäinformatiivista, myös parhaille asiantuntijoille. Syntyy ”mustan laatikon” ongelma.
Tässä tekstissä tarkastelen miksi ihmisillä on oikeus saada selitys itseään koskevista päätöksistä? Onko vaatimus ristiriidassa joidenkin muiden eettisten näkökohtien, kuten (toisten ihmisten) yksityisyyden suojan kanssa? Mahdollistaako läpinäkyvyys ikävällä tavalla väärinkäytöksiä, kuten järjestelmän vedättämisen?
Lisäksi ehdotan, että oikeus selityksen saamiseen vaatii rinnalleen oikeuden oikeutuksen saamiseen, jota poliittisessa filosofiassa on tehnyt tunnetuksi erityisesti Rainer Forst. Oikeutus kertoo miksi tehty päätös tai ratkaisu on oikea. Joillekin ratkaisuille tai päätöksille ei ole oikeutusta, vaan ne ovat väärin, epäreiluja tai niitä ei muista syistä olisi pitänyt tehdä – niidenkin päätöksien tekemiselle on kuitenkin olemassa selitys. Selitys ja oikeutus ovat siis eri asioita: selitys kertoo miksi jotain saatiin aikaan, oikeutus kertoo miksi se oli hyvä tai oikein saada aikaan.