Mustan laatikon ongelma ja oikeus selityksen saamiseen

Research output: Chapter in Book/Report/Conference proceedingChapterScientificpeer-review

Abstract

Syväoppimiseen perustuva tiedonkäsittely on liian monimutkaista ihmisymmärrykselle. Algoritmi tuottaa tietyn vastauksen, mutta ei kerro (ihmisille ymmärrettävällä tavalla) miksi, millä logiikalla tai millä mekanismilla se on tuotettu. ”Kurkistaminen konepellin alle” paljastaa jotain liian monimutkaista tai epäinformatiivista, myös parhaille asiantuntijoille. Syntyy ”mustan laatikon” ongelma.
Tässä tekstissä tarkastelen miksi ihmisillä on oikeus saada selitys itseään koskevista päätöksistä? Onko vaatimus ristiriidassa joidenkin muiden eettisten näkökohtien, kuten (toisten ihmisten) yksityisyyden suojan kanssa? Mahdollistaako läpinäkyvyys ikävällä tavalla väärinkäytöksiä, kuten järjestelmän vedättämisen?
Lisäksi ehdotan, että oikeus selityksen saamiseen vaatii rinnalleen oikeuden oikeutuksen saamiseen, jota poliittisessa filosofiassa on tehnyt tunnetuksi erityisesti Rainer Forst. Oikeutus kertoo miksi tehty päätös tai ratkaisu on oikea. Joillekin ratkaisuille tai päätöksille ei ole oikeutusta, vaan ne ovat väärin, epäreiluja tai niitä ei muista syistä olisi pitänyt tehdä – niidenkin päätöksien tekemiselle on kuitenkin olemassa selitys. Selitys ja oikeutus ovat siis eri asioita: selitys kertoo miksi jotain saatiin aikaan, oikeutus kertoo miksi se oli hyvä tai oikein saada aikaan.
Original languageFinnish
Title of host publicationTekoäly, ihminen ja yhteiskunta
Subtitle of host publicationFilosofisia näkökulmia
EditorsPanu Raatikainen
Place of PublicationHelsinki
Pages181-195
Publication statusPublished - 2021
Publication typeA3 Book chapter

Keywords

  • tekoäly
  • roboetiikka
  • ruumiillisuus
  • aktantti
  • robotiikan filosofia
  • teknologiateollisuus
  • prototyyppi
  • media
  • performanssi

Publication forum classification

  • Publication forum level 2

Cite this