5.5. Eettiset periaatteet ja algoritmirekisteri

Kaupunki ottaa eettiset periaatteet huomioon kaikessa tekoälyn ja edistyneen analytiikan hyödyntämisessä. Kaupunki kehittää yhdessä suomalaisten ja kansainvälisten kumppanien (mm. Sitra, Oikeusministeriö, Saidot, Espoo ja Amsterdam) kanssa vastuullisen tekoälyn hyödyntämisen viitekehyksen, eli metadatamallin. 1

Metadatamalli kokoaa yhteen eri elementit, joiden avulla algoritmien toimintaperiaatteet tehdään läpinäkyviksi ja ymmärrettäviksi. Kaupungin digitaalisissa palveluissa käytettävät tekoälyalgoritmit kootaan yhteiseen algoritmirekisteriin, jonka tarkoituksena on dokumentoida ja viestiä avoimesti, miten kaupungin käyttämät mallit on rakennettu ja mihin dataan ne perustuvat. Tämä helpottaa kaupungin asiakkaita ymmärtämään palvelujen takana olevan päätöslogiikan.

Myös Euroopan komission tekoälystrategia 2 painottaa vahvasti tekoälyn läpinäkyvyyttä ja selitettävyyttä. Eurooppalaisten pitää pystyä luottamaan tekoälyn suosituksiin ja ratkaisuihin. Komissio ehdottaa uusia, merkittäviä investointeja dataan ja tekoälyyn, mutta myös uusia sääntöjä ja regulaatiota liittyen erityisesti ns. korkean riskin tekoälysovelluksiin. Tällaisina alueina mainitaan esimerkiksi terveydenhuolto, poliisivoimat ja liikenne. Komission valkoinen paperi on nyt julkisella kommentointikierroksella ja seuraavien vuosien aikana siitä kuoriutuu oletettavasti EU:n tekoälydirektiivi.

^*^*^*^*^*^*^*^*^*^*^*

1 https://www.saidot.ai/resources2 European Commission (2020): Artificial Intelligence - A European approach to excellence and trust. White Paper.