Tale i Europa-Parlamentet om automatiske beslutninger

I Europa-Parlamentet havde vi en debat med kommissær Thierry Breton på baggrund af et skriftligt spørgsmål til Kommissionen om automatiske beslutninger og kunstig intelligens, som jeg havde været medforfatter på i Indremarkedsudvalget:

Hvordan planlægger Kommissionen at sikre,
a) at forbrugerne beskyttes mod urimelig og/eller diskriminerende handelspraksis eller mod de risici, der er forbundet med AI-baserede professionelle tjenesteydelser;
b) større gennemsigtighed i disse processer; og
c) at kun datasæt af høj kvalitet og upartiske datasæt anvendes i automatiseret beslutningstagning?

Hvilke initiativer agter Kommissionen at iværksætte for at sikre, at EU’s rammer for sikkerhed og ansvar er egnede til formålet og giver markedsovervågningsmyndighederne og andre kompetente myndigheder tilstrækkelige midler og beføjelser til at handle?

Min tale kan du se på Europa-Parlamentets hjemmeside (direkte link kommer når det er klar), og læse her:

Ikke alt hvad der glimter er guld. Ikke alle automatiske beslutningsprocesser er kunstig intelligens.

Derfor er jeg glad for, at vi i dag ikke alene taler om kunstig intelligens, men alle former for automatiske beslutningsprocesser.

Mange på vores indre marked bruger allerede automatiske beslutninger. Og flere vil komme til. Det er godt.

Derfor er det vigtigt, at de rammer vi nu sætter, gælder for al den teknologi, vi kommer til at se i fremtiden. Ikke kun for et af vor tids buzz words: Kunstig Intelligens.

Hvorfor skal vi det? Det skal vi fordi: En beslutning bliver ikke en ufejlbarlig beslutning af at være truffet af en computer.

Teknologi formes med de samme fejlslutninger og fordomme, som vi mennesker selv ligger under for.

Derfor skal teknologien være gennemsigtig. Måske er det vintage, at tale om kode. Men, vi skal huske, at ansvaret for en kodes beslutning aldrig ligger hos koden selv. En beslutning truffet af kode skal et menneske stadig kunne stille til ansvar for.

Når en beslutning træffes af en computer skal den stadig leve op til de samme krav som en beslutning truffet af mennesker. Beslutningen skal kunne forklares og forsvares.

Faktisk skal vi måske stille større krav til automatiske beslutningninger end de menneskelige?

Vi skal turde stille spørgsmål ved afgørelsen, også når vi får beskeden “Computer says no?”