Ředitel ROMEA Zdeněk Ryšavý diskutoval na Dnech AI o dopadech umělé inteligence na lidská práva

Jak umělá inteligence ovlivňuje lidská práva a kdo chrání člověka v situacích, kdy o něm rozhodují algoritmy? Těmto otázkám se věnovala panelová diskuse, která se 11. listopadu uskutečnila v pražském Kampusu Hybernská v rámci festivalu Dny AI. Mezi řečníky byl také ředitel organizace ROMEA Zdeněk Ryšavý, který do debaty přinesl zkušenosti Romů a dalších skupin ohrožených diskriminací.

Panel s názvem „AI a lidská práva: Kdo chrání člověka, když rozhoduje algoritmus?“ připravila iniciativa prg.ai společně s Kampusem Hybernská a Univerzitou Karlovou.

Vedle Zdeňka Ryšavého vystoupili bývalá místopředsedkyně Evropské komise Věra Jourová, Veronika Přibáň Žolnerčíková z Ústavu státu a práva AV ČR, Jan Kleindienst ze společnosti The Mama AI a Miroslav Crha z Ministerstva spravedlnosti. Debatu moderoval Viktor Kundrák z Úřadu vlády ČR.

AI může diskriminovat i posilovat stereotypy

Zdeněk Ryšavý se ve svém vystoupení zaměřil zejména na perspektivu lidí, kterých se nové technologie dotýkají, ale kteří obvykle nejsou zastoupeni při jejich vývoji. Upozornil na několik oblastí, v nichž může umělá inteligence ovlivňovat život Romů a dalších menšin.

Algoritmické systémy mohou rozhodovat o lidech například při posuzování nároku na sociální podporu nebo při odhalování podvodů. Ryšavý připomněl nizozemskou kauzu rodinných přídavků, při níž byly desetitisíce rodin neprávem označeny za podvodníky.

Umělá inteligence zároveň vytváří texty a obrazový obsah, který může reprodukovat stereotypy. Významnou roli mají také algoritmy sociálních sítí, které rozhodují o tom, jaký obsah uživatelé uvidí a které příspěvky získají největší dosah.

Dalším problémem je nedostatečné zastoupení menšin v datech, na nichž jsou systémy umělé inteligence založeny. Týká se to například romštiny i dat zachycujících zkušenosti Romů.

Ryšavý v diskusi připomněl také test zpravodajského serveru Romea.cz, který zkoumal, jak sedm nejpoužívanějších chatbotů reaguje na otázky založené na stereotypech o Romech. Většina testovaných modelů stereotypní tvrzení odmítala, jeden z nich však například označil diskriminaci Romů za „racionální reakci“.

Nestačí mít práva na papíře

Diskuse se věnovala také otázce, zda současné právní předpisy dokážou držet krok s rychlým vývojem technologií. Jedním z hlavních témat byla praktická vymahatelnost lidských práv v případech, kdy algoritmické systémy diskriminují nebo jiným způsobem zasahují do života lidí.

Panelisté upozornili také na potřebu prevence a na odpovědnost institucí i technologických společností při vývoji a používání systémů umělé inteligence.

Organizace ROMEA se dlouhodobě věnuje problematice předsudků, diskriminace a nenávisti vůči Romům v běžném životě i v online prostředí. Současně sleduje nové výzvy, které v této oblasti přináší rozvoj umělé inteligence.

Podrobnosti o testu chatbotů a jejich reakcích na stereotypy o Romech najdete na zpravodajském serveru Romea.cz: Jak umělá inteligence pracuje se stereotypy o Romech? Sedm modelů, devět otázek, 63 odpovědí