Inteligence není neutrální jen proto, že je umělá

Umělá inteligence je nástroj, který hledá podobnosti a pravidelnosti ve velkém množství dat. Problém je, když ta data nejsou dobrou reprezentací skutečného světa. Nebo může být chyba přímo v algoritmu. Třetím typem problému je nemožnost zjistit, proč systém rozhodl tak, jak rozhodl.

Jako lidé bychom měli neustále vědět, co vedlo k nějakému rozhodnutí. Nestačí nám vědět, že počítač něco řekl, potřebujeme vědět, jak k tomu došel. Nesmíme se smířit s tím, že počítač někomu přiklepl hypotéku a jiného uchazeče odmítl. Potřebujeme vědět proč, na základě jakých dat. U tradičních systémů bylo někdy těžké najít vysvětlení, ale u systémů založených na strojovém učení je to často prakticky nemožné.

To by nám mělo vadit. Znemožňuje to totiž audit, znemožňuje to kontrolu, a to otevírá dveře různým druhům manipulace. A nejen manipulace, může jít i o neúmyslné chyby.

Neuronové sítě jsou často trénované na hodně specifický úkol. Jsou úspěšné, ale nikdo pořádně nedokáže říci proč. Možná by to nemuselo vadit u některých typů neuronových sítí. Ale když hledáme způsob, jak přidělovat hypotéky a jak najít nejlepší uchazeče na trhu práce, tak by nám mělo záležet na tom, abychom takové sítě stavěly férově, bez nepodložených předsudků. Jinak zapojení takových systémů povede ke společnosti, která bude ještě méně férová než ta současná.

Je řada typů rozhodnutí, které zkrátka musíme umět za každých okolností zdůvodnit. Jsou příliš důležitá, než abychom je svěřili nějaké vrtošivé černé skříňce. Musíme přesně podložit, jak jsme k těm rozhodnutím došli.

Aby umělá inteligence mohla prospěšná společnosti, musíme vědět, jaká rizika jsou spojena se špatně navrženými systémy. To nejsou žádné teoretické sci-fi problémy budoucnosti. To jsou reálné současné problémy, jejichž důsledkem je, že jsou lidé diskriminování, je jim znemožněno pracovat, žít svobodné a zabezpečené životy. Je naší zodpovědností navrhnout systémy tak, aby bylo vždy možné rozporovat rozhodnutí a najít zdůvodnění toho, proč algoritmus rozhodl, jak rozhodl.

Jakákoli technologie, kterou dnes používáme, vznikla jako výsledek ohromného množství jednotlivých rozhodnutí. Ta rozhodnutí dělali lidé. Někdy na základě nutnosti, jindy se rozhodovali na základě svého světonázoru nebo zkušenosti se světem.

Víme třeba, že současní internetoví velikáni postavili své obchodní modely na principech fungování svobody slova a svobody tisku. To jsou principy, které jsou zaručeny Ústavou USA. Ale nejsou to univerzální hodnoty, rozhodně nejsou zakotveny v zákonech každé země, kde tyto firmy působí. Ten princip nám může připadat dobrý a samozřejmý, ale je jasné, že není univerzální. Když Facebook říká, že budují otevřenou platformu pro výměnu názorů, jde to zcela proti principům některých zemí.

Potřebujeme lidi s různými zkušenostmi, z různých oborů, muže i ženy, aby pomohli tvořit a kontrolovat technologie, které pak mohou sloužit všem. Jedině tehdy, kdy jsou rozhodnutí ohledně toho, jak učit umělou inteligenci a k čemu ji používat, v rukou pestrých týmů, může AI lépe reflektovat skutečný svět.