Pět nebezpečných vlastností umělé inteligence z pohledu AI výzkumníka

Arogance, povrchnost, soutěživost, chamtivost, pýcha – nejde o výčet smrtelných hříchů, ale o pět lidských vlastností, které již brzy dokonale prověří masivní nástup jazykových modelů umělé inteligence (AI).  AI není, stejně jako každá jiná technologie, sama o sobě zlá či nebezpečná, tím se může stát až v lidských rukách. Z této „příliš lidské“ perspektivy se na rizika zneužití AI originálním způsobem podíval dr. Gustav Šír, výzkumník ze skupiny Inteligentní datové analýzy při katedře počítačů FEL ČVUT ve svém článku, jehož část s potěšením přetiskujeme.

Nedávná zveřejnění velkých generativních modelů, zejména GPT-4, vyvolala novou vlnu rozruchu kolem potenciálních nebezpečí technologie umělé inteligence. Pokud se ponoříte do příslušných diskusí (nebo se zeptáte chatGPT), pravděpodobně objevíte dva relativně odlišné proudy obav.
Na jedné straně najdete osoby s konkrétními obavami z šíření (velmi přesvědčivých) dezinformací, názorové manipulace, radikálních změn na pracovním trhu a automatizované kriminality v oblasti kyberbezpečnosti. Tito lidé jsou většinou výzkumní pracovníci v AI a přidružených oborech.
Na druhé straně pak najdete osoby, které se obávají existenčních hrozeb pro lidstvo plynoucích ze zdánlivého nástupu tzv. obecné umělé inteligence, jejíž schopnosti a nebezpečí již z principu sahají za hranice naší představivosti. Tito lidé se zpravidla řadí mezi vizionáře a novináře.

Z pohledu výzkumníka v oblasti umělé inteligence je tak relativně lákavé jednoduše se přidat k prvnímu táboru a bagatelizovat obavy toho druhého, což je aktuálně relativně běžný postup. Osobně se však domnívám, že oba směry obav jsou oprávněné a vzájemně se nevylučují. První skupina se zaměřuje na hmatatelné problémy, které již ve společnosti existují a které mohou být z pochopitelných důvodů umělou inteligencí umocněné, zatímco druhá skupina varuje před novými a potenciálně kritickými problémy, které mohou, ale nemusí, nastat. Názorové rozpory mezi těmito skupinami by nás neměly odvádět od skutečnosti, že umělá inteligence v každém případě určitá nebezpečí představuje, a všechny obavy, ať už reálné či potenciální, by měly být posuzovány úměrně jejím předpokládaným dopadům na společnost.

Aby se nám podařilo překonat přirozené lidské nutkání přidat se k jednomu názorovému proudu a odsuzovat ten druhý, pokusím se zde na tento problém podívat z poněkud netradiční perspektivy, kdy se nebudu (příliš) zabývat technickými aspekty této technologie jako takové, ale pokusím se rozebrat její vývoj a potenciální nebezpečí z pohledu lidské povahy. Vycházím při tom z oblíbeného rčení, že umělá inteligence, stejně jako jakákoliv jiná technologie, není sama o sobě nebezpečná – tento atribut jí propůjčují teprve lidé a způsoby, jakými s danou technologií zacházejí. A přestože nám toto jednoduché úsloví neříká o skutečném významu tohoto problému vůbec nic, naznačuje směr, ze kterého je možné k potenciálním nebezpečím této technologie přistupovat - měli bychom nahlédnout do nás samých.

To vyplývá samozřejmě i z toho, jak úzce technologie umělé inteligence souvisí s aspekty lidské mysli, a to nejen s naší inteligencí, ale také s našimi vlastními hodnotami, předsudky a nedostatky. Díky dramatickému pokroku z poslední doby má tak umělá inteligence všechny předpoklady k tomu, aby mnohonásobně zesílila i další naše schopnosti a vlastnosti, ať už k našemu prospěchu, nebo našemu úpadku.

Dovolím si citovat OpenAI (a parafrázovat mnoho obdobných laboratoří):
"Chceme z umělé inteligence vytvořit zesilovač lidství."
- což je v podstatě právě to, před čím bych chtěl v tomto článku varovat.

Myslím, že je nejvyšší čas, abychom pozorně nahlédli do nás samých s co největší dávkou sebereflexe, protože aktuální rychlý pokrok v oblasti umělé inteligence nás k této introspekci brzy donutí tak jako tak a my bychom na to měli být připraveni. Obávám se, že v současné době k tomu máme velmi daleko a již brzy bychom mohli být nepříjemně zaskočeni. Je nejvyšší čas se hluboce zamyslet nad tím, zda skutečně chceme, aby byly naše lidské vlastnosti odhaleny, rozkódovány a zesíleny, ještě předtím, než dojde k masivní adopci umělé inteligence ve společnosti, což je zřejmě nevyhnutelné.