První encyklika papeže Lva XIV. adresovaná biskupům, kněžím a věřícím na celém světě varuje před umělou inteligencí, byť ji v některých směrech označuje i za užitečnou. Dokument Magnifica Humanitas varuje před koncentrací dat, neprůhlednými algoritmy a nasazením AI ve válce. Dlouhý dokument má 83 stran a pět kapitol.
Technologie jako otázka moci
Lev XIV. odmítá pohled na AI jako neutrální nástroj. Podle jeho slov se do technologií promítají zájmy těch, kdo je navrhují, financují a používají. Kritizuje koncentraci platforem, dat a výpočetní kapacity u několika velkých globálních hráčů. Papež varuje, že taková moc může ovlivňovat zažité demokratické procesy.
Dokument rovněž žádá právní rámce a jasnou odpovědnost v celém řetězci vývoje. Etické kodexy podle papeže nestačí, pokud jejich pravidla určují stejné skupiny, které na technologii vydělávají.
Práce, pravda a děti
V encyklice se dále píše, že AI může lidem ulevit od rutinní práce, zároveň ale může nutit zaměstnance přizpůsobit se tempu strojů. Prioritou má být ochrana pracovních příležitostí a role člověka při rozhodování. Papež do stejného rámce řadí i nerovný přístup k technologiím a tlak na vzdělávací systémy.
Velká část textu se rovněž věnuje dezinformacím. AI je podle papeže posiluje tím, že zlevňuje a zrychluje tvorbu manipulovaného textu, obrazu a videa. Školy a rodiny mají mladé lidi učit rozpoznávat manipulaci a vědět, kdy AI nepoužít. U dětí zmiňuje také rizika falešných profilů a zneužití generovaných obrazů.
Válka nesmí být automatizovaná
Nejostřejší část míří na vojenské použití AI. Lev XIV. píše, že smrtící ani jiná nevratná rozhodnutí nesmějí být svěřena automatizovaným systémům. Odpovědnost má být zpětně dohledatelná a rozhodnutí o použití síly má zůstat lidem.
Dokument spojuje digitální ekonomiku také s novými formami vykořisťování. Zmiňuje práci lidí při označování dat, moderaci obsahu, ale i těžbě surovin pro technologický průmysl. V některých regionech podle textu pracují děti v nebezpečných podmínkách při zpracování materiálů pro prvky vzácných nerostů.
Zdroj: Vatican.va
