Pápež Lev XIV. varuje pred smrteľnou mocou AI, žiada zákaz autonómnych zbraní
Pápež Lev XIV. v piatok vyhlásil, že rozhodnutia o použití zbraní a kontrole hraníc sa nesmú nikdy prenechať umelej inteligencii (AI). Uviedol to na konferencii venovanej AI vo Vatikáne.
„Niektoré rozhodnutia sa nikdy nesmú delegovať,“ povedal pápež. V opačnom prípade podľa neho hrozí, že AI ohrozí spoločné dobro a zredukuje ľudí na údaje.
„Keď sa človek ocitne na zozname cieľov alebo v databáze určenej na kontrolu hraníc, hrozí, že sa z neho stane len údaj. Rozhodnutia, ktoré ovplyvňujú ľudský život, slobodu a použitie sily, musia vždy podliehať účinnému dohľadu ľudí, ktorí sú o veci informovaní a nesú za svoje rozhodnutia zodpovednosť,“ uviedla hlava katolíckej cirkvi.
Lev XIV. zdôraznil, že Pápežská akadémia pre život a Inštitút budúcnosti života, ktoré stretnutie s medzinárodnými odborníkmi na AI zorganizovali, si dobre uvedomujú výzvy vznikajúce všade tam, kde je ohrozená ľudská dôstojnosť.
Odkaz na varovanie pred rizikami umelej inteligencie
Pápež pripomenul posolstvo pápeža Františka z roku 2024 lídrom skupiny G7. Umelú inteligenciu vtedy označil za „vzrušujúci a zároveň desivý nástroj“ a zdôraznil, že žiadny stroj by nemal nikdy rozhodovať o tom, či niekoho pripraviť o život.
„AI preto musí byť odzbrojená. Vyzývam štáty, ktoré sa v novembri stretnú v Ženeve, aby podnikli konkrétne kroky smerujúce k zákazu autonómnych smrtiacich zbraní,“ povedal v súvislosti s hodnotiacou konferenciou Dohovoru OSN o zákaze alebo obmedzení používania určitých konvenčných zbraní (CCW), ktorá sa uskutoční 16. až 20. novembra 2026.
Témou konferencie vo Švajčiarsku budú autonómne zbraňové systémy schopné samostatne vyhľadávať, vyberať a útočiť na ciele bez priameho zásahu človeka. Zúčastnené štáty budú rozhodovať o ďalšom postupe vrátane možnosti začať rokovania o medzinárodnom právne záväznom nástroji, ktorý by takéto zbrane reguloval alebo zakazoval.
Päť zásad pre umelú inteligenciu
Pápež s odkazom na svoju prvú encykliku Magnifica Humanitas (Veľkolepé ľudstvo), ktorú vydal koncom mája, predstavil aj päť zásad pre AI: jej budúcnosť nie je vopred určená, stroje sú nástroje a nie osoby, niektoré rozhodnutia nemožno nikdy prenechať strojom, inteligentné technológie musia slúžiť spoločnému dobru a na uplatňovanie etických zásad pri vývoji AI sú potrebné inštitúcie.
