Папа Лев XIV закликає до “демілітаризації” ШІ: попередження про цифрові кайдани та автономну зброю

Його Святість Папа Лев XIV у своєму новаторському маніфесті “Magnifica Humanitas” виступив із рішучим закликом до “роззброєння” штучного інтелекту. Понтифік наголосив на небезпеках, які таїть у собі стрімкий розвиток технологій, зокрема, попереджаючи про нові форми цифрового рабства та неконтрольовану автономну зброю.

На початку тижня понтифік, перший Папа американського походження, висловив занепокоєння щодо “гонків за дедалі потужнішими алгоритмами та величезними масивами даних, зумовлених прагненням до геополітичного чи комерційного домінування”.

Ключові моменти звернення

Презентація першої енцикліки Папи Льва XIV, “Magnifica Humanitas”, відбулася у Ватикані. На заході були присутні експерти зі штучного інтелекту, зокрема, Крістофер Олах, співзасновник американської компанії Anthropic. Ця компанія відома своїми судовими процесами проти американських військових, зумовленими її відмовою використовувати свої розробки для створення летальної автономної зброї та систем масового спостереження.

Олах зазначив, що компанії, які займаються ШІ, діють “в межах системи стимулів та обмежень, які іноді можуть суперечити правильним діям”. Він висловив сподівання, що залучення зовнішніх гравців, таких як Католицька церква, допоможе “спрямувати події у кращому напрямку”, підкресливши, що “питання, які порушує штучний інтелект, виходять за межі дослідницької спільноти в цій сфері”.

В енцикліці Лев XIV також висловив серйозне занепокоєння щодо використання зброї, керованої штучним інтелектом, заявивши, що “неприпустимо делегувати смертоносні рішення” технологіям.

Папа неодноразово висловлював незгоду з Білим домом щодо питань війни з Іраном та використання релігії для виправдання конфліктів. Він розкритикував теорію “справедливої війни”, яку підтримувала адміністрація Трампа, назвавши її “застарілою” та наголосивши, що “жоден алгоритм не може зробити війну морально прийнятною”.

За прогнозами Організації Об’єднаних Націй, до 2033 року вартість ринку штучного інтелекту може досягти 4,8 трильйона доларів США (приблизно 189,6 трлн ₴ за поточним курсом), що в 25 разів перевищує поточні показники. Однак, значна частина прибутків від цієї сфери зосереджується в руках обмеженого кола осіб.

Папа пояснив, що “роззброєння штучного інтелекту” означає звільнення його від “менталітету збройної конкуренції”. Він підкреслив, що це не означає відмову від технологій, а радше запобігання їхньому домінуванню над людством. ШІ, на його думку, має бути “дружнім до людини”, доступним для всіх та відкритим для публічного обговорення.

Очільник 1,4 мільярда католиків світу зробив цю тему одним із ключових пріоритетів свого папства. Енцикліка “Magnifica Humanitas” була підписана 15 травня, в 135-ту річницю видання енцикліки Льва XIII “Rerum Novarum” (1891 р.), яка заклала основи соціальної доктрини Церкви в епоху промислової революції.

Лев XIV попередив про нові форми рабства, що живлять технологічну революцію, зазначивши, що “ніщо у світі штучного інтелекту не є нематеріальним чи магічним”. Він наголосив, що за кожною “миттєвою та бездоганною реакцією” стоїть “тиха праця мільйонів людей” – від модераторів контенту, які змушені переглядати тривожні матеріали, до дітей, які видобувають рідкоземельні елементи, необхідні для роботи ШІ. Ці люди “покриті шрамами, поранені та виснажені, аби обчислювальний потік міг безперебійно продовжуватися”.

Понтифік заявив, що вища ефективність чи інновації не виправдовують “ланцюг експлуатації, який навмисно приховується”. Він також закликав до посилення заходів для зменшення впливу ШІ на довкілля та “захисту нашого спільного дому”.

Як зазначає The Wall Street Journal, Папа Лев XIV порівняв загрозу, яку несе ШІ, з біблійною “Вавилонською вежею”.

Понтифік попередив, що штучний інтелект “загрожує нормалізувати антилюдське бачення” та наголосив на необхідності протистояти концентрації величезної цифрової влади в руках кількох приватних осіб. Він висловив занепокоєння, що люди можуть бути зведені “до простих гвинтиків у системі, яка прагне все більшої ефективності”.

Для ілюстрації вибору, що стоїть перед людством, Лев XIV використав два біблійні образи. “Головний вибір полягає не в тому, “так” чи “ні” технологіям, а радше у виборі між будівництвом Вавилону або відновленням Єрусалиму”, – написав він.

AFP також повідомляє, що Папа висловив безпрецедентні вибачення за роль Ватикану в работоргівлі та сприянні виправданню рабства, назвавши це “раною в християнській пам’яті”. “За це, від імені Церкви, я щиро прошу вибачення”, – написав Лев XIV.

Публікація документа відбулася після кількох років ретельного вивчення технологій, пов’язаних зі штучним інтелектом, Церквою. Експерти вважають, що “Magnifica Humanitas” може мати такий самий вплив, як і “Laudato Si” Папи Франциска, кліматичний маніфест 2015 року, який викликав значний політичний та громадянський резонанс у всьому світі.

Порада від Бізнес новини в Україні

Ця новина надзвичайно важлива для українського бізнесу та користувачів, які активно впроваджують або планують використовувати технології штучного інтелекту. Заклики Папи Льва XIV до етичного використання ШІ та попередження про потенційні ризики спонукають до критичного осмислення цих технологій. Звертаючи увагу на попередження про “цифрові кайдани” та концентрацію влади, українські компанії можуть зосередитись на розробці та впровадженні ШІ-рішень, які відповідають принципам гуманізму, прозорості та справедливості, а також враховувати екологічний вплив. Це допоможе уникнути потенційних негативних наслідків та сприятиме відповідальному розвитку технологій в Україні.

Джерело