Монах Паоло Бенанти носит простую коричневую рясу своего средневекового францисканского ордена и при этом решает одну из самых острых проблем современности — как управлять искусственным интеллектом (ИИ), чтобы он обогащал, а не ухудшал жизнь людей. Монах консультирует первых лиц планеты.
РЕКЛАМАБенанти является уполномоченным лицом Ватикана по вопросам технологий, ему доверяют Папа Франциск и ряд руководителей Кремниевой долины. Имея инженерное образование, докторскую степень богослова и страсть к тому, что он сам называет «этикой технологий», 50-летний итальянский священник помогает выполнять неотложную миссию, которую обозначили в Ватикане. Напомним, что папа Франциск в своем ежегодном послании о мире призвал к заключению международного договора для обеспечения этичного использования технологий искусственного интеллекта.
«В чем разница между человеком, который существует, и машиной, которая работает? — задается вопросом Бенанти. — Это, пожалуй, самый большой вопрос в наши дни. Мы стали свидетелями углубляющейся проблемы по мере «очеловечивания» машин».
Помощь или вред?
Бенанти — член консультативного органа ООН по искусственному интеллекту и глава итальянской правительственной комиссии, которой поручено дать рекомендации по защите журналистики от фейка и других форм дезинформации. Он также — эксперт Папской академии жизни. Бенанти уточняет, что во время их встреч о с понтификом помогает «разъяснять Святому Отцу сложные технические термины».
Его квалификация и рекомендации оказались очень нужными, в частности, во время встречи папы Франциска и президента Microsoft Брэда Смита в Ватикане; на ней обсуждалось, как искусственный интеллект может помочь или навредить человечеству. По данным Ватикана, это — не первая дискуссия понтифика и Смита; папа Франциск очень внимательно относится к уязвимым группам населения и беспокоится, что искусственный интеллект может ограничить права человека: негативно повлиять на рассмотрение заявки на ипотеку для желающего купить дом или на прошение мигранта о предоставлении убежища или же на оценку вероятности повторного совершения преступления…
«Совершенно очевидно, что если мы берем данные, которые не являются инклюзивными, то получим на выходе неинклюзивный отбор», — соглашается Бенанти, член ордена, основанного в начале XIII века святым Франциском Ассизским, который отказался от земных богатств и пропагандировал благотворительность. По словам Бенанти, компания Microsoft впервые связалась с ним несколько лет назад, чтобы узнать его мнение об этическом измерении новых технологий.
В 2023 году Смит записал подкаст с Бенанти, отметив в своем собеседнике присутствие «увлекательнейшей комбинации» знаний с точки зрения опыта в области инженерии, этики и технологий.
Встроить ИИ в демократию
Бенанти пришел в монашество в свои 20, оставив в прежней жизни учебу на инженерном факультете и невесту. Он — технооптимист, уверенный, что ИИ может стать «действительно мощным инструментом» в медицине и уходе за людьми.
Риски, связанные с ИИ, по его словам — это прежде всего возможные ошибки в управлении новинкой. «Именно здесь на помощь приходит этика: поиск правильного уровня использования в социальном контексте», — уточняет Бенанти. И обращает внимание на то, что большая часть данных, на основе которых создается ИИ, обрабатывается низкооплачиваемыми работниками, многие из которых живут в развивающихся странах. «Я не хочу, чтобы это время запомнилось тем, что мы извлекаем когнитивные ресурсы из глобального Юга», — говорит монах.
Итальянский премьер-министр Джорджия Мелони, опасающаяся, что ИИ может привести к сокращению рабочих мест, сделает этот вопрос главным на саммите G7, который пройдет в этом году в Италии. Готовясь к мероприятию, Мелони встретилась с основателем Microsoft Биллом Гейтсом, пригасив на переговоры и Бенанти. В интервью AP последний заявил, что регулирование искусственного интеллекта не должно означать ограничение его развития: «Это означает другое: технологии должны быть совместимы с той хрупкой системой, которой является демократия и которая сегодня кажется нам самой лучшей».
