На конференции в Ватикане обсудили, кому принадлежит власть над искусственным интеллектом

Эксперты по искусственному интеллекту собрались 27 июня в Ватикане, чтобы обсудить последствия появления этой развивающейся технологии, которую Папа Франциск надеется приобщить к христианской морали и этике, и призвать к международному регулированию, сообщает Христианский Мегапортал inVictory со ссылкой на Christian Today.

«За последние 70 лет произошло то, что общество управляется программным обеспечением», — сказал о. Паоло Бенанти, францисканец и теолог, консультирующий Папу Франциска по вопросам ИИ, во время своего выступления на мероприятии в Ватикане.

«У кого есть программное обеспечение, у того есть и власть», — добавил Бенанти, который также является членом Консультативного органа ООН по искусственному интеллекту.

Конференция под названием «Алгоритм на службе человека: Общение в эпоху искусственного интеллекта» — последнее из ряда мероприятий, организованных Ватиканом в связи с растущей обеспокоенностью по поводу искусственного интеллекта и его применения.

По официальным и неофициальным каналам Ватикан и Папа Франциск создали сети в Силиконовой долине и наладили связи с крупными игроками в области технологий и коммуникаций, чтобы продвигать этический подход к ИИ. В январе Франциск сделал ИИ главной темой своего послания на Всемирный день мира, а в июне он стал первым понтификом, посетившим встречу G7, на которой он говорил об этических последствиях ИИ.

Выступая перед лидерами США, Великобритании, Италии, Франции, Канады, Германии и Японии, Папа сказал, что, хотя ИИ представляет собой «настоящую когнитивно-индустриальную революцию», последнее слово «всегда должно оставаться за человеком».

Франциск вновь затронул тему машинного обучения и ИИ в своем послании по случаю Всемирного дня социальных коммуникаций, где он предупредил о способности ИИ «загрязнить» наше понимание реальности с помощью фальшивых новостей и глубоко поддельных изображений. Папа упомянул, что и сам стал жертвой высокореалистичных реплик ИИ, которые быстро распространяются в Интернете.

По его словам, мир находится на перепутье, где нерегулируемый ИИ рискует усугубить дискриминацию, поляризацию и несправедливость.

«С одной стороны, мы сталкиваемся с призраком нового рабства, с другой — свободы; с одной стороны, есть вероятность, что немногие будут определять мысли многих, с другой — что каждый может принять участие в выработке наших убеждений», — сказал Франциск.

Послание Папы стало вдохновляющим документом для конференции в Ватикане в четверг, где эксперты говорили о том, какую силу будут иметь влиятельные финансовые интересы в формировании будущего ИИ.

«Великие технологические производители наполняют наши компьютеры искусственным интеллектом, — сказал Бенанти о растущем присутствии и влиянии ИИ в повседневных устройствах. — Это вызов, к которому мы еще не готовы».

Заместитель генерального директора Агентства национальной кибербезопасности Италии Нунция Чиарди также предупредила на конференции о влиянии, которым обладают ведущие разработчики ИИ.

«Искусственный интеллект состоит из огромных экономических инвестиций, которые могут позволить себе только крупные сверхдержавы и благодаря которым они обеспечивают очень важное геополитическое господство и доступ к большому количеству данных, которые ИИ должен обрабатывать для получения результатов», — сказала Чиарди.

«Можно сказать, что мы колонизированы ИИ, которым управляют избранные компании, жестоко перебирающие наши данные», — добавила она.

Участники согласились с тем, что международные организации должны усилить регулирование использования и развития технологий ИИ.

«Нам нужны ограждения, потому что грядущее — это радикальная трансформация, которая изменит реальные и цифровые отношения и потребует не только осмысления, но и регулирования», — сказал Бенанти.

Документ «Римский призыв к этике ИИ», подписанный представителями IBM, Microsoft, Cisco и Продовольственной и сельскохозяйственной организации ООН, был подготовлен Академией жизни Ватикана и содержит рекомендации по продвижению этики, прозрачности и инклюзивности в ИИ.

К «Римскому призыву» присоединились и другие религиозные общины, в том числе англиканская церковь, представители иудаизма и мусульманства. 9 июля представители восточных религий соберутся на организованное Ватиканом мероприятие, чтобы подписать «Римский призыв» в Хиросиме, Япония. Место проведения мероприятия было выбрано для того, чтобы подчеркнуть опасные последствия бесконтрольного использования технологий.

Выступая 22 июня перед участниками другой ватиканской конференции, посвященной искусственному интеллекту, Папа Франциск призвал присутствующих переосмыслить то, как мы определяем искусственный интеллект.

«Уверены ли мы, что хотим продолжать называть «интеллектом» то, что не является интеллектом?» — спросил он, предложив участникам «спросить себя, не является ли злоупотребление этим словом, которое так важно, так человечно, уже капитуляцией перед технократической властью».