Американское библейское общество: нужно быть готовыми к новой угрозе ИИ — «проблеме имитации»

Руководитель технологического направления Американского библейского общества (American Bible Society) предупреждает христианские церкви и служения о новой проблеме, которую создает развитие искусственного интеллекта (ИИ). Речь идет о все более реалистичных поддельных изображениях, видео и голосах, которые позволяют выдавать человека за того, кем он на самом деле не является.

По словам Брайса Эллисона, технического директора Американского библейского общества, так называемая «проблема имитации» уже существует. Поэтому церквям и христианским организациям необходимо заранее продумать, как прихожане смогут отличить настоящее обращение пастора или служителя от созданной ИИ подделки.

Поводом для нового обсуждения стала ситуация вокруг компании Meta, которая в июле запустила функцию генерации изображений Muse Image. Инструмент позволял использовать существующие фотографии для создания и редактирования новых изображений, сообщает Христианский Мегапортал inVictory со ссылкой на The Christian Post.

Функция была представлена 7 июля и стала первой полностью интегрированной моделью генерации изображений, разработанной Meta Superintelligence Labs. Однако вскоре после запуска компания столкнулась с критикой из-за вопросов конфиденциальности и согласия пользователей.

Особое внимание вызвало то, что инструмент позволял использовать фотографии из публичных аккаунтов Instagram. Представители киноиндустрии заявили, что люди должны иметь возможность самостоятельно решать, как используется их внешность.

Американская ассоциация талантов Creative Artists Agency и профсоюз актеров SAG-AFTRA призвали Meta изменить подход к этой функции. SAG-AFTRA также опубликовал инструкции для своих членов о том, как отказаться от использования их изображений в Muse Image и защитить свою внешность от подобных манипуляций.

Критика быстро распространилась в социальных сетях. В частности, видео блогера Барретта Палла с объяснением того, как отказаться от использования функции, набрало более 1,5 млн просмотров в Instagram Reels. Против инструмента также публично выступила номинированная на премию «Эмми» актриса Ханна Айнбайндер.

Уже 10 июля Meta объявила, что отключает возможность использовать упоминание публичных аккаунтов Instagram через символ @ для генерации изображений. При этом сама функция Muse Image продолжила работать в приложении Meta AI и WhatsApp.

В компании признали, что предложенный способ использования публичных фотографий вызвал серьезные вопросы. Meta заявила, что хотела создать полезный творческий инструмент, но услышала критику и решила отказаться от функции.

«Человека нельзя превращать в сырье»

Для Брайса Эллисона эта история выходит далеко за рамки спора между технологической компанией и Голливудом. Он считает, что она показывает более серьезную проблему – отношение к человеческой личности в эпоху искусственного интеллекта.

«Когда чей-то образ используется без его ведома или согласия, мы рискуем относиться к человеку, созданному по образу Божьему, как к сырью, а не как к личности, обладающей неотъемлемым достоинством», – сказал Эллисон.

По его мнению, этот вопрос должен волновать не только актеров и знаменитостей. Он касается каждого человека, который пользуется социальными сетями, а особенно христианских служителей, пасторов и церковных организаций.

Эллисон отмечает, что искусственный интеллект сам по себе нельзя однозначно назвать ни хорошим, ни плохим. Американское библейское общество уже использует технологии ИИ для полезных задач, в том числе для преодоления языковых барьеров и распространения Библии среди людей в разных странах.

Однако, считает он, ИИ должен использоваться таким образом, чтобы укреплять доверие, уважать человеческое достоинство и помогать людям, а не заменять человеческие отношения, мудрость и способность различать добро и зло.

«Проблема подделок уже здесь»

Особенно серьезным Эллисон считает распространение поддельных видео и аудиозаписей, созданных с помощью ИИ.

Он предупреждает пасторов, что злоумышленникам уже не обязательно создавать идеальную копию человека. Даже достаточно грубая подделка может убедить кого-то выполнить просьбу, особенно если речь идет о пожертвованиях.

«Проблема имитации уже здесь, она не приближается», – сказал Эллисон.

Он призвал церкви заранее объяснить прихожанам, как проверять сообщения и обращения, которые якобы поступают от пастора или другого служителя.

Например, если человек получает видео или голосовое сообщение от пастора с просьбой срочно перевести деньги, он должен иметь возможность проверить, действительно ли это обращение было сделано церковью.

«Каждому служению нужен ответ на вопрос: “Как наши люди поймут, что это действительно исходит от нас?” И решить этот вопрос нужно до того, как это произойдет», – подчеркнул Эллисон.

По его словам, церквям стоит заранее установить понятные правила: какие каналы связи считаются официальными, как служители обращаются за пожертвованиями и каким способом прихожане могут проверить подозрительную просьбу.

Особая опасность – конфиденциальные данные

Американское библейское общество также рекомендует христианским организациям обучать сотрудников безопасному использованию ИИ.

Эллисон советует начинать с защиты данных. По его мнению, именно здесь опасность появляется раньше всего, а люди чаще всего переоценивают собственное понимание рисков.

Сотрудники церквей работают с большим количеством чувствительной информации: личными разговорами с прихожанами, записями консультаций, просьбами о материальной помощи и данными жертвователей.

При этом многие сотрудники могут не воспринимать передачу такой информации в обычный потребительский чат-бот как нарушение конфиденциальности.

«Скажите об этом прямо еще до всего остального», – советует Эллисон.

По его мнению, церковные организации должны заранее определить, какую информацию нельзя загружать в ИИ-сервисы, кто имеет право ими пользоваться и какие данные должны оставаться исключительно внутри защищенных систем.

ИИ требует не только технической, но и духовной осторожности

Предупреждение Американского библейского общества показывает, что развитие ИИ ставит перед церквями новые вопросы. Теперь недостаточно просто научить людей пользоваться современными технологиями. Необходимо также научить их распознавать манипуляции и проверять информацию.

Для христиан это связано не только с безопасностью, но и с представлением о достоинстве человека. Если фотографии, голос и внешность человека можно практически мгновенно превратить в инструмент для обмана, церквям приходится заново определять правила цифрового поведения.

Эллисон считает, что задача христианского сообщества – не отвергать новые технологии, а использовать их ответственно.

ИИ может помогать распространять Библию, преодолевать языковые барьеры и выполнять множество других полезных задач. Но при этом технологии не должны разрушать доверие между людьми или использовать человеческую личность как материал для манипуляций.

Для церквей это означает необходимость подготовиться заранее: обучить сотрудников, предупредить прихожан о возможных подделках, защитить конфиденциальные данные и создать понятный способ проверки любых необычных обращений от имени пасторов и служителей.