Технокомпании подписали договор по борьбе с обманом избирателей с помощью ИИ

Крупнейшие технологические компании подписали в пятницу договор о предотвращении использования инструментов ИИ для срыва демократических выборов по всему миру.

Руководители Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI и TikTok собрались на Мюнхенской конференции по безопасности, чтобы объявить о новой схеме реагирования на созданные искусственным интеллектом подделки, которые намеренно обманывают избирателей. Двенадцать других компаний, включая X Илона Маска, также подписали соглашение.

"Все признают, что ни одна технологическая компания, ни одно правительство, ни одна организация гражданского общества не в состоянии самостоятельно справиться с появлением этой технологии и ее возможным недобросовестным использованием", — сказал Ник Клегг, президент по глобальным вопросам Meta, материнской компании Facebook и Instagram, в интервью перед началом саммита.

Соглашение носит в основном символический характер, но направлено на все более реалистичные изображения, аудио- и видеоматериалы, создаваемые искусственным интеллектом, "которые обманчиво подделывают или изменяют внешность, голос или действия политических кандидатов, должностных лиц, ответственных за проведение выборов, и других ключевых участников демократических выборов, или предоставляют избирателям ложную информацию о том, когда, где и как они могут законно проголосовать".

Компании не обязуются запрещать или удалять фальшивки. Вместо этого в соглашении описываются методы, которые они будут использовать для обнаружения и маркировки обманчивого контента ИИ, когда он создается или распространяется на их платформах. В соглашении отмечается, что компании будут делиться друг с другом передовым опытом и принимать "быстрые и соразмерные меры", если такой контент начнет распространяться.

Расплывчатость обязательств и отсутствие каких-либо обязательных требований, вероятно, помогли привлечь на свою сторону различные компании, однако разочарованные защитники ожидали более весомых гарантий.

"Формулировки не такие сильные, как можно было ожидать", — сказала Рейчел Орей, старший помощник директора проекта "Выборы" в Двухпартийном политическом центре. "Я думаю, мы должны отдать должное и признать, что компании действительно заинтересованы в том, чтобы их инструменты не использовались для подрыва свободных и честных выборов. Тем не менее, это добровольный шаг, и мы будем следить за тем, выполнят ли они его".

Попытки вмешательства ИИ в выборы уже начались. Например, в прошлом месяце робозвонки ИИ, имитирующие голос президента США Джо Байдена, пытались отговорить людей от голосования на первичных выборах в Нью-Гэмпшире.

За несколько дней до выборов в Словакии в ноябре сгенерированные ИИ аудиозаписи выдавали себя за кандидата, обсуждавшего планы по повышению цен на пиво и фальсификации выборов. Специалисты по проверке фактов бросились определять их как ложные, пока они распространялись по социальным сетям.

Политики также экспериментируют с технологией: от использования чат-ботов с искусственным интеллектом для общения с избирателями до добавления изображений, сгенерированных искусственным интеллектом, в рекламные объявления.

В соглашении говорится, что компании сосредоточатся на прозрачности своей политики для пользователей и будут работать над просвещением общественности о том, как не попасться на подделки ИИ.

Большинство компаний ранее заявляли, что они устанавливают меры предосторожности для своих собственных инструментов генеративного ИИ, чтобы пользователи социальных сетей знали, является ли то, что они видят, настоящим. Но большинство из этих предложенных решений еще не внедрены.

Давление усиливается в США, где Конгресс до сих пор не принял законов, регулирующих ИИ в политике, оставляя компаниям возможность в основном управлять этим самостоятельно.