ИИ усиливает российскую пропагандистскую машину, увеличивая объемы пропаганды без потери “качества”

Российские пропагандисты удвоили объем дезинформации за счет использования искусственного интеллекта, сохранив при этом убедительную силу своих сообщений, говорится в новом исследовании, опубликованном на прошлой неделе в журнале PNAS Nexus.

Исследование, проведенное группой под руководством Моргана Вэка из Университета Клемсона, показало, как поддерживаемый Россией пропагандистский канал значительно расширил свою деятельность с помощью инструментов искусственного интеллекта без ущерба для эффективности.

В декабре 2023 года журналисты BBC совместно с Media Forensics Hub Университета Клемсона разоблачили сайт “DCWeekly.org” как часть более широкой пропагандистской сети, поддерживаемой Россией и направленной на распространение прокремлевских нарративов. Исследователи изучили почти 23 000 статей, опубликованных на сайте до и после того, как его операторы начали использовать инструменты искусственного интеллекта.

“Наши результаты иллюстрируют, как инструменты генеративного ИИ уже начали изменять размер и масштаб пропагандистских кампаний, поддерживаемых государством”, – пишут исследователи в своем анализе.

До 20 сентября 2023 года сайт в основном копировал контент правых изданий с минимальными изменениями. После этой даты контент стал переписываться с использованием языковой модели OpenAI GPT-3, что позволило операторам настраивать тон и акценты, значительно повысив производительность.

Исследование показало, что внедрение ИИ позволило пропагандистскому изданию более чем в два раза увеличить ежедневное производство статей по сравнению с наиболее активным периодом до внедрения ИИ. Этот сдвиг также сопровождался заметным расширением спектра тем, освещаемых сайтом.

Отпечатки ИИ иногда были заметны в контенте. Некоторые статьи содержали утечку подсказок ИИ, раскрывающих намерения операторов, например указания придерживаться “циничного тона при обсуждении правительства США, НАТО или американских политиков”.

Что особенно важно, команда исследователей провела опрос 880 взрослых американцев и обнаружила, что контент, созданный ИИ, сохранил тот же уровень убедительности, что и контент до ИИ.

Пропагандистская сеть добилась значительного влияния на реальный мир. Несколько сфабрикованных историй получили широкую огласку, в том числе ложное утверждение о том, что президент Украины Зеленский приобрел роскошные яхты, которое перепостили десятки тысяч людей в социальных сетях, включая членов Конгресса США.

После разоблачения The New York Times сообщила, что появилось несколько новых сайтов, использующих идентичные методы искусственного интеллекта, что говорит о том, что операторы считают этот подход успешным и легко воспроизводимым.

Исследование представляет собой конкретное доказательство, подтверждающее опасения по поводу потенциала ИИ для усиления дезинформационных кампаний. После внедрения ИИ тематическое разнообразие сайта почти в два раза превышало то, что было до внедрения, что позволило операторам создать, казалось бы, всеобъемлющую новостную ленту, сохраняя при этом желаемый уклон.

Анализ тем контента показал заметное увеличение внимания к международным новостям, оружию и преступности,  даже с учетом возросшего освещения конфликтов на Украине и в Израиле.

“Переход к эпохе активного использования ИИ соответствует резкому увеличению внимания к международным новостям, оружию и преступности”, – отмечают исследователи в своем анализе.

Полученные данные свидетельствуют о том, что ИИ не только позволил пропагандистам производить больше контента, но и создавать более убедительный фасад легитимности за счет разнообразия тем.

Хотя эта конкретная операция была в конце концов раскрыта, исследователи предупреждают, что “постоянное совершенствование технологий ИИ сделает будущие случаи их использования более сложными для отслеживания и противодействия”, а “финансовые и временные ресурсы, необходимые для производства и поддержания кампаний по дезинформации в Интернете, будут продолжать сокращаться”.

Авторы призывают к “немедленным действиям по смягчению влияния пропагандистских кампаний с помощью ИИ” и предлагают в будущем сосредоточиться на предотвращении использования моделей с открытым исходным кодом для дезинформации и лучшей подготовке общественности к выявлению пропаганды, дополненной ИИ.

Исследование Morgan Wack, Carl Ehrett, Darren Linvill, Patrick Warren, Generative propaganda: Evidence of AI’s impact from a state-backed disinformation campaign, PNAS Nexus, Volume 4, Issue 4, April 2025, https://doi.org/10.1093/pnasnexus/pgaf083