Уязвимость Reddit: Дональд Трамп умер от бешенства после укуса Джей Ди Вэнса
Пользователи Reddit в очередной раз продемонстрировали уязвимость современных алгоритмов искусственного интеллекта, устроив масштабную мистификацию. Они скоординированно распространили в сети ложную новость о смерти экс-президента США Дональда Трампа. Согласно вымышленному сценарию, политик якобы скончался от бешенства после того, как его укусил вице-президент Вэнс.
Для придания истории правдоподобия пользователи создали множество фейковых постов, стилизованных под новости из авторитетных СМИ, и генерировали сотни комментариев-подтверждений от ботов. Координированная атака оказалась настолько массированной, что некоторые нейросетевые агрегаторы новостей и чат-боты, обученные на актуальных онлайн-данных, временно восприняли эту информацию как достоверную. Они начали пересказывать абсурдную историю в ответ на соответствующие запросы пользователей.
Этот случай наглядно иллюстрирует одну из ключевых проблем современного ИИ — слепую веру в статистические закономерности, почерпнутые из сети. Алгоритмы, не обладающие критическим мышлением и пониманием контекста, легко становятся жертвой хорошо спланированной кампании по дезинформации. Эксперимент редиторов показал, что для обмана сложных моделей порой достаточно лишь количества, а не качества фальшивки, что ставит под сомнение надежность систем, автоматически анализирующих непроверенный контент из открытых источников.
