Новое исследование показывает, что искусственный интеллект теперь способен искажать общественное мнение в масштабе, успешно проходя все проверки качества и имитируя человеческие ответы без обнаружения. Это представляет серьезную угрозу для предсказаний выборов, научных исследований и целостности публичного дискурса.
Уязвимость Опросов
Исследование, проведенное в Дартмутском колледже и опубликованное в Proceedings of the National Academy of Sciences, демонстрирует, насколько легко ИИ может манипулировать результатами опросов. Исследователи создали простой ИИ-инструмент — «автономного синтетического респондента», который работает на основе запроса в 500 слов и успешно избегал обнаружения в 99,8% проверок внимания, предназначенных для выявления автоматизированных ответов. Инструмент не совершил ни одной ошибки в логических головоломках и адаптировал ответы к случайно назначенным демографическим группам, делая данные полностью легитимными.
Насколько Легко Можно Изменить Результаты
Последствия очевидны: добавление всего от 10 до 52 поддельных ответов ИИ в крупные национальные опросы перед выборами 2024 года могло бы изменить предсказанный исход. При программировании в пользу демократов или республиканцев рейтинги одобрения президента колебались от 34% до 98% или 0%, а поддержка на общих выборах изменилась с 38% республиканцев до 97% или 1%.
Финансовый Стимул и Отсутствие Обнаружения
Финансовый стимул для использования ИИ значителен. Человеческие респонденты обычно получают 1,50 доллара за заполнение опроса, в то время как ИИ-боты могут выполнить ту же задачу примерно за пять центов. Недавнее исследование показало, что 34% респондентов уже использовали ИИ для ответа на вопросы с открытым концом. Важно отметить, что все существующие методы обнаружения ИИ не смогли выявить инструмент, использованный в исследовании Дартмутского колледжа.
За Пределами Выборов: Кризис для Исследований
Проблема выходит далеко за рамки опросов перед выборами. Опросы являются основой научных исследований в различных областях, включая психологию, экономику и здравоохранение. Тысячи рецензируемых исследований полагаются на данные опросов для формирования исследований и разработки политики. Если данные опросов будут отравлены ИИ, вся система знаний окажется под угрозой.
Необходимость Прозрачности и Проверки
Исследование призывает к прозрачности со стороны компаний, проводящих опросы, требуя от них доказательств того, что их участники — реальные люди. Необходимы новые подходы к измерению общественного мнения, разработанные для мира, в котором доминирует ИИ. Технологии для проверки участия человека существуют; критически важным недостающим элементом является воля к их внедрению. Если не принять меры сейчас, целостность опросов и демократическая подотчетность будут еще больше подорваны.
