Нове дослідження показує, що штучний інтелект тепер здатний спотворювати громадську думку в масштабах, проходячи всі перевірки якості та імітуючи людські реакції без виявлення. Це становить серйозну загрозу передвиборчим прогнозам, науковим дослідженням і цілісності публічного дискурсу.
Уразливість опитування
Дослідження, проведене Дартмутським коледжем і опубліковане в Proceedings of the National Academy of Sciences, демонструє, як легко ШІ може маніпулювати результатами опитування. Дослідники створили простий інструмент ШІ, «автономний синтетичний відповідач», який працює на запит із 500 слів і успішно уникнув виявлення в 99,8% тестів на увагу, призначених для виявлення автоматичних відповідей. Інструмент не допускав помилок у логічних головоломках і підбирав відповіді для випадково призначених демографічних груп, роблячи дані цілком законними.
Як легко змінити результати
Наслідки очевидні: додавання лише від 10 до 52 фальшивих відповідей ШІ до основних національних опитувань напередодні виборів 2024 року може змінити прогнозований результат. У програмах на користь демократів чи республіканців рейтинг схвалення президента коливався від 34% до 98% або 0%, а підтримка на загальних виборах змінилася з 38% республіканців до 97% або 1%.
Фінансовий стимул і відсутність виявлення
Фінансовий стимул для використання ШІ є значним. Люди-респонденти зазвичай отримують 1,50 доларів США за проходження опитування, тоді як боти ШІ можуть виконати те саме завдання приблизно за п’ять центів. Недавнє дослідження показало, що 34% респондентів вже використовували штучний інтелект для відповідей на відкриті запитання. Важливо відзначити, що всі існуючі методи виявлення штучного інтелекту не змогли виявити інструмент, використаний у дослідженні Дартмутського коледжу.
Поза межами виборів: криза для дослідження
Проблема виходить далеко за межі передвиборчих опитувань. Опитування є основою наукових досліджень у різноманітних галузях, включаючи психологію, економіку та охорону здоров’я. Тисячі рецензованих досліджень покладаються на дані опитувань для інформування про дослідження та розробку політики. Якщо дані опитування будуть отруєні штучним інтелектом, уся система знань буде під загрозою.
Необхідність прозорості та перевірки
Дослідження закликає до прозорості з боку опитувальних компаній, вимагаючи від них довести, що їхні учасники є реальними людьми. Потрібні нові підходи до вимірювання громадської думки, розроблені для світу, де домінує ШІ. Існують технології для перевірки участі людини; найважливішим відсутнім елементом є бажання їх реалізувати. Якщо не вжити заходів зараз, чесність виборів і демократична підзвітність будуть ще більше підірвані.
