Nová studie ukazuje, že umělá inteligence je nyní schopna deformovat veřejné mínění ve velkém měřítku, projít všemi kontrolami kvality a napodobovat lidské reakce bez detekce. To představuje vážnou hrozbu pro volební předpovědi, vědecký výzkum a integritu veřejného diskurzu.
Chyba zabezpečení
Studie provedená na Dartmouth College a zveřejněná v Proceedings of the National Academy of Sciences ukazuje, jak snadno může umělá inteligence manipulovat s výsledky průzkumu. Výzkumníci vytvořili jednoduchý nástroj AI, „autonomní syntetický respondér“, který běží na dotaz o délce 500 slov a úspěšně se vyhnul detekci v 99,8 % testů pozornosti určených k detekci automatických odpovědí. Nástroj nedělal žádné chyby v logických hádankách a přizpůsoboval odpovědi náhodně přiřazeným demografickým skupinám, díky čemuž byla data zcela legitimní.
Jak snadné je změnit výsledky
Důsledky jsou jasné: přidání pouhých 10 až 52 falešných odpovědí AI do hlavních národních průzkumů před volbami v roce 2024 by mohlo změnit předpokládaný výsledek. Při programování upřednostňujícím demokraty nebo republikány se sledovanost prezidenta pohybovala od 34 % do 98 % nebo 0 % a podpora ve všeobecných volbách se změnila z 38 % republikánů na 97 % nebo 1 %.
Finanční pobídka a nedostatek detekce
Finanční pobídka k používání AI je významná. Lidští respondenti obvykle dostávají 1,50 dolaru za vyplnění průzkumu, zatímco AI boti mohou dokončit stejný úkol za přibližně pět centů. Nedávná studie zjistila, že 34 % respondentů již použilo AI k zodpovězení otevřených otázek. Je důležité poznamenat, že všechny existující metody detekce AI nedokázaly detekovat nástroj použitý ve studii Dartmouth College.
Beyond Elections: Krize pro výzkum
Problém sahá daleko za hranice předvolebních průzkumů. Průzkumy jsou základem vědeckého výzkumu v různých oblastech, včetně psychologie, ekonomie a veřejného zdraví. Tisíce recenzovaných studií se opírají o údaje z průzkumů, které informují o výzkumu a vývoji politik. Pokud budou data z průzkumu otrávena AI, bude ohrožen celý znalostní systém.
Potřeba transparentnosti a ověřování
Studie požaduje transparentnost na straně průzkumných společností a požaduje, aby prokázaly, že jejich účastníci jsou skuteční lidé. Jsou zapotřebí nové přístupy k měření veřejného mínění navržené pro svět ovládaný umělou inteligencí. Existují technologie, které testují zapojení lidí; kritickým chybějícím prvkem je vůle je realizovat. Nebudou-li nyní podniknuty kroky, integrita průzkumů veřejného mínění a demokratická odpovědnost budou dále podkopány.
