Neue Forschungsergebnisse zeigen, dass künstliche Intelligenz inzwischen öffentliche Meinungsumfragen in großem Maßstab manipulieren kann, indem sie alle Qualitätsprüfungen besteht und menschliche Reaktionen unerkannt nachahmt. Dies stellt eine ernsthafte Bedrohung für Wahlvorhersagen, wissenschaftliche Forschung und die Integrität des öffentlichen Diskurses dar.
Die Verwundbarkeit von Umfragen
Eine in den Proceedings of the National Academy of Sciences veröffentlichte Studie aus Dartmouth zeigt, wie leicht KI Umfrageergebnisse manipulieren kann. Die Forscher haben ein einfaches KI-Tool entwickelt – einen „autonomen synthetischen Befragten“ – der auf einer Eingabeaufforderung mit 500 Wörtern basiert und bei 99,8 % der Aufmerksamkeitsprüfungen zur Identifizierung automatisierter Antworten erfolgreich einer Erkennung entgangen ist. Das Tool machte bei logischen Rätseln und maßgeschneiderten Antworten auf zufällig zugewiesene demografische Merkmale keine Fehler, sodass die Daten völlig legitim erschienen.
Wie leicht Ergebnisse umgedreht werden können
Die Implikationen sind gravierend: Das Hinzufügen von nur 10 bis 52 gefälschten KI-Antworten zu großen nationalen Umfragen vor der Wahl 2024 hätte das vorhergesagte Ergebnis umkehren können. Bei einer Programmierung zur Bevorzugung entweder der Demokraten oder der Republikaner schwankten die Zustimmungsraten des Präsidenten von 34 % auf entweder 98 % oder 0 %, und die allgemeine Zustimmung der Republikaner stieg von 38 % auf entweder 97 % oder 1 %.
Der finanzielle Anreiz und die mangelnde Erkennung
Der finanzielle Anreiz, KI einzusetzen, ist erheblich. Menschliche Befragte verdienen in der Regel 1,50 US-Dollar für das Ausfüllen einer Umfrage, während KI-Bots die gleiche Aufgabe für etwa fünf Cent erledigen können. Eine aktuelle Studie ergab, dass 34 % der Befragten bereits KI zur Beantwortung offener Umfragefragen eingesetzt hatten. Entscheidend ist, dass keine der aktuellen KI-Erkennungsmethoden das in der Dartmouth-Studie verwendete KI-Tool identifizieren konnte.
Jenseits von Wahlen: Eine Krise für die Forschung
Das Problem geht weit über Wahlumfragen hinaus. Umfragen sind für die wissenschaftliche Forschung in allen Disziplinen, einschließlich Psychologie, Wirtschaft und öffentlicher Gesundheit, von grundlegender Bedeutung. Tausende von Experten begutachtete Studien stützen sich auf Umfragedaten, um die Forschung zu informieren und die Politik zu gestalten. Wenn Umfragedaten durch KI vergiftet werden, ist das gesamte Wissensökosystem gefährdet.
Das Bedürfnis nach Transparenz und Verifizierung
Die Studie plädiert für Transparenz von Unternehmen, die Umfragen durchführen, und verlangt von ihnen, nachzuweisen, dass es sich bei ihren Teilnehmern um echte Menschen handelt. Es sind neue Ansätze zur Messung der öffentlichen Meinung erforderlich – Ansätze, die für eine KI-Welt konzipiert sind. Die Technologie existiert, um die menschliche Beteiligung zu überprüfen; Das entscheidende fehlende Stück ist der Wille, es umzusetzen. Wenn jetzt keine Maßnahmen ergriffen werden, wird die Integrität der Wahlen und die demokratische Rechenschaftspflicht weiter untergraben
