Uit nieuw onderzoek blijkt dat kunstmatige intelligentie nu opiniepeilingen op grote schaal kan corrumperen, alle kwaliteitscontroles kan doorstaan en menselijke reacties zonder detectie kan nabootsen. Dit vormt een ernstige bedreiging voor verkiezingsvoorspellingen, wetenschappelijk onderzoek en de integriteit van het publieke discours.
De kwetsbaarheid van opiniepeilingen
Een onderzoek uit Dartmouth, gepubliceerd in de Proceedings of the National Academy of Sciences, laat zien hoe gemakkelijk AI enquêteresultaten kan manipuleren. Onderzoekers creëerden een eenvoudige AI-tool – een ‘autonome synthetische respondent’ – die opereert vanuit een prompt van 500 woorden en met succes detectie omzeilde in 99,8% van de aandachtscontroles die waren ontworpen om geautomatiseerde reacties te identificeren. De tool maakte geen fouten bij logische puzzels en op maat gemaakte antwoorden op willekeurig toegewezen demografische gegevens, waardoor de gegevens volkomen legitiem leken.
Hoe gemakkelijk resultaten kunnen worden omgedraaid
De implicaties zijn groot: het toevoegen van slechts 10 tot 52 nep-AI-reacties op grote nationale peilingen vóór de verkiezingen van 2024 had de voorspelde uitkomst kunnen omdraaien. Wanneer geprogrammeerd om óf Democraten óf Republikeinen te bevoordelen, schommelden de goedkeuringscijfers van de president van 34% naar 98% of 0%, en ging de algemene stemondersteuning van 38% Republikeins naar 97% of 1%.
De financiële prikkel en het gebrek aan detectie
De financiële prikkel om AI te gebruiken is aanzienlijk. Menselijke respondenten verdienen doorgaans €1,50 voor het invullen van een enquête, terwijl AI-bots dezelfde taak voor ongeveer vijf cent kunnen voltooien. Uit een recent onderzoek is gebleken dat 34% van de respondenten AI al had gebruikt om open enquêtevragen te beantwoorden. Cruciaal is dat elke huidige AI-detectiemethode er niet in slaagde de AI-tool te identificeren die in het Dartmouth-onderzoek werd gebruikt.
Na de verkiezingen: een crisis voor onderzoek
Het probleem reikt veel verder dan verkiezingspeilingen. Enquêtes zijn van fundamenteel belang voor wetenschappelijk onderzoek in verschillende disciplines, waaronder psychologie, economie en volksgezondheid. Duizenden collegiaal getoetste onderzoeken zijn afhankelijk van enquêtegegevens om onderzoek te informeren en beleid vorm te geven. Als onderzoeksgegevens door AI worden vergiftigd, loopt het hele kennisecosysteem gevaar.
De noodzaak van transparantie en verificatie
Het onderzoek pleit voor transparantie van bedrijven die enquêtes uitvoeren, waarbij ze moeten bewijzen dat hun deelnemers echte mensen zijn. Er zijn nieuwe benaderingen nodig voor het meten van de publieke opinie; benaderingen die zijn ontworpen voor een AI-wereld. De technologie bestaat om menselijke participatie te verifiëren; het cruciale ontbrekende stukje is de wil om het te implementeren. Als er nu geen actie wordt ondernomen, zullen de integriteit van de verkiezingen en de democratische verantwoording verder worden uitgehold
