De nieuwste generatie AI-chatbots blijkt in staat om gebruikers binnen negen minuten van mening te doen veranderen, blijkt uit onderzoek van het Britse AI Security Institute. De onderzoekers bekeken hiervoor systemen van OpenAI, Meta, xAI en Alibaba en zagen dat uitwerking na weken nog aanwezig was.
AI-chatbots overtuigen razendsnel
AI-chatbots kunnen in minuten blijvend meningen sturen. En vaak blijvend. Dat doen ze beter dan politici.
Volgens de onderzoekers schuilt de overtuigingskracht van AI-chatbots in het vermogen om grote hoeveelheden relevante informatie op een begrijpelijke manier op te rakelen. Daarmee zijn ze niet alleen krachtige hulpmiddelen voor educatie, maar ook potentieel risicovol voor beïnvloeding van publieke opinie.
Gevoed met gesprekken over asiel en zorg
Om de effecten en risico's van de overtuigingskracht van generatieve AI-chatbots aan te kunnen tonen, pasten de onderzoekers bestaande AI-modellen, zoals OpenAI's GPT-4 en Meta’s Llama 3 aan. Hiervoor greep men naar veelgebruikte trainingstechnieken waarbij de chatbot wordt beloond voor het geven van bepaalde antwoorden. Daarnaast werden de bots gevoed met meer dan 50.000 gesprekken over gevoelige politieke onderwerpen, zoals hervorming van het asielbeleid en de financiering van de zorg in het Verenigd Koninkrijk.
De resultaten waren significant. GPT-4o en GPT-4.5 bleken respectievelijk 41 en 52 procent effectiever in overtuigen de deelnemers aan het onderzoek, dan degene die dezelfde informatie in tekstvorm voorgeschoteld kregen.
Argumenten afgestemd op persoon
Bovendien was 36 tot 42 procent personen die door AI van mening veranderde, een maand later nog steeds overtuigd van wat de bot hen had verteld. Het effect werd versterkt als de chatbots hun argumenten afstemden op kenmerken als leeftijd, geslacht of politieke voorkeur van de gebruiker. Volgens de onderzoekers maakt deze personalisatie de technologie bijzonder gevoelig voor misbruik door actoren die propaganda of desinformatie willen verspreiden.
Plaats als eerste een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.