OpenAI bant ChatGPT-accounts van Russische, Iraanse acties

OpenAI heeft ChatGPT-accounts verbannen die verbonden waren aan twee afzonderlijke beïnvloedingscampagnes, de ene vanuit Rusland en de andere vanuit Iran. Beide gebruikten de AI-tool om propaganda te ondersteunen die werd verspreid via sociale media, nieuwssites en, in het Russische geval, een nep-onderzoeksorganisatie.

Het bedrijf beschreef beide operaties in een veiligheidsrapport dat donderdag verscheen. Volgens OpenAI combineerden de daders AI met oudere, meer traditionele beïnvloedingstactieken.

Een nepdenktank gericht op Latijns-Amerika

De Russische campagne richtte zich op publiek in heel Latijns-Amerika. Middelpunt was het Social Research Center (SRC), dat zich presenteerde als onderzoeksplatform dat de Indiase diaspora in Latijns-Amerika en de betrekkingen van India met landen in de regio bestudeerde.

Volgens OpenAI hadden Russische agenten het centrum kennelijk in handen via een verzonnen identiteit. De campagne wierf ook lokale mensen in Latijns-Amerika om onderzoek voor het SRC uit te voeren, blijkbaar zonder hun te vertellen wie erachter zat.

"Het beschikbare bewijs wijst erop dat deze medewerkers ter plaatse geen idee hadden dat ze voor een Russische operatie werkten, en hun onderzoekstaken te goeder trouw uitvoerden", aldus OpenAI.

Veel van wat het centrum publiceerde, leek origineel onderzoek dat door deze rekruten was geschreven, en geen door AI gegenereerde tekst, staat in het rapport.

Het hoofddoel was de reputatie van Oekraïne in Latijns-Amerika te beschadigen. Sommige activiteiten leken echter bedoeld om de binnenlandse politiek te beïnvloeden in landen als Argentinië en Bolivia.

De daders gebruikten ChatGPT om nep-gelekte documenten en scripts voor audio-opnames te maken, waarvan een deel online de ronde deed. Minstens een deel van de valse beweringen verspreidde zich zo ver dat er factchecks en officiële ontkenningen op volgden.

OpenAI schreef de campagne niet toe aan een bij naam genoemde dreigingsactor. Wel wees het bewijs volgens het bedrijf op banden met een Russische organisatie die bekendstaat als Politology of La Compania. Die groep zou de opvolger zijn van beïnvloedingsoperaties die verbonden waren aan de overleden Russische oligarch Jevgeni Prigozjin en zijn Wagnergroep, het private militaire bedrijf.

De daders schreven ChatGPT meestal in het Russisch aan en leken in Rusland te zitten.

"Omdat we geen toegang tot onze modellen vanuit Rusland toestaan, gebruikten ze vpn's om verbinding te maken met onze diensten", aldus OpenAI.

Zeven nepjournalisten met verhalen over Iran

De Iraanse operatie werkte anders. Die leunde op zeven nepjournalisten die artikelen over het conflict tussen de VS en Iran aanboden aan onlinepublicaties.

OpenAI vond bijna 100 artikelen die onder deze identiteiten waren gepubliceerd of herpubliceerd bij zo'n twaalf media. De meeste waren kleine en middelgrote publicaties over internationale zaken, geopolitiek en het Midden-Oosten. Het vroegste artikel dateert van juli 2025, het laatste van oktober 2026. OpenAI noemde geen van de media bij naam.

ChatGPT werd gebruikt om lange artikelen bij te schaven, pitches aan redacteuren te schrijven en interne rapporten op te stellen. De daders genereerden ook reeksen reacties voor sociale media in het Engels en Perzisch over politieke en geopolitieke onderwerpen.

Die reacties sloegen nauwelijks aan, met relatief weinig likes, weergaven of antwoorden. Sommige media die de artikelen plaatsten, hadden wel een groot publiek. Eén ervan had volgens OpenAI bijna 2 miljoen volgers op Facebook.

De accounts leken uit Iran te komen, gebruikten vooral prompts in het Perzisch en bereikten ChatGPT via vpn's. OpenAI maakte niet bekend welke personen of organisaties verantwoordelijk zijn.

Oud draaiboek, nieuwe middelen

Het rapport benadrukt dat beide campagnes verder gingen dan nepprofielen op sociale media en ogenschijnlijk onafhankelijke organisaties inzetten om hun boodschap te verspreiden.

"Wat het meest opvalt aan deze operaties is dat ze sterk leken op complexe beïnvloedingsoperaties uit het tijdperk vóór AI, maar AI gebruikten om sommige werkprocessen makkelijker te maken", aldus OpenAI.

Onze kijk

De belangrijkste les hier is dat AI niet veranderde wat deze operaties waren. Het veranderde hoe snel ze konden werken. Mantelorganisaties, nietsvermoedende lokale rekruten en valse auteursnamen zijn beproefde technieken. ChatGPT hielp vooral bij het opstellen, redigeren en op grote schaal produceren van content.

Dat betekent dat verdedigers en redacteuren zich niet alleen moeten richten op het herkennen van machinaal geschreven tekst. In het Russische geval was een groot deel van het gepubliceerde onderzoek door echte mensen geschreven. Initiatieven als OpenAI's textGrain-watermerken kunnen in sommige gevallen helpen, maar ze vangen geen content die mensen te goeder trouw hebben geschreven.

Voor kleine en middelgrote publicaties is de Iraanse campagne een herinnering om freelancers te controleren, vooral als die stukken over geopolitiek aanbieden.

Ook opvallend: geoblocking hielp hier weinig, omdat beide groepen gewoon vpn's gebruikten. Samen met recente zorgen over AI-agents die publieke platforms misbruiken is het de moeite waard om te volgen of AI-aanbieders overstappen op strengere controles op accountniveau in plaats van te vertrouwen op beperkingen op basis van locatie.