Nu de RNC ten einde loopt, nemen de inspanningen van de swing states om misinformatie te bestrijden toe in de aanloop naar de verkiezingen

Door Shania Shelton, CNN

(CNN) — Een soldaat in een oorlogsgebied. Bandleden spelen op straat. Een lachende selfie.

Toen het publiek tijdens de Republikeinse Partijconventie maandag werd gevraagd hun hand op te steken als ze dachten dat deze beelden kunstmatig waren gegenereerd, konden meerdere deelnemers raden welke beelden echt waren. Anderen stonden echter voor een raadsel.

Microsoft-experts Ginny Badanes en Ashley O’Rourke namen het publiek mee langs veelvoorkomende signalen van deepfakes, methoden om content te labelen, tips voor het maken van een plan om deepfakes te bestrijden en manieren om deepfakes te melden in een tijd waarin overheden op staats- en lokaal niveau en politieke partijen desinformatie hard aanpakken.

Badanes zei dat een van de redenen waarom ze deze trainingen, die worden georganiseerd door de organisatie All in Together en gepresenteerd door Microsoft, organiseren, is zodat degenen die betrokken zijn bij het politieke proces deepfakes kunnen volgen en kunnen nadenken over wat ze zouden doen als er iets zou gebeuren waarbij hun kandidaat of organisatie betrokken is.

Volgens O’Rourke zijn de meest overtuigende en geloofwaardige deepfakes afkomstig van lokale functionarissen en kandidaten voor een functie, en niet van kandidaten op federaal niveau.

“Als je een campagne- of kandidaat bent die zich kandidaat stelt voor een functie, wil je foto’s van je evenementen kunnen publiceren en persberichten en video’s kunnen uitbrengen”, zei ze. “En je wilt dat kiezers de content die je publiceert vertrouwen als een betrouwbare bron van informatie, en dit deepfake-probleem zorgt ervoor dat kiezers dat vertrouwen verliezen.”

Nu de eerste presidentsverkiezingen sinds de opkomst van geavanceerde AI en het tijdperk van deepfake dichterbij komen, bereiden swing states zich voor om terug te vechten tegen de mogelijke verspreiding van desinformatie. Ze doen dit door ervoor te zorgen dat hun verkiezingsbureaus voorbereid zijn en door wetgeving aan te nemen om de dreiging aan te pakken.

“2024 is het eerste Amerikaanse presidentsverkiezingsjaar op dit kruispunt van verkiezingsgerelateerde mis- en desinformatie en de snelle groei van door AI gegenereerde content. Het is natuurlijk niet nieuw. AI bestaat al langer, maar we hebben dit jaar echt een piek op dit kruispunt, en een beetje een perfecte storm”, aldus Megan Bellamy, vicevoorzitter van recht en beleid bij het Voting Rights Lab.

Pogingen van staats- en lokale overheden om misinformatie te bestrijden

In Philadelphia omvat het budget van het kantoor van de stadscommissaris 1,4 miljoen dollar voor een uitgebreid communicatieplan, met inbegrip van een plan om misinformatie in de stad te bestrijden. Het plan richt zich op proactieve communicatie met gemeenschappen die het doelwit zijn van misinformatie via platforms zoals sociale media en advertenties, en op het reageren op misinformatie wanneer deze opduikt.

Misinformatie verspreidde zich snel door Pennsylvania tijdens de verkiezingen van 2020, toen de swing state te maken kreeg met ongefundeerde beschuldigingen over stemmen in Pennsylvania, vermeende oneerlijkheid jegens Republikeinse peilingwaarnemers en schendingen van verkiezingsregels. Oud-president Donald Trump en zijn campagne verspreidden ook dubieuze informatie over stemmen per post op veel platforms, van sociale media tot het debatpodium.

Stadscommissaris Seth Bluestein zei dat ze een deel van het budget gebruiken om te reageren op misinformatie met betrekking tot de integriteit van de verkiezingen in Philadelphia.

“Het is altijd belangrijk om ervoor te zorgen dat verkiezingen niet alleen goed verlopen en veilig en efficiënt zijn, maar ook dat de kiezers vertrouwen hebben in het proces en dat hun stemmen nauwkeurig worden geteld”, aldus Bluestein. “Het is dus essentieel om vertrouwen te hebben in het systeem om mis- en desinformatie terug te kunnen dringen wanneer deze zich voordoet.”

Commissarisvoorzitter Omar Sabir zei dat het vooral belangrijk is om met de Latino-, Afro-Amerikaanse en Aziatische gemeenschappen te praten, omdat zij het doelwit zijn van pogingen tot desinformatie.

“In ons hele land is de misinformatie gericht op gebieden als Philadelphia, Atlanta, Milwaukee, dat zijn gebieden waarvan ons verkiezingssysteem ervan wordt beschuldigd dat ze verschillende activiteiten uitvoeren. En dat soort aanvallen hebben ertoe geleid dat mensen niet meer in het proces geloven of denken dat hun stem niet telt,” zei Sabir.

Sabir zei dat de inspanningen om desinformatie te bestrijden zich zullen richten op kiezers waar ze zijn, inclusief sociale media, billboards en radioadvertenties. Hij zei dat ze een communicatiebureau met volledige staf beschikbaar zullen hebben om te reageren wanneer mensen met verschillende vormen van desinformatie komen.

Lawrence Norden, senior directeur van het Elections and Government Program van het Brennan Center, zei dat de komende maanden van cruciaal belang zijn om proactief te zijn en kiezers nauwkeurige informatie te geven voorafgaand aan de verkiezingen.

“Er zijn bepaalde thema’s die zich elke keer herhalen als je weet dat je de stemmachines niet kunt vertrouwen, of dat handmatig tellen beter zou zijn, of dat er een vorm van fraude in het systeem zit met betrekking tot wie er stemt. Zoals vooraf aan mensen uitleggen welke veiligheidsmaatregelen er zijn, is de beste manier om mensen in te enten”, aldus Norden.

In Arizona heeft minister van Buitenlandse Zaken Adrian Fontes vorige maand een adviescommissie opgericht om beleidsaanbevelingen te doen met betrekking tot AI en verkiezingsbeveiliging. De discussies zullen zich naar verwachting richten op de potentiële voordelen en risico’s voor verkiezingsbeveiliging in termen van generatieve AI, aldus een persbericht van zijn kantoor.

Fontes werd in mei erkend voor het werk van zijn kantoor om trainingsoefeningen voor verkiezingsbeveiliging te creëren die gericht waren op het beschermen van de verkiezingsinfrastructuur van de staat. Hij heeft zes oefeningen gehouden die AI- en deepfake-training omvatten, waarbij deelnemers werden blootgesteld aan scenario’s en uitdagingen met betrekking tot cyberaanvallen en desinformatiecampagnes.

De reeks trainingsprogramma’s begon in december voor verkiezingsfunctionarissen en is uitgebreid naar rechtshandhaving en nationale media.

“Vooruitgang in AI en deepfake-technologie vergroten het potentieel voor chaos. Deze nationale erkenning bevestigt dat we toegewijd zijn aan alle uitdagingen die op ons pad komen bij het handhaven van de integriteit en veiligheid van verkiezingen in Arizona”, zei Fontes in een persbericht in mei als reactie op het ontvangen van een prijs voor het werk.

Bellamy zei dat het cruciaal is om misinformatie te bestrijden in de aanloop naar deze verkiezingen, en verkiezingen krijgen veel negatieve aandacht. Ze zei dat het nog belangrijker zal zijn om te focussen op de organisatie van de verkiezingen zelf, en elke vorm van mis- of desinformatie schudt dat fundament.

“Mis- en desinformatie is echt wijdverbreid,” zei Bellamy. “We hebben het over valse geruchten en misvattingen over verkiezingen, maar ook over deze desinfo, gerichte berichten die doelbewust worden verspreid om kiezers te misleiden.”

Wetgeving richt zich op AI en deepfakes in campagnes en verkiezingen

Toen afgevaardigde Alexander Kolodin van de staat Arizona luisterde naar een aflevering van een podcast over economie waar hij regelmatig naar luistert, was hij geschokt toen hij ontdekte dat hij naar een door AI gegenereerde versie van de verteller luisterde die een verhaal vertelde.

“Ik ken de stem van deze man, en het klonk precies als hij,” zei de Republikein uit Arizona. “Ik denk: ‘Oh, holy cow. Dit gaat een probleem worden in 2024, en dit is iets dat we nu moeten aanpakken, want de technologie is er.'”

Hij zei dat hij een modelwetgeving wilde bieden voor de rest van het land die deep fakes aanpakt, maar toch het Eerste Amendement en het recht van burgers op vrije meningsuiting en expressie respecteert. Het wetsvoorstel dat Kolodin vervolgens sponsorde, HB 2394, staat toe dat een persoon binnen twee jaar na kennisname van de content een rechtszaak wegens digitale imitatie aanspant als de imitatie zonder toestemming van de persoon is gepubliceerd of niet duidelijk is gemaakt dat het een digitale imitatie was. De Democratische gouverneur Katie Hobbs ondertekende het wetsvoorstel in mei.

In een andere wetgeving uit Arizona beperkte de staatswetgever makers om synthetische media van een kandidaat op het stembiljet te creëren en te verspreiden binnen negentig dagen na een verkiezing, tenzij er sprake is van een “duidelijke en opvallende openbaarmaking die aan een redelijk persoon duidelijk maakt dat de media inhoud bevat die is gegenereerd door kunstmatige intelligentie.”

Samen met de openbaarmakingsvereiste legt het wetsvoorstel, SB 1359, civiele boetes op aan degenen die zich er niet aan houden. Het werd in mei ondertekend.

David Edmonson, senior vice president voor staatsbeleid en overheidsrelaties bij TechNet, zei dat er op staatsniveau een enorme toename is in de belangstelling voor AI. Een van de onderwerpen die daarbij herhaaldelijk ter sprake kwam, vooral in verkiezingsjaren, was verkiezingsgerelateerde deepfakes en misinformatie.

“AI heeft het potentieel om een ​​aantal van de grootste uitdagingen van onze tijd op te lossen,” zei Edmonson. “Maar het erkennen en aanpakken van de echte risico’s die gepaard gaan met AI is cruciaal voor de verantwoorde ontwikkeling ervan, en dat omvat absoluut het voorkomen dat kandidaten, hun agenten of wie dan ook AI gebruiken om opzettelijk misleidende campagne-inhoud te publiceren.

Gouverneur Tony Evers van Wisconsin ondertekende in maart een wetsvoorstel dat een disclaimer vereist van het gebruik van AI voor content in politieke advertenties. Het wetsvoorstel, AB 664, dat door de wetgevende macht van de staat is aangenomen, verwijst naar “synthetische media” als audio- of videocontent die wordt geproduceerd door middel van generatieve kunstmatige intelligentie en geeft richtlijnen voor disclaimers voor audio- en videocontent.

Overtredingen van deze eis resulteren in boetes tot $ 1.000 per overtreding.

Adam Neylon, die mede-sponsor was van het wetsvoorstel, zei dat het begon met een bipartizane poging om AI-problemen aan te pakken, en de impact op campagnes, commercials en advertenties kwam herhaaldelijk ter sprake in gesprekken. Hij zei dat het een echt probleem is voor de democratie als je het vertrouwen in het democratische proces begint te ondermijnen, en deze wetgeving zorgt ervoor dat mensen kunnen vertrouwen op wat ze zien, geloven en horen, terwijl ze zelf kunnen bepalen wanneer AI wordt gebruikt om iets te manipuleren.

“Dus in Wisconsin hebben we nu gewerkt aan een bipartizane wet die door de gouverneur is ondertekend om campagnes of politieke organisaties te verplichten een disclaimer te verstrekken wanneer ze worden gebruikt voor campagneadvertenties. We denken dus dat het belangrijk is dat mensen weten wanneer AI wordt gebruikt, zodat ze kunnen vertrouwen op wat ze zien en geloven wat ze horen,” zei Neylon.

Lia Holland, campagne- en communicatiedirecteur van Fight for the Future, zei dat ze zich zorgen maakt dat de wetsvoorstellen die openbaarmaking vereisen “een asymmetrie in de media zullen creëren en legitieme politieke uitingen zullen bevriezen.”

“Mensen kunnen politici goed imiteren en deze wetsvoorstellen vermijden”, zei Holland. “En wat dacht je van positieve deepfakes? Ik heb veel afbeeldingen gezien waarop Trump eruitziet als een gespierde superheld. Moeten die openbaar worden gemaakt? En wat is de grens in kunst voor AI-gegenereerd of niet AI-gegenereerd – worden gehandicapte kunstenaars die AI als hulpmiddel gebruiken in hun kunst gediscrimineerd als hun kunst gedwongen wordt om als AI-gegenereerd te worden gelabeld?”

De-CNN-Wire
™ & © 2024 Cable News Network, Inc., een Warner Bros. Discovery Company. Alle rechten voorbehouden.