Big Tech moet omgaan met desinformatie of boetes krijgen, zegt EU

Big Tech moet omgaan met desinformatie of boetes krijgen, zegt EU

Door Tom Gerken & Liv McMahon
Technologieteam

Gepubliceerd26 minuten geledenDelencloseDeel paginaKopieer linkOver delenBeeldbron, Getty Images

Grote technologiebedrijven, zoals Google en Meta, zullen actie moeten ondernemen tegen deepfakes en nepaccounts – of riskeren hoge boetes.

Deepfakes zijn video’s waarin de gelijkenis van een persoon wordt gebruikt om hen iets te laten zien dat ze nooit hebben gedaan.

Nieuwe EU-regelgeving, ondersteund door de Digital Services Act (DSA), zal technologiebedrijven verplichten om op hun platforms met deze vormen van desinformatie om te gaan.

Bedrijven kunnen een boete krijgen van maximaal 6% van hun wereldwijde omzet als ze zich niet aan de regels houden.

De aangescherpte code is bedoeld om te voorkomen dat ze profiteren van desinformatie en nepnieuws op hun platforms, maar ook om de transparantie rond politieke advertenties te vergroten en de verspreiding van ‘nieuw kwaadaardig gedrag’ zoals bots, nepaccounts en deepfakes tegen te gaan.

Clubhouse, Google, Meta, TikTok, Twitter en Twitch behoren tot de 33 ondertekenaars van de verbeterde code en werkten samen om overeenstemming te bereiken over de nieuwe regels.

Bedrijven die de code hebben ondertekend, zullen verplicht zijn om meer informatie te delen met de EU – met alle ondertekenaars die verplicht zijn om begin 2023 de eerste rapporten over hun implementatie van de code te verstrekken.

Platforms met meer dan 45 miljoen maandelijks actieve gebruikers in de EU zullen om de zes maanden verslag moeten uitbrengen aan de Commissie.

Nick Clegg, Meta’s president of global affairs, schreef op Twitter: “Het bestrijden van de verspreiding van verkeerde info is een complexe en evoluerende maatschappelijke kwestie”.

“We blijven zwaar investeren in teams en technologie, en we kijken uit naar meer samenwerking om dit samen aan te pakken.”

Een Twitter-woordvoerder zei dat het bedrijf de bijgewerkte code verwelkomde.

“Door en buiten de Code blijft Twitter zich inzetten om desinformatie en desinformatie aan te pakken terwijl we onze aanpak in deze steeds veranderende omgeving blijven evalueren en ontwikkelen”, aldus een verklaring.

Google heeft niet gereageerd op een verzoek om commentaar.

Wat zijn de gevaren van deepfakes? Mediabijschrift, BEKIJK: De software voor het verwisselen van gezichten uitgelegd

Deepfakes zijn geïdentificeerd als een opkomende vorm van desinformatie wanneer ze kwaadwillig worden gebruikt om politici, beroemdheden en gewone burgers aan te vallen.

In de afgelopen jaren zijn ze steeds meer in verband gebracht met pornografie, waarbij gezichten van individuen zijn afgebeeld op expliciet seksueel materiaal.

Deepfakes-expert Nina Schick zegt dat pornografische deepfakes zonder wederzijds goedvinden tegenwoordig de belangrijkste vorm van kwaadwillende deepfaker zijn, met name bij bekende figuren als Michelle Obama, Natalie Portman en Emma Watson.

Er is ook bezorgdheid geuit over het gebruik van deepfakes in de politiek, waarbij valse video’s van wereldleiders online worden gedeeld tijdens de oorlog tussen Rusland en Oekraïne.

“Deze nieuwe anti-desinformatiecode komt op een moment dat Rusland desinformatie als wapen gebruikt als onderdeel van zijn militaire agressie tegen Oekraïne”, zegt Věra Jourová, vicevoorzitter van de Europese Commissie voor waarden en transparantie, “maar ook wanneer we meer aanvallen op de democratie zien. breed.”

“We hebben nu zeer belangrijke toezeggingen om de impact van online desinformatie te verminderen, en veel robuustere instrumenten om te meten hoe deze worden geïmplementeerd in de hele EU, in alle landen en in al haar talen.”

‘Tweesnijdend zwaard’

De moeilijkheid om deepfakes en echte beelden van elkaar te onderscheiden zal de komende jaren waarschijnlijk toenemen, zegt mevrouw Schick, daarbij verwijzend naar de toegenomen beschikbaarheid van tools en apps die nodig zijn om kwaadaardige deepfakes te ontwikkelen.

Terwijl deepfakes onruststokers in staat stellen direct desinformatie te verspreiden, veroorzaakt hun verschijning op grotere schaal op online platforms een klimaat van informatieonzekerheid – die vatbaar is voor verdere manipulatie.

Echte beelden kunnen bijvoorbeeld worden afgedaan als deepfakes door degenen die aansprakelijkheid willen vermijden.

Dit maakt de uitdaging voor burgers om echte inhoud te herkennen, en voor regelgevers en platforms om er actie op te ondernemen, steeds moeilijker.

“Je hebt dit soort tweesnijdend zwaard – alles kan worden vervalst en alles kan worden ontkend”, zegt mevrouw Schick.

Afbeeldingsbron, Getty Images/The Washington PostImage bijschrift, Een vergelijking van een originele en deepfake-video van Meta-topman Mark Zuckerberg

De afgelopen jaren hebben Big Tech-bedrijven zich ingespannen om deepfakes op hun platforms te detecteren en tegen te gaan – met Meta en Microsoft als belanghebbenden die in 2019 de Deepfake Detection Challenge voor AI-onderzoekers lanceerden.

Maar platforms “gebruiken te vaak deepfakes als een vijgenblad om te verbergen dat ze niet genoeg doen aan bestaande vormen van desinformatie”, zegt mevrouw Schick.

“Het zijn niet de meest voorkomende of kwaadaardige vormen van desinformatie; we hebben zoveel bestaande vormen van desinformatie die al meer schade aanrichten.”

Volgens de herziene EU-code moeten accounts die deelnemen aan gecoördineerd niet-authentiek gedrag, het genereren van nepbetrokkenheid, imitatie en botgestuurde versterking ook periodiek worden beoordeeld door relevante technologiebedrijven.

Maar mevrouw Schick voegt eraan toe dat deepfakes nog steeds het potentieel hebben om online “de krachtigste vorm van desinformatie” te worden.

“Deze technologie zal relatief snel meer en meer gangbaar worden, dus we moeten voorop lopen”, zegt ze.

Vlops en Vloses

De DSA – overeengekomen door het Europees Parlement en de EU-lidstaten in april – is de geplande EU-regelgeving voor illegale inhoud, goederen en diensten online, gebaseerd op het principe dat dingen die offline illegaal zijn, ook online illegaal moeten zijn.

De DSA zal naar verwachting in 2024 van kracht worden en van toepassing zijn op alle online diensten die actief zijn in de EU, maar met bijzondere aandacht voor wat zij Vlops (zeer grote online platforms, zoals Facebook en YouTube) en Vloses (zeer grote online zoekacties) noemt. motoren, zoals Google) – gedefinieerd als services met meer dan 45 miljoen gebruikers in de EU.

Het zal het juridische instrument zijn dat wordt gebruikt ter ondersteuning van de nieuwe praktijkcode inzake desinformatie, in een poging om nepnieuws en vervalste afbeeldingen online aan te pakken.