Tilburg University: Deepfakes kunnen de samenleving flink ontwrichten

05-01 14:35 | bron: Onderwijsland.com

TILBURG - Door de opkomst van deepfakes zal de vraag ‘Wat is echt?’ steeds vaker op de politieke en maatschappelijke agenda komen te staan. Deepfakes kunnen worden gebruikt om nepnieuws te verspreiden, verkiezingen te beïnvloeden, realistisch fakebewijs aan rechters voor te leggen en fake pornofilms van vrouwen te maken. Ieder van deze toepassingen heeft potentieel een zeer grote impact op de samenleving, sociale structuren en de democratische rechtsorde. Dat blijkt uit vandaag verschenen onderzoek van het Tilburg Institute for Law, Technology, and Society (TILT), Tilburg University, in opdracht van het WODC.

Een deepfake is beeld, geluid of ander digitaal materiaal dat nep is, maar zeer realistisch lijkt. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Ook kunnen geheel nieuwe (virtuele) personen of beelden worden gefabriceerd. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. Bovendien kan iedereen gratis en gemakkelijk toegang krijgen tot deze technologie. De verwachting van experts is dan ook dat over 5 jaar meer dan 90% van alle online content geheel of gedeeltelijk gemanipuleerd zal zijn. Deepfake-detectietechnologieën zijn beperkt in capaciteit en kunnen slechts een deel van het fakemateriaal automatisch wegfilteren.

Meer regulering en bescherming

De onderzoekers stellen vast dat het huidige recht, onder meer in het Wetboek van Strafrecht, de Algemene Verordening Gegevensbescherming en het recht op vrijheid van meningsuiting, al veel regels stelt aan deepfakes, maar dat de handhaving van deze regels achter blijft. Om onder andere de handhavingsdruk te verlichten, beschrijven de onderzoekers een groot aantal reguleringsopties. Een daarvan is om het produceren, aanbieden, gebruiken en in bezit hebben van deepfake-technologie te verbieden voor de consumentenmarkt. Het huidige recht legt immers niet de ontwikkeling van deepfake en het aanbieden aan banden, maar het gebruik daarvan voor specifieke doeleinden. Het kwaad is dan al geschied. Daarnaast kan worden overwogen om meer bescherming aan de rechten van overledenen te gegeven, bijvoorbeeld als zij tegen hun zin weer ‘tot leven worden gewekt’ door een ex-partner of een commerciële organisatie met winstbejag.

Maatschappelijk debat

De onderzoekers stellen dat een brede politieke en maatschappelijke discussie omtrent de wenselijkheid van deepfakes noodzakelijk is en dat meer bewustwording en regelgeving zou kunnen worden overwogen, vooral ten aanzien van een aantal toepassingsgebieden:

  • Verkiezingen kunnen worden beïnvloed middels fakevideo’s, bijvoorbeeld door buitenlandse mogendheden.
  • De media kunnen op termijn in de knel komen omdat zoveel digitaal materiaal gemanipuleerd is dat zij zullen moeten kiezen tussen Scylla, ofwel snel publiceren, met het risico om fakenews te brengen, en Charybdis, ofwel wachten tot materiaal op waarheidsgetrouwheid is gecontroleerd, wat zeer veel technische expertise en kosten met zich kan brengen, en het publicatiemoment met dagen kan vertragen.
  • Politie, justitie en rechters zullen systemen moeten ontwikkelen om zorg te dragen dat fakemateriaal niet in de rechtszaal wordt ingebracht, om zo onterechte veroordelingen te voorkomen.
  • Tot slot, en wellicht het belangrijkste: de schatting is dat het momenteel bij meer dan 95% van alle deepfakes gaat om zogenoemd non-consensual porn. Dat wil zeggen dat er pornovideo’s worden gemaakt en verspreid waarin bijvoorbeeld een vrouw allerhande seksuele handelingen lijkt te verrichten, terwijl zij die niet daadwerkelijk heeft verricht. Het is bekend dat de verspreiding van dergelijke video’s een zeer grote impact kan hebben op het privéleven, de maatschappelijke positie en het zelfbeeld van vrouwen in het algemeen en jonge meisjes in het bijzonder.

Rapport

Het rapport ‘Deepfakes. De juridische uitdagingen van een synthetische samenleving’ is hier beschikbaar en bij het WODC. Auteurs: Bart van der Sloot, Yvette Wagensveld en Bert-Jaap Koops, Tilburg Institute for Law, Technology, and Society.

 

Bron: Tilburg University 





Uw nieuws hier? neem dan contact met ons op

Geef een reactie
Je moet inloggen om te kunnen reageren.
Heb je nog geen account, maak dan een account aan


Laatste nieuws
20 jan Nieuwe 'Gids Proportionaliteit'
19 jan BNR: Zo'n 56 scholen zijn deels gesloten en zestien zijn volledig dicht
19 jan Medische mondkapjes moeten beschikbaar zijn voor onderwijspersoneel
19 jan Steeds meer schoolklassen in quarantaine: OMT buigt zich nogmaals over regels
19 jan Coronavirus verspreidt zich snel onder schoolgaande kinderen en jongeren
19 jan Bijna vier op de tien ouders laten kind niet vaccineren tegen corona
19 jan Profiteer als leerkracht elke dag van het GO-portaal
19 jan Succesvol inkopen en aanbesteden in het onderwijs (video)
18 jan Vergoeding raad van toezicht Alkmaarse scholenkoepel flink gestegen
18 jan Wijziging in quarantaineadvies protocol Kinderopvang
18 jan Minister Wiersma naar eigen basisschool voor eerste werkbezoek
18 jan Huishoudens gaan er flink op achteruit
18 jan Inspectie Justitie en Veiligheid onderzoekt rol jeugdbescherming bij toeslagenaffaire
18 jan Kinderen van vijf tot en met elf jaar krijgen uitnodiging voor coronavaccinatie
18 jan Online open dag voor basisscholen in Amsterdam voor ouders
18 jan Maandagochtend, de wekker gaat..
17 jan Mijn diploma's ook in Engelstalig uittreksel beschikbaar bij DUO
17 jan Boekenweek 2022 naar april vanwege huidige coronasituatie
17 jan Anne Frank Stichting: onderzoek nodig naar theorie van verraad door notaris
17 jan Middelbaar- en hoger onderwijs mag vanaf vandaag weer fysiek lesgeven
17 jan Onderwijsminister Dijkgraaf: veerkracht studenten raakt op
17 jan Vaccinatie voor kinderen van vijf tot en met elf jaar
17 jan Controle in je klas met klassenmanagement in Prowise GO
14 jan 'Toename zelfdodingen jongeren komt mede door schoolsluitingen'
14 jan Een op zes scholen moest deze week één klas wegsturen vanwege uitval docent
Poll
De werkdruk in het onderwijs is te groot
Donateurs van Onderwijsland
Het Onderwijsland netwerk
Onderwijsland verbindt professionals en bestuurders uit de onderwijsbranche met elkaar. Word ook onderdeel van Onderwijsland!
Spotlight
Advertentie
uw banner hier?