Kan deepfake-technologie voorgoed worden gebruikt?

Kan deepfake-technologie voorgoed worden gebruikt?

AI kan op een geloofwaardige manier iemands gezicht in elke video vervangen, met de president van de Verenigde Staten. Eng? Dit wordt “deepfake” genoemd en AI wordt er steeds beter in.

Een scenario met Donald Trump is geen willekeurig voorbeeld. In februari 2018 gebruikte een YouTube-account genaamd Derpfakes een AI-tool voor het wisselen van afbeeldingen om de leider van de vrije wereld om te zetten in een komische impressie van hem door Alec Baldwin op Saturday Night Live. Het resultaat was op het eerste gezicht overtuigend.

Sindsdien zijn de algoritmen verbeterd. Deepfake neemt het gezicht van een persoon en legt dit realistisch over een video. Tot nu toe is het alleen gebruikt door amateurfilmers, die Generative Adversarial Networks (GAN's) gebruiken. Twee Machine Learning (ML)-modellen combineren: de ene traint op een dataset om een ​​videovervalsing te maken, terwijl de andere de vervalsing probeert te detecteren. De algoritmen dagen elkaar uit om tot een resultaat te komen waar de deepfake-maker niet zoveel kreuken uit hoeft te strijken. Naarmate de ML-algoritmen meer datasets trainen, verbeteren de resultaten. ML-algoritmen leren immers van hun eerdere fouten.

Het woord 'deepfake' is een samentrekking van 'deep learning' en 'nep': zoals 'bitmoji' of 'freeware'. Software is gemakkelijk te vinden; een desktop-app genaamd FakeApp die in 2018 werd gelanceerd en waarmee gebruikers hun eigen deepfake-video's konden maken en er zijn een aantal opensource-alternatieven. Het is echter niet zo eenvoudig te gebruiken als iets als Photoshop of After Effects.

Deze neurale netwerken zijn niet specifiek ontworpen om gezichten te herkennen. Lichtomstandigheden en camerahoeken kunnen het proces bemoeilijken, dus worden vaak vergelijkbare gezichten gebruikt; als je een high-end GPU hebt, leert het neurale netwerk vanzelf meer complexe mapping. Je kunt zelfs meer verschillende deepfake-algoritmen trainen, zodat elk neuraal netwerk zich alleen hoeft te concentreren op het detecteren van een specifiek deel van de video.

Het is misschien geen verrassing dat zulke krachtige software al in verkeerde handen is gevallen. Je favoriete beroemdheid invoegen in een pornografische video is nu gemakkelijker dan ooit. Pornhub en Reddit hebben gezworen deepfake-video's op hun sites te sluiten, waarbij Scarlett Johansson het internet zelf een "groot wormgat van duisternis" noemde, nadat frequente schendingen van haar gelijkenis werden gebruikt in nepvideo's voor volwassenen.

Deepfake bevindt zich in een stadium waarin het door iedereen wordt veroordeeld. Er zijn zelfs oproepen in het VK om er een specifiek misdrijf van te maken.

Hoe zou deepfake zich kunnen ontwikkelen?

Deepfake fascineert mensen. Het is hard op weg een genre op YouTube te worden: miljoenen mensen hebben deepfake-video's bekeken van personages in scènes van films waar ze nooit in waren. Het gezicht van Edward Norton heeft dat van Brad Pitt vervangen in een beroemde Fight Club scène in een video, terwijl de Joker van Heath Ledger uit De donkere ridder is opgedoken in een deepfake-edit of een ridders verhaal, een film die zeven jaar ouder is dan Ledger's iconische Batman-schurk.

Deepfake is een werk in uitvoering, maar het groeit in realisme. AI stelt amateurfilmers in staat om bijna geloofwaardige video-effecten te creëren: hoe zouden de mogelijkheden eruit kunnen zien voor filmstudio's?

Het potentieel van de technologie achter deepfake kan baanbrekend zijn voor entertainment. ML kan niet alleen worden gebruikt in de bioscoop, maar ook in gaming om meer realistische effecten te creëren. Studio's zouden acteurs kunnen binnenhalen op basis van hun doelmarkt: stel je voor dat je beroemde buitenlandse acteurs cast voor versies van een film uit andere landen.


We bevinden ons misschien in het tijdperk van 'nepnieuws': het tijdperk van 'nepbeelden' lonkt.


Netflix experimenteerde met de 'kies-je-avontuur'-aflevering van Zwarte spiegel, Bandersnatch, eind 2018. Wat als u, de kijker, zou kunnen kiezen welke acteurs u in de hoofdrollen wilt hebben? ML-algoritmen kunnen ook worden gebruikt om verhaallijnen te genereren op basis van wat u wilt bekijken. Studio's zouden in de toekomst aanpasbare videoverhalen kunnen aanbieden die op jou zijn afgestemd. Je zou zelfs je familie en vrienden in de plot kunnen invoegen.

Gepersonaliseerde advertenties kunnen ook een kans zijn voor bedrijven. Het kiezen van een gezicht voor een modecollectie is een moeilijke beslissing, maar dat hoeft niet bij deepfake te zijn. Het zou mogelijk zijn om een ​​licentie te nemen voor een selectie van beroemdheden en ze te targeten op verschillende demografische groepen, afhankelijk van de iconen die ze leuk vinden.

Mensen zijn visuele dieren. Gezichten en uitdrukkingen communiceren op geen enkele andere manier met ons en de oppervlakkige mogelijkheden van deepfake zijn het topje van de ijsberg. Kan deepfake worden gebruikt bij criminele reconstructies? Kan ML-technologie worden gebruikt om historische scènes nauwkeuriger dan ooit te reconstrueren? Deepfake opent een doos met videomogelijkheden van Pandora, maar daarmee kunnen ongelooflijke technologische ontwikkelingen gepaard gaan.

Deepfake stelt meer ethische vragen dan het beantwoordt

Er zijn geen gemakkelijke oplossingen om AI-dilemma's. De mogelijkheid van interactieve cinema heeft tot nu toe vooral porno opgeleverd. Het vermogen om verhalen nauwkeuriger te vertellen is verloren gegaan in het plezier van het opnieuw animeren van Donald Trump om dingen te zeggen die hij nooit heeft gezegd. We bevinden ons misschien in het tijdperk van 'nepnieuws': het tijdperk van 'nepbeelden' lonkt.

We zijn hier geweest met afbeeldingen. We hebben nog steeds discussies over de morele integriteit van Photoshop. Is het juist om de onvolkomenheden van een model te corrigeren? Is het gevaarlijk voor digitale amateurkunstenaars om de spot te drijven met echt ogende scènes van machtige mensen? Deze argumenten woedden meer dan 25 jaar na het begin van Photoshop voort en net als deepfake wordt de software steeds beter, met Adobe werkt zelf met AI om een ​​betere workflow te creëren dan ooit tevoren.

Hoewel er tal van nadelen zijn aan foto- en videomanipulatie, is er echter een bijna geaccepteerde overeenkomst over één ding. Deepfake, zoals Photoshop ervoor, daagt onze perceptie van de wereld om ons heen uit. Het maakt ons kritischer op wat we zien. Video's bestuderen op tekenen van authenticiteit betekent dat we inhoud niet als vanzelfsprekend beschouwen. Een gebrek aan vertrouwen in de media waarop we vroeger vertrouwden, maakt de wereld enger, maar met een aanpassingsperiode kan het ons misschien wijzer maken.

Kranten leerden ons om niet alles te geloven wat we lezen. Photoshop leerde ons niet alles te geloven wat we zagen. Nu de meeste Hollywood-films al ongelooflijke CGI gebruiken, hoe snel voordat de mensheid video-inhoud een beetje meer gaat onderzoeken?

Het is een discussie die nog wat langer zal duren. Deepfake is onmiskenbaar eng en gevaarlijk. Misschien is het echter een goede zaak om de authenticiteit in de moderne wereld wat meer in twijfel te trekken.

Een beeld van deepfake, Nieuws, Kan deepfake-technologie voorgoed worden gebruikt?

Lucas Conrad

Technologie & Marketing Enthousiasteling

Een nieuwe reis naar de cloud

Don Valentijn • 23 januari 2023

ERP-implementatie is veranderd. En voor die bedrijven die de onderhoudsdeadline van 2027 voor SAP ECC 6 tegemoet gaan, is dat goed nieuws. In het cloud-first model van vandaag, 'adopt not adapt', zijn er geen whiteboards meer. Geen consultants meer die software aanbieden om aan elke zakelijke behoefte te voldoen. En geen langgerekte implementaties meer – gevolgd door...