OpenAI’s nieuwe AI-gestuurde sociale media-app, Sora, is snel opgeklommen naar de nummer één plek voor gratis downloads in de App Store van Apple en overtreft zowel ChatGPT als Google Gemini in populariteit. De app, momenteel beperkt tot gebruikers in de VS en Canada (met Android-toegang via internet), is gebouwd rond het Sora 2-videogeneratiemodel van OpenAI, waardoor een feed ontstaat met volledig door AI gegenereerde inhoud.
Wat is Sora?
In tegenstelling tot traditionele sociale mediaplatforms is de inhoud van Sora volledig synthetisch. Video’s lopen eindeloos door, maar geen enkele toont echte gebeurtenissen of mensen. Met de kernfunctie, genaamd ‘cameo’, kunnen gebruikers hun beeltenis (gezicht en stem) uploaden, zodat Sora deze in door AI gegenereerde scènes kan plaatsen. Hierdoor kunnen gebruikers relatief eenvoudig realistische deepfakes creëren.
“De app is enorm populair geworden, maar laat ook zien hoe snel AI-tools toegankelijk worden voor kwaadwillig gebruik.”
Deepfake-risico’s en ethische zorgen
De snelle opkomst van Sora heeft de debatten over het potentieel voor misbruik van door AI gegenereerde media opnieuw aangewakkerd. Het vermogen om zich op overtuigende wijze voor te doen als individuen roept ernstige zorgen op over desinformatie, fraude en de erosie van het vertrouwen in digitale inhoud. Sora is bijvoorbeeld al gebruikt om een verzonnen video te maken waarin Sam Altman, CEO van OpenAI, Google’s Gemini prees boven ChatGPT, wat het manipulatiepotentieel van de tool aantoont.
De bredere trend van generatieve AI
Het succes van Sora maakt deel uit van een grotere trend waarbij generatieve AI-tools steeds meer mainstream worden. Google Gemini bekleedde onlangs de eerste plaats in de App Store vanwege zijn AI-beeldgenerator, en OpenAI heeft het maken van afbeeldingen geïntegreerd in ChatGPT, wat heeft geleid tot virale trends zoals door AI gegenereerde portretten in de stijl van Studio Ghibli. Meta werkt ook samen met Midjourney om toekomstige creatieve AI-functies te ontwikkelen.
Deze snelle expansie is echter niet zonder controverse. Makers uiten juridische en ethische zorgen over inbreuk op het auteursrecht, de verspreiding van verkeerde informatie en het gebrek aan regulering rond generatieve AI. Ziff Davis, het moederbedrijf van CNET, heeft zelfs een rechtszaak aangespannen tegen OpenAI wegens schending van het auteursrecht op zijn AI-trainingsgegevens.
Waar het op neerkomt: Sora’s dominantie op het gebied van app-downloads duidt op een groeiende publieke belangstelling voor door AI gegenereerde inhoud, maar onderstreept ook de dringende behoefte aan verantwoorde ontwikkeling en bescherming tegen de mogelijke schade ervan. De vraag is niet langer of door AI gegenereerde inhoud zich zal verspreiden, maar hoe de samenleving zich zal aanpassen aan een wereld waarin het steeds moeilijker wordt om de realiteit van verzinsels te onderscheiden.
