Die neue KI-gesteuerte Social-Media-App von OpenAI, Sora, ist schnell auf Platz eins der kostenlosen Downloads im App Store von Apple aufgestiegen und hat sowohl ChatGPT als auch Google Gemini an Beliebtheit übertroffen. Die App, die derzeit auf Benutzer in den USA und Kanada beschränkt ist (mit Android-Zugriff über das Internet), basiert auf dem Videogenerierungsmodell Sora 2 von OpenAI und erstellt einen Feed mit vollständig KI-generierten Inhalten.
Was ist Sora?
Im Gegensatz zu herkömmlichen Social-Media-Plattformen sind die Inhalte von Sora vollständig synthetisch. Videos werden endlos wiederholt, aber keines davon zeigt reale Ereignisse oder Personen. Die Kernfunktion namens „Cameo“ ermöglicht es Benutzern, ihr Abbild (Gesicht und Stimme) hochzuladen, damit Sora sie in KI-generierte Szenen platzieren kann. Dadurch können Benutzer relativ einfach realistische Deepfakes erstellen.
„Die App erfreut sich explosionsartiger Beliebtheit, zeigt aber auch, wie schnell KI-Tools für böswillige Zwecke zugänglich werden.“
Deepfake-Risiken und ethische Bedenken
Der rasante Aufstieg von Sora hat die Debatten über den möglichen Missbrauch KI-generierter Medien neu entfacht. Die Fähigkeit, sich überzeugend als Einzelpersonen auszugeben, wirft ernsthafte Bedenken hinsichtlich Desinformation, Betrug und der Erosion des Vertrauens in digitale Inhalte auf. Beispielsweise wurde Sora bereits verwendet, um ein erfundenes Video zu erstellen, in dem OpenAI-CEO Sam Altman Googles Gemini gegenüber ChatGPT lobt und so das Manipulationspotenzial des Tools demonstriert.
Der breitere Trend der generativen KI
Der Erfolg von Sora ist Teil eines größeren Trends, dass generative KI-Tools im Mainstream an Bedeutung gewinnen. Google Gemini belegte kürzlich aufgrund seines KI-Bildgenerators den Spitzenplatz im App Store, und OpenAI hat die Bilderstellung in ChatGPT integriert, was zu viralen Trends wie KI-generierten Porträts im Stil von Studio Ghibli führte. Meta hat außerdem mit Midjourney zusammengearbeitet, um zukünftige kreative KI-Funktionen zu entwickeln.
Allerdings ist diese schnelle Expansion nicht unumstritten. Schöpfer äußern rechtliche und ethische Bedenken hinsichtlich Urheberrechtsverletzungen, der Verbreitung von Fehlinformationen und der mangelnden Regulierung im Zusammenhang mit generativer KI. Ziff Davis, die Muttergesellschaft von CNET, hat sogar eine Klage gegen OpenAI wegen Urheberrechtsverletzung in seinen KI-Trainingsdaten eingereicht.
Das Fazit: Soras Dominanz bei App-Downloads signalisiert ein wachsendes öffentliches Interesse an KI-generierten Inhalten, unterstreicht aber auch die dringende Notwendigkeit einer verantwortungsvollen Entwicklung und der Absicherung gegen mögliche Schäden. Die Frage ist nicht länger, ob sich KI-generierte Inhalte vermehren werden, sondern wie sich die Gesellschaft an eine Welt anpassen wird, in der es immer schwieriger wird, Realität von Fiktion zu unterscheiden.
