Elon Musk sagt, dass xAI's Grok bald KI-generierte Videos erkennen und ihren Ursprung zurückverfolgen wird.
Inhaltsübersicht
Was Musk ankündigte
Elon Musk teilte den Nutzern von X mit, dass Grok, der von seiner xAI-Einheit entwickelte und in X integrierte KI-Chatbot, die Fähigkeit erhalten wird, Videos nach technischen "KI-Signaturen" im Bitstream zu scannen und dann Online-Spuren zu untersuchen, um die Herkunft eines Clips zu ermitteln. Die Funktion wird als Werkzeug zur Identifizierung von Deepfakes und zur Vereitelung von KI-gesteuerten Imitationen und verleumderischen Inhalten vorgestellt.
Wie das System funktionieren würde
Laut Musk und den Beiträgen auf dem Grok-Konto würde der Erkennungsprozess die Analyse von Low-Level-Signalen - z. B. Unregelmäßigkeiten bei der Komprimierung oder Erzeugungsmuster, die Maschinen hinterlassen - mit Metadaten und Websuche kombinieren, um eine Spur zu den wahrscheinlichen Quellen zu verfolgen. Laut dem Team geht die Methode über die menschliche Inspektion hinaus, indem sie Muster im Videobitstrom untersucht, die auf eine synthetische Erzeugung hindeuten.
Warum es wichtig ist und welche Grenzen zu beachten sind
Musk bezeichnete die Fähigkeit als Reaktion auf die wachsende Sorge, dass realistische KI-Videos zur Verleumdung von Personen verwendet werden könnten. Experten und Journalisten begrüßten die Idee, wiesen aber darauf hin, dass es noch technische und forensische Grenzen gibt. Die Erkennung und Zuordnung hochentwickelter synthetischer Medien ist eine sich ständig weiterentwickelnde Herausforderung, und keine Methode ist narrensicher. Musks Ankündigung enthielt weder einen festen öffentlichen Zeitplan noch ein technisches Dokument, so dass wichtige Details und Leistungsansprüche ungeprüft blieben.
