Elon Musk, xAI'nin Grok'unun yakında yapay zeka tarafından oluşturulan videoları tespit edeceğini ve kökenlerini izleyeceğini söylüyor.
İçindekiler
Musk ne açıkladı
Elon Musk X'teki kullanıcılara, xAI birimi tarafından geliştirilen ve X ile entegre edilen yapay zeka sohbet robotu Grok'un, bit akışındaki teknik "yapay zeka imzaları" için videoları tarama ve ardından bir klibin kaynağını belirlemeye yardımcı olmak için çevrimiçi izleri araştırma yeteneği kazanacağını söyledi. Bu özellik, deepfake'leri tanımlamak ve yapay zeka güdümlü taklit ve karalayıcı içeriği engellemek için bir araç olarak sunuluyor.
Sistem nasıl çalışacak
Musk ve Grok hesabından yapılan paylaşımlara göre, tespit süreci düşük seviyeli sinyal analizini - örneğin sıkıştırmadaki düzensizlikler veya makinelerin geride bıraktığı üretim kalıpları - meta veriler ve web aramasıyla birleştirerek olası kaynaklara giden bir izi takip edecek. Ekip, yöntemin video bit akışında sentetik üretime işaret eden kalıpları inceleyerek insan denetiminin ötesine geçtiğini söylüyor.
Neden önemli ve dikkat edilmesi gereken sınırlar
Musk bu kabiliyeti, gerçekçi yapay zeka videolarının insanları karalamak için kullanılabileceğine dair artan endişelere bir yanıt olarak çerçeveledi. Uzmanlar ve gazeteciler bu fikri memnuniyetle karşıladılar, ancak teknik ve adli sınırların devam ettiğini belirttiler; sofistike sentetik medyanın tespiti ve ilişkilendirilmesi gelişen bir zorluktur ve hiçbir yöntem kusursuz değildir. Musk'ın duyurusunda kamuya açık kesin bir zaman çizelgesi ya da teknik doküman yer almadı ve önemli ayrıntılar ve performans iddiaları doğrulanmadı.
