Yapay zeka içerikler artık Google’dan kaçamayacak!

0

BEĞENDİM

0

Google, yapay zeka tarafından üretilen metinlerin izini sürebilmek için yepisyeni bir teknoloji olan SynthID’yi tanıttı. Artık, görünmez bir watermark (şeffaf iz) ekleyerek yapay zeka tarafından oluşturulan içerikler işaretlenecek. Yani AI tarafından üretilen metinlerin kaynağı, bu bâtın işaret sayesinde tespit edilebilecek. İşte detaylar…

Google’dan yapay zeka metinlerine kapalı imza: SynthID ile yapay zeka tarafından üretilen içerikler işaretlenecek

Google’ın Responsible GenAI Toolkit isimli araç paketinin bir kesimi olarak geliştirilen SynthID, şu anda Hugging Face platformunda fiyatsız olarak indirilebilir durumda. Bu teknoloji, metinlerin doğal akışını bozmadan, içeriğe kapalı bir işaret ekliyor. Yani, gözle görülmeyen bu işaret sayesinde bir metnin yapay zeka modeli tarafından mı, yoksa bir insan tarafından mı yazıldığı belirlenebilecek. Pekala nasıl çalışıyor?

Yapay zekanın çalışma prensibi metin oluştururken mümkünlük hesaplamalarına dayanıyor. Her bir söz ya da karakterin bir mümkünlük kıymeti var ve AI, bu pahalara nazaran metni oluşturuyor. SynthID ise bu mümkünlük kıymetleriyle oynayarak yapay zeka tarafından oluşturulmuş metinlerde görünmez bir watermark ekliyor. Özcesi, bir metin yapay zeka tarafından yazıldığında SynthID o metni işaretleyerek bir nevi dijital parmak izi bırakıyor.

Ancak her teknolojide olduğu üzere SynthID’nin de sınırlamaları var. Google, bu teknolojinin bilhassa kısa metinlerde, yeniden düzenlenmiş ya da çeviri yapılmış içeriklerde şimdi tesirli olmadığını kabul ediyor. Ayrıyeten, gerçek olaylarla ilgili içeriklerde kullanılmaması gerekiyor, zira bu üzere durumlarda metnin doğruluğunu bozma riski doğabiliyor. Örneğin, bir yapay zeka tarihi bir olay hakkında bilgi veriyorsa, o olayın doğruluğunu sağlamak için kullanılan token’lara müdahale edilmesi metnin doğruluğunu zayıflatabilir.

Aslında SynthID teknolojisi, Google’ın Gemini yapay zeka modelinde 2023 baharından beri kullanılıyor. Google, bu teknoloji sayesinde yapay zeka içeriklerinin daha şeffaf bir formda tespit edilebileceğini belirtiyor. Bu ortada,, Google bu mevzuda tek başına değil. OpenAI da misal teknolojiler üzerinde çalışıyor ve AI tarafından üretilen içeriklere kapalı işaretler eklemeyi planlıyor.

Kısacası SynthID, bilhassa içerik üretiminde şeffaflık isteyen kurumlar ve platformlar için epeyce cazip. Şimdi kusursuz olmasa da, yapay zekanın yarattığı metinler, artık sırf etkileyici ve yaratıcı olmayacak, tıpkı vakitte izlenebilir ve tanımlanabilir olacak.