OpenAI’nin öne çıkan sohbet robotu ChatGPT’nin yeni versiyonlarının, oluşturulan metinlere özel bir filigran eklediği ifade edildi.
Rumi Technologies araştırma takımı, bu filigranların özellikle ChatGPT’den daha uzun metinler, örneğin makaleler talep edildiğinde belirgin hale geldiğini tespit etti.
Filigranlama işlemi, normal boşluklara benzeyen fakat farklı ASCII kodlarına sahip olan Dar Kesintisiz Boşluk (NNBSP) gibi özel Unicode karakterlerinin kullanımı ile gerçekleştiriliyor. Söz konusu karakterler, metnin yapay zeka tarafından oluşturulduğuna dair gizli bir iz bırakmaktadır.
GİZLİ KARAKTERLERİN TESPİTİ
Araştırmacılar, daha önceki ChatGPT modellerinden olan GPT-4o’da bu tür filigranların bulunmadığını vurguluyor.
Kullanıcılar, bu gizli karakterleri çeşitli çevrimiçi araçlar veya Sublime Text gibi gelişmiş metin editörleri aracılığıyla tespit edebilirler.
Metinlerdeki bu özel karakterlerin dağılımının rastgele olmadığı, aksine sistematik bir desen sergilediği gözlemlendi. Bu durum, filigranlama özelliğinin OpenAI’nin geliştiricileri tarafından kasıtlı bir şekilde uygulandığına dair işaretler taşıyor.
Bu gelişmenin, OpenAI’nin yapay zeka ile üretilen görsellere filigran eklemeyi test etmeye başlamasından sonra gerçekleştiği dikkat çekiyor.
FİLİGRANIN ÖNEMİ
Metinlere eklenen bu filigranların temel amacı, içeriğin yapay zeka tarafından yaratılıp yaratılmadığını belirlemeye yardımcı olmaktır.
Ancak, bu yöntemin bazı zayıf noktaları bulunmakta; kullanıcılar filigranların varlığını öğrenince bunları kolaylıkla kaldırabilirler.
Basit bir bul ve değiştir işlemiyle, metindeki özel Unicode karakterleri standart karakterlerle değiştirilmesi mümkün. Bu durum, özellikle ChatGPT’nin 31 Mayıs’a kadar öğrencilere ücretsiz olarak sunulacağı ve final projeleri ile ödevlerin yoğunlaşacağı bu süreçte büyük önem kazanıyor.
