Google Photos tətbiqi, generativ süni zəka ilə redaktə edilmiş şəkillər üçün SynthID adlı rəqəmsal su nişanlarını istifadə etməyə başlayacaq. Google şirkətinin açıqlamasına görə, bu yeni funksiya Magic Editor-un Reimagine aləti ilə dəyişdirilmiş şəkillərin daha asan tanınması üçün nəzərdə tutulub. Magic Editor istifadəçilərə şəkilləri mətn sorğuları vasitəsilə redaktə etməyə, müxtəlif detalları əlavə etməyə və ya silməyə imkan verir. Hərçənd süni zəka alətləri özlüyündə bir təhlükə yaratmasa da, Magic Editor bəzi hallarda manipulyasiya olunmuş görüntülər yarada bilər. Məsələn, qəzalar, düşmüş helikopterlər və digər dramatik səhnələr yaradıb, real hadisə kimi təqdim oluna bilər, üstəlik şəklin dəyişdirildiyini göstərən açıq-aşkar işarələr olmadan.
Rəqəmsal su nişanları bu problemi həll etmək üçün nəzərdə tutulub. Lakin SynthID şəkilin vizual görünüşünü dəyişmir və onu süni zəka ilə redaktə edilib-edilmədiyini anlamaq üçün əlavə olaraq "Şəkil haqqında" yoxlama funksiyasından istifadə etmək lazımdır. Bundan əlavə, Google etiraf edir ki, Magic Editor vasitəsilə edilən bəzi kiçik dəyişikliklər o qədər cüzi ola bilər ki, SynthID bu dəyişiklikləri müəyyən edə bilməyəcək və onları işarələməyəcək. Mütəxəssislər bildirirlər ki, rəqəmsal su nişanları manipulyasiya edilmiş şəkillərin tanınmasına kömək edə bilər, lakin bu texnologiya neyron şəbəkələr tərəfindən yaradılan məzmunun genişmiqyaslı yoxlanılması üçün kifayət deyil.
Buna görə etibarlı və effektiv bir sistem üçün bir sıra müxtəlif yanaşmalar və proqram həllərinin birgə tətbiqi tələb olunacaq. Qeyd edək ki, rəqəmsal su nişanı sistemi Google-un Imagen AI neyron şəbəkəsində istifadə olunur. Bu sistem mətn əsasında şəkillər generasiya edir. Bənzər alətlər digər şirkətlər tərəfindən də hazırlanıb. Məsələn, Adobe şirkətinin Content Credentials funksiyası metaməlumatlara icazəsiz müdaxilənin qarşısını alır və müəlliflərə öz məlumatlarını əlavə etməyə imkan verir. SynthID texnologiyası DeepMind komandası tərəfindən hazırlanıb və şəkillərə, videolara, audio fayllara və mətnlərə daxil edilə bilən rəqəmsal metatag sistemidir. Bu etiketlər sayəsində faylların süni zəka tərəfindən yaradılıb-yaradılmadığını və ya dəyişdirilib-dəyişdirilmədiyini müəyyən etmək mümkündür.