گوگل فوتوز درحال اضافه کردن واترمارک دیجیتال SynthID به تصاویری است که با منفعت گیری از ویژگی هوش مصنوعی Magic Editor ویرایش شده‌اند. به حرف های‌ی گوگل، این قابلیت از هفته‌ی جاری اراعه می‌بشود و مقصد آن این است که کاربران بتوانند به‌راحتی تشخیص دهند که یک عکس با ابزار بازآفرینی در Magic Editor دستکاری شده است.

SynthID سیستم واترمارکینگ گسترش‌یافته توسط تیم دیپ‌مایند گوگل است که برچسب متادیتای دیجیتال را مستقیماً در تصاویر، ویدئوها، صداها و متون قرار می‌دهد تا اشکار بشود که این محتوا با ابزارهای هوش مصنوعی تشکیل شده یا تحول یافته است.

واترمارک SynthID پیش‌تر برای تصاویری که به‌طور کامل با مدل تبدیل متن‌ به‌ عکس Imagen گوگل تشکیل شده‌اند، اعمال می‌شد. شرکت‌های فرد دیگر نیز سیستم‌های شبیهی گسترش داده‌اند، همانند Content Credentials که ادوبی برای آثار تشکیل یا ویرایش‌شده با برنامه‌های Creative Cloud خود اعمال می‌کند.

هرچند ابزارهای ویرایش هوش مصنوعی ذاتاً مخرب نیستند، اما Magic Editor می‌تواند بدون هیچ نشانه‌ی آشکاری از ویرایش هوش مصنوعی، مواردی همانند سقوط‌ بالگردها، مواد مخدر و حتی اجساد را در تصاویر تشکیل کند. یقیناً، گوگل از اکتبر قبل (آبان) اغاز به برچسب‌گذاری تصاویر ویرایش‌شده با هوش مصنوعی در توضیحات فایل در گوگل‌فوتوز کرده است.

به‌روزرسانی تازه واترمارکینگ برای حل مشکلات منفعت گیری‌ی مخرب از هوش مصنوعی اراعه شده، اما با چند چالش مواجه است. SynthID تغییری بصری در عکس تشکیل نمی‌کند و تنها با منفعت گیری از یک ابزار تشخیص هوش مصنوعی اختصاصی که بخشی از قابلیت «درمورد‌ی این عکس» در گوگل است، قابل شناسایی خواهد می بود.

این چنین گوگل اظهار کرده که برخی از ویرایش‌های ایجادشده توسط Magic Editor امکان پذیر آنقدر جزئی باشند که SynthID قادر به تشخیص و برچسب‌گذاری آن‌ها نباشد.

درحالی‌که فناوری واترمارکینگ می‌تواند سودمند باشد، برخی کارشناسان این حوزه اعتقاد دارند که به‌تنهایی برای احراز هویت محتوای تولیدشده با هوش مصنوعی در مقیاس گسترده کافی نیست و به ترکیبی از راه حلهای گوناگون برای تشخیص دقیق‌تر نیاز خواهد می بود.