با شهرت گرفتن ابزارهای مولد تصویر هوش مصنوعی، یکی از موضوعات اصلی تشخیص تصاویر ساخته آنها است. ابزارهای تولید تصویر براساس توصیف کاربر، عکس‌های واقع‌گرایانه تولید می‌کنند و برای کاهش احتمال سو استفاده باید راهکاری برای تشخیص آثار ساخته ماشین از آثار هنری انسان ایجاد شود. گوگل با سیستم جدیدی به رفع این مشکل کمک می‌کند.
به گزارش پیوست، یکی از مشکلات اصلی روش‌های رایج واترمارک و نهان‌نگاری تصاویر، امکان اصلاح و از بین بردن آنها است. گوگل با سیستم جدیدی به نام «SynthID» برای رفع این مشکل تلاش می‌کند. استفاده از این سیستم در حال حاضر محدود به مولد تصویر Imagen از شرکت گوگل است اما در آینده احتمالا برای استفاده در ابزارهای مختلف توسعه پیدا می‌کند.
وبسایت مشبل می‌گوید این سیستم با هدف مبارزه با دیپ‌فیک و سو استفاده از تصاویر ساخته هوش مصنوعی ساخته شده است. گوگل دیپ‌مایند (Google DeepM ind)، واحد هوش مصنوعی گوگل، به تازگی از نسخه آزمایشی یک ابزار واترمارک رونمایی کرده است که «یک واترمارک دیجیتالی را مستقیما داخل پیکسل‌های یک تصویر هک می‌کند و با اینکه با چشم انسان قابل مشاهده نیست، می‌توان آن را به صورت سیستمی شناسایی کرد.»
به عبارت ساده این تصاویر در ظاهر عادی به نظر می‌رسند اما شناسه‌ای در آنها جای گرفته و به راحتی می‌توان آنها را از تصاویر واقعی تفکیک کرد. در حال حاضر SynthID برای تعداد محدودی از کاربران Imagen، مدل هوش مصنوعی گوگل دیپ‌مایند عرضه شده است.
ابزار هوش مصنوعی Imagen همانند ابزارهای مشابهی مثل میدجرنی و DALL-E از اوپن‌ای‌آی، تصاویر واقع‌گرایانه‌ای را براساس پرامپ‌های متنی تولید می‌کند.
به گفته گوگل SynthID، به نسبت واترمارک‌های قدیمی که به راحتی قابل شناسایی و حذف هستند، بازدهی بیشتری دارد. واترمرک SynthID حتی پس از اعمال فیلتر، تغییر رنگ یا تغییر ابعاد تصویر هم قابل مشاهده نیست. ابزار SynthID می‌تواند با بررسی تصاویر کاربران، استفاده از Imagen در تولید آن را تشخیص دهد.
به گفته گوگل این ابزار در آینده توسعه یافته و می‌توان از آن در دیگر مدل‌های هوش مصنوعی استفاده کرد.
نظرات کاربران