ابزار جدید گوگل می تواند تصاویر تولید شده توسط هوش مصنوعی را شناسایی کند

تشخیص تصاویر تولید شده توسط ابزارهای هوش مصنوعی از تصاویری که انسان ها ساخته اند سخت تر می شود. تصاویر تولید شده توسط هوش مصنوعی می توانند اطلاعات نادرست را در ابعاد گسترده ای افزایش دهند و منجر به استفاده غیرمسئولانه از هوش مصنوعی شوند. برای این منظور، گوگل از ابزار جدید SynthID رونمایی کرد که می تواند تصاویر تولید شده توسط هوش مصنوعی را از تصاویر ساخته شده توسط انسان متمایز کند.

این ابزار که توسط تیم DeepMind ایجاد شده، یک واترمارک دیجیتالی نامحسوس مانند یک امضا به تصاویر تولید شده توسط هوش مصنوعی اضافه می کند. همین ابزار بعداً می‌تواند این واترمارک را شناسایی کند تا مشخص کند کدام تصاویر توسط هوش مصنوعی ایجاد شده‌اند، حتی پس از تغییراتی مانند افزودن فیلترها، فشرده‌سازی، تغییر رنگ‌ها و موارد دیگر.

SynthID دو مدل یادگیری عمیق را در یک ابزار ترکیب می کند. یکی به صورت بصری واترمارک را به صورت نامحسوس با چشم غیرمسلح به محتوای اصلی اضافه می کند و دیگری تصاویر واترمارک شده را شناسایی می کند. در حال حاضر، SynthID نمی تواند تمام تصاویر تولید شده با هوش مصنوعی را شناسایی کند، زیرا محدود به تصاویری است که با ابزار تبدیل متن به تصویر گوگل، Imagen، ایجاد شده اند. اما این نشانه ای از آینده امیدوار کننده ای برای هوش مصنوعی مسئول است، به خصوص اگر سایر شرکت ها SynthID را در ابزارهای هوش مصنوعی مولد خود بکار گیرند.

این ابزار به تدریج در اختیار مشتریان هوش مصنوعی Vertex با استفاده از Imagen قرار می گیرد و فقط در این پلتفرم در دسترس است. با این حال، Google DeepMind امیدوار است به زودی آن را در سایر محصولات Google و برای اشخاص ثالث در دسترس قرار دهد.