با ابزار جدید هنرمندان قادرند برخی داده ها را از دید ربات هوش مصنوعی پنهان کنند

از اعتصابات هالیوود گرفته تا پرتره های دیجیتال، پتانسیل هوش مصنوعی برای سرقت کارهای خلاقان و نحوه متوقف کردن آن بر مکالمات فناوری در سال 2023 غالب شده است. آخرین تلاش برای محافظت از هنرمندان و ساخته‌های آنها Nightshade است، ابزاری که به هنرمندان اجازه می‌دهد پیکسل‌های غیرقابل شناسایی را به کار خود اضافه کنند که می‌تواند داده‌های آموزشی هوش مصنوعی را خراب کند.

ایجاد Nightshade در حالی اتفاق می‌افتد که شرکت‌های بزرگی مانند OpenAI و Meta به دلیل نقض حق چاپ و سرقت آثار شخصی بدون پرداخت غرامت با دعوی قضایی روبرو هستند. پروفسور دانشگاه شیکاگو، بن ژائو و تیمش، Nightshade را ایجاد کردند که در حال حاضر در حال بررسی است تا بخشی از قدرت را در دستان هنرمندان قرار دهند. آنها آن را روی مدل‌های اخیر Stable Diffusion و هوش مصنوعی که شخصاً از ابتدا ساخته‌اند آزمایش کردند.

Nightshade اساساً به عنوان یک سم عمل می کند و نحوه تولید محتوا و ظاهر محصول نهایی را تغییر می دهد. برای مثال، می‌تواند یک سیستم هوش مصنوعی را وادار کند که درخواست کیف دستی را به‌عنوان یک توستر تفسیر کند یا تصویری از یک گربه را به‌جای سگ درخواستی نشان دهد. Nightshade به دنبال انتشار ابزاری به نام Glaze توسط ژائو و تیمش در ماه اوت است که به‌طور نامحسوسی پیکسل‌های یک اثر هنری را تغییر می‌دهد، اما باعث می‌شود سیستم‌های هوش مصنوعی تصویر اولیه را کاملاً متفاوت از آنچه هست تشخیص دهند. هنرمندی که می‌خواهد از آثار خود محافظت کند، می‌تواند آن را در Glaze آپلود کند و از Nightshade استفاده کند.