تیک تاک فناوری جدیدی برای برچسب گذاری محتوای هوش مصنوعی ارائه کرد

با توجه به اینکه سازندگان بیشتری برای بیان هنری خود به هوش مصنوعی روی می آورند، زمانی که هوش مصنوعی در تولید محتوا نقش داشته است، فشار بیشتری برای شفافیت وجود دارد. برای رفع این نگرانی، تیک تاک امروز اعلام کرد که ابزار جدیدی را راه‌اندازی می‌کند که به سازندگان اجازه می‌دهد محتوای تولید شده توسط هوش مصنوعی خود را برچسب‌گذاری کنند و آزمایش روش‌های دیگر برای برچسب‌گذاری خودکار محتوای تولید شده توسط هوش مصنوعی را آغاز خواهد کرد.

این شرکت می گوید که نیاز به معرفی برچسب AI را احساس کرده، زیرا محتوای هوش مصنوعی به طور بالقوه می تواند بینندگان را گیج یا گمراه کند. البته، تیک تاک قبلاً خط‌مشی خود را برای رسیدگی به رسانه‌های مصنوعی به‌روزرسانی کرده بود، که از مردم می‌خواهد محتوای هوش مصنوعی حاوی تصاویر، صدا یا ویدیوی واقعی مانند دیپ‌فیک را برچسب‌گذاری کنند تا به بینندگان کمک کند ویدیو را زمینه‌ای کنند و از انتشار اطلاعات گمراه‌کننده جلوگیری کنند. خط‌مشی تیک تاک به آن اجازه می‌دهد تصاویر واقعی هوش مصنوعی را که فاش نشده‌اند، حذف کند.

با این حال، خارج از مورد شدید استفاده از هوش مصنوعی برای گمراه کردن عمدی کاربران، برخی از محتوای تولید شده توسط هوش مصنوعی می توانند مرز بین واقعی یا جعلی به نظر رسیدن را طی کنند. در این منطقه خاکستری، شفافیت بیشتر به طور کلی توسط کاربران نهایی قدردانی می شود، بنابراین آنها می دانند که آیا محتوایی که مشاهده می کنند به شدت ویرایش شده یا با هوش مصنوعی ایجاد شده یا خیر.

ابزار جدید تیک تاک که اکنون معرفی شده، نه تنها رعایت این سیاست موجود در مورد رسانه مصنوعی را برای سازندگان آسان‌تر می‌کند، بلکه برچسب‌گذاری هر محتوای دیگری را که کاملاً با استفاده از هوش مصنوعی تولید شده یا به‌طور قابل توجهی با هوش مصنوعی ویرایش شده، می‌سازد. این ابزار پس از آپلود ویدیو در دسترس سازندگان خواهد بود و تیک تاک انتظار ندارد سازندگان برای برچسب گذاری مجدد ویدیوهای گذشته خود برگردند.

هنگامی که سازنده از ابزار جدید استفاده می‌کند، تیک تاک پیامی را در زیر نام کاربری روی ویدیو نشان می‌دهد که سازنده ویدیو را به‌عنوان تولید شده توسط هوش مصنوعی برچسب‌گذاری کرده است. با این حال، تیک تاک سازندگان را به دلیل برچسب‌گذاری نکردن محتوای هوش مصنوعی که تحت سیاست رسانه مصنوعی موجود قرار نمی‌گیرد، جریمه نمی‌کند.

علاوه بر این، تیک تاک می‌گوید که در حال توسعه راهی برای شناسایی خودکار و برچسب‌گذاری محتوای هوش مصنوعی است. این هفته، آزمایش یک برچسب “تولید شده توسط هوش مصنوعی” را آغاز می کند که در نهایت برای هر محتوایی که تشخیص دهد با هوش مصنوعی ویرایش یا ایجاد شده است اعمال می شود. این شرکت از به اشتراک گذاشتن جزئیات در مورد چگونگی جستجوی فناوری آن برای محتوای احتمالی هوش مصنوعی خودداری کرد و اشاره کرد که اشتراک‌گذاری این جزئیات می‌تواند به طور بالقوه به بازیگران بد اجازه دهد تا روی قابلیت‌های تشخیص آن کار کنند.

با این حال، تیک تاک اشاره کرد که مدل‌های تشخیص مختلف را برای هوش مصنوعی آزمایش می‌کند و در حال “ارزیابی” مشارکت‌های منشأ طراحی‌شده برای کمک به پلتفرم‌ها جهت شناسایی بهتر هوش مصنوعی با تعبیه برچسب‌های هوش مصنوعی در خود محتوا است. برچسب زدن هوش مصنوعی در حال تبدیل شدن به یک روش رایج تر برای پلتفرم های بزرگ است، زیرا OpenAI و گوگل در ماه های اخیر قابلیت های تشخیص هوش مصنوعی خود را اعلام کرده اند.

همچنین به نظر می رسد اینستاگرام در حال کار بر روی یک ویژگی است که زمانی که محتوا با هوش مصنوعی ایجاد یا ویرایش شده است را برجسته می کند. و اتحادیه اروپا بر پلتفرم هایی فشار می آورد که محتوای هوش مصنوعی را به عنوان یک قانون کلی در مبارزه با اطلاعات نادرست برچسب گذاری کنند. در نتیجه تلاش جدید خود برای شفافیت، تیک تاک همچنین اکنون نام تمام جلوه‌های خود را که از هوش مصنوعی استفاده می‌کنند با درج صریح “AI” در نام آنها تغییر می‌دهد. این چیزی است که قبلا از افشای آن خودداری می کرد.

در واقع، زمانی که فیلتر شکوفه پررنگ تیک تاک به دلیل عملکرد فنی آن در تغییر چهره کاربران، ویروسی شد، برخی مشکوک شدند که فیلتر از AR (واقعیت افزوده) استفاده نمی‌کند، بلکه از هوش مصنوعی استفاده می‌کند. با این حال، تیک تاک از پاسخ به پرسش‌های مطبوعاتی که پرسیده بودند آیا محصول در آن زمان هوش مصنوعی بود، خودداری کرد.