مایکروسافت و گوگل تعهدات جدید ایمنی کودکان را برای خدمات هوش مصنوعی مولد اعلام کردند

استفاده روزافزون از هوش مصنوعی مولد به طرق مختلف نگرانی هایی را در مورد نحوه استفاده از آن توسط افراد و گروه های متخاصم برای تهدید ایمنی کودکان ایجاد کرده است. امروز، مایکروسافت و گوگل متعهد شده‌اند که تعهدات جدیدی برای ایمنی کودکان برای سرویس‌های هوش مصنوعی مولد مربوطه خود ایجاد کنند.

هر دو شرکت و سایرین با همکاری دو گروه این تعهدات جدید را ارائه کرده اند. یکی از آنها Thorn نام دارد که یک سازمان غیرانتفاعی است که سعی دارد با سوء استفاده جنسی از کودکان مبارزه کند. دیگری All Tech Is Human نام دارد که برای کمک به ایجاد یک “اکوسیستم فناوری مسئول” ایجاد شده است.

مایکروسافت بیان کرد که مدل‌های هوش مصنوعی مولد را توسعه خواهد داد که بر روی مجموعه داده‌هایی که دارای مطالب جنسی یا استثماری کودکان هستند آموزش نخواهند داد. همچنین به محافظت از آن مدل ها از آن نوع محتوا پس از انتشار کمک می کند. پست وبلاگ گوگل در مورد این موضوع برخی از زمینه های مشابه مایکروسافت را از نظر تعهدات ایمنی کودک برای خدمات هوش مصنوعی خود پوشش می دهد.

این شرکت افزود که تیمی دارد که به یافتن محتوایی اختصاص داده شده که نشان می دهد ممکن است یک کودک در خطر باشد. علاوه بر این، گوگل می‌گوید که تلاش می‌کند محتوای مربوط به سوء استفاده و بهره‌کشی جنسی از کودکان را با “ترکیبی از فناوری تطبیق هش، طبقه‌بندی‌کننده‌های هوش مصنوعی و بررسی‌های انسانی” پیدا و حذف کند.