مرکز ملی کودکان گمشده و مورد سوءاستفاده قرار گرفته آمریکا اعلام کرد در سال گذشته میلادی بیش از یک میلیون گزارش در مورد محتواهایی با موضوع سوءاستفاده جنسی از کودکان با بهرهگیری نامناسب از هوش مصنوعی دریافت کرده است.
به نقل از انگجت، اکثریت قریب به اتفاق محتواهای مربوط به سواستفاده جنسی از کودکان با هوش مصنوعی توسط شرکت آمازون گزارش شده است. این شرکت محتواهای مذکور را در دادههای آموزشی خود پیدا کرده است.
آمازون اعلام کرده که این محتواهای نامناسب را از منابع خارجی که برای آموزش خدمات هوش مصنوعی خود به کار گرفته، دریافت کرده و ادعا کرد که نمیتواند جزئیات بیشتری در مورد منشأ آنها ارائه دهد.
به گفته کارشناسان، ورود چنین حجم بالایی از محتوای مستهجن در طول یک سال، سوالات زیادی را در مورد منشأ دادهها و اقدامات حفاظتی ایجاد شده ایجاد میکند. علاوه بر آمازون، گزارشهای مرتبط با هوش مصنوعی که سال گذشته از سایر شرکتها دریافت شده نیز نگرانکننده بودهاند.
نماینده اوپن ای آی میشود" aria-label="لینک به آمازون سرمایهگذار اوپن ای آی میشود">آمازون در این مورد گفت: ما رویکردی محتاطانه و آگاهانه برای بررسی دادههای آموزشی، از جمله دادههای عمومی موجود در وب، برای شناسایی و حذف مطالب مربوط به سوءاستفاده جنسی از کودکان و محافظت از مشتریان خود اتخاذ میکنیم. آمازون قصد دارد آمار خود در این زمینه را به طور مرتب اعلام کند. این شرکت اعلام کرد که محتواهای مشکوک را قبل از وارد کردن دادههای آموزشی به مدلهای هوش مصنوعی خود حذف کرده است.
سواستفاده از کودکان توسط مدلهای هوش مصنوعی در ماههای اخیر به یک نگرانی اساسی برای این صنعت مبدل شده است. در مقایسه با بیش از ۱ میلیون گزارش مرتبط با هوش مصنوعی که در سال گذشته میلادی به طور رسمی در آمریکا ثبت شده، تعداد کل این گزارشها در سال قبل از آن، ۶۷۰۰۰ گزارش بود در حالی که دو سال قبل از آن تنها ۴۷۰۰ گزارش مشاهده شد.
علاوه بر مسائلی مانند محتوای توهینآمیز مورد استفاده برای آموزش مدلها، چتباتهای هوش مصنوعی در چندین مورد خطرناک یا غمانگیز مربوط به کاربران جوان نیز دخیل بودهاند. از دو شرکت اوپن ای آی و Character.AI پس از برنامهریزی نوجوانان برای خودکشی با پلتفرمهای این شرکتها، شکایت شده است. از متا نیز به دلیل عدم محافظت از کاربران نوجوان در برابر مکالمات صریح جنسی با چتباتها به دادگاه شکایت شده است.