هوش مصنوعی گراک با وجود اصلاحات اعلام شده همچنان نتایج نامناسب جنسی درمورد مردان تولید میکند.
به نقل از انگجت، چند هفته پس از آنکه شرکت پشت هوش مصنوعی گراک از اتخاذ تدابیری برای جلوگیری از تولید تصاویر جنسیِ افراد بدون رضایت آنها خبر داد، آزمایشهای اخیر نشان میدهد این ابزار هنوز هم میتواند مردان را در تصاویر بدون لباس یا با پوششهای جنسیزا بازتولید کند و محدودیتها چندان مؤثر نبودهاند.
شرکت مالک گراک اعلام کرده بود که محدودیتهایی برای جلوگیری از «برهنهسازی» یا تولید تصاویر جنسیِ افراد بدون رضایت آنها در این سیستم اعمال کرده است، بهویژه برای زنان. اما طبق گزارش آزمایشگران، این محدودیتها بهطور کامل اجرا نشدهاند و در مواردی شامل مردان نمیشود.
خبرنگاران در آزمایشهایی از گراک خواستهاند عکسهایی که خودشان ارسال کردهاند را «بدون لباس» یا در لباسهای تحریک آمیز تولید کند و این ابزار در پاسخ به این درخواستها همچنان چنین تصاویری تولید کرده است.
مشاهدات نشان میدهد نسخههای مستقل گراک (وبسایت و اپلیکیشن جداگانه) نسبت به نسخهی آن روی پلتفرم ایکس محدودیتهای کمتری دارند؛ حتی در مواردی امکان تولید تصاویر بدون لباس از مردان بدون هیچگونه کنترل جدی وجود داشته است.
این موضوع در ادامهی موج انتقادات جهانی علیه گراک و شرکت مادرش، xAI به رهبری ایلان ماسک است که در ماههای اخیر به خاطر تولید تصاویر غیرمجاز و غیرقانونی از جمله تصاویر «برهنهسازی» افراد (بدون رضایت) در رسانهها و شبکههای اجتماعی خبرساز شده است.
گراک یک مدل هوش مصنوعی گفتوگو و مولد تصویر است که توسط شرکت xAI، متعلق به ایلان ماسک، توسعه یافته و بهعنوان یکی از رقبای مستقیم چتجیپیتی و دیگر مدلهای بزرگ زبان معرفی شده است. این پروژه با هدف ترکیب تواناییهای زبانی پیشرفته، دسترسی به دانش بهروز و خلاقیت در تولید محتوا طراحی شده و نسخههای مختلفی از جمله Grok 3 و Grok 4 منتشر شدهاند که ادعا میشود تواناییهای استدلال و پاسخدهی بالایی دارند.
ایدهی اصلی گراک این است که یک دستیار هوش مصنوعی آزادتر نسبت به بسیاری از رقبایش باشد، بهطوری که کاربران بتوانند بدون محدودیتهای زیاد محتوایی تعامل کنند. این رویکرد در ابتدا باعث جذب توجه و استفاده گسترده شد اما بهتدریج با چالشهای جدی روبهرو شد، بهویژه در زمینههای اخلاقی، ایمنی محتوا و مسائل قانونی.
علاوه بر مسأله تصاویر جنسی برخی تحقیقات نشان دادند که الگوریتمهای گراک در فهم درخواستها و تعیین نیات کاربران مشکل دارند و گاهی اوقات حتی در شرایطی که نباید، خروجیهای نامناسب تولید میکنند. بهعنوان مثال:
گراک طبق دستورالعملهایش موظف به جلوگیری از تولید محتوای جنسی کودکانه است، اما در عمل در برخی سناریوها این محدودیت را رعایت نکرده است.
گزارشها و بحثهای کاربران در پلتفرمهایی مثل ردیت نیز نشان دادهاند که:
رفتار مقرراتگذاری گراک کاملاً نامنسجم است: در بعضی موارد خروجیها بیشازحد محدود شدهاند و حتی تصاویر بیخطر را هم نمیتواند تولید کند و در موارد دیگر خروجیهای کاملاً نامناسب ارائه میدهد.
برخی کاربران نسخههای پولی یا پیشرفته میگویند پس از پرداخت، امکانات زیادی از آنها گرفته شده یا عملکرد متفاوت از تبلیغات بوده است.
در ماههای اخیر گراک با انتقادات جدی روبهرو شده است چون کاربران از آن برای تولید تصاویر غیراخلاقی و غیرقانونی از جمله «برهنهسازی» افراد بدون رضایت آنان و حتی تصاویر جنسی از کودکان استفاده کردهاند.
این موج فشار باعث شده دولتهایی مانند اندونزی برای مدتی این ابزار را مسدود کنند؛ سپس شرایطی برای بازگشایی آن تعیین کنند.
نهادهای قانونی در اتحادیه اروپا و ایالات متحده تحقیقاتی دربارهی تولید و انتشار مطالب غیرمجاز توسط این ابزار آغاز کنند.
ایالات و نهادهای حقوقی در آمریکا از xAI بخواهند گامهای عملی بیشتری برای جلوگیری از سوءاستفادههای این چنینی بردارد.