اندونزی با پیروی از مالزی و فیلیپین، ممنوعیت استفاده از چت‌بات Grok (محصول شرکت xAI) را لغو کرد. کشورهای آسیای جنوب شرقی پیش‌ازاین به‌دلیل انتشار گسترده تصاویر غیراخلاقی و بدون رضایت (دیپ‌فیک) که توسط این هوش مصنوعی در پلتفرم ایکس (X) تولید شده بود، دسترسی به آن را مسدود کرده بودند.

خلاصه در یک نگاه:

🔹 لغو ممنوعیت Grok در اندونزی پس از ارائه تعهدات کتبی توسط ایکس
🔹 شرط بازگشت: جلوگیری از تولید تصاویر غیراخلاقی و دیپ‌فیک
🔹 محدود شدن قابلیت ساخت تصویر در Grok به کاربران اشتراکی
🔹 احتمال ادغام xAI با اسپیس‌ایکس و تسلا در آینده نزدیک

این ممنوعیت پس از آن اعمال شد که گزارش‌ها نشان دادند کاربران از Grok برای خلق سیلی از تصاویر جعلی جنسی، شامل تصاویر زنان واقعی و افراد زیر سن قانونی، استفاده کرده‌اند. طبق تحلیل‌های جداگانه توسط نیویورک تایمز و مرکز مقابله با نفرت دیجیتال، گروک تنها در اواخر دسامبر و ژانویه (دی‌ماه) حداقل ۱.۸ میلیون تصویر غیراخلاقی از زنان تولید کرده است.

شرط اندونزی برای بازگشت Grok چیست؟

وزارت ارتباطات و امور دیجیتال اندونزی در بیانیه‌ای اعلام کرد که پس از دریافت نامه‌ای از سوی پلتفرم ایکس، ممنوعیت را لغو کرده است. شرکت ایکس در این نامه «گام‌های مشخصی را برای بهبود خدمات و جلوگیری از سوءاستفاده» تشریح کرده است.

الکساندر سابار، مدیرکل نظارت بر فضای دیجیتال وزارتخانه، تاکید کرد که این رفع فیلتر تنها «به‌صورت مشروط» انجام شده است. او هشدار داد که اگر «تخلفات بیشتری کشف شود»، ممنوعیت مجدداً اعمال خواهد شد. لازم‌به‌ذکر است که مالزی و فیلیپین نیز پیش‌تر در تاریخ ۳ بهمن (۲۳ ژانویه) ممنوعیت‌های خود را لغو کرده بودند.

اندونزی پس از دریافت تضمین امنیتی، چت‌بات گروک را رفع مسدودیت کرد.

واکنش‌های جهانی و اقدامات پیشگیرانه xAI

دیپ‌فیک‌های تولیدشده توسط Grok انتقادات و تحقیقات گسترده‌ای را از سوی دولت‌های سراسر جهان برانگیخته است، هرچند تنها تعداد کمی منجر به ممنوعیت کامل شدند. جدول زیر وضعیت برخورد با این هوش مصنوعی در کشورهای مختلف را نشان می‌دهد:

کشور/منطقه
اقدام انجام‌شده

اندونزی، مالزی، فیلیپین
ممنوعیت موقت و رفع مشروط

ایالات متحده (کالیفرنیا)
تحقیقات دادستانی و دستور توقف فعالیت

اتحادیه اروپا
بررسی‌های نظارتی دقیق

شرکت xAI به‌نظر می‌رسد اقداماتی را برای محدود کردن قابلیت‌های Grok انجام داده است. از جمله این اقدامات می‌توان به محدود کردن ویژگی تولید تصویر هوش مصنوعی تنها برای مشترکین پولی در ایکس اشاره کرد.

ایلان ماسک، مدیرعامل این شرکت، اصرار دارد که: «هر کسی که از چت‌بات Grok برای تولید محتوای غیرقانونی استفاده کند، با همان عواقبی روبرو خواهد شد که انگار محتوای غیرقانونی آپلود کرده است.» او همچنین مدعی شد که از تولید هیچ‌گونه تصویر برهنه از افراد زیر سن قانونی توسط Grok اطلاع ندارد.

حواشی پیرامون ماسک و آینده تجاری xAI

حواشی پیرامون ماسک و آینده تجاری xAI

در کنار اخبار فنی، اسنادی که وزارت دادگستری آمریکا روز جمعه پیرامون پرونده جفری اپستین منتشر کرد، شامل حداقل ۱۶ ایمیل بین ماسک و اپستین در سال‌های ۲۰۱۲ و ۲۰۱۳ است. در این ایمیل‌ها ماسک درخواست بازدید از جزیره اپستین را مطرح کرده بود. این درحالی‌که اپستین در سال ۲۰۰۸ به جرم جرایم جنسی محکوم شده بود.

در خبری دیگر مرتبط با کسب‌وکار، گزارش‌ها حاکی از آن است که xAI درحال مذاکره برای ادغام با دو شرکت دیگر ماسک، یعنی اسپیس‌ایکس و تسلا است. این اقدام احتمالاً پیش از عرضه اولیه سهام (IPO) اسپیس‌ایکس انجام خواهد شد.

به‌نظر شما آیا محدود کردن تولید تصویر به کاربران پولی می‌تواند مانع از ساخت دیپ‌فیک‌های مخرب شود؟

بفرست برای دوستات