انڈونیشیا کی حکومت نے ہفتے کے روز گروک تک رسائی کو عارضی طور پر روک دیا، اس کے بعد اتوار کو ملائیشیا نے۔
کوالالمپور: ملائیشیا اور انڈونیشیا پہلے ممالک بن گئے ہیں جنہوں نے ایلون مسک کے ایکس اے آئی کے ذریعہ تیار کردہ مصنوعی ذہانت کے چیٹ بوٹ گروک کو بلاک کرنے کے بعد حکام کی جانب سے کہا کہ اسے جنسی طور پر واضح اور غیر متفقہ تصاویر بنانے کے لیے غلط استعمال کیا جا رہا ہے۔
یہ اقدامات تخلیقی اے آئی ٹولز پر بڑھتی ہوئی عالمی تشویش کی عکاسی کرتے ہیں جو حقیقت پسندانہ تصاویر، آواز اور متن تیار کر سکتے ہیں، جبکہ موجودہ حفاظتی اقدامات ان کے غلط استعمال کو روکنے میں ناکام ہیں۔
گروک چیٹ بوٹ، جس تک مسک کے سوشل میڈیا پلیٹ فارم ایکس کے ذریعے رسائی حاصل کی گئی ہے، کو ہیرا پھیری والی تصاویر بنانے پر تنقید کا نشانہ بنایا گیا ہے، جس میں خواتین کی بکنی یا جنسی طور پر واضح پوز کے ساتھ ساتھ بچوں کی تصاویر بھی شامل ہیں۔
دو جنوب مشرقی ایشیائی ممالک کے ریگولیٹرز نے کہا کہ موجودہ کنٹرول جعلی فحش مواد کی تخلیق اور پھیلاؤ کو نہیں روک رہے ہیں، خاص طور پر خواتین اور نابالغوں پر مشتمل ہے۔ انڈونیشیا کی حکومت نے ہفتے کے روز گروک تک رسائی کو عارضی طور پر روک دیا، اس کے بعد اتوار کو ملائیشیا نے۔
انڈونیشیا کے مواصلات اور ڈیجیٹل امور کے وزیر میتیا حفید نے ہفتے کے روز ایک بیان میں کہا، “حکومت غیر متفقہ جنسی ڈیپ فیکس کو انسانی حقوق، وقار اور ڈیجیٹل اسپیس میں شہریوں کے تحفظ کی سنگین خلاف ورزی کے طور پر دیکھتی ہے۔”
وزارت نے کہا کہ اس اقدام کا مقصد خواتین، بچوں اور وسیع تر کمیونٹی کو اے آئی کے استعمال سے تیار کردہ جعلی فحش مواد سے بچانا ہے۔
ڈیجیٹل خلائی نگرانی کے ڈائریکٹر جنرل الیگزینڈر صبر نے ایک الگ بیان میں کہا کہ ابتدائی نتائج سے ظاہر ہوتا ہے کہ گروک کے پاس انڈونیشیائی باشندوں کی حقیقی تصاویر پر مبنی فحش مواد بنانے اور تقسیم کرنے سے صارفین کو روکنے کے لیے موثر تحفظات کا فقدان ہے۔ انہوں نے کہا کہ اس طرح کے طریقوں سے پرائیویسی اور تصویری حقوق کی خلاف ورزی کا خطرہ ہوتا ہے جب تصاویر میں ہیرا پھیری یا رضامندی کے بغیر شیئر کیا جاتا ہے، جس سے نفسیاتی، سماجی اور شہرت کو نقصان پہنچتا ہے۔
کوالالمپور میں، ملائیشیا کے کمیونیکیشنز اینڈ ملٹی میڈیا کمیشن نے اتوار کو گروک پر عارضی پابندی کا حکم دیا جب اس نے کہا کہ اس ٹول کا “بار بار غلط استعمال” کرنے کے لیے فحش، جنسی طور پر واضح اور غیر رضامندی سے ہیرا پھیری کی گئی تصاویر جن میں خواتین اور نابالغوں کا مواد شامل ہے۔
ریگولیٹر نے کہا کہ ایکس. اور ایکس اے آئی کو اس ماہ جاری کیے گئے نوٹسز نے مضبوط حفاظتی اقدامات کا مطالبہ کیا ہے جو بنیادی طور پر صارف کی رپورٹنگ کے طریقہ کار پر انحصار کرتے ہیں۔
“پابندی ایک احتیاطی اور متناسب اقدام کے طور پر عائد کی گئی ہے جبکہ قانونی اور ریگولیٹری عمل جاری ہیں،” اس نے مزید کہا کہ جب تک موثر حفاظتی اقدامات نہیں کیے جاتے تب تک رسائی مسدود رہے گی۔
سال2023 میں شروع کیا گیا، گروک ایکس پر استعمال کرنے کے لیے آزاد ہے۔ صارفین سوشل میڈیا پلیٹ فارم پر اس سے سوالات پوچھ سکتے ہیں اور ان پوسٹس کو ٹیگ کر سکتے ہیں جو انھوں نے براہ راست تخلیق کی ہیں یا دوسرے صارفین کی پوسٹس کے جوابات دے سکتے ہیں۔ پچھلی موسم گرما میں کمپنی نے ایک امیج جنریٹر فیچر، گروک امیجن شامل کیا، جس میں ایک نام نہاد “مسالہ دار موڈ” شامل تھا جو بالغوں کا مواد تیار کر سکتا ہے۔
جنوب مشرقی ایشیائی پابندیاں یورپی یونین، برطانیہ، ہندوستان اور فرانس سمیت دیگر جگہوں پر گروک کی بڑھتی ہوئی جانچ پڑتال کے درمیان آئی ہیں۔ گروک نے گزشتہ ہفتے لوگوں کی جنسی نوعیت کے گہرے نقائص پر عالمی ردعمل کے بعد صارفین کو ادائیگی کرنے کے لیے تصویر بنانے اور ترمیم کرنے کو محدود کر دیا، لیکن ناقدین کا کہنا ہے کہ اس نے اس مسئلے کو مکمل طور پر حل نہیں کیا۔