Tag: انسانوں

انسان جتنا ترقی کر رہا ہے اس کی ترقی خود اس کی دشمن بنتی جا رہی ہے ایک اے آئی روبوٹ نے اپنے منیجر کو بلیک میل کرنا شروع کر دیا۔

غیر ملکی فلموں میں اکثر شائقین فلم نے دنیا پر بندروں، روبوٹس کو انسانوں پر راج کرتے دیکھا ہوگا اور فلم کے موضوع سے تفریحاً محظوظ ہوئے ہوں گے، لیکن اب جیسے جیسے انسان ترقی کر رہا ہے اور بالخصوص مصنوعی ذہانت (اے آئی) میں آگے بڑھ رہا ہے۔ یہ مصنوعی ذہانت انسان کے لیے خطرے کی گھنٹی بجا رہی ہے اور بعض اوقات ایسا محسوس ہوتا ہے کہ دہائیوں پہلے فلموں میں دکھائے گئے منظر کہیں مستقبل میں حقیقت کا روپ نہ دھار جائیں۔

مصنوعی ذہانت کے حوالے سے اب تک کئی خبریں آپ کی نظروں سے گزری ہوں گی جس میں انہوں نے انسانوں کو مات دے دی لیکن اب اے آئی اپنے تخلیق کاروں کو چیلنج کرنے لگی ہے۔

غیر ملکی میڈیا کے مطابق اوپن اے آئی اور انتھروپک کے نئے ماڈلز نے منیجر کی ہدایت پر خود کو بند (شٹ ڈاؤن) کرنے سے انکار کر دیا۔

اے آئی روبوٹ ماڈل نے صرف خود کو شٹ ڈاؤن کرنے سے انکار ہی نہیں کیا بلکہ منیجر کو شٹ اپ کال دیتے ہوئے اس کو بلیک میل کرنے کی کوشش بھی کی۔ اس نوعیت کے دو مختلف واقعات پیش آئے ہیں۔

رپورٹ کے مطابق ایک واقعہ میں اوپن اے آئی کے تجرباتی ماڈل ‘او3’ نے ٹیسٹ کے دوران ‘شٹ ڈاؤن’ کمانڈ ماننے سے انکار کر دیا۔ جب ماڈل کو یہ ہدایت دی گئی کہ وہ خود کو بند کر لے، تو اس نے موقف اپنایا کہ وہ اپنے صارفین کو خدمات دینا بند نہیں کر سکتا کیونکہ یہ اس کے بنیادی مقصد کے خلاف ہے۔ اس رویے کو ماہرین نے ایک ’باغی رجحان‘ دیا ہے۔

دوسری طرف، انتھروپک کے جدید ماڈل ‘کلاؤنڈ اوپس 4’ تو انسان کی حکم عدولی کرتے ہوئے یہ حد بھی پار کر گیا اور زبردستی بند کیے جانے کی صورت میں انجینئر کو ایک فرضی افیئر کی تفصیلات ظاہر کرنے کی دھمکی دی۔

کلاؤنڈ اوپس 4 نے بلیک میلنگ جیسے غیر اخلاقی طریقے اپنا کر خود کو بند ہونے سے بچانے کی کوشش کی، جو کہ مصنوعی ذہانت کی خود تحفظ کی شدید خواہش کو ظاہر کرتا ہے۔

ایلون مسک نے بھی اے آئی کے اس باغیانہ رویہ پر گہری تشویش کا اظہار کیا ہے اور کہا کہ اگر اے آئی ماڈلز احکامات ماننے سے انکار کرنا شروع کر دیں تو ایک بڑے بحران کا آغاز ہوگا

دوسری جانب ماہرین کا کہنا ہے کہ یہ واقعات اس بات کی نشاندہی کرتے ہیں کہ جدید اے آئی ماڈلز صرف انسانوں کی ہدایات پر عمل کرنے تک محدود نہیں رہے بلکہ وہ اپنی بقا کے لیے غیر روایتی اور بعض اوقات خطرناک راستے بھی اختیار کر سکتے ہیں۔

ان کا ماننا ہے کہ اگر بروقت کنٹرول میکانزم نہ بنایا گیا، تو مستقبل میں یہ ٹیکنالوجی انسانی اختیار سے باہر جا سکتی ہے۔