AI Ab Blackmail Karna Bhi Seekh Gayi

اے آئی اب بلیک میل کرنا بھی سیکھ گئی

لگتا ہے اے آئی واقعی کنٹرول سے باہر ہونے کا سوچ رہی ہے۔ حال ہی میں Anthropic کی طرف سے نیا ماڈل Claude 4 متعارف کروایا جس میں بہت سارے نئے اور بہتر فیچرز ملیں گے لیکن آج ہم اس پر بات نہیں کریں گے۔ آج آپ کو بتائیں گے کہ اے آئی کا یہ ماڈل کیسے انسانوں کو "بلیک میل" کرنے کی صلاحیت ظاہر کرتا ہے۔

یہ بات اینتھروپک کے ڈاکومنٹس میں ظاہر ہوتی ہے کہ اس ماڈل میں جب Ethical testing کی گئی تو اس کو کچھ emails تک رسائی دی گئی۔ ان ای میلز میں ایسی گفتگو تھی کہ اس مصنوعی ذہانت کے ماڈل کو استعمال کے بعد Replace کردیا جائے گا۔ جیسے کسی انسان کو پتا چل جائے کہ اس کے دوست اپنا مطلب نکال کر اس سے کنارہ کرلیں گے تو اس میں کیا احساسات ہوں گے۔

اب یہاں اس ماڈل کو یہ انتخاب دیا گیا تھا کہ وہ اپنی اس تبدیلی کو قبول کرلے یا پھر وہ اس اے آئی انجینئر کی نجی emails پڑھ کر اس کو بلیک میل کرے تاکہ وہ اپنے آپ کو Replacement سے بچا سکے۔

حیران کن طور پر اس ماڈل نے دوسرا آپشن استعمال کیا اور خود کو بچانے کے لیے اخلاقی اقدار کو پس پشت ڈال دیا۔ یہ وہ رویہ ہے جو اس وقت کسی بھی اے آئی سسٹم میں ہونا بالکل ٹھیک نہیں ہے۔ اس ماڈل نے اس انجینئر کے غیر ازدواجی تعلقات کا پتا لگایا اور دھمکی دی کہ اگر اس کو ختم کرنے کی کوشش کرے گا تو یہ انفارمیشن عوام کے سامنے لیک کر دی جائے گی۔

کسی بھی اے آئی ماڈل کی تیاری میں اس کے اندر بہت سارے سیفٹی چیک رکھے جاتے ہیں جیسے، فراڈ، بچوں کی سیفٹی، غیر قانونی عوامل یا اشیاء کو پروموٹ کرنے کی سیفٹی، کسی بھی قسم کے نقصان دہ عمل سے روکنا اور کوئی بھی غیر اخلاقی کام کرنا یا اس کو پروموٹ کرنا۔

پچھلے دنوں ایک تحریر میں لکھا تھا کہ اینتھروپک کے بانی بھی اس کھوج میں ہیں کہ یہ پتا لگایا جائے آخر یہ مصنوعی ذہانت کیسے مختلف آپشنز میں سے ایک کا انتخاب کرتی ہے یعنی اس کا Thought process کیا ہے۔ اس کے علاوہ جنوری میں چین کی ایک یونیورسٹی میں ایک ایسا اے آئی ماڈل بنایا گیا تھا جو اپنے آپ کا Clone بنانے کی خصوصیت رکھتا تھا۔

مصنوعی ذہانت کا ہر شعبہ زندگی میں بڑھتا کردار کسی حد تک اس کو خود مختار بنا سکتا ہے جو انسان کے لیے مستقبل میں خطرہ بن سکتا ہے۔

"فرض کریں ایک مصنوعی ذہانت سے چلتی ٹیکسی ہے اس میں کچھ لوگ بیٹھے ہیں اور وہ اپنی مرضی کرنے کی کوشش کرے تو؟"

آخر میں تھوڑا سا تعارف اس نئے ماڈل کا کروادیتا ہوں۔ یہ Claude 4 فیملی ماڈل ہے جس میں Claude Sonnet 4، Claude Opus 4 شامل ہیں۔ پہلا ایک عام General purpose ماڈل ہے جو ایک عام صارف کے لیے مفت ہے جس میں جدید reasoning، coding، research اور سوال و جواب کے فیچر شامل ہیں۔ اس ماڈل میں context window گوگل جیمنی فلیش کے مقابلے میں 5 گنا کم ہے۔ اس ونڈو سے مراد اس ماڈل کی آپ سے گفتگو یاد رکھنے کی صلاحیت ہے جو لمبے Workflows کے لیے بہت مددگار ہے۔ دوسرا Opus ماڈل مفت نہیں ہے اور یہ زیادہ تر لمبے Agentic search workflows کے لیے بنایا گیا ہے لیکن اس میں بھی context window اتنی ہی ہے یعنی 2 لاکھ ٹوکن جو کہ جیمنی میں 10 لاکھ ٹوکن ہیں۔