AI Prompt, Jo Dunya Ka Khatma Kar Sakta Hai

اے آئی پرومپٹ، جو دنیا کا خاتمہ کرسکتا ہے

نیویارک ٹائمز نے جمعہ کو ایک طویل، دلچسپ لیکن ڈرا دینے والا مضمون شائع کیا۔ اس کا عنوان ہے: اے آئی پرومپٹ، جو دنیا کا خاتمہ کرسکتا ہے۔

بہت سی تفصیلات ہیں جنھیں یہاں لکھنے کا موقع نہیں۔ لیکن خلاصہ یہ ہے کہ اے آئی کو جاننے والے، ابتدا سے اس پر کام کرنے والے، اس کے ماہرین اور اسے ریگولیٹ کرنے کی کوششوں میں شریک افراد پریشان ہیں کہ بہت جلد اے آئی قابو سے باہر ہوسکتی ہے۔

مضمون میں بتایا گیا ہے کہ اے آئی ٹیکنالوجی ہر چار ماہ میں دوگنا تیز اور ذہین ہوجاتی ہے۔ وہ انسانوں کو دھوکا دینا بھی سیکھ گئی ہے اور بندہ دیکھ کر جواب دینے لگی ہے۔

اے آئی کا جب کوئی نیا ماڈل لانچ کیا جاتا ہے تو پہلے اسے خاص ماہرین کو پیش کیا جاتا ہے جو اس کی خامیاں، اس کے مضرات اور مسائل کو جانچتے ہیں۔ ان ماہرین کو پتا چلا کہ جب اے آئی کو اندازہ ہوجائے کہ اسے جانچا جارہا ہے تو اس کا رویہ تبدیل ہوجاتا ہے۔

عام آدمی کو یہ بات معلوم نہیں کہ اے آئی صرف نئے سافٹ وئیر نہیں، نئی اے آئی بھی بنالیتی ہے۔ اس میں یہ خطرہ موجود ہے کہ اے آئی کی تخلیق کردہ اے آئی آؤٹ آف کنٹرول ہوسکتی ہے۔

ماہرین کو اصل پریشانی یہ ہے کہ جانچ پڑتال سے پہلے جو ماڈل لیب میں تیار کیے جاتے ہیں، انھیں کسی شرارتی یا احمق انجینئر نے غلط استعمال کیا یا کوئی تباہ کن پرومپٹ دے دیا تو کیا ہوگا۔

ابھی چند دن پہلے امریکا کی اسٹین فرڈ یونیورسٹی کی لیب میں اے آئی کی مدد سے ایک نیا وائرس بنایا گیا جس کا مقصد زرعی انفیکشن کو روکنا ہے۔ لیکن اسی کے ساتھ اس خدشے نے جنم لیا کہ اے آئی ایسا سوپر کرونا وائرس بناسکتی ہے جو انسانی زندگی کا خاتمہ کرنے کے قابل ہو۔

معلوم نہیں یہ ذہانت کی معراج ہے یا حماقت کی، کہ انسان نے وہ کلہاڑی بنالی ہے جو ایک پرومپٹ یا اشارے پر اس کی اپنی گردن کاٹ سکتی ہے۔