Grok Kya Tum Sache Ho?

گروک کیا تم سچے ہو؟

اس وقت شاید ہی کوئی صحافی ہو جو اپنے ہر سوال کا جواب grok سے نہ پوچھ رہا ہو اور سوال بھی انتہائی فضول۔ ایلون مسک کے ٹویٹر خریدنے اور اس میں xAI کی evil power ڈالنے سے پہلے اس پر مہیا کردہ معلومات کی ایک وقعت تھی جو "اے آئی اور کمائی" کے چکر میں ایک تماشا اور افراتفری میں تبدیل ہوگیا ہے۔

کوئی ایسی پوسٹ آپ نہیں دیکھیں گے جس کے اندر یا کمنٹ میں grok صاحب کو مخاطب کرکے اس سے سوال نہ کیا گیا ہو۔ سب سے بڑا ظلم یہ کہ اس کو لوگوں نے ایک fact-checker بنا لیا ہے جس کی معلومات کا دارومدار ہی اسی پلیٹ فارم پر ملنے والی اطلاعات سے ہے چاہے وہ غیر تصدیق شدہ ہی کیوں نہ ہوں۔

اس کی سیاسی بصیرت کا اندازہ اس کے جوابات سے بخوبی لگایا جا سکتا ہے کہ اس کی لرننگ کا ڈیٹا وہی ہے جو ایکس پر وائرل ہے۔ یہ اپنی مشین لرننگ کے لیے زیادہ تر Reinforcement learning کا طریقہ استعمال کرتا ہے جس میں جو گروپ جتنا ایکٹو ہوگا، جس چیز کو جتنا پھیلائے گا پروپیگنڈا کرے گا اس کا پلہ اتنا ہی بھاری ہوگا اور جواب کے اندر اس کی جھلک نظر آئے گی۔

پاکستان بھارت کی جنگ کے دوران اصل جنگ تو شاید گھنٹوں کی یا دنوں کی ہوگی لیکن ایکس پر ہر وقت جنگ لگی رہتی تھی جس میں فیک ویڈیوز پر بڑے بڑے (نام نہاد) صحافیوں نے لمبے لمبے تبصرے کیے اور گروک نے اس جنگ میں بہت کچھ سیکھا۔ اس کے اندر ایک جانبداری نے جنم لیا کہ ہاتھی کے پاؤں میں سب کا پاؤں۔

ڈیجیٹل فارنسک ریسرچ لیب (DFRLab) جو کہ ایک امریکی تھنک ٹینک اٹلانٹک کونسل کا حصہ ہے، نے اپنی ایک رپورٹ میں بتایا ہے کہ Grok کو "پہلے سے تصدیق شدہ حقائق کی جانچ، جعلی ویڈیوز اور تصاویر کا تجزیہ کرنے اور بے بنیاد دعووں سے بچنے میں مشکلات کا سامنا ہے"۔ 

بی بی سی کی تحقیق:

فروری میں بی بی سی کی طرف سے مصنوعی ذہانت کے 4 پلیٹ فارموں (chatgpt، grok، copilot، Gemini) پر ان کی فراہم کردہ معلومات کو لے کر تحقیق ہوئی (یہ 24 صفحات کی ایک رپورٹ ہے جو آپ پڑھ سکتے ہیں)۔ ان پلیٹ فارمز کو بی بی سی کے آرٹیکلز تک رسائی دی گئی اور ان کی فراہم کردہ معلومات کا تجزیہ صحافیوں کی ایک ٹیم نے کیا۔ مکمل رپورٹ کا خلاصہ تو کافی طویل ہے لیکن چیدہ چیدہ معلومات آپ کو فراہم کرتا ہوں۔

ماہرین نے مصنوعی ذہانت کے جوابات میں سے 51 فیصد میں significant issues دیکھے اور 91 میں some issues دیکھے (یہ مسائل کی دو کیٹیگریز تھیں)۔ ان میں سب سے زیادہ مسئلہ گوگل جیمنی اور مائیکروسافٹ کے copilot میں دیکھے گئے۔ سب سے مشترکہ مسائل 3 طرح کے تھے۔

1۔ Factual Inaccuracies

2۔ Sourcing

3۔ missing Context

میرے خیال میں یہ تین بہت بڑے بڑے مسائل ہیں۔ پہلا بتاتا ہے کہ facts and figures میں غلطیاں یعنی تاریخ، نمبرز وغیرہ ہی غلط ہوں، دوسرا خبر کا مآخذ ہی غلط ہو اور تیسرا یہ کہ سیاق وسباق سے ہٹ کر کسی بھی خبر کو اپنی مرضی سے بیان کرنا۔ یہ تینوں چیزیں مل کر کسی بھی معلومات کو انتہائی خطر ناک بنا دیتی ہیں۔ ماہرین کو اے آئی کی فراہم کردہ معلومات کی Accuracy جانچنے کے لیے پوچھا گیا تو گوگل کے جیمنی نے 46 فیصد تک غلط جواب دیے۔ اگر آپ اے آئی پلیٹ فارم سے اس کی معلومات کے سورس بھی پوچھتے ہیں تو اچھی بات ہے لیکن یہ یاد رکھیں کہ وہ سورس پر موجود معلومات کو اپنی مرضی سے تبدیل (manipulate) کرکے بھی بیان کرسکتا ہے۔

جرمن نیوز ایجنسی DW میں ایک تحقیق چھپی جس میں گروک کی فراہم کردہ معلومات (جو grok کے ذریعے ایکس پر فراہم کی جاتی ہیں) کا ایک تجزیہ کیا۔ اس میں بتایا گیا کہ 27 فیصد امریکی نارمل براؤز کی بجائے اے آئی بوٹس کا استعمال کرتے ہیں۔ اس تحقیق میں یہ بھی بتایا گیا کہ گروک کو کچھ بھی پوچھا گیا تو وہ بات کو کہیں نہ کہیں گھما کر white genocide کی طرف لے جاتا تھا جو افریکی ممالک پر ایک بے بنیاد الزام ہے۔ یعنی جھوٹا پروپیگینڈا پھیلانے میں بھی اے آئی کا کردار انتہائی اہم ہے۔

ایک اور ریسرچ کا حوالہ دیتا ہوں، Columbia Journalism Review میں ایک ریسرچ Tow Center for Digital Journalism نے پبلش کی جس میں بتایا گیا ہے کہ کیسے اب عوام انفارمیشن کے لیے اے آئی کا زیادہ استعمال کرنے لگے ہیں اور براؤزر کا استعمال کم ہوتا جا رہا ہے۔ اس کا نقصان یہ ہورہا ہے کہ اے آئی اپنی مرضی سے انفارمیشن کو manipulate کر سکتی ہے۔ ایک چیز جو اس ریسرچ میں بتائی گئی کہ اے آئی کبھی بھی کسی سوال کا جواب دینے سے انکار نہیں کرتا کیونکہ وہ اسی کام کے لیے بنایا گیا ہے اور وہ کوئی نا کوئی جواب بنا کر لازمی دے گا اور پریمیم چیٹ بوٹس تو اپنا غلط جواب انتہائی پر اعتماد ہو کر دیتے ہیں۔

اس DFRLab نے پلیٹ فارم X (جس میں Grok شامل ہے) پر تقریباً 130,000 مختلف زبانوں میں کی گئی پوسٹس کا تجزیہ کیا اور دیکھا کہ Grok "AI سے تیار کردہ میڈیا کی تصدیق کرنے میں کافی مشکلات کا سامنا کر رہا ہے"۔ 

جیسے ہی اسرائیل-ایران جنگ شدت اختیار کر گئی، سوشل میڈیا پر یہ غلط دعوے پھیل گئے کہ چین نے اپنی حمایت کی پیشکش کے لیے تہران کو فوجی کارگو طیارے بھیجے ہیں۔ ڈس انفارمیشن واچ ڈاگ NewsGuard کے مطابق، جب صارفین نے AI کمپنیوں Perplexity اور Grok کے AI سے چلنے والے X اکاؤنٹس سے اس کی صداقت کے بارے میں پوچھا تو دونوں نے غلطی سے جواب دیا کہ یہ دعوے سچ تھے۔

آرٹیکل بہت لمبا ہوگیا لیکن اس انفارمیشن اور کنفیوژن کے دور میں آپ کے لیے صحیح معلومات کی کھوج کرنا انتہائی ضروری ہے۔