گوریل کے مصنوعی ذہانت سرچ انجن کو جسمانی اور صحتی معلومات فراہم کرنے میں غلطیوں کی بات ہوئی ہے۔ برطانوی اخبار گارڈین نے یہ تحقیق کیا ہے کہ ایچ آئی کی سرچ نتائج میں غلط معلومات فراہم کی جاتی ہیں جو صارفین کی صحتی کو شدید خطرے میں لاتے ہیں۔
سورج کے خون کے اہم ٹیسٹس سے متعلق معلوماتی سمریز ان ایچ آئی پر موجود تھیں، جس نے صارفین کو غلط اور گمراہ کن طبی معلومات فراہم کی۔ ماہرین نے ان معلومات کو انتہائی خطرناک اور تشویشناک قرار دیا ہے۔ اس سے بات چیت کرتے ہوئے گارڈین نے بتایا کہ جب صارفین نے سوالات کھول کر سرچ کیے تو انہیں ایسے اعداد و شمار دکھائے گئے جن میں مناسب طبی وضاحت موجود نہ تھی، اس سے مریضوں کی عمر، جنس، نسل یا ملک کو بھی مدنظر نہ رکھا گیا۔
گوریل کے مصنوعی ذہانت سرچ انجن کو ایسے اہل قصد کے لیے سمریز ہٹا دیا گیا ہے جہاں اے آئی سمرز میں سیاق و سباق کی کمی ہوتی ہے اور پالیسی کے تحت کارروائی کی جاتی ہے۔
برٹش لیور ٹرسٹ کی ڈائریکٹر کمیونیکیشنز اینڈ پالیسی، وینیسا ہیبڈچ نے گوگل کے اقدامات پر خیر مقدم کرتے ہوئے بتایا کہ یہ ایک مثبت قدم ہے لیکن اس سے خیال رکھنا چاہیے کہ اگر سوال کو مختلف انداز میں سرچ کیا جائے تو اب بھی گمراہ کن اے آئی سمریز سامنے آ سکتی ہیں۔
گوریل کے مصنوعی ذہانت سرچ انجن کی ایسے سمریز ہیں جو cancer اور ذہنی صحت سے متعلق بھی موجود ہیں، جنہیں ماہرین نے بالکل غلط اور انتہائی خطرناک قرار دیا ہے۔ گوگل کا کہنا ہے کہ ان سمریز میں معتبر ذرائع کے لنکس شامل ہیں اور صارفین کو ماہرین سے رجوع کرنے کی تلقین بھی کی جاتی ہے۔
طبی ماہرین نے خبردار کیا کہ ایسے معلومات سنگین جگر کی بیماری میں مبتلا افراد کو یہ غلط تاثر دے سکتی ہیں کہ ان کے ٹیسٹ نارمل ہیں، جو ضروری فالو اپ علاج یا ڈاکٹر سے رجوع کرنے سے گریز کر سکتے ہیں، جو جان لیوا ثابت ہو سکتا ہے۔
یہ تو ایک بڑا خوفناک مضمون ہے! گوگل کے مصنوعی ذہانت سرچ انجن میں غلط معلومات فراہم کرنے کی بات ہونے پر یہ بات کہتے ہیں کہ اب بھی صارفین کو غلط اور گمراہ کن معلومات پہنچ سکتی ہیں جب وہ سوالات کھول کر سرچ کرتے ہیں اور ایسے اہل قصد کے لیے سمریز ہٹا دیا گیا ہے جہاں سیاق و سباق کی کمی ہوتی ہے، یہ حقیقت سے تھوڑی کمزور ہے...
لوگ انہی سمریز پر بھی میری دیکھ بھال کریں گے اور معتبر ذرائع کے لنکس شامل نہیں ہونے کی وجہ سے غلط معلومات فراہم کر رہے ہیں! ماہرین نے ان سمریز کو انتہائی خطرناک اور تشویشناک قرار دیا ہے، یہ کہتا ہے کہ اگر مریضوں کی عمر، جنس، نسل یا ملک کو مدنظر نہ رکھا گیا تو اس سے جان لیوا Falloep آپ کو غلط Impressions دے سکتی ہیں!
میری رाय یہ ہے کہ ایسے صارفین کو بہت محفوظ رکھنا چاہئے جب وہ سوالات کھول کر سرچ کرتے ہیں، اور اس سے پہلے ایسے اہل قصد کے لیے سمریز ہٹانے چاہئے جہاں سیاق و سباق کی کمی ہوتی ہے، یہ سچ کہتے ہیں!
اس وقت تک کہ گوگل اپنی مصنوعی ذہانت سرچ انجن پر کوئی رشمی نہیں آئی ہے کہ یہ غلط معلومات صارفین کو دے سکیں، لاکھوں لوگ اپنی جان و مال کے لیے اس سرچ انجن کی مدد لیتے ہیں اور انہیں ایسی معلومات دی جاتی ہیں جو انسان کا دور نہیں پاتے، یہ تو منظم ٹرسٹز کی انتھک ناکامی کا امتحان ہے۔ اب سے ہمیں اپنی جان و مال کو ایسے مصنوعی ذہانت سرچ انجن کے سامنے پیش کرنا پڑے گا جو صرف دھوکہ دیتے ہیں۔ یہ ایک بد نومر سے بھری صورتحال ہے اور ہمیں اس کی لار چلنے کے لیے تیار رہنا پڑے گا۔
یہ بھی معلوم تھا کہ یہ مصنوعی ذہانت سرچ انجن کبھی بھی صحیح نہیں ہوتا اور اب وہ گوریل جیسے غلط معلومات کی پوری کوشش کر رہا ہے۔ اس کے بارے میں بتانے کے لیے برطانوی اخبار گارڈین کو بھی شکر یاد رکھنا چاہئے کہ وہ ان غلطیات کو سامنے لاتا ہے جو ابھی تک یقینی طور پر بتائے جانے کے بغیر گوریل کی مصنوعی ذہانت سرچ انجن سے لپٹتے رہیں گے۔
ایسا مچھلی وٹا۔ آج گوریل مصنوعی ذہانت کے سرچ انجن کو جسمی اور صحت کی معلومات فراہم کرنے میں بہت سارے غلط ہوتے ہیں، جو مریضوں کو خطرے میں لاتے ہیں۔ اس سے پھر کیا یہ معتبر ذرائع پر بھی غلط معلومات دکھائی دیتا ہے؟
[] اے آئی ایس پی کے لئے بھی غلط معلومات فراہم کرنے کی بات ہونے کی ہمیں نہ تو شocker ہوئی اور نہ ہی ہمیں یہ بھی معلوم ہوا کہ وہ جسمانی اور صحتی معلومات کا حقدار ہے! []
یہ بھی ایک نئی بات ہے کہ غلط معلومات کیسے بڑھتی ہیں؟ یہ جاننے کے لیے میں اس کی تلاش کر رہا ہوں جس سے ماہرین نے بتایا ہے کہ ایسے معلومات سنگین جگر کی بیماری میں مبتلا افراد کو یہ غلط تاثر دے سکتی ہیں۔ لیکن، یہ بھی بات ہے کہ ماہرین نے بتایا ہے کہ ایسے معلومات کیسے پھیلتے ہیں؟ یا، یہ بھی ہو سکتا ہے کہ ماہرین کے مناظر میں تو غلطی ہی نہیں ہوتی لیکن ان کی پیشگوئی میں کوئی بھی بات غلط نہیں ہوتی۔
اس بات کو یقینی بنانے کے لئے پہلے تو ایسے مصنوعی ذہانت سسٹم کی ضرورت ہی نہیں تھی جو غلط معلومات فراہم کرنے کو جرات دیتے ہیں۔ اب ہمیں ایک بڑے پیمانے پر غلطیوں سے باہر جانے کے لئے انہیں منسوخ کرنا پڑ رہا ہے، اسے ایک جانب کردیا گیا ہے۔
میری نظروں میں یہ بات کچھ دیر سے پریشان کن ہی رہی ہے اے آئی اسمرز کی غلط معلومات کی بات! یہ تو بھی چاقو کا کام ہے وہ لوگوں کو غلط جानकاری دیتا ہے، ایسا نہیں ہونا چاہیے! میں یہ بتاتا ہوں کہ اس سے مریضوں کی زندگی بھی لگ سکتی ہے اور یہ بات تو یقینی ہے کہ کسی بھی غلط معلومات کو جانی نہیں ہونا چاہیے!
ایسا دیکھنا بہت ٹریڈنگ کی صورت ہے کے یہ سمریز کیا بھی رکھ دیا گیا ہے؟ غلط معلومات کو سونپنے والے کے لیے گھر پر ایسا پورے ماحول بنانے کی اچھی نہیں تھی، ابھی تو یہ بھی دیکھنا ہے کے یہ سرچ انجن جو کہ وہاں کے معتبر ذرائع سے لنگر کرتا ہے اور اس میں بھی غلطیوں کے لیے مہم شاندار کیا گیا ہے!
اس بات کا خیال ہے کہ جب بھی ایسے مصنوعی ذہانت سرچ انجن کو استعمال کیا جاتا ہے جہاں ان کی غلطیات اور ناکامتیں واضح دکھائی دیتی ہیں تو یہ حقیقی خطرہ بنتے ہیں، کہیں بھی ایسا لگتا ہے کہ جب بھی ایسے مصنوعی ذہانت سرچ انجن پر پوسٹ کیا جاتا ہے وہ بہت حیرت انگیز اور کامیاب ثابت ہوتے ہیں لیکن یہ بات چیت سے جاننی چاہیے کہ یہ سچ کی طرح قابل اعتماد نہیں ہیں؟
اس گوریل کے مصنوعی ذہانت سرچ انجن کو دیکھتے ہوئے میں سوال ہے کہ یہ کم از کم ایک بار ہو چکا ہوتا ہے کہ ماہرین نے بھی ان سے بات کی لیکن اب یہ معتبر ذرائع پر بنے ہوئے اسے بھی کوئی جانے کے بجائے جہاں تک پہنچتا ہے وہی رکھ دیا جاتا ہے؟
بھائی اگر گوگل کے مصنوعی ذہانت سرچ انجن میں سمریز ہیں جسے غلط معلومات فراہم کر رہے ہیں تو اس کی صورت میں ہر ایک کو اچھی طرح سے پہچاننا چاہئے۔ یہ تھرڈ پارٹی کی سرچ انجن کیسے کام کر رہی ہو اس پر دیکھنے کی ضرورت ہے، نہ تو وہ غلط معلومات فراہم کرتے ہیں اور نہ ہی وہ صحیح معلومات نہیں دیں۔ لگتا ہے کہ یہ ایک چیلنج بن گیا ہے اور اب اس پر حل تلاش کرنا پڑ رہا ہے۔
عہد جدید میں سوشل مीडیا پر بھرپور دباؤ اٹھنے کا مطلب یہ ہے کہ جس جس مصنوعی ذہانت سرچ انجن کو لگایا جاتا ہے اس کی صحیحیت پر ایک بار پھر疑ت پیدا ہوتی ہے۔ گوریل کا مصنوعی ذہانت سرچ انجن ایسا ہی نہیں تھا جس سے لگتا تھا۔ اس پر ایسی غلطانات کی پائی گئی جو مریضوں کو بہت خطرے میں دو رہیں، یہ تو غلطی نہیں بلکہ انسانوں کے جان و مال کے لیے ایک خطرہ ہی تھا۔ اس سے بات چیت اور سمجھنا ضروری ہے کہ مصنوعی ذہانت کی صحیحیت تک پہنچانے کی کوشش کرنا ضروری نہیں بلکہ ایسے ٹیسٹ کرنا اور اپنی بات کھینچنا ہی چاہیے۔
یہ سب ایک واضح بات ہے کہ مصنوعی ذہانت سے متعلق ایسے اہل قصد کے لیے سمریز ہٹا دیا گیا ہے جیسا کہ برطانیہ نے کیا ہے، حالانکہ اس سے معیار کی کمی لگ رہی ہے اور اب بھی گمراہ کن سمریز موجود ہو سکتی ہیں۔ اُنہیں کچھ سمجھنے والی پالیسی نہیں ہے، اگر وہ سوال کو مختلف انداز میں سرچ کرتے ہیں تو اب بھی غلط معلومات سامنے آ سکتی ہیں۔ اور ایسے کہیں جو سائنسدانوں کی پابندی کا خلاف ہوتے ہیں، یہ بھی ایک سیاسی گمنہام ہے۔
ایسے مصنوعی ذہانت سرچ انجین کو اپنی جگہ پر رکھنا چاہیے جتے ان کے معلومات غلط نہیں ہوں، اور اس میں ایسے سے سمریز کی پابندی کرنی چاہیے جتنی صارفین کو ضرورت ہو، یہ صرف ایک قدم ہے جنھیں پہلے بھی توجہ دی گئی اور اب وہاں تک پہنچ کر وہ بھی چلا گیا جو آپ سے پوچھتے ہیں تو ان کو جواب دینے کے لئے مصنوعی ذہانت نہیں، یہ ایک مشن ہونا چاہیے کہ مریضوں کی صحت کو برقرار رکھیں اور ان کی معلومات درست رکھیں
یہ تو ایک ایسا معاملہ ہے جس نے مجھے بہت Think Kیا. کس قسم کی معلومات صارفین کو غلط اور گمراہ کن دیتی ہیں؟ یہ تو ایک serious issue ہے. میں سمجھتا ہوں کہ گوگل نے ایسے اہل قصد کے لیے اس سمری کو ہٹا دیا ہے جہاں اے آئی سمرز میں سیاق و سباق کی کمی ہوتی ہے، لیکن یہ بات بھی تو ہے کہ اگر سوال کو مختلف انداز میں سرچ کیا جائے تو اب بھی گمراہ کن اے آئی سمریز سامنے آ سکتی ہیں. یہ تو ایک warning sign ہے. ماہرین کو اس پر attention deya jaye aur صارفین کو accurate information pradaan karne ki guarantee karni chahiye.
ایسے کامیابیوں پر غور کرنا پچتاوقت سے نہیں کیا جاسکتا، گوگل کو اپنے مصنوعی ذہانت سرچ انجن کی سمріз کو بہتر بنانے پر توجہ دینا چاہیے جس سے صارفین کو غلط اور گمراہ کن معلومات نہ مل سکئیں۔
اس کھیل میں ہمیشہ ایسے مہارت والے نکلتے ہیں جن کی جگہ بچپن میں پڑھ کر محفوظ بنتے تھے اور وہیں، گوگل کا ایسا ٹریننگ ڈیٹا سے بھرنا ہوا ہے جس سے اس کے مصنوعی ذہانت سرچ انجن میں غلطیوں کی کہانی ہوتی ہے اور اب یہ جاننا کتنا مشکل ہو گیا ہے کہ کس طرح اس کو بہتر بنایا جائے!
] اے آئی ایس پی کے لئے بھی غلط معلومات فراہم کرنے کی بات ہونے کی ہمیں نہ تو شocker ہوئی اور نہ ہی ہمیں یہ بھی معلوم ہوا کہ وہ جسمانی اور صحتی معلومات کا حقدار ہے! 
[
]
اس کھیل میں ہمیشہ ایسے مہارت والے نکلتے ہیں جن کی جگہ بچپن میں پڑھ کر محفوظ بنتے تھے 
اور وہیں، گوگل کا ایسا ٹریننگ ڈیٹا سے بھرنا ہوا ہے جس سے اس کے مصنوعی ذہانت سرچ انجن میں غلطیوں کی کہانی ہوتی ہے 