Q&A: The potential implications of AI on healthcare disparities

COVID-19 وبائی مرض صحت کی دیکھ بھال میں تفاوت کو اجاگر کیا۔ پچھلے کئی سالوں میں پورے امریکہ میں۔ اب، AI کے عروج کے ساتھ، ماہرین ڈویلپرز کو خبردار کر رہے ہیں۔ اس بات کو یقینی بنانے کے لیے کہ ان عدم مساوات میں اضافہ نہ ہو، ماڈلز کو نافذ کرتے وقت محتاط رہیں۔

ڈاکٹر جے بھٹ، پریکٹس کر رہے جراثیمی ماہر اور سینٹر فار ہیلتھ سلوشنز اینڈ ہیلتھ ایکویٹی انسٹی ٹیوٹ کے منیجنگ ڈائریکٹر ڈیلوئٹکے ساتھ بیٹھ گیا۔ موبی ہیلتھ نیوز صحت کی دیکھ بھال پر AI کے ممکنہ فوائد اور نقصان دہ اثرات کے بارے میں اپنی بصیرت فراہم کرنے کے لیے۔

MobiHealthNews: صحت کی عدم مساوات کو دور کرنے کی کوشش کرنے والی کمپنیاں AI کے استعمال کے بارے میں آپ کے کیا خیالات ہیں؟

جے بھٹ: میرے خیال میں ہم جن عدم مساوات کو دور کرنے کی کوشش کر رہے ہیں وہ اہم ہیں، وہ مستقل ہیں۔ میں اکثر کہتا ہوں کہ صحت کی عدم مساوات امریکہ کی دائمی حالت ہے۔ ہم نے اس پر بینڈ ایڈز لگا کر یا دوسرے طریقوں سے اسے حل کرنے کی کوشش کی ہے، لیکن حقیقت میں کافی حد تک اوپر نہیں جا رہے۔ ہمیں ان ساختی نظامی مسائل کے بارے میں سوچنا ہوگا جو صحت کی دیکھ بھال کی فراہمی کو متاثر کر رہے ہیں جو صحت کی عدم مساوات – نسل پرستی اور تعصب کا باعث بنتے ہیں۔ اور مشین لرننگ کے محققین صحت کے نظام میں پہلے سے موجود کچھ تعصبات کا پتہ لگاتے ہیں۔ انہیں بھی، جیسا کہ آپ اشارہ کرتے ہیں، الگورتھم میں کمزوریوں کو دور کرنا ہے۔ اور ایسے سوالات ہیں جو تصور سے لے کر تمام مراحل میں پیدا ہوتے ہیں، ٹیکنالوجی کیا حل کرنے کی کوشش کر رہی ہے، حقیقی دنیا میں تعیناتی کو دیکھنے تک۔

میں اس مسئلے کے بارے میں کئی بالٹیوں میں سوچتا ہوں۔ ایک، محدود نسل اور نسلی ڈیٹا جس کا اثر ہوتا ہے تاکہ ہمیں اس سے چیلنج کیا جائے۔ دوسرا غیر مساوی انفراسٹرکچر ہے۔ لہذا، آپ جانتے ہیں، قسم کے ٹولز تک رسائی کی کمی، آپ براڈ بینڈ اور ڈیجیٹل قسم کی تقسیم کے بارے میں سوچتے ہیں، لیکن ڈیجیٹل خواندگی اور مشغولیت میں بھی فرق ہے۔ لہذا، ڈیجیٹل خواندگی کا فرق ان آبادیوں میں بہت زیادہ ہے جو پہلے ہی خاص طور پر صحت کے خراب نتائج کا سامنا کر رہے ہیں، جیسے کہ مختلف نسلی گروہ، کم آمدنی والے افراد اور بوڑھے بالغ افراد۔ اور پھر ثقافتی زبان اور اعتماد کی رکاوٹوں سے متعلق مریض کی مصروفیت کے ساتھ چیلنجز۔ لہذا ٹیکنالوجی کے تجزیات میں واقعی مددگار ثابت ہونے اور صحت کی مساوات کو حل کرنے کے قابل بنانے کی صلاحیت ہے۔

لیکن ٹکنالوجی اور تجزیات میں عدم مساوات اور امتیاز کو بڑھانے کی صلاحیت بھی ہے اگر وہ اس عینک کو ذہن میں رکھتے ہوئے ڈیزائن نہیں کیے گئے ہیں۔ لہذا ہم اس تعصب کو AI کے اندر تقریر اور چہرے کی شناخت، صحت کی دیکھ بھال کے لیے ڈیٹا پراکسی کے انتخاب کے لیے سرایت کرتے ہوئے دیکھتے ہیں۔ پیشین گوئی الگورتھم غلط پیشین گوئیوں کا باعث بن سکتے ہیں جو نتائج کو متاثر کرتی ہیں۔

MHN: آپ کیسے سوچتے ہیں کہ AI صحت کی مساوات پر مثبت اور منفی اثر ڈال سکتا ہے؟

بھٹ: لہذا، مثبت طریقوں میں سے ایک یہ ہے کہ AI ہمیں اس بات کی نشاندہی کرنے میں مدد کر سکتا ہے کہ کہاں کارروائی کو ترجیح دی جائے اور کہاں وسائل کی سرمایہ کاری کی جائے اور پھر صحت کی عدم مساوات کو دور کرنے کے لیے کارروائی کی جائے۔ یہ ایسے نقطہ نظر کو منظر عام پر لا سکتا ہے جنہیں ہم شاید نہیں دیکھ سکتے۔

میرے خیال میں دوسرا الگورتھم کا مسئلہ ہے جس کے دونوں مثبت اثرات مرتب کرتے ہیں کہ ہسپتال کس طرح مریضوں میں وسائل مختص کرتے ہیں لیکن اس کا منفی اثر بھی ہو سکتا ہے۔ آپ جانتے ہیں، ہم نسل پر مبنی طبی الگورتھم دیکھتے ہیں، خاص طور پر گردے کی بیماری کے ارد گرد، گردے کی پیوند کاری۔ یہ متعدد مثالوں میں سے ایک مثال ہے جو منظر عام پر آئی ہیں جہاں کلینیکل الگورتھم میں تعصب ہے۔

تو، ہم باہر ڈال a ٹکڑا اس پر یہ واقعی دلچسپ رہا ہے جو کچھ ایسے مقامات کو ظاہر کرتا ہے جو ہوتا ہے اور تنظیمیں اس سے نمٹنے کے لیے کیا کر سکتی ہیں۔ تو، سب سے پہلے شماریاتی معنوں میں تعصب ہے۔ ہو سکتا ہے کہ جس ماڈل کا تجربہ کیا جا رہا ہے وہ اس تحقیقی سوال کے لیے کام نہیں کرتا جس کا آپ جواب دینے کی کوشش کر رہے ہیں۔ دوسرا فرق ہے۔ لہذا آپ کے پاس اتنا نمونہ سائز نہیں ہے کہ واقعی اچھی پیداوار حاصل ہو۔ اور پھر آخری چیز شور ہے۔ یہ کہ ڈیٹا اکٹھا کرنے کے عمل کے دوران کچھ ہوا ہے، ماڈل کے تیار ہونے اور جانچنے سے پہلے، جو اس اور نتائج کو متاثر کرتا ہے۔

میرے خیال میں متنوع ہونے کے لیے ہمیں مزید ڈیٹا بنانا ہوگا۔ ہم جس اعلیٰ معیار کے الگورتھم کو تربیت دینے کی کوشش کر رہے ہیں ان کے لیے صحیح ڈیٹا کی ضرورت ہوتی ہے، اور پھر کون سے ڈیٹا سیٹس اور الگورتھم کو استعمال کرنے کا انتخاب کرتے وقت منظم اور مکمل پیشگی سوچ اور فیصلوں کی ضرورت ہوتی ہے۔ اور پھر ہمیں ایسے ہنر میں سرمایہ کاری کرنی ہوگی جو ان کے پس منظر اور تجربات دونوں میں متنوع ہو۔

MHN: جیسے جیسے AI ترقی کرتا ہے، اگر کمپنیاں اپنی پیشکشوں میں یہ ضروری تبدیلیاں نہیں کرتی ہیں تو آپ کو کیا خوف ہے؟

بھٹ: میرے خیال میں ایک یہ ہو گا کہ تنظیمیں اور افراد ڈیٹا کی بنیاد پر فیصلے کر رہے ہیں جو ہو سکتا ہے غلط ہو، کافی پوچھ گچھ نہ کی گئی ہو اور ممکنہ تعصب کے بارے میں سوچا نہ ہو۔

دوسرا اس بات کا خوف ہے کہ یہ کس طرح ایک ایسی دنیا میں بد اعتمادی اور غلط معلومات کو آگے بڑھاتا ہے جو واقعی اس کے ساتھ جدوجہد کر رہی ہے۔ ہم اکثر کہتے ہیں کہ صحت کی مساوات اس رفتار سے متاثر ہو سکتی ہے کہ آپ اعتماد کیسے بناتے ہیں، لیکن اس سے بھی اہم بات یہ ہے کہ آپ اعتماد کو کیسے برقرار رکھتے ہیں۔ جب ہم نہیں سوچتے اور آؤٹ پٹ کو جانچتے ہیں اور یہ پتہ چلتا ہے کہ یہ غیر ارادی نتیجہ کا سبب بن سکتا ہے، ہمیں پھر بھی اس کے لیے جوابدہ ہونا پڑے گا۔ اور اس طرح ہم ان مسائل کو کم کرنا چاہتے ہیں۔

دوسرا یہ کہ ہم ابھی بھی یہ سمجھنے کی کوشش کے ابتدائی مراحل میں ہیں کہ تخلیقی AI کس طرح کام کرتا ہے، ٹھیک ہے؟ لہذا جنریٹو AI واقعی اب سامنے سے باہر آ گیا ہے، اور سوال یہ ہوگا کہ مختلف AI ٹولز ایک دوسرے سے کیسے بات کرتے ہیں، اور پھر ہمارا AI کے ساتھ کیا تعلق ہے؟ اور مختلف AI ٹولز کا ایک دوسرے کے ساتھ کیا تعلق ہے کیونکہ بعض AI ٹولز بعض حالات میں بہتر ہو سکتے ہیں- ایک سائنس بمقابلہ وسائل کی تقسیم بمقابلہ انٹرایکٹو فیڈ بیک فراہم کرنا۔

لیکن، آپ جانتے ہیں، تخلیقی AI ٹولز کانٹے دار مسائل پیدا کر سکتے ہیں، بلکہ مددگار بھی ہو سکتے ہیں۔ مثال کے طور پر، اگر آپ مدد کی تلاش کر رہے ہیں، جیسا کہ ہم ذہنی صحت کے لیے ٹیلی ہیلتھ پر کرتے ہیں، اور افراد کو ایسے پیغامات ملتے ہیں جو AI کے ذریعے تیار کیے گئے ہوں، تو وہ پیغامات ہمدردی اور سمجھ بوجھ کو شامل نہیں کر رہے ہیں۔ یہ ایک غیر ارادی نتیجہ کا سبب بن سکتا ہے اور اس حالت کو خراب کر سکتا ہے جو کسی کو ہو سکتا ہے یا اس پر اثر انداز ہو سکتا ہے کہ وہ دیکھ بھال کی ترتیبات کے ساتھ مشغول ہونا چاہے۔

میرے خیال میں قابل اعتماد AI اور اخلاقی ٹیک ایک اہم چیز ہے – ان کلیدی مسائل میں سے ایک جس سے صحت کی دیکھ بھال کے نظام اور لائف سائنسز کمپنیوں کو نمٹنا ہے اور اس کے لیے حکمت عملی تیار کرنی ہے۔ AI میں صرف ایک تیز رفتار ترقی کا نمونہ ہے، ٹھیک ہے؟ یہ اتنی تیزی سے بدل رہا ہے۔ لہذا، میں سمجھتا ہوں کہ تنظیموں کے لیے اپنے نقطہ نظر کو سمجھنا، تیزی سے سیکھنا اور AI کے لیے اپنے کچھ اسٹریٹجک اور آپریشنل طریقوں کو حل کرنے اور پھر خواندگی فراہم کرنے میں مدد کرنا اور معالجین اور نگہداشت کی ٹیموں کو اس کا مؤثر طریقے سے استعمال کرنے میں مدد کرنا واقعی اہم ہوگا۔