موضوع 8.4 — مصنوعی ذہانت اور ابھرتی ٹیکنالوجی کی نظامت

ایک جملے میں: صحت اور نگہداشت میں مصنوعی ذہانت سیکھنے والی، ڈیٹا پر منحصر، اور اکثر مبہم ٹیکنالوجی ہے جو کسی بھی ایسے نظام سے تیزی سے فائدہ اور نقصان دونوں کو بڑھا سکتی ہے جس کی آپ نے کبھی نظامت کی ہو، اس لیے آپ کو اس کی نظامت اس کے پورے دور حیات میں طبی تحفظ، مساوات، اور عوامی اعتماد کے معاملے کے طور پر کرنی چاہیے — اسے عام سافٹ ویئر نہ سمجھیں جو ایک بار خریدا اور بھلا دیا جائے۔

یہ صحت اور نگہداشت میں کیوں اہم ہے#

آپ نے جو زیادہ تر سافٹ ویئر نافذ کیا ہے وہ کل بھی ویسا ہی برتاؤ کرتا ہے جیسا آج: اس کی منطق لکھی ہوئی ہے، اس کا برتاؤ جانچنے کے قابل ہے، اور جب یہ غلط ہو تو عموماً نظر آنے والے، دہرائے جانے والے طریقے سے غلط ہوتا ہے۔ مصنوعی ذہانت ان تینوں آسائشوں کو توڑتی ہے۔ یہ کسی شخص کے لکھے قواعد پر چلنے کے بجائے ڈیٹا سے شماریاتی نمونے سیکھتی ہے؛ اس کا برتاؤ مکمل طور پر اس ڈیٹا پر منحصر ہے جس پر اسے تربیت دی گئی اور اس ڈیٹا پر جس سے اب اس کا سامنا ہے؛ اور اس کی استدلال اکثر ان لوگوں کے لیے بھی مبہم ہے جنہوں نے اسے بنایا۔ یہی امتزاج ہے کہ AI کو عام سافٹ ویئر کی فہرست میں ضم کرنے کے بجائے اپنے نظامت کے نظم کی ضرورت ہے۔

صحت اور نگہداشت میں نتائج مجرد نہیں۔ ایسا ماڈل جو ان گروہوں میں بیماری کم پکڑتا ہے جو اس کے تربیتی ڈیٹا میں کم نمائندہ تھے الگ تھلگ غلطی نہیں کرتا — وہ وہی غلطی خاموشی سے ہزاروں بار کرتا ہے، صحت کی عدم مساوات کو پکا اور بڑھاتا ہوا۔ جنریٹو ماڈل جو قابلِ یقین سنائی دینے والی طبی تفصیل گھڑ لے ایک تھکے ہوئے معالج کو بالکل غلط لمحے میں گمراہ کر سکتا ہے۔ ایسا آلہ جو اس آبادی پر خوبصورتی سے کام کرتا ہے جس پر اسے جانچا گیا خاموشی سے بگڑ سکتا ہے جب آبادی، نگہداشت کا راستہ، یا اوپر کا ڈیٹا بدلے۔ AI اچھے فیصلوں کو بڑھا سکتی ہے اور تعصب، غلطی، اور نقصان کو برابر کارکردگی سے بڑھا سکتی ہے۔

یہ موضوع اس خطرے کی نظامت کے بارے میں ہے، نہ ہائپ میں سانس لینے اور نہ ٹیکنالوجی پر پابندی لگانے کے ساتھ۔ یہ دانستہ طور پر وہ بنیادیں نہیں دہراتا جو کہیں اور رکھی گئی ہیں: طبی تحفظ (دیکھیے موضوع 1.6 — طبی تحفظ اور خطرات کا انتظام)، معلومات کی نظامت، ڈیٹا کا تحفظ اور سائبر سیکیورٹی (دیکھیے موضوع 1.7 — معلومات کی نظامت، ڈیٹا کا تحفظ اور سائبر سیکیورٹی)، اور شواہد پر مبنی فیصلہ سازی (دیکھیے موضوع 1.3 — شواہد پر مبنی فیصلے)۔ یہ ان سے جڑتا ہے، اور سیکھنے والے نظاموں کے لیے مخصوص چیز جوڑتا ہے۔ اسے اپنی موجودہ یقین دہانی کی AI شکل میں توسیع، اور جدت کے مرحلہ وار نفاذ (دیکھیے موضوع 8.0 — جدت کا مرحلہ وار نفاذ) کا منظم رشتہ دار سمجھیں۔

بنیادی تصورات#

مصنوعی ذہانت اور مشین لرننگ۔ رہنما کے لیے عملی فرق یہ ہے: صحت اور نگہداشت میں آج زیادہ تر AI مشین لرننگ ہے — ایسے نظام جو ہاتھ سے لکھے قواعد چلانے کے بجائے مثالوں سے نمونے اخذ کرتے ہیں۔ اسی لیے ڈیٹا اتنا ہی مصنوعہ ہے جتنا کوڈ: تربیتی ڈیٹا بدلیں تو برتاؤ بدل جاتا ہے۔ اس کا یہ بھی مطلب ہے کہ ماڈل کچھ "جانتا" نہیں؛ وہ اندازہ لگاتا ہے، اور اعتماد کے ساتھ غلط ہو سکتا ہے۔ نظامت کے درست سوال پوچھنے کے لیے اسے تصوراتی سطح پر سمجھنا کافی ہے؛ آپ کو ریاضی پڑھنے کی ضرورت نہیں۔

Software as a Medical Device (SaMD) اور MHRA۔ جب سافٹ ویئر کا طبی مقصد ہو — تشخیص، اسکریننگ، ترجیح بندی، خوراک کا حساب، بگاڑ کی پیش گوئی — تو وہ اکثر قانون میں طبی آلہ ہوتا ہے، چاہے وہ فون پر چلے یا سرور پر۔ اس قسم کا طبی سافٹ ویئر، جو Software as a Medical Device (SaMD) کہلاتا ہے، برطانیہ میں Medicines and Healthcare products Regulatory Agency (MHRA) منظم کرتی ہے۔ اگر آپ طبی مقصد والا AI آلہ کمیشن یا تعمیر کر رہے ہیں تو نظامت کا پہلا سوال یہ ہے کہ آیا وہ منظم آلہ ہے اور، اگر ہاں، تو آیا اس کے پاس درست مطابقت کا نشان ہے۔ اسے غلط سمجھنا تکنیکی بات نہیں؛ غیر رجسٹرڈ طبی آلہ نافذ کرنا غیر قانونی اور غیر محفوظ ہے۔

AI Airlock۔ MHRA نے AI Airlock نامی ضابطے کا سینڈ باکس قائم کیا ہے تاکہ کنٹرول شدہ، مانیٹر شدہ ترتیب میں طے کیا جائے کہ طبی آلے کے طور پر AI کو کیسے منظم کیا جانا چاہیے۔ ضابطے کا سینڈ باکس ریگولیٹر اور چند ڈویلپرز کو مشکل، نئے سوالات — مثلاً ایسے ماڈل کی توثیق جو وقت کے ساتھ اپ ڈیٹ ہوتا ہے — عمومی قواعد طے ہونے سے پہلے نگرانی میں جانچنے دیتا ہے۔ اس کے بارے میں سنجیدہ رہیں: Airlock ریگولیٹر اور مٹھی بھر شرکاء کے لیے سیکھنے کا ماحول ہے، منظوری کا تیز راستہ نہیں، اور اس سے وابستہ ہونے کا مطلب یہ نہیں کہ مصنوعہ عمومی طبی استعمال کے لیے منظور ہے۔

الگورتھمی تعصب اور انصاف۔ الگورتھمی تعصب نظام کا مخصوص گروہوں کے لیے منظم طور پر غیر منصفانہ نتائج پیدا کرنے کا رجحان ہے۔ صحت اور نگہداشت میں اس کا سب سے عام ماخذ تربیتی ڈیٹا ہے: اگر کوئی گروہ کم نمائندہ ہو، غلط لیبل شدہ ہو، یا متعصب آلے سے ناپا گیا ہو تو ماڈل اس گروہ کی خدمت بدتر سیکھتا ہے۔ چونکہ ماڈل پھر اسے پیمانے پر اور معروضیت کی ہوا کے ساتھ لاگو کرتا ہے، متعصب AI ان بالکل عدم مساواتوں کو بڑھا سکتی ہے جنہیں کم کرنے کا آپ کا ادارہ قانونی طور پر پابند ہے۔

وضاحت پذیری اور بلیک باکس۔ قابلِ وضاحت مصنوعی ذہانت اس سے متعلق ہے کہ آیا انسان سمجھ سکتا ہے کہ ماڈل نے کوئی خاص نتیجہ کیوں دیا۔ بہت سے اعلیٰ کارکردگی والے ماڈل عملاً "بلیک باکس" ہیں: مجموعی طور پر درست مگر معالج کو انفرادی فیصلے کی قابلِ اعتماد وجہ دینے سے قاصر۔ طبی ترتیب میں یہ جواب دہی، باخبر رضامندی، اور معالج کے فیصلہ استعمال کرنے کے فرض کے لیے اہم ہے — ڈاکٹر ایسے مشورے کی ذمہ داری بامعنی طور پر نہیں لے سکتا جس سے وہ سوال نہ کر سکے۔

ماڈل کا بہاؤ اور بازار کے بعد نگرانی۔ ماڈل کی درستگی مستقل نہیں۔ تصور کا بہاؤ — اِن پٹس اور پیش گوئی کی جانے والی چیز کے درمیان تعلق کی وقت کے ساتھ تبدیلی — کا مطلب ہے کہ پچھلے سال توثیق شدہ ماڈل اس سال خاموشی سے بگڑ سکتا ہے جب آبادیاں، راستے، یا اوپر کا ڈیٹا بدلے۔ اسی لیے AI کو لائیو ہونے پر ایک بار کی توثیق نہیں بلکہ جاری بازار کے بعد نگرانی اور مانیٹرنگ چاہیے۔

MLOps اور ماڈل کا دور حیات۔ MLOps ماڈلز کو پیداوار میں قابلِ اعتماد طریقے سے نافذ، مانیٹر، ورژن، اور دوبارہ تربیت دینے کا عملیاتی نظم ہے۔ یہ وہ مشینری ہے جو دور حیات کی نظامت کو حقیقی بناتی ہے: جاننا کہ کون سا ماڈل ورژن لائیو ہے، کس ڈیٹا پر، کس کارکردگی کے ساتھ، اور واپس لوٹانے کے قابل ہونا۔

انسان دائرے میں۔ انسان دائرے میں ڈیزائن شخص — عموماً معالج — کو فیصلے میں بامعنی طور پر رکھتا ہے، ماڈل کو رد کرنے کے اختیار اور معلومات کے ساتھ۔ اچھی طرح ہو تو یہ جواب دہی برقرار رکھتا ہے؛ مہر لگانے کی طرح ہو تو یہ صرف نگرانی کا وہم دیتا ہے۔

جنریٹو AI اور بڑے زبانی ماڈل۔ جنریٹو مصنوعی ذہانت، بشمول بڑے زبانی ماڈل (LLMs)، رواں متن اور دیگر مواد پیدا کرتی ہے۔ صحت اور نگہداشت میں اس کی حقیقت پسندانہ قریب مدتی قدر بڑی حد تک انتظامی ہے — دستاویزات کا مسودہ، خلاصہ، کاغذی کارروائی میں آسانی۔ اس کا متعین خطرہ فریبِ نظر ہے: جھوٹے مگر قابلِ یقین مواد کی پراعتماد تخلیق، جو تیسرے فریق کی خدمات میں مریض کا ڈیٹا داخل کرنے پر رازداری کے خطرات سے مزید بڑھتی ہے۔

ڈیجیٹل علاجیات اور صحت کی ایپس۔ ڈیجیٹل علاجیات (DTx) سافٹ ویئر سے چلنے والی، شواہد پر مبنی مداخلتیں ہیں جو کسی حالت کو روکتی، سنبھالتی، یا علاج کرتی ہیں — عمومی تندرستی کی ایپس سے ٹھیک اس لیے الگ کہ وہ طبی دعویٰ کرتی ہیں، جس کا مطلب ہے کہ بہت سی Software as a Medical Device ہیں اور ان سے وہی شواہد اور یقین دہانی مطلوب ہے جو آپ کی تجویز یا سفارش کردہ کسی بھی دوسری مداخلت سے۔

بہترین طریقے#

1. کچھ اور کرنے سے پہلے آلے کی درجہ بندی کریں۔ طبی اور ضابطے کی ان پٹ کے ساتھ، تحریری طور پر طے کریں کہ آیا AI کا طبی مقصد ہے اور اس لیے وہ منظم طبی آلہ ہے، اور آیا اس کے پاس درست MHRA مطابقت کا نشان ہے۔ یہ واحد فیصلہ آگے سب کچھ طے کرتا ہے — یقین دہانی کا راستہ، ذمہ داریاں، نفاذ کی قانونی حیثیت۔ شک ہو تو یہ فرض کرنے کے بجائے کہ انتظامی آلہ دائرے سے باہر ہے ضابطے کا مشورہ لیں۔

2. AI کو اپنی موجودہ طبی تحفظ اور IG کی مشینری سے گزاریں، توسیع کے ساتھ، بائی پاس نہیں۔ ہر طبی AI کے نفاذ کو DCB0129/DCB0160 کا طبی خطرے کا انتظام (دیکھیے موضوع 1.6) اور اپنے معلومات کی نظامت کے فریم ورک کے تحت ڈیٹا کے تحفظ کے اثر کی تشخیص (DPIA) (دیکھیے موضوع 1.7) چاہیے۔ جدت یا سپلائر کے جوش کو متوازی، ہلکا عمل نہ بنانے دیں۔ AI کے مخصوص خطرات — تعصب، بہاؤ، ابہام، خودکاری کا تعصب — خطرے کے لاگ میں شامل کیے جانے چاہئیں، اس کی جگہ نہیں۔

3. تربیتی ڈیٹا سے نمائندگی اور تعصب کے بارے میں سوال کریں۔ پوچھیں ڈیٹا میں کون ہے اور کون غائب ہے، نتائج کیسے لیبل ہوئے، اور آیا ناپنے والے آلات خود گروہوں میں متعصب تھے۔ سپلائر سے مطالبہ کریں کہ متعلقہ ذیلی گروہوں — عمر، جنس، نسل، محرومی — کے لحاظ سے توڑی ہوئی کارکردگی رپورٹ کرے، صرف سرخی کی درستگی نہیں۔ جو آلہ منصفانہ کارکردگی ثابت نہ کر سکے وہ صحت کی عدم مساوات کا خطرہ ہے خواہ اس کی اوسط کتنی ہی متاثر کن ہو۔

4. خطرے کے مطابق طبی توثیق کا مطالبہ کریں، اور مستقبل پر مبنی شواہد کو ترجیح دیں۔ منتخب ڈیٹا پر ماضی کی درستگی شواہد کی کمزور ترین شکل ہے۔ طبی فیصلوں پر اثر ڈالنے والی کسی بھی چیز کے لیے، آپ جیسی آبادی اور کام کے بہاؤ میں توثیق مانگیں، مثالی طور پر مستقبل پر مبنی، اور دعوے کو مناسب یقین دہانی کے فریم ورک سے گزاریں — ڈیجیٹل صحت کی ٹیکنالوجیوں کے لیے NICE Evidence Standards Framework اور بنیادی یقین دہانی کے طور پر Digital Technology Assessment Criteria (DTAC)۔ شواہد کی طاقت کو ممکنہ نقصان کی شدت سے ملائیں۔

5. بامعنی انسان دائرے میں اور واضح جواب دہی پر اصرار کریں۔ متعین کریں کہ AI کے باخبر کیے گئے فیصلے کا جواب دہ کون ہے، اور یقینی بنائیں کہ انسان کے پاس رد کرنے کا اختیار اور ایسا کرنے کی معلومات دونوں ہوں۔ خودکاری کے تعصب — مشین کی بات ماننے کے رجحان — کے خلاف تربیت، انٹرفیس کے ڈیزائن، اور رد کرنے کی شرحوں کے آڈٹ سے فعال حفاظت کریں۔ اگر رد کرنا کبھی نہیں ہوتا تو آپ کا "انسان دائرے میں" آرائشی ہے۔

6. لائیو ہونے کو مانیٹرنگ کا آغاز سمجھیں، یقین دہانی کا اختتام نہیں۔ پہلے دن سے بازار کے بعد نگرانی قائم کریں: حقیقی دنیا کی کارکردگی مانیٹر کریں، تصور کے بہاؤ پر نظر رکھیں، اور ماڈل کو دوبارہ تربیت دینے، روکنے، یا واپس لینے کی حدیں اور عمل متعین کریں۔ مضبوط MLOps کے ذریعے ماڈل ورژننگ اور واپسی قائم کریں تاکہ آپ ہمیشہ جانیں کیا لائیو ہے اور محفوظ طریقے سے الٹ سکیں۔ جس ماڈل کو کبھی دوبارہ نہ جانچا جائے وہ آہستہ ناکام ہوتا تحفظ کا کنٹرول ہے۔

7. جنریٹو AI کی نظامت اس کے حقیقت پسندانہ استعمالات اور حقیقی خطرات کے مطابق کریں۔ LLMs کی اجازت وہاں دیں جہاں قدر حقیقی اور خطرہ محدود ہو — انتظامی مسودہ، خلاصہ، انسانی جائزے کے ساتھ دستاویزات کی مدد — اور تیسرے فریق کی خدمات میں مریض کے قابلِ شناخت ڈیٹا کا غیر منظم اندراج ممنوع کریں۔ فرض کریں کہ کوئی بھی جنریٹو نتیجہ گھڑا ہوا ہو سکتا ہے جب تک انسان تصدیق نہ کرے، اور غیر تصدیق شدہ پیدا کردہ مواد کو کبھی طبی ریکارڈ میں داخل نہ ہونے دیں۔ واضح، نافذ شدہ پالیسی مکمل پابندی (جو سایہ دار استعمال کو ہوا دیتی ہے) اور کھلی چھوٹ (جو ڈیٹا لیک کرتی ہے) دونوں سے بہتر ہے۔

8. معلومات کی نظامت پورے ڈیٹا کے دور حیات پر لاگو کریں، تربیت سمیت۔ ماڈل کی تربیت، باریک ٹیوننگ، اور تشخیص کے لیے استعمال ہونے والا ڈیٹا انہی جائز بنیاد، کم سے کم کرنے، اور شفافیت کی ذمہ داریوں کے تابع ہے جو کسی اور استعمال پر ہیں (دیکھیے موضوع 1.7)۔ صریح رہیں کہ مریض کے ڈیٹا پر تربیت کی بنیاد کیا ہے، آیا وہ مناسب طور پر شناخت سے پاک ہے، اور سپلائر اس کے ساتھ کیا کر سکتا ہے۔ معاہدوں کو دوسروں کی مصنوعات کی تربیت کے لیے آپ کے ڈیٹا کے دوبارہ استعمال کو جائز بنیاد اور آپ کی رضامندی کے بغیر ممنوع کرنا چاہیے۔

9. انسانی طور پر قابلِ مطالعہ ماڈل رجسٹر رکھیں اور سپلائرز سے شفافیت کا مطالبہ کریں۔ استعمال میں AI کی فہرست رکھیں: مقصد، ضابطے کی حیثیت، تربیتی ڈیٹا کا ماخذ، توثیق کے شواہد، مانیٹرنگ کا منصوبہ، اور جواب دہ مالک۔ سپلائرز سے تقاضا کریں کہ ماڈل کیسے کام کرتا ہے، اس کی حدود، اور ناکامی کے طریقوں کے بارے میں شفاف ہوں؛ فروخت کنندہ کی طرف سے ابہام خود خطرے کا اشارہ ہے۔ آپ اس کی نظامت نہیں کر سکتے جو آپ نے لکھا ہی نہیں۔

10. افق کی دانستہ اسکیننگ کریں اور کنٹرول شدہ تشخیص کے ذریعے مرحلہ وار نافذ کریں۔ آج کی AI سے آگے، ابھرتی ٹیکنالوجیوں — ماحولیاتی دستاویز سازی، بنیادی ماڈلز، اور آگے، کوانٹم اور نئی سینسنگ — پر ردعملی خریداری کے بجائے ساخت یافتہ افق اسکیننگ سے نظر رکھیں۔ کوئی بھی حقیقتاً نئی چیز جدت کے مرحلہ وار نفاذ (موضوع 8.0) کے کنٹرول شدہ، الٹنے کے قابل، جانچے گئے طریقے سے متعارف کریں، چھوٹے سے شروع کر کے، دیانت داری سے ناپ کر، اور روکنے کی صلاحیت برقرار رکھتے ہوئے۔

11. ڈیجیٹل علاجیات اور صحت کی ایپس کو مداخلتیں سمجھیں، صارف کے ڈاؤن لوڈ نہیں۔ جب ایپ طبی دعویٰ کرے — کسی حالت کا علاج، انتظام، یا روک تھام — تو وہ مداخلت ہے جس پر مریض عمل کریں گے، اور تجویز یا سفارش سے پہلے دوا یا آلے جیسی جانچ کی مستحق ہے۔ قائم کریں کہ آیا یہ درست مطابقت کے نشان کے ساتھ Software as a Medical Device ہے، دعوے کے متناسب شواہد مانگیں، اور ایپ اسٹور کی درجہ بندی یا سپلائر کے جوش پر بھروسا کرنے کے بجائے طبی تحفظ کی تشخیص (دیکھیے موضوع 1.6) مکمل کریں۔ غیر یقین شدہ ایپ جس کی معالج توثیق کرے آپ کے ادارے کا نام اور نقصان پہنچانے پر آپ کی جواب دہی اٹھاتی ہے۔

12. صحت کی ایپس کو موجودہ یقین دہانی سے گزاریں اور محفوظ، منتخب لائبریری رکھیں۔ ڈیجیٹل علاجیات کا جائزہ اسی مشینری سے لیں جو آپ پہلے سے چلاتے ہیں — بنیادی طور پر DTAC، طبی دعوے سے ملا ہوا NICE Evidence Standards Framework، اور طبی تحفظ اور IG کا جائزہ — اور وقت کے ساتھ حقیقی دنیا کی تشخیص کے شواہد بنائیں (دیکھیے موضوع 8.6)۔ ان ایپس کی منتخب لائبریری رکھیں جنہیں آپ نے یقین دہانی دی اور جن کی پشت پر کھڑے ہیں، ہر ایپ کی ضابطے کی حیثیت، شواہد، اور مالک درج کر کے، تاکہ معالجین محفوظ، منظم مختصر فہرست سے سفارش کریں۔ متبادل — ٹیموں میں غیر رسمی طور پر سفارش کی جانے والی غیر جانچی ایپس کا بے قابو پھیلاؤ — ناقابلِ انتظام اور غیر محفوظ ہے۔

اپنی ٹیم کے ساتھ زیرِ بحث لانے کے سوالات#

1. ہر اس AI آلے کے لیے جس پر ہم غور کر رہے ہیں یا جو استعمال کر رہے ہیں، کیا ہم واقعی جانتے ہیں کہ آیا وہ منظم طبی آلہ ہے — اور کیا ہم ثبوت پیش کر سکتے ہیں؟ یہ تعمیل کی رسمی بات لگتی ہے مگر یہ بوجھ اٹھانے والا سوال ہے، کیونکہ جواب طے کرتا ہے کہ کیا قانونی ہے، ذمہ دار کون ہے، اور عوام کو آپ کی کون سی یقین دہانی واجب ہے۔ یہ فرض کرنا آسان ہے کہ جو آلہ "بس ترجیح بندی میں مدد کرتا ہے" یا "بس نوٹس کا خلاصہ کرتا ہے" بے ضرر انتظامی سافٹ ویئر ہے، جبکہ اس کا طبی مقصد درحقیقت اسے منظم آلہ بناتا ہے جسے MHRA مطابقت کا نشان چاہیے۔ بحث کو آپ کو مجبور کرنا چاہیے کہ استعمال میں یا پائپ لائن میں ہر AI آلے کا نام لیں، اس کا مقصد سادہ طبی الفاظ میں بتائیں، اور شناخت کریں کہ آلے کی درجہ بندی کا فیصلہ کس نے کیا اور کس بنیاد پر۔ اسے ناخوشگوار معاملات سامنے لانے چاہئیں جہاں آلہ عام IT راستے سے بغیر کسی ضابطے کی جانچ کے خریدا گیا۔ دیانت دار رہیں کہ کیا آپ آج مطابقت کی دستاویزات اور توثیق کے شواہد پیش کر سکتے ہیں اگر ریگولیٹر یا کورونر مانگے۔ گفتگو کی قدر یہ ہے کہ یہ مبہم احساس کہ "کسی نے جانچا ہوگا" دستاویزی، مملوک موقف میں بدلتی ہے — اور وہ آلات ظاہر کرتی ہے جہاں کسی نے نہیں جانچا۔

2. کیا ہم نے دیکھنے کا مطالبہ کیا ہے کہ یہ ماڈل ان گروہوں کے لیے کیسے کارکردگی دکھاتا ہے جنہیں نقصان پہنچنے کا سب سے زیادہ امکان ہے، یا ہم نے سرخی کی درستگی کا عدد قبول کر لیا؟ اوسط درستگی وہ عدد ہے جس سے سپلائرز شروع کرتے ہیں اور وہ عدد جو الگورتھمی تعصب چھپاتا ہے، کیونکہ ماڈل مجموعی طور پر بہت درست ہو سکتا ہے جبکہ کسی کم نمائندہ گروہ کے لیے نمایاں طور پر بدتر کارکردگی دکھاتا ہے۔ صحت اور نگہداشت میں یہ شماریاتی تجسس نہیں؛ یہ ان عدم مساواتوں کو بڑھانے کا طریقہ کار ہے جنہیں کم کرنے کے آپ قانونی اور اخلاقی طور پر پابند ہیں، خاموشی سے اور پیمانے پر لاگو۔ ٹیم کو بحث کرنی چاہیے کہ آپ نے اصل میں کون سے ذیلی گروہ کے شواہد دیکھے ہیں — عمر، جنس، نسل، اور محرومی کے لحاظ سے توڑی ہوئی کارکردگی — اور آیا آپ جانتے ہیں کہ تربیتی ڈیٹا میں کون تھا اور کون غائب۔ یہاں بے آرامی کا نام لینا چاہیے: سپلائر پر انصاف کے بارے میں دباؤ ڈالنا دلچسپ جدت میں رکاوٹ لگ سکتا ہے، اور دیانت دار سوال یہ ہے کہ آیا آپ ایسے آلے کو "نہیں" کہنے کو تیار ہیں جو منصفانہ کارکردگی ثابت نہ کر سکے۔ یہ بھی غور کریں کہ آپ نفاذ کے بعد غیر منصفانہ نتائج کا پتا کیسے لگائیں گے، کیونکہ جو تعصب خریداری میں نادیدہ تھا وہ پیداوار میں بھی نادیدہ رہے گا جب تک آپ اس کی نگرانی نہ کریں۔ اچھی بحث انصاف کے لیے ٹھوس ثبوت کی حد پر ختم ہوتی ہے جو کسی بھی طبی AI کے لائیو ہونے سے پہلے لاگو ہو، اور بعد میں نظر رکھنے کے منصوبے پر۔

3. جب یہ ماڈل غلط ہوگا — اور ہوگا — تو جواب دہ کون ہے، کیا انسان واقعی اسے پکڑے گا، اور ہمیں کیسے پتا چلے گا؟ ہر ماڈل کبھی ناکام ہوتا ہے، اور سیکھنے والے نظام وقت کے ساتھ زیادہ بار ناکام ہونے کی طرف بہہ سکتے ہیں، اس لیے پختہ سوال یہ نہیں کہ غلطیاں ہوتی ہیں بلکہ یہ کہ آپ کے حفاظتی اقدامات حقیقی ہیں یا نہیں۔ ٹیم کو جانچنا چاہیے کہ انسان دائرے میں بامعنی ہے یا آرائشی: کیا معالج کے پاس رد کرنے کا اختیار اور معلومات ہے، اور اگر آپ رد کرنے کی شرحیں دیکھیں تو کیا پائیں گے کہ وہ کبھی واقعی رد کرتے ہیں، یا خودکاری کا تعصب بیٹھ گیا ہے؟ بحث کریں کہ AI کے باخبر کیے گئے فیصلے کا نامزد جواب دہ کون ہے — معالج، ادارہ، سپلائر — کیونکہ "الگورتھم نے کیا" مریض یا کورونر کے سامنے قابلِ دفاع موقف نہیں۔ اپنی مانیٹرنگ کا دیانت داری سے سامنا کریں: کیا آپ کے پاس بازار کے بعد نگرانی ہے جو تصور کا بہاؤ پکڑے، ماڈل کو روکنے یا واپس لینے کی متعین حدیں، اور MLOps کی مشینری کہ جانیں کون سا ورژن لائیو ہے اور اسے واپس لوٹا سکیں؟ جنریٹو آلات کے لیے فریبِ نظر کا سوال شامل کریں — گھڑے ہوئے مواد کو طبی ریکارڈ میں داخل ہونے سے کیا روکتا ہے، اور بھروسا کرنے سے پہلے نتیجے کی تصدیق کون کرتا ہے؟ اس گفتگو کا سب سے مفید ورژن "انسانی نگرانی" کے تسلی بخش خاکے اور اس کے درمیان خلا ظاہر کرتا ہے جو مصروف وارڈ پر رات 3 بجے واقعی ہوگا۔

4. جب ہم ان ماڈلز کی تربیت، باریک ٹیوننگ، اور چلانے کا کام کرتے ہیں تو ہمارے مریضوں کے ڈیٹا کے ساتھ کیا ہو رہا ہے — اور سپلائر نے اس کے ساتھ کیا کرنے کا حق محفوظ رکھا ہے؟ AI ڈیٹا کی نظامت کے خطرے کو مرکوز کرتی ہے ٹھیک اس لیے کہ ڈیٹا مصنوعہ ہے: ماڈل صرف اتنا قابلِ اعتماد ہے جتنی جائز بنیاد، کم سے کم کرنا، اور شفافیت ہر اس ڈیٹا سیٹ کے پیچھے ہو جسے اس نے چھوا، بشمول لائیو ہونے سے پہلے کا تربیتی اور تشخیصی ڈیٹا۔ ٹیم کو ہر آلے کے لیے بتانے کے قابل ہونا چاہیے کہ مریض کے ڈیٹا کے کسی بھی استعمال کی جائز بنیاد کیا ہے، آیا شناخت ہٹانا محض دعویٰ شدہ ہونے کے بجائے مناسب ہے، اور ڈیٹا آپ کے قابو سے نکلنے کے بعد جسمانی طور پر کہاں بہتا ہے۔ بار بار آنے والا جال وہ معاہدہ ہے جو خاموشی سے سپلائر کو آپ کا ڈیٹا دوبارہ استعمال کرنے دیتا ہے تاکہ وہ مصنوعات بہتر کرے جو دوسروں کو بیچے گا؛ بحث کریں کہ آیا آپ کے معاہدے اسے جائز بنیاد اور آپ کی صریح رضامندی کے بغیر ممنوع کرتے ہیں، اور آیا کسی نے واقعی وہ شقیں پڑھی ہیں۔ یہ براہِ راست آپ کے معلومات کی نظامت کے فریم ورک سے جڑتا ہے (دیکھیے موضوع 1.7)، اور یہی وہ جگہ ہے جہاں قابل آلے کا جوش سب سے زیادہ بار واجب احتیاط سے آگے نکلتا ہے۔ دیانت دار جواب نام لیتا ہے کہ DPIA کا مالک کون ہے، سپلائر کیا کر سکتا ہے اور کیا نہیں، اور آپ فی الحال کہاں بے نقاب ہیں — یہ فرض کرنے کے بجائے کہ چونکہ ڈیمو متاثر کن تھا اس لیے کاغذی کارروائی ٹھیک ہوگی۔

5. ہم کیسے طے کرتے ہیں کہ کیا نہیں اپنانا، اور کیا ہم اس چیز کو خریدنے کے دباؤ کا مقابلہ کر سکتے ہیں جس کے لیے سب پرجوش ہیں؟ تیزی سے بدلتی ٹیکنالوجی کے ساتھ نظامت کا سب سے مشکل نظم "ابھی نہیں" یا "یہ نہیں" کہنا ہے، اور ٹیم جو انکار کے اپنے معیار بیان نہ کر سکے وہ شواہد کے بجائے بہاؤ اور ہائپ سے اپنانے پر ختم ہوگی۔ بحث کریں کہ کون سی چیز آپ کو بصورت دیگر پرکشش آلے سے الگ ہونے پر مجبور کرے گی — کمزور ذیلی گروہ کے شواہد، غیر واضح ضابطے کی حیثیت، ایسا استعمال جہاں حقیقت پسندانہ فائدہ خطرے کے مقابلے میں پتلا ہو — اور آیا وہ سرخ لکیریں لکھی ہوئی ہیں یا محض محسوس کی جاتی ہیں۔ یہاں حقیقی تناؤ ہے حقیقی بہتری چھوڑنے کی لاگت اور عوامی اعتماد کو نقصان پہنچانے والی پیمانے پر ناکامی کی لاگت کے درمیان، اور معقول لوگ انہیں مختلف تولیں گے۔ سیاسی حقیقت کا نام لینا بھی قابل ہے کہ اپنانے کا دباؤ اکثر بورڈ، سپلائر کے تعلق، یا قومی مینڈیٹ سے آتا ہے، نہ کہ طبی ضرورت سے۔ موضوع کا موقف دانستہ افق اسکیننگ اور کنٹرول شدہ، الٹنے کے قابل تشخیص (دیکھیے موضوع 8.0) کے ذریعے مرحلہ وار نفاذ ہے، اس لیے دیانت دار جواب بیان کرتا ہے کہ امید افزا مگر غیر ثابت شدہ آلہ مکمل رول آؤٹ کے بجائے چھوٹے، ناپے ہوئے، روکنے کے قابل پائلٹ کے طور پر کیسے داخل ہوتا ہے — اور اسے روکنے کا اختیار کس کے پاس ہے۔

6. کیا ہم ان معالجین کو جنہیں اس پر بھروسا کرنا ہے اور ان مریضوں کو جو اس سے متاثر ہیں بتا سکتے ہیں کہ یہ ماڈل کیا کرتا ہے — اور کیا ہم اس کی حدود کے بارے میں دیانت دار رہے ہیں؟ ایسا ماڈل جس سے معالج سوال نہ کر سکے اور مریض سمجھ نہ سکے باخبر فیصلے اور باخبر رضامندی کو کھوکھلا کرتا ہے جن پر طبی نگہداشت منحصر ہے، خواہ وہ مجموعی طور پر کتنا ہی درست ہو۔ ٹیم کو بحث کرنی چاہیے کہ اس مخصوص استعمال کو دراصل کتنی وضاحت پذیری درکار ہے: قطار کی ترجیح بندی کا معاون تشخیص یا علاج کے فیصلے پر اثر ڈالنے والے آلے سے کم مانگتا ہے، اور وضاحت کو داؤ سے ملانا نظامت کا انتخاب ہے، تکنیکی بعد کی سوچ نہیں۔ غور کریں کہ آپ ان معالجین کو کیا بتاتے ہیں جن سے اسے استعمال کرنے کی توقع ہے — اس کا مقصد، معلوم ناکامی کے طریقے، وہ گروہ جن کے لیے یہ کم قابلِ اعتماد ہے — اور آیا وہ بریفنگ صاف گو ہے یا مارکیٹنگ کا خلاصہ۔ مریض کی طرف دیانت داری بھی اہم ہے: کیا لوگوں کو بتایا جاتا ہے جب ان کی نگہداشت میں AI شامل ہو، ایسی زبان میں جس پر وہ عمل کر سکیں؟ یہ افرادی قوت کا سوال بھی ہے، کیونکہ بہت کم اعتماد کا مطلب مفید آلہ نظرانداز ہوتا ہے جبکہ بہت زیادہ اعتماد خودکاری کا تعصب پیدا کرتا ہے جو نگرانی کو کھوکھلا کرتا ہے۔ دیانت دار جواب سامنا کرتا ہے کہ آیا آپ کی تربیت اور ابلاغ معتدل اعتماد بنا رہے ہیں یا محض آلے کو بیچ رہے ہیں۔

عملی مثال: صحت اور نگہداشت کی ایک مثال#

ایک مربوط نگہداشتی نظام کو ایسا AI آلہ پیش کیا جاتا ہے جو چھاتی کے ایکس رے پڑھتا اور ریڈیالوجی کی رپورٹنگ کی قطار کو ترجیح دینے کے لیے ممکنہ بے قاعدگیوں کی نشاندہی کرتا ہے۔ طبی تحفظ کا افسر اور میڈیکل ڈائریکٹر اسے جلدی خریدنے کے دباؤ کا مقابلہ کرتے اور اس کے بجائے اسے مناسب نظامت سے گزارتے ہیں۔

پہلے، درجہ بندی: آلے کا واضح طبی مقصد ہے، اس لیے اس کی تصدیق Software as a Medical Device کے طور پر ہوتی ہے، اور اس کی MHRA مطابقت کا نشان اور مقصود استعمال کا بیان جانچا جاتا ہے — مقصود استعمال ترجیح بندی کی مدد ہے، خودمختار تشخیص نہیں، جو آگے ہر چیز کو ڈھالتا ہے۔ پھر، یقین دہانی: آلے کو بنیاد کے طور پر DTAC سے گزارا جاتا ہے، اس کے طبی دعووں کو NICE Evidence Standards Framework کے مقابل جانچا جاتا ہے، DCB0160 کا طبی خطرے کی تشخیص مکمل ہوتی ہے، اور DPIA تصویری ڈیٹا کا احاطہ کرتا ہے (دیکھیے موضوعات 1.6 اور 1.7)۔ ٹیم ذیلی گروہ کی کارکردگی مانگتی ہے اور پاتی ہے کہ توثیق کی آبادی نے ایک مقامی آبادیاتی گروہ کو کم نمائندگی دی؛ وہ آگے بڑھنے سے پہلے اضافی مقامی توثیق لازمی کرتے ہیں، ممکنہ تعصب کو حاشیے کے بجائے صحت کی عدم مساوات کا خطرہ سمجھتے ہوئے۔

نفاذ پر ڈیزائن انسان کو دائرے میں رکھتا ہے: ہر تصویر اب بھی ریڈیالوجسٹ رپورٹ کرتا ہے، اور AI صرف قطار کی ترتیب بدلتا ہے، اس لیے چھوٹا ہوا نشان خود چھوٹی ہوئی تشخیص کا سبب نہیں بن سکتا۔ بازار کے بعد نگرانی پہلے دن سے قائم ہوتی ہے — پتا لگانے کی شرحیں، ماڈل اور رپورٹ کرنے والے ریڈیالوجسٹس کے درمیان اختلاف، اور اسکینر کے ہارڈویئر اور کیس کے امتزاج بدلنے پر کسی بہاؤ کی مانیٹرنگ — آلے کو روکنے کی پہلے سے متفقہ حدوں اور سپلائر کی ورژن شدہ تعیناتی کے ذریعے واپسی کے راستے کے ساتھ۔ الگ سے، جب کوئی وارڈ ڈسچارج کے خلاصے لکھنے کے لیے مریضوں کی تاریخیں عوامی LLM میں چسپاں کرنے کی درخواست کرتا ہے تو وہی نظامت کا فورم اس غیر منظم راستے کو "نہیں" کہتا ہے اور اس کے بجائے انسانی تصدیق کے ساتھ منظور شدہ، محدود آلہ کمیشن کرتا ہے۔ ایک سال بعد، قطار کی ترجیح بندی کا آلہ رپورٹنگ کی واپسی میں معمولی بہتری لایا ہے، اس کی مانیٹرنگ نے اسکینر اپ گریڈ کے بعد بہاؤ کا ایک واقعہ پکڑا ہے، اور — اہم طور پر — ادارہ ٹھیک دکھا سکتا ہے کہ اس کی نظامت کیسے ہوتی ہے۔

شعبہ جاتی زاویے#

اسٹارٹ اپ#

ڈیجیٹل صحت کا اسٹارٹ اپ اکثر خود AI ہی ہے، اس لیے اس کی نظامت کی پختگی ہی اس کی منڈی تک رسائی ہے۔ بانیوں کو ضابطے کی درجہ بندی، طبی توثیق، اور تعصب کے شواہد کو بنیادی مصنوعہ کا کام سمجھنا چاہیے، فروخت سے پہلے جوڑا جانے والا تعمیل کا ٹیکس نہیں، کیونکہ خریدار کا طبی تحفظ کا افسر ٹھیک یہی مانگے گا اور "نہیں" سودا ختم کر دیتا ہے۔ MHRA سے جلد رابطہ — ممکنہ طور پر حقیقتاً نئے سوالات کے لیے AI Airlock جیسے طریقہ کار کے ذریعے — اور شروع سے DTAC اور NICE Evidence Standards Framework کے لیے ڈیزائن یقین دہانی کو مسابقتی فائدے میں بدلتا ہے۔ اسٹارٹ اپ کا خصوصیاتی خطرہ مبالغہ ہے: مارکیٹنگ جو شواہد سے آگے نکلے، یا اوسط درستگی کا ڈیمو جو ذیلی گروہ کی بُری کارکردگی چھپائے۔ نظم و ضبط والا بانی مانیٹرنگ اور بازار کے بعد نگرانی کو جلد مصنوعہ میں بناتا ہے، کیونکہ حوالہ جاتی مقام پر ایک پیمانے کی ناکامی چھوٹی کمپنی کے لیے وجودی واقعہ ہے۔

چھوٹا کاروبار#

قائم شدہ چھوٹے فراہم کنندہ — جی پی پریکٹس، کمیونٹی فارمیسی، کیئر ہوم، ایک مقام کا کلینک — عموماً AI کے خریدار ہیں نہ کہ بنانے والے، پھر بھی وہ بڑے ٹرسٹ کے برابر فرائض اٹھاتے ہیں انہیں پورا کرنے کے لیے مخصوص طبی تحفظ، IG، یا معلوماتیات کے عملے کے بغیر۔ عملی خطرہ سپلائر کی یقین دہانیوں پر آلہ اپنانا ہے کیونکہ آلے کی درجہ بندی، ذیلی گروہ کے شواہد، یا DPIA کا مطالبہ کرنے کی اندرونی صلاحیت نہیں، اور ماڈل کے بہنے پر نوٹس کرنے والا کوئی نہیں۔ دوسروں کی کی ہوئی یقین دہانی پر بھاری انحصار کریں: وہ آلات ترجیح دیں جن کے پاس واضح طور پر MHRA مطابقت کا نشان ہو اور جو DTAC سے گزرے ہوں، ان سپلائرز سے خریدیں جو اپنے شواہد شائع کرتے ہیں، اور صحت کی ایپس کی سفارش صرف ایسی منتخب لائبریری سے کریں جسے آپ کے ICS یا قومی ادارے نے یقین دہانی دی ہو، ہر ایک کا خود جائزہ لینے کے بجائے۔ جہاں آپ ذاتی طور پر کسی آلے کی حفاظت کی تصدیق نہیں کر سکتے، وہ جانچ چھوڑنے کی نہیں بلکہ اپنے نظام کی مشترکہ یقین دہانی کو مؤخر کرنے کی وجہ ہے۔ ہلکا سا رجسٹر رکھنا بھی کہ آپ کون سے AI آلات کس کام کے لیے استعمال کرتے ہیں اور کون مالک ہے ناقابلِ انتظام فرض کو متناسب بناتا ہے۔

بڑا ادارہ#

بڑے ٹرسٹ یا ICS کے پاس AI کی مناسب نظامت کا آلات اور وہ پیمانہ ہے جو غلطی کو سنگین بناتا ہے۔ اس کا کام موجودہ طبی تحفظ، IG، اور یقین دہانی کے فعل کو AI کے احاطے تک بڑھانا ہے — ماڈل رجسٹر، ذیلی گروہ کے انصاف کی حدیں، بازار کے بعد مانیٹرنگ، ورژننگ اور واپسی کے لیے MLOps — بجائے اس کے کہ AI غیر جانچے IT یا تحقیقی راستوں سے آئے۔ ادارے کا حقیقی خطرہ بکھراؤ ہے: درجنوں آزمائشی منصوبے، ماحولیاتی اسکرائب ٹرائلز، اور محکمہ جاتی LLM تجربات بغیر مرکزی فہرست، یکساں DPIA، یا آلے کے بہنے پر جواب دہ کسی کے پھیلتے ہوئے۔ تبدیلی کی تھکن اور سپلائر کا دباؤ تیز اپنانے کی طرف دھکیلتے ہیں، اس لیے قیادت کو لکیر تھامنی چاہیے کہ نیاپن ہلکے عمل کا حق نہیں دیتا۔ اچھی طرح ہو تو ادارہ وہ مستقبل پر مبنی، مقامی توثیق کے شواہد بھی پیدا کر سکتا ہے جو چھوٹے کھلاڑی نہیں کر سکتے، اور انہیں نظام میں بانٹ سکتا ہے۔

حکومت#

قومی اور مقامی حکومتی ادارے — MHRA، NHS انگلینڈ، DHSC، NICE، ڈیوالو شدہ انتظامیہ، اور مقامی حکام — وہ حالات طے کرتے ہیں جن میں باقی سب AI نافذ کرتے ہیں۔ ان کے آلات ضابطہ، معیارات، یقین دہانی کے فریم ورک (DTAC، Evidence Standards Framework)، AI Airlock جیسے محفوظ پناہ کے طریقہ کار، اور وہ فنڈنگ اور رہنمائی ہیں جو وفاقی نظام میں جسے وہ براہِ راست لائن مینیج نہیں کرتے محفوظ اپنانے کی رہنمائی کرتی ہے۔ جواب دہی وزراء، پارلیمنٹ، اور عوام تک جاتی ہے، اس لیے قومی آلے میں پیمانے کی AI کی ناکامی یا ثابت شدہ تعصب لمبے سائے والا عوامی اعتماد کا واقعہ ہے۔ حکومت کا مناسب کردار محفوظ راستے کو آسان راستہ بنانا ہے — واضح قواعد، دوبارہ استعمال کے قابل یقین دہانی، AI کیا کر سکتی ہے اور کیا نہیں اس کے بارے میں دیانت دار عوامی ابلاغ — جبکہ ہائپ سے چلنے والے مینڈیٹ اور فوری ممانعت دونوں کا مقابلہ کرنا۔ کسی بھی سمت میں توازن غلط ہو تو برسوں کا اعتماد جاتا ہے۔

عام ناکامی کے طریقے#

• ضابطے کی درجہ بندی چھوڑنا۔ طبی AI کو عام سافٹ ویئر کی طرح نافذ کرنا۔ اس سے بچیں ضابطے کی ان پٹ کے ساتھ پہلے آلے کی حیثیت اور مطابقت کا نشان طے کر کے۔
• سرخی کی درستگی کا اندھا پن۔ اوسط عدد قبول کرنا جو کم نمائندہ گروہوں کی بُری کارکردگی چھپائے۔ اس سے بچیں لائیو ہونے سے پہلے ذیلی گروہ کے شواہد لازمی کر کے اور بعد میں عدم مساوات کی نگرانی کر کے۔
• ایک بار توثیق اور ہمیشہ کے لیے بھول جانا۔ لائیو ہونے کو یقین دہانی کا اختتام سمجھنا جبکہ ماڈل خاموشی سے بہتا ہے۔ اس سے بچیں حدوں اور واپسی کے ساتھ بازار کے بعد نگرانی قائم کر کے۔
• آرائشی انسانی نگرانی۔ "انسان دائرے میں" جو خودکاری کے تعصب تلے مہر لگاتا ہے۔ اس سے بچیں رد کرنے کی شرحوں کا آڈٹ کر کے اور مداخلت کا حقیقی اختیار ڈیزائن کر کے۔
• غیر منظم جنریٹو AI۔ عملہ مریض کا ڈیٹا عوامی LLMs میں چسپاں کرتا اور گھڑے ہوئے نتائج پر بھروسا کرتا ہے۔ اس سے بچیں واضح پالیسی جمع انسانی تصدیق کے ساتھ منظور شدہ، محدود آلے کے ذریعے۔
• متوازی ہلکا عمل۔ AI کو طبی تحفظ اور IG بائی پاس کرنے دینا کیونکہ یہ "جدت" ہے۔ اس سے بچیں موجودہ DCB اور DPIA کی مشینری کو AI تک بڑھا کر۔
• فہرست نہیں۔ کسی کو معلوم نہیں کون سے ماڈل لائیو ہیں، کس ڈیٹا پر، کس کی ملکیت میں۔ اس سے بچیں ماڈل رجسٹر رکھ کر۔

پختگی کا ماڈل#

جانچ فہرست#

• ہر AI آلے کے طبی آلے کی حیثیت اور MHRA مطابقت کے نشان کا تعین اور دستاویز ہو چکا ہے۔
• طبی AI DTAC سے گزری، NICE Evidence Standards Framework کے مقابل جانچی گئی، اور اس کا DCB طبی خطرے کی تشخیص اور DPIA ہے۔
• ذیلی گروہ کی کارکردگی (عمر، جنس، نسل، محرومی) دیکھی گئی اور متفقہ انصاف کی حد پوری کرتی ہے۔
• طبی توثیق خطرے کی سطح سے میل کھاتی ہے اور مستقبل پر مبنی، مقامی شواہد کو ترجیح دیتی ہے۔
• بامعنی انسان دائرے میں ڈیزائن کیا گیا ہے، رد کرنے کے اختیار اور معلومات کے ساتھ۔
• AI کے باخبر کیے گئے فیصلوں کی نامزد جواب دہی لکھی ہوئی ہے۔
• بازار کے بعد نگرانی، بہاؤ کی حدیں، اور روکنے/واپسی کا منصوبہ لائیو ہونے سے زندہ ہے۔
• MLOps ماڈل ورژننگ اور محفوظ واپسی دیتا ہے؛ لائیو ورژن ہمیشہ معلوم ہے۔
• جنریٹو AI کی پالیسی حقیقت پسندانہ استعمالات کی اجازت دیتی ہے، غیر منظم خدمات میں مریض کے ڈیٹا کو ممنوع کرتی ہے، اور انسانی تصدیق لازمی کرتی ہے۔
• معلومات کی نظامت تربیت، باریک ٹیوننگ، اور تشخیصی ڈیٹا کا احاطہ کرتی ہے، سپلائر کے دوبارہ استعمال پر معاہداتی حدوں کے ساتھ۔
• انسانی طور پر قابلِ مطالعہ ماڈل رجسٹر مقصد، ماخذ، شواہد، مانیٹرنگ، اور مالک درج کرتا ہے۔
• ابھرتی ٹیکنالوجیوں کی افق اسکیننگ ہوتی ہے اور انہیں کنٹرول شدہ، الٹنے کے قابل تشخیص کے ذریعے مرحلہ وار نافذ کیا جاتا ہے۔

کلیدی ماخذ#

• MHRA — Software and Artificial Intelligence (AI) as a Medical Device، اور AI Airlock ضابطے کا سینڈ باکس (gov.uk)۔
• NICE — ڈیجیٹل صحت کی ٹیکنالوجیوں کے لیے Evidence Standards Framework (ESF) (nice.org.uk)۔
• NHS انگلینڈ — ڈیجیٹل صحت کی ٹیکنالوجیوں کی بنیادی یقین دہانی کے لیے Digital Technology Assessment Criteria (DTAC)۔
• NHS انگلینڈ / سابق NHSX — A Buyer's Guide to AI in Health and Care، اور AI Ethics Initiative۔
• DCB0129 اور DCB0160 — صحت کے IT کے طبی خطرے کے انتظام کے معیارات (دیکھیے موضوع 1.6)۔
• MHRA / IMDRF — Software as a Medical Device (SaMD) کا فریم ورک اور اچھی مشین لرننگ کا عمل۔
• The King's Fund اور the Health Foundation — صحت اور نگہداشت میں AI، ڈیٹا، اور عدم مساوات کا تجزیہ۔
• نیز دیکھیے موضوع 1.3 — شواہد پر مبنی فیصلے؛ موضوع 1.6 — طبی تحفظ اور خطرات کا انتظام؛ موضوع 1.7 — معلومات کی نظامت، ڈیٹا کا تحفظ اور سائبر سیکیورٹی؛ موضوع 8.0 — جدت کا مرحلہ وار نفاذ۔

حوالہ جات#

1. Artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Artificial_intelligence
2. Machine learning — Wikipedia — https://en.wikipedia.org/wiki/Machine_learning
3. Medical software (including Software as a Medical Device) — Wikipedia — https://en.wikipedia.org/wiki/Medical_software
4. Medicines and Healthcare products Regulatory Agency — Wikipedia — https://en.wikipedia.org/wiki/Medicines_and_Healthcare_products_Regulatory_Agency
5. Algorithmic bias — Wikipedia — https://en.wikipedia.org/wiki/Algorithmic_bias
6. Explainable artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Explainable_artificial_intelligence
7. Concept drift — Wikipedia — https://en.wikipedia.org/wiki/Concept_drift
8. MLOps — Wikipedia — https://en.wikipedia.org/wiki/MLOps
9. Human-in-the-loop — Wikipedia — https://en.wikipedia.org/wiki/Human-in-the-loop
10. Generative artificial intelligence — Wikipedia — https://en.wikipedia.org/wiki/Generative_artificial_intelligence
11. Large language model — Wikipedia — https://en.wikipedia.org/wiki/Large_language_model
12. Hallucination (artificial intelligence) — Wikipedia — https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)
13. Software and AI as a Medical Device — MHRA, GOV.UK — https://www.gov.uk/government/publications/software-and-artificial-intelligence-ai-as-a-medical-device
14. AI Airlock: the regulatory sandbox for AI as a Medical Device — MHRA, GOV.UK — https://www.gov.uk/government/collections/ai-airlock-the-regulatory-sandbox-for-aiamd
15. Evidence standards framework (ESF) for digital health technologies — NICE — https://www.nice.org.uk/about/what-we-do/digital-health/evidence-standards-framework-for-digital-health-technologies
16. Digital Technology Assessment Criteria (DTAC) — NHS England — https://transform.england.nhs.uk/key-tools-and-info/digital-technology-assessment-criteria-dtac/
17. A Buyer's Guide to AI in Health and Care — NHS Transformation Directorate — https://transform.england.nhs.uk/ai-lab/explore-all-resources/adopt-ai/a-buyers-guide-to-ai-in-health-and-care/
18. Software as a Medical Device (SaMD): Key Definitions — International Medical Device Regulators Forum (IMDRF) — https://www.imdrf.org/documents/software-medical-device-samd-key-definitions
19. Digital therapeutics — Wikipedia — https://en.wikipedia.org/wiki/Digital_therapeutics