ڈبلیو آبادیوں کی صحت کو فروغ دینے اور تحفظ فراہم کرنے کے لیے اس کے مناسب استعمال کے لیے بڑے ملٹی ماڈل ماڈلز (LMMs) کی اخلاقیات اور حکمرانی پر نئی رہنمائی جاری کی ہے۔ LMMs تیزی سے بڑھتی ہوئی جنریٹو کی ایک قسم ہے۔ مصنوعی ذہانت (AI) ٹیکنالوجی جس میں صحت کے لیے پانچ وسیع اطلاقات ہیں۔ in
1. تشخیص اور طبی دیکھ بھال، جیسے مریضوں کے تحریری سوالات کا جواب دینا؛
2. مریض کی رہنمائی کا استعمال، جیسے علامات اور علاج کی تحقیقات کے لیے؛
3. کلیریکل اور انتظامی کام، جیسے کہ الیکٹرانک ہیلتھ ریکارڈ کے اندر مریض کے دوروں کی دستاویز کرنا اور ان کا خلاصہ کرنا۔
4. طبی اور نرسنگ کی تعلیم، بشمول تربیت یافتہ افراد کو مریض کے مصنوعی مقابلوں کے ساتھ فراہم کرنا، اور؛
5. سائنسی تحقیق اور منشیات کی ترقی، بشمول نئے مرکبات کی شناخت کرنا۔
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
لہذا، محفوظ اور موثر LMMs بنانے کے لیے، WHO نے حکومتوں اور LMMs کے ڈویلپرز کے لیے سفارشات کی ہیں۔
حکومتوں کی بنیادی ذمہ داری ہے کہ وہ LMMs کی ترقی اور تعیناتی، اور ان کے انضمام اور صحت عامہ اور طبی مقاصد کے لیے استعمال کے لیے معیارات طے کریں۔ حکومتوں کو غیر منافع بخش یا عوامی انفراسٹرکچر میں سرمایہ کاری کرنا چاہیے یا فراہم کرنا چاہیے، بشمول کمپیوٹنگ پاور اور پبلک ڈیٹا سیٹ، جو کہ عوامی، نجی اور غیر منافع بخش شعبوں میں ڈویلپرز کے لیے قابل رسائی ہے، جس کے لیے صارفین کو اخلاقی اصولوں اور اقدار کی پابندی کرنے کی ضرورت ہے۔ رسائی کے بدلے
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· وسائل کی اجازت کے طور پر - صحت کی دیکھ بھال یا ادویات میں استعمال کے لیے بنائے گئے LMMs اور ایپلی کیشنز کا جائزہ لینے اور منظور کرنے کے لیے کسی موجودہ یا نئی ریگولیٹری ایجنسی کو تفویض کریں۔
جب ایک LMM کو بڑے پیمانے پر تعینات کیا جاتا ہے تو آزاد فریقین کے ذریعہ ڈیٹا کے تحفظ اور انسانی حقوق سمیت لازمی پوسٹ ریلیز آڈیٹنگ اور اثرات کے جائزے متعارف کروائیں۔ آڈیٹنگ اور اثرات کے جائزے شائع کیے جائیں۔
اور اس میں صارف کی قسم کے لحاظ سے مختلف نتائج اور اثرات شامل ہونے چاہئیں، بشمول مثال کے طور پر عمر، نسل یا معذوری۔
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMMs کو صحت کے نظام کی صلاحیت کو بہتر بنانے اور مریضوں کے مفادات کو آگے بڑھانے کے لیے ضروری درستگی اور بھروسے کے ساتھ اچھی طرح سے طے شدہ کام انجام دینے کے لیے ڈیزائن کیا گیا ہے۔ ڈویلپرز کو ممکنہ ثانوی نتائج کی پیشن گوئی اور سمجھنے کے قابل بھی ہونا چاہیے۔
***
ماخذ:
WHO 2024. صحت کے لیے مصنوعی ذہانت کی اخلاقیات اور گورننس: بڑے ملٹی ماڈل ماڈلز پر رہنمائی۔ پر دستیاب ہے۔ https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
