شعبۂ صحت (healthcare) میں طبی عملے کی طرف سے ٹائپنگ کی معمولی غلطی بھی اے آئی کے تشخیصی نتائج پر سنجیدہ اثرات ڈال سکتی ہے، بعض اوقات جان لیوا بھی۔

اے آئی سسٹمز جیسے مرض کی تشخیص، دوا تجویز کرنے والے، یا کلینیکل فیصلوں میں سپورٹ سسٹمز) زیادہ تر درست ڈیٹا پر انحصار کرتے ہیں۔

لیکن جب ان سسٹمز کو غلط، ناقص یا مسخ شدہ معلومات دی جاتی ہے تو غلط تشخیص ہو سکتی ہے، غلط دوائی تجویز کی جا سکتی ہے، غلط مریض کے نتائج برآمد ہوسکتے ہیں اور ریسرچ یا پیشگوئی کے ماڈلز بیکار ہو سکتے ہیں۔

مثال کے طور پر "Hypertension” کے بجائے اگر "Hypotension” لکھ دیا تو بلڈ پریشر کی غلط دوا تجویز ہوسکتی ہے۔

ایک دوا کا نام "Prednisone” کے بجائے "Prednisolone” لکھ دینا مختلف خوراک و سائیڈ ایفیکٹس لاسکتا ہے۔ اسی طرح "No diabetes” کو "Diabetes” لکھ دینا انسولین تجویز کرواسکتا ہے۔ مریض کا وزن 70 کلو کے بجائے 700 کلو لکھنا، خطرناک حد سے بھی زیادہ ادویات تجویز کراسکتا ہے۔
AI میں کیا ہوتا ہے؟

اس کی وجہ یہ ہے کہ اے آئی سسٹمز نظرثانی یا بدلے میں سوال نہیں کرتے۔ وہ وہی بتاتے ہیں جو آپ ان سے پوچھتے ہیں یا کمانڈ انٹر کرتے ہیں۔ اگر کمانڈ یا سوال غلط ہو تو ریگریشن ماڈلز یا نیورل نیٹورکس نتیجہ غلط دیں گے۔