وتشير الدراسة إلى مجموعة متنوعة من المخاطر التي تحملها نصائح الذكاء الاصطناعي الطبية، بدءا من احتمالية كون المعلومات خاطئة طبيا أو حتى موجهة بالاعتماد على آليات حقن الأوامر المختلفة.

ولكن أخطرها على الإطلاق هو أن هذه النصائح تكون خفية ولا يمكن لأحد أن يراها باستثناء المستخدم والشركة، وهو ما قد يعيق عمل الأطباء في إنقاذ المريض إذا ازدادت حالته سوءا، وفق تقرير نشرته صحيفة إندبندنت البريطانية.

وتضرب الدراسة مثلا بحالة رجل يبلغ من العمر 60 عاما طلب من "شات جي بي تي" طريقة مناسبة لإزالة الكلوريد من طعامه وحميته اليومية، ليقترح عليه النموذج استخدام بروميد الصوديوم بدلا من ملح الطعام التقليدي، وبالتالي أصيب الرجل بتسمم البروميد ما جعله يعاني من هلوسات وشكوك مرضية لينتهي به الأمر في المستشفى لتلقي العلاج المناسب.

ولكن، لأن النصائح جاءت من حساب "شات جي بي تي" الخاص به، لم يستطع الأطباء الاطلاع عليها والبدء في علاج تسمم البروميد مباشرة، وهو ما أطال فترة العلاج في محاولة الأطباء العثور على السبب الحقيقي.

وإذا اطلع الأطباء على محادثات المريض مع "شات جي بي تي"، لتمكنوا وقتها من اكتشاف سبب مرضه وبدؤوا في العلاج مباشرة، وفي بعض الحالات قد تزيد سرعة العلاج هذه من احتمالية إنقاذ حياة المريض ونجاته.