قمر الجنوب – مخاوف من استخدام الذكاء الاصطناعى فى العلاج النفسى

يثير استخدام العلاج بالذكاء الاصطناعي في رعاية الصحة العقلية قلق مقدمي الخدمة والباحثين بشكل متزايد حول ما إذا كانت الخوارزميات المعقدة وثغرات الخصوصية والمخاطر الأخرى يمكن أن تفوق وعد التكنولوجيا وتؤدي إلى نتائج خطيرة للمرضى ، وفقًا لتقارير Sky News Arabia.

ما مغزى هذه القصة؟

• في سياق الانتشار السريع لتطبيقات الذكاء الاصطناعي ، وعلى رأسها GBT Chat ، والاستخدام المتزايد لها في العديد من المجالات ، بما في ذلك المساعدة في توفير المعلومات الصحية ، مطلوب إطار عمل ينظم حدود استخدام الذكاء الاصطناعي عندما يتعلق الأمر على صحة المريض وسلامته ، خاصة في المجال النفسي الذي يعتمد أساسًا على الحوار بين المريض وطبيبه.

• اكتشف مركز بيو للأبحاث مؤخرًا أن هناك شكًا واسع النطاق حول ما إذا كان استخدام الذكاء الاصطناعي لتشخيص الحالات وعلاجها سيسهم في عدم تفاقم حالات المرض.

• لاحظت الجمعية الأمريكية للطب النفسي انتشار تطبيقات الصحة العقلية في كل مكان ، ويتعرض المنظمون لضغوط شديدة لمواكبة هذه التطبيقات.

• تقدر الجمعية الأمريكية للطب النفسي أن هناك أكثر من 10000 طلب يتم تداولها في متاجر التطبيقات ، مشيرة إلى أن غالبية الطلبات لم تتم الموافقة عليها.

يمكن أن يؤدي انتشار روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل تطبيقات Wysa و FDA المعتمدة إلى تخفيف النقص في مستشاري الصحة العقلية لحالات تعاطي المخدرات.

كيف تستخدم هذه التقنيات؟

• يتم نشر التكنولوجيا لتحليل محادثات المرضى وتنقيح الرسائل النصية لتقديم توصيات بناءً على ما يقوله المرضى للأطباء ، وفقًا لموقع إخباري أكسيوس ،

• يتنبأ التطبيق بخطر إدمان المواد الأفيونية ، ويكشف عن اضطرابات الصحة العقلية مثل الاكتئاب.

الخطر يكمن

القلق الآن ، وفقًا للمصدر ، هو ما إذا كانت التكنولوجيا قد بدأت في دفع الحدود واتخاذ القرارات الطبية ، وما يمكن أن تفعله إدارة الغذاء والدواء الأمريكية لمنع مخاطر السلامة على المرضى.

ذكرت أكسيوس أن منظمة الصحة العقلية غير الربحية KoKo استخدمت مؤخرًا ChatGPT كمستشار للصحة العقلية لحوالي 4000 شخص لم يكونوا على دراية بالإجابات التي تم إنشاؤها بواسطة الذكاء الاصطناعي ، مما أثار انتقادات من علماء الأخلاق الطبية.

يلجأ أشخاص آخرون إلى ChatGPT بصفتهم معالجًا شخصيًا على الرغم من التحذيرات من النظام الأساسي بأنه لا يُقصد استخدامه للعلاج.

من جانبها ، قامت إدارة الغذاء والدواء الأمريكية (FDA) بتحديث إرشادات التطبيق والبرنامج كل بضع سنوات منذ عام 2013 ، وأطلقت مركزًا للصحة الرقمية في عام 2020 للمساعدة في تقييم ومراقبة الذكاء الاصطناعي في الرعاية الصحية.

تخفيف القيود

في وقت مبكر من جائحة الفيروس التاجي ، خففت إدارة الغذاء والدواء الأمريكية بعض متطلبات ما قبل التسويق لتطبيقات الأجهزة المحمولة التي تعالج الحالات النفسية ، لتخفيف العبء على بقية النظام الصحي.

أقر مسؤول كبير بأن عملية مراجعة التحديثات الخاصة بمنتجات الصحة الرقمية لا تزال بطيئة.

في غضون ذلك ، وجد تقرير لإدارة الغذاء والدواء في سبتمبر الماضي أن إطار عمل الوكالة الحالي لتنظيم الأجهزة الطبية غير مجهز للتعامل مع “سرعة التغيير الضرورية أحيانًا لتوفير ضمان معقول للسلامة والفعالية للأجهزة سريعة التطور”.

الاستغلال من قبل الشركات

قال برادلي طومسون ، المحامي المتخصص في تطبيق إدارة الغذاء والدواء ، إن ذلك دفع بعض شركات الصحة الرقمية إلى تجنب العقبات التنظيمية المكلفة والمستهلكة للوقت ، مثل تقديم أدلة إكلينيكية – والتي قد تستغرق سنوات – لدعم سلامة التطبيق وفعاليته للموافقة عليه.

وأضاف أنه على الرغم من التوجيهات ، فإن إدارة الغذاء والدواء الأمريكية لم تفعل شيئًا تقريبًا في هذا المجال ، ويبدو الأمر كما لو أن المشكلة كبيرة جدًا ، فهم لا يعرفون حتى كيف يبدؤون في حلها ولم يفعلوا ذلك حتى اعرف ماذا تفعل.”