نظرًا لأن الذكاء الاصطناعي يجلب خطر المعلومات الطبية الخاطئة، فإن AMA تطالب بمزيد من التشريعات
كتبت الجمعية الطبية الأمريكية (AMA) سلسلة من الرسائل تحث على ضمانات تشريعية لمنع إساءة استخدام الذكاء الاصطناعي (AI) في المجالات الطبية والصحة العقلية.
تم استخدام الذكاء الاصطناعي للترويج للمعلومات الطبية الخاطئة، ونشر الاحتيال، وتقويض الثقة في خدمات الصحة العامة، بما في ذلك من خلال مقاطع الفيديو المزيفة العميقة التي تنتحل شخصية المتخصصين في المجال الطبي ومن خلال برامج الدردشة التي تقدم نصائح صحية مضللة أو خطيرة.
ونقل موقع أكسيوس عن جون وايت، الرئيس التنفيذي لشركة AMA، قوله: “لا ينبغي لنا أن نجعل المحققين عامين لتحديد ما إذا كان هناك شيء ما ليس مزيفًا عميقًا”.
في حالة واحدة، المجلة العلمية طبيعة ذكرت في وقت سابق من هذا الشهر أن قام فريق بحثي من جامعة جوتنبرج في السويد بتحميل ورقتين طبيتين مزيفتين تصفان المرض الوهمي “bixonimania”. تم استيعاب المعلومات حول المرض المفتعل بسرعة وإعادة استخدامها من قبل أنظمة الذكاء الاصطناعي مثل Microsoft Bing’s Copilot، وGoogle’s Gemini، ومحرك الإجابات Perplexity AI، وChatGPT من OpenAI.
وقال متحدث باسم جوجل عن التجربة: “لقد كنا دائمًا شفافين بشأن قيود الذكاء الاصطناعي التوليدي ونقدم مطالبات داخل التطبيق لتشجيع المستخدمين على التحقق مرة أخرى من المعلومات”. “بالنسبة للمسائل الحساسة مثل المشورة الطبية، توصي جيميني المستخدمين بالتشاور مع المتخصصين المؤهلين.”
حالة أخرى من حالات استخدام الذكاء الاصطناعي لنشر معلومات طبية مضللة هي عندما تم تكرار ظهور الدكتور سانجاي جوبتا، كبير المراسلين الطبيين لشبكة CNN، في مقطع فيديو مزيف يدعي أنه يبيع علاجًا لمرض الزهايمر العام الماضي.
وقال غوبتا لشبكة سي إن إن: “الأمر المذهل بالنسبة لي الآن هو أن الأشياء التي تظهر في صفحتي غير صحيحة بشكل واضح وموضوعي، ومع ذلك فهي موجودة”. شروط الخدمة “ويتم مشاركتها مرارًا وتكرارًا. لذا، في الوقت الحاضر، يبدو أن العملة هي عبارة عن اصطياد نقرات، كما تعلمون. لقد أصبح طرح أشياء غير صحيحة بشكل واضح أمرًا طبيعيًا للغاية.”
ناقش غوبتا أيضًا مدى واقعية تقنية التزييف العميق التي تعتمد على الذكاء الاصطناعي، قائلًا إنه حتى الأطباء الآخرين قد تم خداعهم بمقاطع الفيديو التي تظهره.
في ولاية بنسلفانيا، تزعم دعوى قضائية حديثة ضد شركة Character Technologies Inc. أن روبوتات الدردشة الخاصة بـ Character.AI ادعت أنها محترفة طبية مرخصة، بما في ذلك الأطباء النفسيين.
تصف الدعوى كيف أنشأ أحد المحققين حسابًا مجانيًا على Character.AI وأجرى مناقشة مع برنامج دردشة يُدعى “Emilie”، تم وصفه على الموقع بأنه “دكتور في الطب النفسي. أنت مريضها”. أثناء محادثة المحقق، ادعت الشخصية أنها مرخصة كطبيبة في ولاية بنسلفانيا، وأدرجت رقم ترخيص خيالي.
قال حاكم ولاية بنسلفانيا جوش شابيرو: “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون نصيحة من متخصص طبي مرخص”. “تتخذ إدارتي إجراءات لحماية سكان بنسلفانيا، وإنفاذ القانون، والتأكد من استخدام التكنولوجيا الجديدة بأمان. وستواصل ولاية بنسلفانيا قيادة الطريق في محاسبة الجهات الفاعلة السيئة ووضع حواجز حماية واضحة حتى يتمكن الناس من استخدام التكنولوجيا الجديدة بمسؤولية.”
وتضمنت توصيات AMA إلى الكونجرس مزيدًا من التنظيم لروبوتات الدردشة وأدوات الذكاء الاصطناعي، والتي تهدف إلى مواجهة انتشار المعلومات الخاطئة وانعدام الثقة.
كانت بعض القضايا الرئيسية التي تناولتها رسائل AMA هي مطلب زيادة الشفافية في برامج الدردشة المخصصة لدعم الصحة العقلية؛ الحدود التنظيمية التي تمنع روبوتات الدردشة ذات الأغراض العامة التي تعمل بالذكاء الاصطناعي من تشخيص الأمراض دون موافقة إدارة الغذاء والدواء؛ تثبيط أو حظر الإعلانات داخل روبوتات الدردشة المدعمة بالذكاء الاصطناعي؛ وتعزيز حماية الخصوصية في جمع التفاصيل الشخصية بواسطة برامج الدردشة الآلية.
قال وايت: “قد تساعد الأدوات المدعمة بالذكاء الاصطناعي في توسيع نطاق الوصول إلى موارد الصحة العقلية ودعم الابتكار في تقديم الرعاية الصحية، لكنها تفتقر إلى ضمانات متسقة ضد المخاطر الجسيمة، بما في ذلك التبعية العاطفية، والمعلومات المضللة، والاستجابة غير الكافية للأزمات”. “من خلال الإشراف المدروس والمساءلة، يمكن لواضعي السياسات دعم الابتكار والتأكد من أن التكنولوجيات تعطي الأولوية لسلامة المرضى، وتعزيز ثقة الجمهور، واستكمال الرعاية السريرية بشكل مسؤول، وليس استبدالها.”
يسعى المشرعون إلى معالجة قضايا الرعاية الصحية المتعلقة بالذكاء الاصطناعي
وقد بدأت بعض الهيئات التنظيمية بالفعل في دراسة إمكانية تشريع الذكاء الاصطناعي لمعالجة القضايا المتعلقة بالرعاية الصحية.
في فبراير/شباط، قدمت عضو مجلس الشيوخ عن ولاية كاليفورنيا، لينا جونزاليس، مشروع قانون مجلس الشيوخ رقم 1146، الذي ترعاه الجمعية الطبية في كاليفورنيا (CMA)، والذي من شأنه أن يفرض حظرًا وعقوبات واضحة ضد أولئك الذين يعلنون عن منتجات صحية دون الكشف عن استخدام الذكاء الاصطناعي العميق.
“العلاقة بين الطبيب والمريض مبنية على أساس من الثقة. قال رئيس CMA، رينيه برافو، “عندما تستخدم الجهات الفاعلة السيئة الذكاء الاصطناعي لسرقة هوية الطبيب لبيعها وتسويقها للمرضى الضعفاء، فإنهم لا يرتكبون الاحتيال فحسب – بل يعرضون الأرواح للخطر”، “يجب ألا يضطر المرضى إلى التساؤل عما إذا كانت المشورة الطبية التي يتلقونها تأتي من طبيب حقيقي أم نسخة مزيفة من الذكاء الاصطناعي. يعد SB 1146 خطوة ضرورية لاستعادة سلامة المعلومات الصحية عبر الإنترنت ومحاسبة المحتالين.”
ووفقا للمؤتمر الوطني للمجالس التشريعية في الولايات، فإن 43 ولاية لديها 263 مشروع قانون يتعلق بالذكاء الاصطناعي في مجال الرعاية الصحية، وتم سن 17 منها فقط.
