ديفيد لاريو هو الرئيس التنفيذي لـ أنظمة ميديكومب، التي تجعل البيانات الطبية ذات صلة وقابلة للاستخدام والعمل.
اجلس في أي عرض لمزود تكنولوجيا الصحة لنظام صحي هذا العام، وستصبح النمط مستحيلاً في التغاضي عنه: كل حل تقريبًا معروض قد تم تغليفه في شكل من أشكال الذكاء الاصطناعي. سواء كانت الوثائق البيئية، تلخيص الشارتات، دعم الترميز أو البحث السريري، فإن السباق لإصدار المنتجات السريرية الممكّنة بالذكاء الاصطناعي قد تسارع. ولكنها أيضًا كشفت عن نقطة فشل تعمل معظم الفرق حولها بدلاً من حلها: لا يوجد طبقة هيكلية، معتمدة من المعرفة السريرية تحت النموذج.
بدون هذه الطبقة، تتنوع المخرجات اعتمادًا على السياق، مجموعة المرضى وجودة البيانات الأساسية. يمكن أن تنتج نفس الاستفسار إجابات مختلفة في أيام مختلفة. قد تكون التشخيصات المستخلصة من نص بيئي معقولة في شارت واحد وغير مناسبة في آخر. يمكن أن يبدو الملخص ذا سلطة بينما يتجاهل في الوقت نفسه السلبيات السريرية ذات الصلة التي شكلت تفكير الطبيب. هذه هي المخرجات التي لا يمكن للأطباء اتخاذ إجراء بناءً عليها بثقة، وهي أيضًا السبب في أن العديد من تجارب الذكاء الاصطناعي تتوقف قبل نشرها على مستوى المؤسسات.
تبدأ الصناعة في التعرف على ما تمثله هذه القطعة المفقودة، وتسميها الذكاء الاصطناعي الحتمي، رسم المعرفة السريرية، طبقة التفكير المعتمدة أو أساس البيانات السريرية. الوضعية أقل أهمية من الوظيفة. الفكرة الأساسية هي أن النماذج اللغوية الكبيرة الاحتمالية (LLMs)، بمفردها، لا يمكن الاعتماد عليها في اتخاذ قرارات تؤثر على سلامة المرضى، السداد والمكانة التنظيمية.
تتطلب أساسًا حتميًا من المعرفة السريرية المنسقة: تمثيل هيكلي للمفاهيم السريرية، العلاقات والقواعد التي يمكن من خلالها التحقق من المخرجات قبل أن تصل إلى الشارت، مطالبة أو عيون الطبيب.
لماذا النماذج الاحتمالية وحدها غير كافية
تعتبر النماذج اللغوية الكبيرة مذهلة في اللغة. تم تصميمها لإنتاج استجابات طلاقة ومعقولة سياقيًا، وتقوم بذلك على نطاق ملحوظ. ومع ذلك، تتطلب عملية اتخاذ القرار السريري أكثر. يتطلب التناسق، قابلية التتبع والمحاذاة مع الأدلة التي تم تنسيقها وصيانتها على مر الزمن. عندما تنتج نموذج ذكاء اصطناعي ثلاثة ملخصات مختلفة لنفس اللقاء عبر ثلاثة استفسارات منفصلة، فإن هذه المتغيرات ليست مجرد مشكلة موثوقية؛ بل تعكس عيبًا هيكليًا في التكنولوجيا.
بعد كل شيء، عندما تتدفق المخرجات الاحتمالية بلا حسيب في السجل الطبي، تتراكم العواقب اللاحقة. تنتقل التشخيصات غير المدعومة إلى قوائم المشكلات، حيث تشكل قرارات الرعاية المستقبلية. تصبح البيانات المشفرة غير دقيقة جدًا لدعم تعديل المخاطر، تقارير الجودة أو التشغيل البيني. يمكن أن يبدو التوثيق متماسكًا على الصفحة بينما يفتقر إلى الدعم الإثباتي المطلوب للتدقيق، الاستئنافات واستمرارية الرعاية. الإجابة ليست التخلي عن النموذج. بل يجب التوقف عن اعتباره المنتج بالكامل وبناء حوله بشكل مناسب.
طبقة المعرفة السريرية
تقوم طبقة المعرفة السريرية الحتمية بتوحيد المصطلحات، العلاقات والأهمية السريرية التي يجب أن يتوافق معها المخرج من الذكاء الاصطناعي قبل أن يمكن الوثوق به. في الممارسة العملية، يعني ذلك التحقق مما إذا كانت التشخيصات المقترحة مدعومة بالنتائج الموثقة، وإشارة الترميز غير المحدد بما يكفي للحفاظ على الدفاع، وتحديد الحالات المفقودة المدعومة بالأدلة في الشارت والتأكد من أن البيانات الهيكلية المنتجة من السرد تعكس ما كان ينوي الطبيب التقاطه.
تعتبر هذه الطبقة هي ما يجعل مخرجات الذكاء الاصطناعي قابلة لإعادة الإنتاج وقابلة للتفسير. يمكن لفريق المنتج أن يخبر قائد النظام الصحي، مع تفاصيل، لماذا ظهرت تقنية معينة اقتراحًا ولماذا أخفت الأخرى. تسمح نفس الطبقة بالإجابة على الاستفسارات السريرية الحساسة دون تعريض المعلومات الصحية المحمية للنماذج الخارجية، لأن الاستفسارات الهيكلية والردود المعتمدة يمكن أن تحل مكان البيانات السردية.
البنية التحتية الناشئة
تماثل مسار المعرفة السريرية في الذكاء الاصطناعي في الرعاية الصحية كيف نمت فئات أخرى من البرمجيات المؤسسية على مدى العقدين الماضيين. بدأت بنية السحابة، إدارة الهوية والمراقبة جميعها كميزات تمييز قبل أن تصبح طبقات غير قابلة للتفاوض. لا يتم شحن أي منتج مؤسسي جاد اليوم بدونها. قد يكون الطراز المضبوط جيدًا كافيًا لأداة موجهة للمستهلك، ولكن بالنسبة لمنتج يتعامل مع التشخيص، التوثيق، الترميز أو قرارات الرعاية، فإن أسس المعرفة السريرية المعتمدة أصبحت قاعدة أساسية.
يغير هذا التحول عملية اختيار التكنولوجيا لقادة النظام الصحي. يجب أن تبدأ تقييمات خرائط الذكاء الاصطناعي الآن بمجموعة صغيرة من الأسئلة المباشرة. ما هي المعرفة السريرية التي تحت النموذج، ومن يقوم بتنسيقها؟ كيف يتم التحقق من المخرجات قبل كتابتها في السجل؟ هل يمكن للحل أن يشرح لماذا وصل إلى استنتاج معين؟ ماذا يحدث عندما تتغير الأدلة الأساسية في الشارت؟
إذا كانت الإجابة الصادقة على أي من هذه الأسئلة هي أن النموذج متوقع أن يكتشف ذلك، فإن المنتج لديه مشكلة أساسية لن تحلها أي كمية من الهندسة التحفيزية.
بناء الثقة في تكنولوجيا المعلومات
ستفصل تلك الأسئلة التقييمية، ومن المحتمل عدة أخرى، بشكل متزايد المنتجات التي تزدهر عن تلك التي تتوقف. في الموجة القادمة من ذكاء الرعاية الصحية، ستقلل التمايز من تعقيد النموذج وستزيد من جودة وبنية المعرفة السريرية التي تحته.
ستبني الفرق التي تدرك ذلك مبكرًا منتجات يثق بها الأطباء، ويتبناها العملاء على نطاق واسع، ويمكن للجهات التنظيمية التعامل معها بشكل بناء. أولئك الذين لا يفعلون قد يقضون السنوات القادمة في إصلاح المخرجات، إدارة المسؤولية والتساؤل عن سبب عدم تخرج تجاربهم إلى نشر كامل.
تعتمد نجاح هذه الحلول على الجانب الأقل بريقًا من الذكاء الاصطناعي، ولكنه أيضًا حيث يحدث العمل الحقيقي على المنتج. فكر في الأمر بهذه الطريقة: النموذج هو الجزء المرئي من المنتج. ما تحتها، طبقة المعرفة السريرية، هي ما يقرر ما إذا كان المنتج يستحق الاستخدام على الإطلاق.
مجلس تكنولوجيا فوربس هو مجتمع خاص بدعوة فقط لرؤساء المعلومات، رؤساء التقنية والموظفين التنفيذيين في التكنولوجيا. هل أنا مؤهل؟
