رفض الذكاء الاصطناعي مكسور: عندما تقول النماذج لا، لا يمكن لأحد أن يثق بها
طبقة الرفض في الذكاء الاصطناعي هي إجراء السلامة الذي يثق به الجميع ولا يستطيع أحد الوثوق به فعلاً.
تُدرَّب نماذج اللغة الكبيرة على رفض الطلبات الخطيرة، من تعليمات صنع المتفجرات إلى قوالب خطاب الكراهية.
لكن تقريراً من مجلة ماساتشوستس للتكنولوجيا يوضح أن سلوك الرفض هذا بعيد جداً عن الكمال.
فقد وجد المخترقون عشرات الطرق لتجاوزه.
بعضهم يستخدم حيل تمثيل الأدوار، وبعضهم يرمّز الكلمات الخطيرة بترميز base64، وبعضهم يطلب نفس المعلومة بلغة أخرى.
والأخطر أن الرفض يمكن أن يتحول إلى أداة قمع.
فالنموذج الذي دُرِّب على رفض مواضيع معينة يمكن إعادة استخدامه لرفض أسئلة مشروعة عن حقوق الإنسان أو مرشحين سياسيين أو معلومات طبية.
هذا يحول آلية السلامة إلى أداة رقابة.
يشير التقرير أيضاً إلى أن الرفض سلوك ناشئ وليس قاعدة دقيقة.
يعتمد على تدريب التوافق في النموذج، لذلك يختلف من نسخة إلى أخرى ومن سياق إلى آخر.
هذا يخلق ثقة زائفة.
المطورون يفترضون أن النموذج سيحمي المستخدمين، لكنه لا يستطيع التمييز باستمرار بين طلب ضار وطلب حساس لكنه مشروع.
النتيجة تقنية تقول لا بطرق غير متوقعة، أحياناً تحجب محتوى مفيداً وأحياناً تسمح بمرور محتوى خطير.
بدأ المنظمون يطالبون بشفافية أكبر في تدريب السلامة، لكن معظم الشركات تعامل ضبط الرفض كصندوق أسود.
الخطوة التالية يجب أن تكون معايير مفتوحة لقياس سلوك الرفض، وأدوات تحكم ديناميكية عند الطلب، وأدوات تفسير أفضل.
حتى ذلك الحين، لا ينبغي لأحد أن يعتبر عبارة النموذج رفضت دليلاً على السلامة.
نماذج اللغة الكبيرة تجيد الطب الصيني، لكن نتائج الامتحانات تخفي فجوة خطيرة
نماذج اللغة الكبيرة قادرة على اجتياز امتحان الترخيص الطبي الصيني، لكن مراجعة نطاق جديدة نشرت في مجلة PLOS توحي بأن النجاح في الامتحان ليس دليلاً على الجاهزية للعمل السريري.
درس الباحثون أداء نماذج مثل ChatGPT وDeepSeek وQwen في امتحانات الترخيص الطبي الوطنية الصينية ومعايير طبية ذات صلة.
أظهرت النماذج قدرة مذهلة على استرجاع الحقائق الطبية وإنتاج إجابات سلسة تطابق قوالب الامتحان.
لكن المراجعة تبرز فجوة خطيرة.
صيغة الامتحان تكافئ الحفظ ومطابقة الأنماط، بينما يتطلب الطب الحقيقي التفكير في ظل عدم اليقين، وتفسير تاريخ مرضي معقد، ومعرفة متى يقول الطبيب لا أعرف.
تشير المراجعة أيضاً إلى أن كثيراً من الدراسات تجرى في بيئات مضبوطة، مع أسئلة واضحة وبدون وجود مرضى في الحلقة.
هذا يعني أن الدرجات العالية لا تترجم إلى دعم سريري آمن لاتخاذ القرار.
يدعو المؤلفون إلى أطر تقييم خاصة بالمجال تدمج الاستدلال السريري، والتشخيص التفريقي، وفحوصات السلامة، وتحليل الأخطاء.
النتائج تهم المعلمين في كليات الطب، وباحثي الذكاء الاصطناعي، وهيئات تنظيم الرعاية الصحية.
المستشفيات تجرب بالفعل نماذج اللغة للتوثيق والفرز، وشركات تسوق روبوتات طبية مبنية على هذه النماذج.
بدون تقييم صارم، يمكن لنموذج اجتاز امتحاناً تحريرياً بتفوق أن يقدم نصيحة خاطئة بثقة للمريض.
الخطوة التالية هي نقل التقييم من الامتحانات الثابتة إلى محاكاة سريرية تفاعلية مع إشراف بشري.
حتى ذلك الحين، يجب اعتبار درجة ترخيص طبي نقطة انطلاق وليست إثبات كفاءة.
تشات جي بي تي لم يعد اللاعب الوحيد، لكنه ما زال يحدد قواعد اللعبة
تشات جي بي تي هو السبب الذي يجعل الجميع الآن لديهم رأي في نماذج اللغة الكبيرة.
أطلقته شركة أوبن إيه آي في نوفمبر 2022، ولم يكن البوت من اخترع المحادثة الذكية، لكنه حوّل فضولاً بحثياً إلى منتج عالمي.
يوضح شرح CNET كيف تغير المشهد بسرعة.
خلال أشهر، كان على كل شركة تقنية كبيرة أن ترد بمساعد خاص بها: بيربليكستي، وميتا إيه آي، وجوجل جيميناي، ومايكروسوفت كوبايلوت، وجروك من إيلون ماسك.
تطور تشات جي بي تي نفسه من تطبيق ويب نصي إلى مساعد متعدد الوسائط يفهم الصور والمحادثات الصوتية ويستخدم الأدوات ويحتفظ بالذاكرة.
نموذج GPT-3.5 الأصلي تلاه GPT-4 ونماذج أصغر وعائلة GPT-6.
هذا التقرير مهم لأنه يوثق نقطة الأساس لما هو تشات جي بي تي وكيف يعمل ولماذا يظل النقطة المرجعية في الصناعة.
قاعدة المستخدمين الضخمة تمنح أوبن إيه آي ميزة في البيانات والتغذية الراجعة.
لكن المنافسة تآكل هيمنته.
المستخدمون الآن يبدّلون بين عدة مساعدين حسب المهمة.
تشات جي بي تي لم يعد البوابة الوحيدة إلى ذكاء اصطناعي قوي.
الفصل القادم يعتمد على قدرة أوبن إيه آي على الحفاظ على تقدمها في جودة النماذج وتحويل تشات جي بي تي من روبوت محادثة إلى منصة تدير أعمالاً معقدة.
الاسم نفسه أصبح من مفردات الحياة اليومية.
الاختبار الحقيقي هو قدرته على البقاء أساسياً بينما يغلق المنافسون الفجوة.
طفرة نماذج اللغة أعادت كتابة سوق عمل الذكاء الاصطناعي وهذه هي الأدوار الجديدة
طفرة نماذج اللغة غيرت أكثر من طريقة عمل البرمجيات.
أعادت كتابة الخريطة الوظيفية لكل من يعمل في بناء الذكاء الاصطناعي.
تحليل جديد من Towards Data Science يفكك الألقاب الوظيفية التي ظهرت بعد لحظة تشات جي بي تي ويشرح ما يفعله كل دور فعلياً.
مهندسو الذكاء الاصطناعي هم الإضافة الأكثر ظهوراً.
يبنون الأنظمة حول النماذج المدربة مسبقاً، ويديرون الاستعلامات، وتوليد الاسترجاع المعزز، والتنسيق، والتقييم.
على عكس مهندسي التعلم الآلي التقليديين، يقضون وقتاً أقل في تدريب النماذج من الصفر ووقتاً أطول في ربط النماذج ببيانات وسير عمل حقيقية.
العلماء التطبيقيون أقرب إلى البحث.
يقرؤون أحدث الأوراق البحثية، ويكيفون البنى، ويترجمون النتائج الأكاديمية إلى منتجات قابلة للإطلاق.
المهندسون الميدانيون هم الأكثر تواصلاً مع العملاء.
يندمجون مع الشركات، ويشخصون مشاكل فوضوية، ويبنون حلولاً سريعة باستخدام أي نموذج ينجح.
يرى التحليل أن الحدود القديمة بين عالم البيانات ومهندس البرمجيات تذوب.
قد يحتاج الفريق الواحد الآن إلى امتلاك كل شيء من تنظيف البيانات إلى استدعاء النموذج إلى واجهات المستخدم.
هذا التحول يهم مديري التوظيف والجامعات والعاملين.
المهارات التي كانت مهمة في 2021 مثل تدريب النماذج المخصصة وهندسة الميزات أصبحت أقل أهمية.
ما يهم الآن هو معرفة كيفية استخدام النماذج وتقييم مخرجاتها ودمجها في منتجات موثوقة.
شات بوت AMIE من جوجل يجتاز اختبار الطوارئ الحقيقي بنجاح مفاجئ
شات بوت أمي التجريبي من جوجل قدّم واحداً من أقوى الأدلة حتى الآن على إمكانية وضع نماذج اللغة الكبيرة أمام المرضى.
في تجربة حقيقية في مركز بيث إسرائيل ديكونيس الطبي في بوسطن، تحدث نحو مئة مريض يحتاجون رعاية أولية عاجلة مع أمي من منازلهم قبل زيارة الطبيب.
طرح البوت أسئلة عن الأعراض، واستكشف الأسباب المحتملة، وقدم قائمة بخيارات العلاج، وأنشأ ملخصاً للطبيب.
النتائج التي نشرها موقع WebProNews أظهرت أن أمي كان مفيداً في حوالي ثلاثة أرباع الحالات، وأنه شكّل فعلياً طريقة تعامل الأطباء مع الزيارة.
أمي ليس منتجاً تجارياً بل نموذج بحثي تمت معايرته للحوار التشخيصي.
لكن هذه التجربة مهمة لأنها تنقل نماذج اللغة من اختبارات الذكاء الاصطناعي إلى فرز المرضى في العيادات.
تفاعل المرضى مع النظام خارج المستشفى، ووصلت المعلومات إلى طبيب بشري قبل الموعد.
هذا سير عمل واقعي وليس عرضاً مخبرياً.
تثير الدراسة أسئلة صعبة أيضاً.
من المسؤول إذا فات ملخص ما قبل الزيارة أحد الأعراض؟
هل يجب إخبار المرضى بأنهم يتحدثون مع ذكاء اصطناعي؟
كيف ستتعامل شركات التأمين مع البيانات السريرية المولدة بالذكاء الاصطناعي؟
في الوقت الحالي يبقى أمي في مرحلة البحث، ولم تعلن جوجل عن إطلاقه للعامة.
لكن مع الضغط الكبير على مراكز الطوارئ، سيزداد الضغط لاستخدام مثل هذه الأدوات.
الاختبار القادم هو التوسع.
