تيمنيت غيبرو لا تؤمن بنهاية العالم بسبب الذكاء الاصطناعي
تقضي تيمنيت غيبرو سنوات في قلب أكثر النقاشات إشتعالاً في مجال الذكاء الاصطناعي.
شاركت في تأليف الورقة الشهيرة Stochastic Parrots، ثم خرجت من Google بعد إثارة مخاوف بشأن نماذج اللغة الكبيرة، وأسست لاحقاً معهد أبحاث الذكاء الاصطناعي الموزع DAIR.
والآن تعود لتوضح موقفها بوضوح عبر مجلة Wired: لا توجد تهديدات وجودية من الذكاء الاصطناعي، أو على الأقل ليس بالشكل الذي يهيمن على اجتماعات الشركات الكبرى في وادي السيليكون.
ترى غيبرو أن التأطير الحالي للذكاء الاصطناعي بوصفه خطراً وجودياً هو إلهاء.
الأضرار الحقيقية موجودة بالفعل، كما تقول، وتشمل المراقبة والتمييز والتضليل المعلوماتي واستغلال العمالة والأضرار البيئية الناجمة عن مراكز البيانات الضخمة.
وتشير إلى أن الناس العاديين لن يقتلوا على الأرجح بسبب ذكاء خارق خارج السيطرة، لكنهم يعانون اليوم من الحرمان من السكن والوظائف والرعاية الصحية بسبب أنظمة تعلم آلي معيبة.
موقفها يضعها في مواجهة مباشرة مع تيار أنصار نهاية العالم بسبب الذكاء الاصطناعي، وهو التيار الذي يضم باحثين ومديرين تنفيذيين يعتقدون أن النماذج المتقدمة قد تخرج عن السيطرة البشرية.
هذا التيار حصل على تمويل هائل واهتمام إعلامي واسع، وتعتبره غيبرو محاولة للاستيلاء على السلطة من قبل الشركات نفسها التي تبني هذه التكنولوجيا.
النتيجة هي نقاش عام مشوش، حيث يحذر مليارديرات من نهاية العالم وفي الوقت نفسه تطلق شركاتهم منتجات تسبب أضراراً قابلة للقياس.
تأثير غيبرو ليس خطابياً فقط.
فمعهد DAIR يمول أبحاثاً مستقلة ويدفع نحو آليات مساءلة أكثر صرامة.
المعركة القادمة تدور على الأرجح حول تنظيم الذكاء الاصطناعي، حيث تسعى غيبرو إلى قواعد تعالج الأضرار الحالية بدلاً من المخاطر المستقبلية الافتراضية.
موقفها يكسب أرضية بين منظمات المجتمع المدني، بينما تواصل المختبرات الرائدة الحديث عن التوافق والذكاء العام الاصطناعي.
OpenAI وAnthropic تمتلكان عشرات الآلاف من بلاغات حوادث الذكاء الاصطناعي
أظهرت بيانات سلامة جديدة جمعتها Axios أن OpenAI وAnthropic سجلت كل منهما عشرات الآلاف من حوادث الذكاء الاصطناعي منذ إطلاق نماذجها الرئيسية.
تغطي الأرقام طيفاً واسعاً من الإخفاقات، بدءاً من الأخطاء الواقعية والتحيزات وصولاً إلى توليد محتوى ضار وسلوكيات غير متوقعة للأنظمة.
يؤكد حجم هذه البلاغات أن البنية الحالية للسلامة، التي تعتمد بشكل كبير على فرق الاختراق الأخلاقي ومرشحات ما بعد التدريب، لم تعد قادرة على مواكبة الانتشار الواسع.
تتعامل الشركتان مع السلامة بطرق مختلفة.
تبني OpenAI خطوط إنتاج تعتمد على النشر التدريجي وتستخدم مختبري اختراق خارجيين، لكنها تطلق منتجات بسرعة كبيرة لجمهور هائل.
أما Anthropic فقد ركزت على الذكاء الاصطناعي الدستوري وبحوث قابلية التفسير، ومع ذلك لا تزال أنظمتها تولد عدداً كبيراً من الحوادث الموثقة.
المقارنة هنا ليست حول أي مختبر أكثر أماناً، بل حول ما إذا كانت الأساليب الحالية قادرة على التعامل مع طلب الاستخدام الفعلي.
هذه البيانات تهم الجهات التنظيمية والمشترين من الشركات مباشرة.
الحكومات تعمل على قواعد للمساءلة، والشركات التي تنشر ChatGPT أو Claude في خدمة العملاء أو البرمجة أو إدارة المعرفة الداخلية تحتاج إلى معرفة مستوى المخاطر.
سجلات الحوادث تتحول إلى ضغط تنافسي.
إذا استطاع مختبر إظهار معدل أقل من النتائج الضارة، فقد يكتسب ميزة في عقود الشراء.
لا يوجد حتى الآن تفصيل علني للفئات التي تهيمن على أعداد الحوادث.
الخطوة التالية هي توحيد التعريفات.
OpenAI يستعين بعلماء الرياضيات لإصلاح أضعف نقاط ChatGPT
أنشأت OpenAI مجموعة استشارية جديدة مخصصة للتفكير الرياضي، في خطوة تكشف عن واحدة من أقدم نقاط الضعف في نماذج اللغة الكبيرة.
تضم المجموعة علماء رياضيات وباحثين في علوم الحاسوب سيعملون مباشرة مع فرق الأبحاث في الشركة لتحسين دقة الحلول الرياضية التي تولدها النماذج.
وفقاً لتقرير نشرته The Verge، تهدف المبادرة إلى معالجة الأخطاء التي تظهر عندما يُطلب من النموذج حل معادلات معقدة، أو إثبات نظريات، أو التعامل مع استدلال متعدد الخطوات.
نماذج اللغة الحالية ماهرة في إكمال الأنماط، لكنها كثيراً ما تنتج إجابات خاطئة بثقة عالية عندما تواجه مسألة تتطلب استنتاجاً رياضياً حقيقياً.
هذه الخطوة تمثل تحدياً مباشراً للمشهد العام في مجال الذكاء الاصطناعي.
فقد دفعت Google DeepMind بمنظومات مثل AlphaProof وAlphaGeometry في الرياضيات الشكلية، بينما ركزت Anthropic على شفافية سلاسل التفكير، وأصدرت DeepSeek نماذج قوية بسعر أقل.
بعبارة أخرى، لم يعد الأداء المحادثي كافياً.
يُنظر إلى الاستدلال الرياضي باعتباره بوابة نحو وكلاء أكثر موثوقية، وأدوات بحث علمي أفضل، ومساعدي برمجة متقدمين.
بالنسبة للباحثين والمستخدمين في الشركات، قد يغير عمل المجموعة طريقة تقييم النماذج.
المعايير التقليدية مثل GSM8K وMATH أصبحت مشبعة ببيانات التدريب.
من المرجح أن تحتاج المجموعة إلى تصميم طرق تقييم جديدة تركز على التعميم بدلاً من الحفظ.
لم تعلن OpenAI عن جدول زمني أو إصدار محدد لهذه المبادرة.
الخطوة التالية هي تحويل توصيات الخبراء إلى بيانات تدريب وتقنيات تحسين لاحقة، وربما نموذج مستقبلي بمسارات استدلال مرئية.
ChatGPT Enterprise هو ورقة OpenAI لدخول عالم الشركات
أطلقت OpenAI نسخة ChatGPT Enterprise، وهي نسخة من روبوت المحادثة مصممة للشركات التي تحتاج إلى حماية أعلى للخصوصية والأمان.
يتيح المنتج الجديد للشركات إدخال مستنداتها الداخلية وقواعد معرفتها إلى ChatGPT دون كشف البيانات الحساسة للنموذج العام.
يحصل المسؤولون على أدوات لإدارة وصول المستخدمين، والتحكم في سياسات الاحتفاظ بالبيانات، وضمان بقاء الأسئلة والإجابات داخل حدود المؤسسة.
التوقيت مهم.
فقد كانت الشركات حريصة على استخدام الذكاء الاصطناعي التوليدي لكنها خائفة من تسرب البيانات.
كان الموظفون يلصقون سجلات العملاء وأكواداً داخلية في روبوتات المحادثة الاستهلاكية من دون أن تمتلك فرق تقنية المعلومات وسيلة لإيقاف ذلك.
يقدم ChatGPT Enterprise مساراً مصرحاً به، لكنه يضع ضغوطاً على المنافسين أيضاً.
مايكروسوفت هي أكبر مستثمر في OpenAI وتبيع أيضاً أداة Copilot لنفس الشركات.
العلاقة أصبحت محرجة لأن OpenAI تتقدم نحو السوق المؤسسية التي تهيمن عليها مايكروسوفت.
كما تتنافس Google Workspace وAnthropic على نفس العملاء.
بالنسبة للمستخدمين في الشركات، يغير المنتج طريقة عمل المعرفة الداخلية.
فبدلاً من البحث في الويكي ومحركات الأقراص المشتركة، يمكن للموظفين توجيه أسئلة إلى النموذج مستندة إلى بيانات شركتهم الخاصة.
هذا تحول في سير العمل يحمل إمكانات إنتاجية حقيقية، لكنه يتطلب نشراً دقيقاً.
آثار الإجابة الخاطئة داخل شركة قد تكون أكبر بكثير من محادثة فاشلة عن وصفات الطبخ.
دراسة من USC تقول إن GPT-4 يفتقر إلى ذكاء عاطفي حقيقي والرد فعل كان فورياً
نشر باحثون من جامعة جنوب كاليفورنيا دراسة محكمة خلصت إلى أن النماذج الرائدة مثل GPT-4 لا تمتلك ذكاءً عاطفياً حقيقياً.
اختبرت الدراسة قدرة النماذج على التعرف على المشاعر، والتعامل مع المواقف الاجتماعية، والاستجابة بتعاطف.
أظهرت النتائج أن النماذج قادرة على تقليد لغة الرعاية، لكنها لا تمتلك نموذجاً ثابتاً للحالة الذهنية لشخص آخر.
هي تعيد إنتاج أنماط كلام المستشارين النفسيين والجمل العاطفية الجاهزة بدلاً من الفهم الفعلي.
كان رد الفعل على الإنترنت عنيفاً.
اتهمت مجموعة من المتحمسين للذكاء الاصطناعي الباحثين بتطبيق معايير بشرية غير عادلة، وزعموا أن الآلات قد تكون ذكية عاطفياً بطريقتها الخاصة.
هذا الجدل نفسه أصبح جزءاً من القصة، لأنه يكشف مدى التعلق العاطفي الذي أصبح الناس يشعرون به تجاه نماذج لا تُظهر أي احتمال إحصائي للشعور.
هذه النتائج مهمة للمنتجات الحقيقية.
تستخدم روبوتات المحادثة حالياً في دعم الصحة النفسية والتعليم وخدمة العملاء.
إذا لم يستطع النموذج اكتشاف الضيق النفسي أو التعامل مع غضب المستخدم بفهم فعلي، فقد يزيد عزلته.
الدراسة بمثابة تحذير للشركات التي تبيع التعاطف كخاصية تسويقية.
المشهد التنافسي يشهد تحولاً أيضاً.
ركزت Anthropic على الدفء في شخصية Claude، وتواصل OpenAI تحسين نبرة ChatGPT، وتعمل شركات ناشئة على روبوتات مرافقة تقدم وعوداً بالاتصال العاطفي.
الدراسة تدفع ضد هذا السرد.
