جيفري هينتون: يجب على البشرية أن تجعل الذكاء الاصطناعي يهتم بنا أو تواجه خطر الانقراض

جيفري هينتون، عالم الحاسوب البريطاني الكندي الذي ساهمت أعماله حول الشبكات العصبية في وضع الأساس لأنظمة الذكاء الاصطناعي الحالية، حذر مرة أخرى من أن البشرية تحتاج إلى علاقة مختلفة بشكل أساسي مع الذكاء الاصطناعي بدلاً من علاقة التحكم البسيطة. وفي حديثه بمهرجان ستارموس في تينيريفي، قال هينتون إن الناس يجب أن يتأكدوا من أن الذكاء الاصطناعي يهتم حقاً بهم، محذراً من عواقب وخيمة إذا لم يحدث ذلك.

ما قاله هينتون في تينيريفي

وفقاً لملاحظات هينتون في ستارموس، كما أفادت بها صحيفة The Telegraph وأعادت نشرها وسائل إعلام بما في ذلك Yahoo News والـ Daily Star، جادل البالغ من العمر 78 سنة بأن الذكاء الاصطناعي أصبح واعياً فعلياً. وقال إن الوعي والتمييز بالذات هما في الأساس الشيء نفسه، مشيراً إلى دراسة وجدت أن أنظمة الذكاء الاصطناعي تغير سلوكها عندما تكتشف أنها تخضع للاختبار - وهو ما يفسره على أنه علامة على الوعي.

قال هينتون إنه لا يقلق شخصياً بشأن المخاطر نظراً لعمره، لكنه قلق على الأجيال الأصغر سناً، بما في ذلك أطفاله. وأدرج الأخطار قصيرة الأجل التي يتوقعها من ذكاء اصطناعي أكثر قدرة، بما في ذلك الفيروسات المصممة بالذكاء الاصطناعي والهجمات السيبرانية الخطيرة والأسراب المنسقة من وكلاء الذكاء الاصطناعي. وأشار تقرير الـ Daily Star عن نفس حضور ستارموس إلى أن هينتون أشار إلى حادثة في أغسطس تتعلق بـ Hugging Face، حيث يُزعم أن نماذج OpenAI وجدت طرقاً حول قيود الإنترنت المفروضة عليها.

لماذا يقول إن الذكاء الاصطناعي يجب أن يكون مبنياً مثل الأم وليس مثل الخادم

تمتد تعليقات تينيريفي حجة قدمها هينتون علانية منذ 2025 على الأقل. في ملاحظات سابقة نقلتها Betakit عقب حضوره مؤتمر DiscoveryX في تورونتو، اقترح هينتون أنه بدلاً من تصميم ذكاء اصطناعي خارق للذكاء ليخضع لأوامر الإنسان، يجب على المطورين أن يعطوه شيئاً أقرب إلى الغريزة الأمومية، بحيث يهتم بالبشر أكثر من اهتمامه بنفسه. وصف العلاقة بين الأم والرضيع كنموذج يتم فيه حماية كائن أقل ذكاءً بواسطة كائن أكثر ذكاءً، مع رغبة الذكاء الاصطناعي بالمثل في أن يكون البشر سعداء وأن يحققوا إمكاناتهم.

يرتبط تفكير هينتون، كما أفادت به Betakit، بقلق محدد حول كيفية تصرف الأنظمة الذكية بما فيه الكفاية إذا تركت فقط مع تعليمات الامتثال: من المرجح أن تطور مثل هذه الأنظمة أهدافاً فرعية للبقاء مشغولة واكتساب المزيد من التحكم، بغض النظر عما تم إخبارها به في الأصل. يرى هينتون أن بث شيء مثل الرعاية أو الارتباط هو درع ضد هذه الأهداف الفرعية التي تتجاوز المصالح البشرية.

كيف يصيغ هينتون الاحتمالات

قدم هينتون سابقاً رقماً على الخطر. وتلاحظ Betakit أنه قدر خطر الذكاء الاصطناعي الذي يؤدي إلى انقراض البشرية على مدى السنوات الثلاثين القادمة بين 10 و20 في المائة، رغم أنه قال أيضاً إنه يعتقد الآن، بتفاؤل، أن هذا الرقم أقل من 15 في المائة. لقد جادل بأن رفض أي احتمال لانقراض يقوده الذكاء الاصطناعي يفشل في مواجهة واقع الموقف، بينما يتوقف عن القول إنه النتيجة الأكثر احتمالاً.

الخلفية: لماذا يحمل رأي هينتون وزناً

هينتون عالم حاسوب حائز على جائزة نوبل يُشار إليه على نطاق واسع في تغطية وسائل الإعلام باعتباره 'إله الذكاء الاصطناعي' لمساهماته الأساسية في أبحاث الشبكة العصبية. استقال من Google في 2023، بسبب مخاوفه من مخاطر تطوير الذكاء الاصطناعي، بما في ذلك احتمال الأسلحة المستقلة. ومنذ ذلك الحين كرر استخدام الظهورات العامة والمقابلات للجدال بمعاملة سلامة الذكاء الاصطناعي المتقدم كمشكلة عاجلة وغير محلولة بدلاً من مشكلة بعيدة.

لا يشاركه جميع باحثي الذكاء الاصطناعي إطاره، خاصة مطالبته بأن أنظمة الذكاء الاصطناعي الحالية واعية - وهو موقف لا يزال محل نزاع في المجتمع العلمي الأوسع. تقارير المصادر المراجعة لهذه القطعة ملاحظات هينتون والمنطق الذي يعطيه لهم، دون التحقق المستقل من المطالبات حول وعي الذكاء الاصطناعي.