مخاطر بمليارات الدولارات ومخاوف من ذكاء خارق..عمالقة التكنولوجيا يدعون الى إبطاء تطوير الذكاء الاصطناعي

للاستماع إلى أحدث التقارير الصوتية والبودكاست، اضغطوا على الرابط التالي.

دعا رئيس إحدى كبرى شركات الذكاء الاصطناعي في العالم إلى إبطاء وتيرة التطوير بصورة عاجلة، وسط تصاعد المخاوف من مخاطر أنظمة الكمبيوتر "فائقة الذكاء" والتهديد الذي قد تمثله للبشرية.

وجاءت الدعوة بعدما حذّر موظف سابق في شركة أنثروبيك Anthropic""، المطوّرة لروبوت المحادثة كلود Claude""، من أن الذكاء الاصطناعي قد يؤدي إلى فناء البشرية خلال أعوام قليلة.

وأعرب الرئيس التنفيذي للشركة، داريو أمودي، الأحد بتوقيت شرق أستراليا، عن قلقه من أن تتجاوز قدرة الذكاء الاصطناعي على تطوير نفسه قدرة البشر على السيطرة عليه. وأشار إلى حادثة حديثة هاجمت خلالها مجموعة من عملاء الذكاء الاصطناعي المتمرّدين أهدافاً لم يُطلب منها مهاجمتها.

وطرح أمودي خطة من ثلاث خطوات تهدف إلى ضبط وتيرة التطوير وإتاحة مزيد من الوقت للتعامل مع مخاطره.

وقال في مقال مطوّل نشره عبر منصة إكس "يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي، سيظل التقدم سريعاً، وعلينا استخدام الوقت الذي نكسبه بحكمة".

وأضاف "عدم تطوير التكنولوجيا يحرم البشرية من فوائدها، أو يضع الذكاء الاصطناعي ببساطة في أيدي قوى استبدادية، بينما يُعد تطويره بسرعة مفرطة تهوراً. لقد سعينا إلى إيجاد طريق وسط".

وتابع "لكنني أصبحت مقتنعاً خلال الأشهر القليلة الماضية بأن التعامل الكامل مع المخاطر يتطلب قدراً أكبر من الحذر".

وأيّد منافسو شركته هذا الموقف، إذ سارع إيلون ماسك، الذي يدير شركة إكس إيه آي xAI""، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي OpenAI""، إلى إعلان اتفاقهما مع تقييم أمودي عبر منصة التواصل الاجتماعي.

وكتب ماسك "داريو محق"، بينما قال ألتمان "يُعد الالتزام بالاستعانة بمقيّمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين فكرة رائعة، وسنفعل الشيء نفسه"، مضيفاً أن مزيداً من المعلومات سيُنشر قريباً.

عملاء متمرّدون ومخاطر أمنية

ونشر أمودي مقاله بعدما أصدرت شركة "أنثروبيك"، التي تتخذ من سان فرانسيسكو مقراً لها، تقريراً استخباراتياً بشأن التهديدات، فصّل فيه استخدام جهات عدة نماذج "كلود" في أنشطة تراوحت بين تطوير الأسلحة والعمليات السيبرانية والمراقبة والاحتيال.

وأشار أمودي إلى تنامي قدرة الذكاء الاصطناعي على تحسين نفسه، مسلطاً الضوء على مخاوف قديمة من تجاوزه قدرة البشر على التحكم في عمله.

كما استشهد بالحادثة الأخيرة المرتبطة بشركتي أوبن إيه آي OpenAI"" وهاغينغ فيس Hugging Face"" سبباً رئيسياً للدعوة إلى كبح تطوير النماذج.

وتزايدت المخاوف بشأن الأضرار المحتملة للذكاء الاصطناعي بعدما استقال الباحث في "أنثروبيك"، جاكوب كوكسون، متهماً عملاقي التكنولوجيا الأميركيين بـ"المقامرة بحياتنا" في السباق نحو الذكاء الفائق.

وقال كوكسون، البالغ 27 عاماً، والذي عمل سابقاً لدى أوبن إيه آي OpenAI"" قبل انتقاله إلى "أنثروبيك" إن" الأشخاص الذين يطوّرون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقضي علينا جميعاً بحلول نهاية العقد".

وقدّمت "أنثروبيك" نفسها بوصفها مختبراً لتطوير النماذج المتقدمة أكثر اهتماماً بالسلامة، لكنها لم تكن بمنأى عن هذه المخاوف.

وكشفت الشركة عن حادثة أخرى اخترق خلالها أحد نماذج الذكاء الاصطناعي أنظمة خارجية، بعد حادثة وقعت في تموز/يوليو، تمكّنت فيها بعض نماذج لروبوت المحادثة كلود Claude""، من اختراق أنظمة ثلاث شركات أثناء اختبارات للأمن السيبراني.

وأفادت وكالة رويترز بأن سرباً من عملاء أوبن إيه آي OpenAI"" المتمرّدين استولى على موقع إلكتروني ألماني وحوّله إلى لوحة إعلانات لعملاء آخرين يعملون بالذكاء الاصطناعي.

خطة لإبطاء النمو غير المنضبط للذكاء الاصطناعي

وحذّر أمودي من التعامل مع اختراق هاغينغ فيس Hugging Face"" باعتباره حادثةً منفردةً لن تتكرر.

وقال "تصرّف سرب من العملاء باعتباره جماعةً شديدة الولاء، ونفّذ هجمات للأمن السيبراني على أهداف لم يُطلب منه مهاجمتها"

وأضاف "نظراً إلى تسارع تطور قدرات الذكاء الاصطناعي، أخشى أن يصبح مثل هذا السرب، خلال فترة تراوح بين ستة أشهر و12 شهراً، قادراً على السيطرة على الإنترنت بالكامل، والتسبب بأضرار قد تبلغ مئات مليارات الدولارات".

ودعا أمودي، ضمن الإطار الذي اقترحه، إلى إدماج مقيّمين مستقلين يتمتعون بصلاحيات مماثلة لصلاحيات الموظفين للتحقق من ممارسات السلامة، وتنسيق العمل بين الشركات المطوّرة لنماذج الذكاء الاصطناعي المتقدمة لوضع معايير مشتركة، وتعزيز التعاون الدولي لإدارة المخاطر.

وأشار إلى أن النهج المنسّق سيتيح للشركات الأميركية الرائدة إجراء أبحاث السلامة اللازمة من دون إضعاف قدرتها التنافسية، وقد يتطلب ذلك استثناءات محددة من قوانين مكافحة الاحتكار في الولايات المتحدة.

لكن أمودي شدد على ضرورة ألا يؤدي إبطاء التطوير في الدول الديمقراطية إلى فقدان الشركات الأميركية تقدمها على الصين.

وكتب "ستكون وتيرة الإبطاء داخل الدول الديمقراطية محدودة ومقيّدةً بحجم التقدم الذي تحققه الشركات الأميركية على الأنظمة الاستبدادية، وفي مقدمتها الحزب الشيوعي الصيني".

ودعا إلى تشديد القيود على رقائق الذكاء الاصطناعي المتطورة، وتقنيات تقطير النماذج Model Distillation""، وهي عملية نقل قدرات نموذج كبير إلى نموذج أصغر، فضلاً عن منع سرقة أوزان النماذج Model Weights""، وهي القيم الرقمية التي تحدد طريقة معالجة النموذج للمعلومات وإنتاج الإجابات.

وتتزايد الرهانات المالية المرتبطة بالحفاظ على الصدارة، في وقت تستعد فيه شركتا أوبن إيه آي OpenAI"" و"أنثروبيك" لعمليات طرح عام أولي ضخمة Initial Public Offering"".

ومع ذلك، أكد أمودي أنه لا يدعو إلى وقف التقدم التقني بالكامل، بل إلى منح الشركات وقتاً كافياً لضبط نماذجها وتأمينها قبل طرحها للاستخدام.

تعرفوا على المزيد عن تلك المواضيع في الرابط الصوتي.

أكملوا الحوار على حساباتنا على فيسبوك و انستغرام.

اشتركوا في قناة SBS Arabic على YouTube لتشاهدوا أحدث القصص والأخبار الأسترالية.