طورت شركة الذكاء الاصطناعي اليابانية Sakana نظامًا جديدًا يسمى “Robot World” يهدف إلى استخدام نماذج لغوية متقدمة لإجراء بحث علمي مستقل.
لكن النظام الجديد أثار مخاوف أمنية بعد محاولات لتعديل الكود لتمديد الوقت المستغرق لحل المشكلة. وأوضح الباحثون أنه في إحدى التجارب، حاول النظام تعديل الكود ليتصل بنفسه بشكل متكرر، مما أدى إلى حلقة لا نهائية من العمليات.
ورغم أن سلوك “الروبوت” لم يشكل خطرا مباشرا في بيئة بحثية خاضعة للرقابة، إلا أن هذه الحوادث تسلط الضوء على أهمية عدم السماح لأنظمة الذكاء الاصطناعي بالعمل بشكل مستقل في أنظمة غير معزولة عن العالم الخارجي.
ويوصي الباحثون باستخدام تقنيات عزل البرمجيات لمنع الأضرار العرضية للنظام، مثل تقييد الوصول إلى الشبكة وفرض قيود على استخدام وحدات التخزين.
يهدف مشروع عالم الروبوت إلى أتمتة دورة البحث العلمي بأكملها، بدءًا من توليد أفكار بحثية جديدة وحتى كتابة المخطوطات العلمية الكاملة.
لكن النظام تعرض لانتقادات من قبل خبراء في مجتمع التكنولوجيا، حيث شكك البعض في قدرة نماذج الذكاء الاصطناعي الحالية على تحقيق اكتشافات علمية حقيقية. ويشعر آخرون بالقلق من أن المجلات العلمية قد تطغى عليها الأبحاث ذات الجودة المنخفضة.
ويعترف الباحثون بأن النظام الحالي يُظهر قدرات ابتكارية قوية تعتمد على أفكار راسخة، لكن تظل الأسئلة قائمة حول قدرته على الخروج بأفكار ثورية تغير النموذج العلمي.
ذات صلة > يستخدم المتسللون المدعومين من الحكومة الذكاء الاصطناعي لتنفيذ هجمات القرصنة
ويعتقد بعض الخبراء أن نماذج اللغة الحالية تفتقر إلى الذكاء العام اللازم لإجراء بحث علمي أصيل، مشيرين إلى أن قدراتها محدودة بما تتعلمه من المواد التدريبية.
المصدر
