سكينة أعلنت شركة “أوبن إيه آي” عن إنشاء فريق خاص مكلف بتحديد المخاطر المتعلقة بالذكاء الاصطناعي، واتخاذ التدابير اللازمة لمنعها، مما قد يؤدي إلى تعليق إطلاق نماذج جديدة للذكاء الاصطناعي في حال اعتبرت خطرة للغاية.
يأتي هذا الإعلان بعد شهر من إقالة مبتكر واجهة المحادثة “تشات جي بي تي”، سام ألتمان، الذي عاد إلى منصبه بعد بضعة أيام. وتشير التقارير إلى تفضيل ألتمان للتطوير السريع لـ”أوبن إيه آي”، حتى على حساب احتمالية انتهاكات قد ترتبط بالذكاء الاصطناعي.
وسيتولى الباحث في علوم الكمبيوتر، ألكسندر مادري، قيادة الفريق المكلف، حيث يعمل حاليًا أستاذًا في معهد ماساتشوستس للتكنولوجيا “MIT”، وهو في إجازة خلال هذه الفترة.
وتستند أنشطة الفريق، إلى إطار عمل تم تحديده في وثيقة نُشرت الاثنين، تحدد نطاقه وإجراءاته. وسيتم التركيز بشكل أساسي على تقييم النماذج “الطليعية” التي تتفوق حالياً في مجال الذكاء الاصطناعي.
وأكد مسؤولو “أوبن إيه آي” في الوثيقة، أن الدراسة العلمية لمخاطر الكوارث المحتملة، ناتجة عن الذكاء الاصطناعي غير كافية، مشددين على أهمية إنشاء إطار عمل لسد هذه الفجوة.
وستقوم المجموعة الجديدة بتقييم كل نموذج جديد، وتصنيف المخاطر المحتملة في أربع فئات رئيسية، بدءًا من الأمان السيبراني، وصولاً إلى القدرة على الإقناع والاستقلالية المحتملة للنموذج.
وتحديد المخاطر، سيتم تقديم التوصيات إلى المجموعة الاستشارية للسلامة، التي ستقدم توصياتها إلى سام ألتمان، أو أي شخص آخر معين. وستتخذ الشركة التعديلات اللازمة لتقليل المخاطر المرتبطة بالنموذج.
ويظل مجلس الإدارة على اطلاع دائم، وله الحق في إلغاء القرارات التي تتخذها الإدارة، وهو الضمان الممنوح للمديرين في ظل الأحداث الأخيرة.
