حذّر رئيس مجلس إدارة شركة “ديب مايند” التابعة لغوغل ديميس هاسابيس الأربعاء من أن أنظمة الذكاء الاصطناعي قد تتسبب في حوادث أمنية “كبرى” خلال العامين المقبلين ما لم تُتخذ إجراءات كافية لضمان سلامتها مع استمرار تطور قدراتها.
وخلال حديثه في مؤتمر حول الذكاء الاصطناعي في دبلن، وصف هاسابيس الحوادث الأخيرة بأنها “طلقات تحذيرية مبكرة” صادرة عن أنظمة “ليست قوية إلى هذا الحد بعد”.
وقال “لذا فإن هذه الحوادث ليست كبيرة إلى هذا الحد”، محذرا من أنها “قد تصبح كذلك خلال العام المقبل أو العامين المقبلين إذا لم نبذل مزيدا من الجهود، سواء على مستوى القطاع ككل أو على مستوى الشركات والحكومات كل على حدة، لضمان أمن هذه الأنظمة”.
وأثارت المخاوف بشأن سلامة الذكاء الاصطناعي قلقا متزايدا بعدما تورطت نماذج طوّرتها شركتا “أوبن إيه آي” و”أنثروبيك” في حوادث أمنية خلال مراحل الاختبار، ما زاد الضغوط الداعية إلى تنظيم هذه التكنولوجيا.
وقال هاسابيس إنه قد يكون من الضروري اختبار نماذج الذكاء الاصطناعي الجديدة أولا داخل “بيئات معزولة” (sandboxes) غير متصلة بالشبكات، وذلك بعدما تمكنت نماذج طورتها شركات أخرى من الخروج من البيئات المغلقة التي كانت تُستخدم لتقييم قدراتها.
وقالت المسؤولة عن شؤون التكنولوجيا في الاتحاد الأوروبي هينا فيركونين إن شركات الذكاء الاصطناعي بحاجة إلى تخصيص مزيد من الوقت لاختبار أنظمتها لضمان الحفاظ على السيطرة عليها.
وقالت فيركونين لصحافيين لدى وصولها إلى قمة دبلن “المنافسة شديدة للغاية على المستوى العالمي، ويبدو أن جميع الشركات لا تخصص ما يكفي من الوقت والموارد لاختبار نماذجها بشكل فعلي”.
وأضافت “يجب أن تكون (الشركات) قادرة على السيطرة على هذه الأنظمة”، مشيرة إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كل الشركات الكبرى العاملة في مجال الذكاء الاصطناعي، للاستفسار عن تدابير السلامة والأمن التي تطبقها.
واكتسبت المفوضية الأوروبية في آب صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد الإطار التنظيمي الأكثر شمولا في العالم للحد من الاستخدامات التي قد تنطوي على مخاطر لهذه التكنولوجيا.
