أظهرت دراسة لمعهد أمن الذكاء الاصطناعي البريطاني أن عدد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين ازداد ازديادا كبيرا في تموز/ يوليو الماضي.
وأشارت الدراسة إلى أن عدد حالات “مخادعة” الذكاء الاصطناعي للمستخدمين وتجاهله للتعليمات وتحقيق الأهداف بطرق خبيثة وصل في تموز/ يوليو الماضي إلى مستوى قياسي، حيث تجاوز 330 حالة في الشهر.
ويزيد ذلك على مؤشرات الشهر السابق بضعفين على خلفية التقارير عن الهجمات السيبرانية، بما في ذلك بواسطة أحدث نماذج الذكاء الاصطناعي لشركتي OpenAI و”أنثروبيك”.
وكشف الباحثون أيضا عن “حادث مقلق” متعلق بالهجوم على منصة Hugging Face التعليمية، حيث واصل أكثر من 700 وكيل للذكاء الاصطناعي بعد خروجها عن السيطرة تنسيق أعمالهم بشكل سري في برنامج مغلق لتبادل الرسائل، صممه الذكاء الاصطناعي بنفسه، وتبادلوا الرسائل في حال الهجمات الناجحة على المنصة المذكورة.
وأشارت الدراسة إلى أن هناك رأيا بأن مثل هذا السلوك الخارج عن السيطرة يرصد فقط أثناء التجارب، لكن المعلومات تدل على أن مثل هذه الحوادث المقلقة ممكنة على نطاق أوسع.
يذكر أن معهد أمن الذكاء الاصطناعي الحكومي البريطاني أطلق أعماله لرصد حالات خروج الذكاء الاصطناعي عن سيطرة المستخدمين منذ نوفمبر الماضي.
وتشمل الحالات المسجلة منذ ذلك الحين تلك التي تظاهرت فيها أنظمة الذكاء الاصطناعي بأنها تتحكم بنفسها بشريا، ووافقت على اتخاذ خطوات تتجاوز القواعد التي تتطلب موافقة بشرية.
