مايكروسوفت تكشف أداة جديدة لمراقبة الذكاء الاصطناعي ، في التفاصيل ، حيث أعلنت مايكروسوفت عن إطلاق إطار عمل جديد مفتوح المصدر يحمل اسم ASSERT، في خطوة تستهدف مساعدة المطورين والشركات على اختبار أنظمة الذكاء الاصطناعي والتأكد من التزامها بالقواعد والسياسات المحددة لكل تطبيق أو خدمة.

ما هي أداة ASSERT الجديدة؟

تعد ASSERT أداة مصممة لتقييم سلوك أنظمة الذكاء الاصطناعي بشكل أكثر دقة، حيث لا تكتفي بقياس أداء النموذج بصورة عامة، بل تركز على مدى التزامه بالتعليمات والقواعد الخاصة بالمؤسسات والتطبيقات المختلفة.

وتساعد الأداة الشركات على التأكد من أن الأنظمة الذكية تعمل ضمن الحدود المطلوبة دون تجاوز السياسات أو الضوابط المحددة مسبقاً.

تحويل التعليمات إلى اختبارات تلقائية

تعتمد الأداة على الذكاء الاصطناعي لتحويل التعليمات المكتوبة بلغة طبيعية إلى اختبارات عملية قابلة للتنفيذ. فبمجرد تحديد السلوكيات المطلوبة أو المحظورة، تقوم ASSERT بإنشاء سيناريوهات متنوعة لاختبار النظام وقياس مدى التزامه بهذه القواعد.

وبعد تشغيل الاختبارات، يحصل المطورون على نتائج تفصيلية تساعدهم في اكتشاف الأخطاء والانحرافات السلوكية المحتملة.

فهم أسباب الأخطاء بشكل أعمق

من أبرز مزايا ASSERT قدرتها على تتبع الخطوات التي ينفذها نظام الذكاء الاصطناعي أثناء أداء المهام المختلفة، بما يشمل العمليات الوسيطة واستدعاء الأدوات الخارجية.

ويسمح ذلك للمطورين بفهم أسباب المشكلات بشكل أوضح، بدلاً من الاكتفاء بمعرفة أن الخطأ وقع دون معرفة مصدره الحقيقي.

كيف يمكن استخدام الأداة داخل الشركات؟

يمكن توظيف ASSERT في العديد من السيناريوهات العملية، مثل اختبار المساعدات الذكية المستخدمة داخل المؤسسات. فعلى سبيل المثال، يمكن وضع قواعد تمنع مشاركة المعلومات السرية أو إرسال بيانات إلى جهات غير مخولة بالوصول إليها.

وتقوم الأداة تلقائياً بإنشاء اختبارات متعددة للتأكد من التزام النظام بهذه الضوابط بشكل مستمر.

سد فجوة مهمة في تقييم الذكاء الاصطناعي

ترى مايكروسوفت أن طرق التقييم التقليدية لم تعد كافية مع تطور أنظمة الذكاء الاصطناعي الحديثة، إذ تختلف متطلبات كل مؤسسة وتطبيق عن الآخر. لذلك جاءت ASSERT لتوفير تقييم أكثر ارتباطاً بالسياق الفعلي وطبيعة الاستخدام.

كما يمكن استخدام الأداة خلال مراحل التطوير الأولى، وبعد إطلاق المنتجات، وحتى ضمن عمليات المراقبة المستمرة على المدى الطويل.

اتجاه متزايد نحو اختبارات أكثر دقة

يأتي إطلاق ASSERT في وقت تتجه فيه شركات التكنولوجيا ومراكز الأبحاث إلى تطوير أدوات متقدمة لتقييم النماذج الذكية بشكل مستمر، بدلاً من الاكتفاء بالاختبارات التقليدية قبل طرح المنتجات للمستخدمين.

وتعكس هذه الخطوة اهتماماً متزايداً داخل قطاع الذكاء الاصطناعي ببناء أنظمة أكثر موثوقية وقدرة على الالتزام بالمعايير والسياسات المطلوبة في بيئات العمل المختلفة.