أعلنت شركة "مايكروسوفت" العالمية عن إطلاق أداة برمجية جديدة ومبتكرة تتيح للمطورين والشركات اختبار وتقييم سلوك أنظمة الذكاء الاصطناعي والتحقق من مدى التزامها بالمعايير والسياسات المحددة لها.
وتعتمد الأداة الجديدة على تلقي الأوامر المكتوبة باللغة البشرية الطبيعية، مما يمثل نقلة نوعية في منهجية إدارة وتدقيق الأنظمة الذكية.
وتأتي هذه الخطوة في إطار مبادرة تقنية جديدة مفتوحة المصدر أطلقت عليها الشركة اسم "أسيرت" (ASSERT)، صُممت خصيصاً لمساعدة المؤسسات على تجاوز تقييمات الأداء العامة لنماذج الذكاء الاصطناعي، والانتقال إلى مرحلة التدقيق السلوكي الدقيق لضمان توافق التطبيقات والخدمات مع متطلبات وبيئات العمل الخاصة بكل منتج.
آلية عمل ذكية لتحويل المتطلبات إلى سيناريوهات اختبار
وأوضحت "مايكروسوفت" أن أداة "ASSERT" تعتمد في جوهرها على تقنيات الذكاء الاصطناعي لتحويل الأوصاف والمتطلبات المقروءة التي يصيغها المطورون بلغة طبيعية إلى مصفوفة متكاملة من الاختبارات التقنية القابلة للقياس والتقييم الكمي والنوعي.
وتبدأ الدورة التشغيلية للأداة بمجرد قيام المطور بتحديد الأهداف التشغيلية والسياسات العامة أو القيود السلوكية المتوقعة من النظام؛ حيث تتولى الأداة تلقائياً تصنيف هذه البيانات إلى "قائمة سلوكيات منظمة" تفصل بين التصرفات المقبولة وتلك غير المقبولة. وبناءً على هذه القائمة، تولّد الأداة سيناريوهات اختبارية متنوعة ومحاكاة دقيقة لقياس مدى انضباط النظام المستهدف، ومن ثم تشغيلها وتقديم تقارير تفصيلية تكشف بدقة عن نقاط الضعف أو أي انحرافات سلوكية عن النطاق المحدد.
مزايا تقنية متقدمة لرصد مسارات الأنظمة الذكية
وتتميز الأداة الجديدة بقدرات متقدمة على رصد وتوصيف المسارات والخطوات الوسيطة التي يسلكها نظام الذكاء الاصطناعي أثناء تنفيذه للمهام الموكلة إليه، بما في ذلك طريقة استخدامه للأدوات والبرمجيات المساعدة المختلفة. وتتيح هذه الميزة للمهندسين والمطورين فهماً أعمق للجذور المسببة للأخطاء أو الإخفاقات التشغيلية وعلاجها بكفاءة.
كما تمنح الأداة مرونة عالية للمستخدمين عبر السماح بإدراج متغيرات ومعلومات إضافية تخص بيئة العمل الفعلية، مثل القيود التنظيمية والقانونية، والأدوات التقنية المتاحة، مما يسهم بشكل مباشر في تخصيص عملية التقييم بدقة متناهية لتلائم طبيعة التطبيقات المختلفة، سواء كانت مالية، طبية، أو خدمية.
"الذكاء الاصطناعي المسؤول" وموثوقية الأنظمة
وفي هذا السياق، أكدت سارة بيرد، رئيسة المنتجات في قسم "الذكاء الاصطناعي المسؤول" لدى "مايكروسوفت"، أن بناء أنظمة ذكية جديرة بالثقة يتطلب قياس طيف واسع من الجوانب المرتبطة بطبيعة التطبيق وسياقه العملي. وأشارت إلى أن التقييمات الدقيقة أصبحت عنصراً حاسماً للمؤسسات لاتخاذ قرارات استراتيجية صائبة؛ إذ لا يمكن الحكم على موثوقية هذه الأنظمة دون فهم سلوكها الفعلي على أرض الواقع.
وأضافت بيرد أن الأداة الجديدة تمتاز بمرونة زمنية عالية؛ حيث يمكن دمجها واستخدامها في مختلف المراحل والخطط الزمنية للمشروعات البرمجية، بدءاً من مراحل التطوير الأولية في المختبرات، مروراً بمرحلة الإطلاق الرسمي للمستخدمين، وصولاً إلى عمليات المراقبة والتدقيق المستمرة على المدى الطويل للتأكد من عدم حدوث أي تراجع في الأداء السلوكي للنماذج.
توجه عام نحو استدامة التقييم التقني
ويأتي إطلاق أداة "ASSERT" بالتزامن مع طفرة تقنية متسارعة وتوجه متنامٍ داخل قطاع التكنولوجيا العالمي يطالب بضرورة تطوير آليات اختبار أكثر صرامة واستدامة، خاصة مع تنامي القدرات الذاتية للنماذج اللغوية والذكية الحديثة وتداخلها في مفاصل العمل اليومي.
ويعكس هذا التوجه تحولاً في الفلسفة التقنية للشركات الكبرى؛ حيث لم يعد يُنظر إلى تقييم أنظمة الذكاء الاصطناعي بوصفه خطوة أولية منفصلة تسبق طرح المنتجات في الأسواق، بل تحول إلى "عملية منهجية ومستمرة" ترافق المنتج طوال عمره الافتراضي لضمان سلامة التفاعل الرقمي والحد من المخاطر البرمجية والأخلاقية.
أخبار متعلقة :