قال المهندس حازم محمد، استشاري أمن المعلومات، إن الحوادث المرتبطة بمحاولات استغلال أنظمة الدعم المعتمدة على الذكاء الاصطناعي تعكس تحديًا متزايدًا في مجال الأمن السيبراني، مشيرًا إلى أن بعض هذه الأنظمة قد يتم استدراجها داخل المحادثات بشكل يسمح بمحاولة الوصول إلى بيانات أو حسابات المستخدمين.
وأوضح محمد، خلال مداخلة هاتفية لفضائية "إكسترا نيوز "، أن هناك تقارير تتحدث عن استغلال محتمل لنظام دعم العملاء المدعوم بالذكاء الاصطناعي في إحدى منصات التواصل الاجتماعي، حيث يحاول بعض المهاجمين الإلكترونيين إقناع أنظمة الـAI بالمساعدة في تنفيذ عمليات تتعلق بالحصول على بيانات أو تجاوز بعض إجراءات التحقق.
وأضاف أن بعض أساليب التحقق مثل الصور الشخصية أو مقاطع الفيديو قد يتم التحايل عليها باستخدام تقنيات الذكاء الاصطناعي التوليدي، مما قد يربك أنظمة التمييز بين المحتوى الحقيقي والمزيف في بعض الحالات.
وأكد استشاري أمن المعلومات أن هذه التحديات لا تعني بالضرورة وجود اختراق مباشر للأنظمة، لكنها تعكس ما وصفه بمخاطر “سوء توظيف” تقنيات الذكاء الاصطناعي، داعيًا إلى تعزيز طبقات الحماية وتطوير آليات تحقق أكثر صرامة للحد من أي محاولات استغلال مستقبل.
أخبار متعلقة :