«حقن الأوامر» هو هجوم يتم فيه إدراج تعليمات موجهة للنموذج — بدلاً من الإنسان — في المحتوى الذي تعالجه أداة الذكاء الاصطناعي. عندما يقوم المساعد أو الوكيل بتصفح الويب أو قراءة رسائل البريد الإلكتروني أو معالجة المستندات، قد يفسر مثل هذا التوجيه الخفي على أنه تعليمات، فيقوم على سبيل المثال بإرسال البيانات أو تغيير الرد أو تنفيذ إجراء غير مرغوب فيه. يزداد الخطر مع تزايد الصلاحيات التي يتمتع بها الأداة – ويصل إلى ذروته في حالة الوكلاء الذين يتمتعون بإمكانية الوصول إلى أنظمة الشركة. وتتمثل وسائل الدفاع في تقييد الصلاحيات إلى الحد الضروري، وفصل المدخلات الموثوقة عن غير الموثوقة، وخطوة الموافقة على العمليات ذات التأثير الكبير، وتسجيل الإجراءات المنفذة. وهذا سبب يدفع الشركة إلى عدم السماح للوكلاء بالوصول إلى الأنظمة الحساسة دون رقابة، حتى لو قدمها المصنع على أنها آمنة.
انظر أيضًا: الوكيل الذكي وأدوات الوكالة، ومتانة نظام الذكاء الاصطناعي، وإدارة الوصول إلى البيانات.
