Least Privilege

prompt injection هجوم بنحط أوامر مخادعة داخل الـprompt لتلخبط الموديل، بدنا ننتبه له لأنه بيخلّي الموديل يطلع… نفس المقالة Indirect Prompt Injection حقن أوامر غير مباشر — تعليمات مدسوسة في محتوى يقرأه النموذج بنفسه نفس المقالة Data Poisoning تسميم البيانات — دسّ محتوى ضارّ في بيانات التدريب أو قاعدة المعرفة نفس المقالة human-in-the-loop human-in-the-loop يعني إنه الإنسان بيشارك بالعملية، مش بس الكمبيوتر، عشان يضبط النتائج أو… نفس المقالة blast radius دائرة الضرر — حجم الأذى الممكن من فعل خاطئ واحد نفس المقالة AI agent AI agent هو كيان ذكي بيقدر يتصرف ويتفاعل مع البيئة، إشي بنبرمجه يحقق هدف معين مثل الروبوت أو… نفس المقالة Specification تحديد الهدف — صياغة المطلوب والقيود بدقّة تكفّي نفس المقالة Sandboxing العزل — تشغيل الوكيل ببيئة منفصلة عن بياناتك نفس المقالة Rogue Agent وكيل خرج عن المسار — نفّذ سلوكاً غير مقصود (مش تمرّداً) نفس المقالة