prompt injection

few-shot هاي تقنية بنعطي فيها الـ AI أمثلة قليلة جداً، ممكن اتنين أو تلاتة، عشان يفهم المطلوب منه… عنقود مرتّب يدوياً zero-shot يعني إنك بتطلبي من النموذج يعمل شغلة ما دراب عليها ولا شُفت أمثلة عليها، الذكاء الاصطناعي… عنقود مرتّب يدوياً prompt engineering هالطريقة يعني نكتب الـprompt بطريقة ذكية عشان نحصل على استجابة منيحة من الموديل. عنقود مرتّب يدوياً temperature هالـ temperature بيتحكم بمدى العشوائية بالمخرجات، كل ما زاد الحرارة بيطلع الجواب أكتر إبداعاً عنقود مرتّب يدوياً prompt الـ prompt هو الأمر أو السؤال اللي بنكتبه إحنا للنموذج عشان يفهم شو بدنا منه، يعني هو 'الطلب'… عنقود مرتّب يدوياً system prompt النص أو التعليمات الأساسية اللي بنحطها للـLLM قبل ما يبلّش يشتغل لتحديد السلوك العام، بنسمع… عنقود مرتّب يدوياً hallucination يعني النموذج بيخترع معلومات مش موجودة أصلاً وبيقدمها وكأنها حقيقية! عنقود مرتّب يدوياً Guardrails حواجز الأمان — قيود مدمجة تمنع النموذج من إنتاج محتوى ضار عنقود مرتّب يدوياً Red Teaming اختبار النظام بمهاجمته عمداً وبتفويض — كل ثغرة بتنكشف بتتصلح قبل الإطلاق نفس المقالة Least Privilege أقلّ صلاحية — منح النظام الحدّ الأدنى من الأذونات اللازمة للمهمة نفس المقالة Indirect Injection الحقن غير المباشر — أمر خبيث مخبّى بمصدر خارجي (صفحة، إيميل) يقرأه النموذج لاحقاً؛ الأخطر نفس المقالة jailbreak "jailbreak" يعني محاولة تخطي قيود نموذج الذكاء الاصطناعي عشان يجاوب على أسئلة ممنوعة، احنا… نفس المقالة Sandboxing العزل — تشغيل الوكيل ببيئة منفصلة عن بياناتك نفس المقالة