Guardrails

hallucination يعني النموذج بيخترع معلومات مش موجودة أصلاً وبيقدمها وكأنها حقيقية! عنقود مرتّب يدوياً zero-shot يعني إنك بتطلبي من النموذج يعمل شغلة ما دراب عليها ولا شُفت أمثلة عليها، الذكاء الاصطناعي… عنقود مرتّب يدوياً temperature هالـ temperature بيتحكم بمدى العشوائية بالمخرجات، كل ما زاد الحرارة بيطلع الجواب أكتر إبداعاً عنقود مرتّب يدوياً system prompt النص أو التعليمات الأساسية اللي بنحطها للـLLM قبل ما يبلّش يشتغل لتحديد السلوك العام، بنسمع… عنقود مرتّب يدوياً prompt injection هجوم بنحط أوامر مخادعة داخل الـprompt لتلخبط الموديل، بدنا ننتبه له لأنه بيخلّي الموديل يطلع… عنقود مرتّب يدوياً prompt engineering هالطريقة يعني نكتب الـprompt بطريقة ذكية عشان نحصل على استجابة منيحة من الموديل. عنقود مرتّب يدوياً prompt الـ prompt هو الأمر أو السؤال اللي بنكتبه إحنا للنموذج عشان يفهم شو بدنا منه، يعني هو 'الطلب'… عنقود مرتّب يدوياً few-shot هاي تقنية بنعطي فيها الـ AI أمثلة قليلة جداً، ممكن اتنين أو تلاتة، عشان يفهم المطلوب منه… عنقود مرتّب يدوياً Over-refusal الرفض الزائد — رفض طلبات بريئة بالخطأ نفس المقالة jailbreak "jailbreak" يعني محاولة تخطي قيود نموذج الذكاء الاصطناعي عشان يجاوب على أسئلة ممنوعة، احنا… نفس المقالة