Parameter

quantization الـ quantization هو تحويل القيم العائمة للوزن إلى أعداد صحيحة أصغر، يعني بنقلل الدقة شوي عشان… عنقود مرتّب يدوياً SLM اختصار لـ Statistical Language Model، يعني نموذج إحصائي بيتعلم من النصوص عشان يتوقع الكلمات… عنقود مرتّب يدوياً inference inference هو عملية استنتاج النتيجة من الموديل بعد ما تدرب، يعني بنشغله على بيانات جديدة لنشوف… عنقود مرتّب يدوياً context window context window هو طول النص اللي النموذج بيقدر يشتغل عليه مرة وحدة، كل ما كان أكبر بنقدر نعطيه… عنقود مرتّب يدوياً tokenization يعني نقسّم النص لكلمات أو قطع أصغر اسمها tokens، بنعمل هالشي عشان النموذج يقدر يفهم النص خطوة… عنقود مرتّب يدوياً token التوكن هو أصغر وحدة نصية بنعالجها الموديلات، ممكن تكون كلمة أو جزء منها، بنقسم النص لإشي اسمه… عنقود مرتّب يدوياً Knowledge Cutoff حدود المعرفة — التاريخ الذي تنتهي عنده بيانات تدريب النموذج عنقود مرتّب يدوياً 7B / 70B حجم النموذج بعدد بارامتراته: B = مليار (Billion)، T = تريليون (Trillion) نفس المقالة on-device AI ذكاء اصطناعي بيشتغل على الجهاز نفسه بدون سحابة نفس المقالة distillation تقنية بنأخذ فيها نموذج ذكاء اصطناعي كبير وقوي ونعلّم نموذج أصغر يحاكيه، عشان نحصل على أداء شبه… نفس المقالة