sparse attention

LLM نموذج لغة ضخم بتعلم على مليارات الكلمات وبعدين بيقدر يتنبأ ويكتب نصوص زي ChatGPT و Claude. أوراق نفس اليوم benchmark يعني مجموعة معايير واختبارات بنستخدمها عشان نشيك كيف أداء النموذج تبعنا، شو مستواه الفعلي. أوراق نفس اليوم transformer هو البنية الأساسية اللي قايم عليها الذكاء الاصطناعي الحديث كله، بيشتغل على مبدأ الانتباه يعني… أوراق نفس اليوم contextual bandit contextual bandit هو نوع من التعلم الآلي بيختار فعل بناءً على السياق الحالي وبيرجع مكافأة… أوراق نفس اليوم RAG اختصار Retrieval-Augmented Generation، يعني احنا بنجيب معلومات من قواعد بيانات خارجية ونخليها… أوراق نفس اليوم autoregressive يعني النموذج بيتنبأ بالكلمة الجاية بناءً على الكلمات اللي جاية قبلها، خطوة بخطوة. أوراق نفس اليوم MC-Sparse MC-Sparse هو نموذج ذكاء اصطناعي بيستخدم تقنيات التخفيف (sparsity) لتقليل عدد المعلمات وتحسين… أوراق نفس اليوم Rock-Paper-Scissors Rock-Paper-Scissors هو مجموعة بيانات فيها ألعاب حجر-ورقة-مقص، بنستعملها لتدريب نماذج تصنف أو… أوراق نفس اليوم VSI-Bench VSI-Bench هو مجموعة اختبارات (benchmark) لتقييم أداء الأنظمة في الفهم البصري-صوتي، بنستعمله… أوراق نفس اليوم denoising speedup denoising speedup هو مقياس بيوضح قدّيش العملية بتقليل الضوضاء من البيانات صارت أسرع مقارنةً… أوراق نفس اليوم resolve rate يعني نسبة المشاكل أو التحديات اللي النموذج قادر يحلّها بنجاح من أصل كل المشاكل. أوراق نفس اليوم vLLM هو مكتبة بتشتغل على تسريع النماذج اللغوية الكبيرة وتخليها تجاوب أسرع كتير. أوراق نفس اليوم confidence score confidence score هو مقياس بيوضح قديش النموذج متأكد من توقعه أو قراره، بنسمعه عشان نعرف إذا… أوراق نفس اليوم Markov Markov يعني سلسلة ماركوف، وهي طريقة بنعتمد فيها على الحالة الحالية بس لتحديد الحالة الجاية، مش… أوراق نفس اليوم U-Space U-Space هو مفهوم بيحكي عن تنظيم وإدارة الطيران غير المأهول فوق المناطق المدنية، بنستعمله عشان… أوراق نفس اليوم Codex نموذج من OpenAI متخصص في كتابة وفهم الكود البرمجي، هو اللي كان وراء GitHub Copilot في البداية. أوراق نفس اليوم KV cache تقنية بتخزّن المفاتيح والقيم اللي حسبناها قبل هيك عشان نستخدمها مرة ثانية. أوراق نفس اليوم U-Lens U-Lens هو أداة أو إطار بيحلل بيانات الطيران غير المأهول وبيوفر نظرة شاملة على سلوك الدروونات… أوراق نفس اليوم RVQ RVQ أو Residual Vector Quantization هو طريقة لتقليل حجم البيانات بتقسيمها لعدة طبقات من… أوراق نفس اليوم GPD GPD هو نموذج بسيط بنستعمله لتوليد توقعات عامة للبيانات، بنسميه كمان General Purpose Decoder… أوراق نفس اليوم TTS تقنية بتحوّل النص المكتوب لكلام مسموع، يعني الكومبيوتر بيقول لك النص إلي بتكتبيه. أوراق نفس اليوم Pareto frontier Pareto frontier يعني الحد اللي ما فينا نحسن شي من إشي من غير ما نضيع شي تاني، بنستعمله عشان… أوراق نفس اليوم fine-tuning تدريب إضافي لنموذج موجود بالفعل على بيانات جديدة وخاصة عشان يكون أفضل في مجال معين. أوراق نفس اليوم Triton Triton هو نظام من NVIDIA بيشغّل نماذج الذكاء الاصطناعي على السحابة أو على سيرفراتنا بسرعة… أوراق نفس اليوم language modeling language modeling يعني تدريب نموذج عشان يتوقع الكلمة الجاية بالنص، بنسمعه كتير لأنه أساس كل… أوراق نفس اليوم critic الـ critic هو نموذج بيقيم مخرجات نموذج تاني، يعني بيفحص إذا النتائج منطقية أو لا، بنستخدمه… أوراق نفس اليوم