شو في AI؟ | 8 يوليو — الوكيل بذاكرة طويلة

الفريق اللي أسس Light-Omni قدم إطار وكيل متعدد الوسائط بيشتغل بنظام رد فعل سريع. بيستعمل حالتين سياقية: حالة عالمية بتجمع الذاكرة المتقطعة بنص موجز، وحالة كامنة بتولد الأوامر وتخلق تمثيلات استرجاعية، كل هاد بتمرير واحد بس. هالتصميم بقلل من الحاجة للتفكير المتكرر، فبيصير أسرع بـ12.1 مرة وبيحافظ على الذاكرة أكتر بـ2.6 مرة مقارنةً بـM3-Agent، وكمان بيزيد الدقة بـ2.4٪ على مجموعات اختبار الفيديو.

فريق الباحثين قدموا Audex، وهو LLM موحد بقدرة صوت‑نص مبني على Nemotron‑Cascade‑2‑30B‑A3B. التصميم بسيط: محول واحد (Transformer) بيحوّل الصوت لمجال تمثيل النص، وبنفس الطريقة يتعامل مع رموز النص ورموز الصوت المُكمَّدة أثناء التوليد. درّبوه على مجموعات بيانات ضخمة فيها 157.4 مليار رمز صوت و320.5 مليار رمز نص، وبعدين استخدموا تدريب متعدد المراحل مع RL وتقطير على سياسات متعددة. النتيجة: Audex يحقق أرقى مستويات الفهم الصوتي، التعرف على الكلام والترجمة، تحويل النص إلى صوت وتوليد صوت جديد، مع الحفاظ على قدرات التفكير والمعرفة للنموذج النصي الأصلي.

الفريق قدموا PluraMath، مجموعة بيانات جديدة بتضيف 18 لغة من لغات منخفضة الموارد لعندها شغل رياضي، بعد ما كان PolyMath يقتصر على 18 لغة عالية الموارد بس. البيانات اتجمعت عبر فريق من المتحدثين الأصليين اللي تأكدوا من صحة الترجمات. بعدين جربوا 27 نموذج LLM بأحجام مختلفة على هالمجموعة، ولاحظوا إن الأداء بيضل أحسن باللغات اللي فيها موارد أكتر، خصوصاً إذا كان النموذج بيفهم التعليمات كويس. الباحثين فتحوا الكود والبيانات للجميع عشان يقللوا الحواجز أمام المجتمعات اللي ما عندها تمثيل كافي.

الفريق قدم AlayaWorld، إطار مفتوح المصدر بيخلّي توليد عوالم فيديو تفاعلية يكون على طول الوقت وبطريقة تلقائية. النموذج بيتعلم من تسجيلات ألعاب وفيديوهات من العالم الحقيقي، فبيقدر يولّد مشاهد بملمس بصري متنوع وحركة فيزيائية واقعية، وبيسمح للمستخدم يتنقل ويعمل إجراءات زي القتال أو سحر أو استدعاء وحوش. كل هالشي بيصير ضمن بنية modular وبيقدر يشتغل بسرعة لتطبيقات لحظية. كمان وفّروا أدوات تقييم ووثائق لتسهيل البحث والتطبيق.

الفريق اللي بيقودها Anna Cordoba وزملاؤها قدموا إشي جديد لتقليل حجم الـ KV cache بالـ Transformers. الطريقة بتقسم الـ keys والـ values على طبقات متجاورة وبتستعمل قاعديات منخفضة الرتبة مشتركة، وبنفس الوقت بتضيف residual خفيف لكل توكن حسب أهميته. كمان فيه router بيحدد أي توكن بدو رتبة استرجاع أعلى، وبيتابع الخطأ مباشرةً من الـ attention بدون ما نحتاج نعيد تدريب النموذج. التجارب على LongBench وغيرها بيّنوا إنه بنقدر نضغط الذاكرة 8.3 مرة ونسرّع التوليد مع الحفاظ على جودة القراية.

الفريق قدم طريقة جديدة لتدريب حارس أمان للـLLM بيستعمل Reasoning-Active Training خلال التدريب، بس وقت الاستنتاج بيطلع بس تصنيفات أمان منظمة من غير ما يولّد أي تفكير واضح. النموذج بيقسم الحكم للسلامة لثلاث مراحل: Intent → Category → Safety، وبيستند على مجموعة بيانات مهيأة بإشارات النوايا والمسارات المنطقية. كمان طوّروا أسلوب اسمه RG-PHO لتحسين الأداء على الحالات الصعبة عن طريق تحليل استقرارية النتائج وتوجيه التدريب. التجارب أظهرت إنه النموذج بـ4B بيحقق F1 متوسط أعلى من نماذج بـ8B، وبيظل سريع للوقت الحقيقي.

الفريق قدم طريقة اسمها FreqDepthKV لتقليل حجم الذاكرة المؤقتة (KV cache) أثناء تشغيل نماذج اللغة الكبيرة مع سياق طويل. الفكرة إنه بيقسموا المعلومات بين مكوّنات عمق منخفضة التردد وإشي عالي التردد، وبعدين بيحددوا كل رأس انتباه إذا بدو يستخدم المكوّن المشترك أو المتبقي أو يظل على البيانات الأصلية حسب أهميته. هالطريقة بتشتغل وقت الاستنتاج بدون ما نحتاج نعيد تدريب النموذج، وبتحافظ على دقة المهام مثل الأسئلة الطويلة، التلخيص، وتوليد الكود مع تقليل الذاكرة المطلوبة بشكل كبير.

الفريق اللي قدم الورقة طلعوا benchmark جديد اسمه DataGovBench، مبني على بيانات حكومية مفتوحة. بيقيس قدرة نماذج اللغة الكبيرة على التعامل مع جداول كبيرة ومتعددة، وبيطلب منهم يجاوبوا أسئلة مركبة أو ينتجوا تصورات بصرية. كمان فيه مهمة اسمها Table Insight لتقييم إذا النموذج بيقدر يكتشف استنتاجات خبراء من خلال تحليل استكشافي للبيانات. التجارب أظهرت فجوة واضحة بين أداء النماذج الحالية واللي مطلوب بالواقع.

الفريق قدم إطار عمل جديد يعتمد على نموذج لغة كبير (LLM) يختار طريقة استدلال مختلفة حسب نوع السؤال – نعم/لا، إجابة قصيرة، أو قائمة. للنوع نعم/لا استعملوا خلط الفقرات وتفكير ذاتي لتقليل حساسية الترتيب، وللنوع إجابة قصيرة دمجوا كل الفقرات مع طريقة chain-of-thought لتحديد الكيانات الطبية بدقة. وللنوع قائمة بنواوا بنية متعددة الوكلاء، كل وكيل يشتغل على استخراج الأدلة، توليد المرشحين، التحقق من الإجابة، وجمع النتيجة. التجربة على BioASQ 14b أظهرت أداء تنافسي ووصلوا للمركز الأول في مهمة الفاكيت للدفعة الرابعة.

الباحثين Kan و Ertel بيظهروا إنه ما لازم نلزق استراتيجية ثابتة لإثبات البرمجيات، بل فينا نعطي LLM code agent حرية اختيار الطريقة. بيستعملوا Claude Code ضمن إطار تحقّق بيضمن إنه كل برهان يطلع من Coq يكون صحيح ومكتمل وما بيضلّ أي هدف غير محقق. النتيجة إنه النظام، اللي سماوه Aria، بيبرهن كل 4,257 لمّا في Iris و217 لمّا في مكتبة Rust، وكمان كل 318 لمّا في reglang، يعني ما في فشل.

الفريق بقيادة Matan Avitan بيقدّم طريقة جديدة اسمها MANCE لحدّ المفاهيم من تمثيلات الذكاء الاصطناعي من غير ما يخلّب باقي المعلومات. الفكرة الأساسية إنه التمثيلات الطبيعية بتتركّز على منحنٍ منخفض‑الأبعاد، فبنقيد أي تعديل على هالمنحنى لنحافظ على المعلومات التانية. MANCE بتستخدم تحديثات تكرارية وإشارة من مصنّف بيتنبّأ بالمفهوم المستهدف، وبعد ما بنقدر نحدّد المنحنى من المدخلات الطبيعية بنسقط التحديث عليه. التجارب على 119 إعداد بتمثيلات نصية وبصرية بتظهر تحسين واضح بالمقارنة مع الطرق السابقة، وخاصةً النسخ MANCE+ وMANCE++ اللي بتعطي أفضل توازن بين حذف المفهوم والحفاظ على باقي المعلومات.

الفريق اللي بيقود البحث، Andrea Alfarano وزملاؤه، عملوا أول تقييم واسع لتقدير عدم اليقين (Uncertainty estimation) بـ22 لغة، من اللغات القليلة الموارد للغنيّة. استعملوا مجموعتين من أسئلة وإجابات من إعداد بشر، وقارنوا تسع طرق مختلفة لتقدير عدم اليقين، من طرق مفتوحة الصندوق لطرق مغلقة الصندوق، مع نماذج بأحجام وهياكل مختلفة. لقوا إنه إذا خلت النموذج يفكّر بالإنجليزي مع إن السؤال بلغة منخفضة الموارد، بيصير تقدير عدم اليقين أحسن بكتير، وبيقفل الفجوة بين اللغات. كمان، الطريقة الأنسب لتقدير عدم اليقين بتعتمد على حجم النموذج: الصغار بيفضلوا الطرق الاحتمالية المفتوحة، والكبار بيفضلوا الطريقة المغلقة اللي بتعبر عن عدم اليقين بالكلام.

الفريق اللي بيقودها شرفين خالافي وزملاؤه بيظهروا إنه الانتباه الخطي ما بيكفي لإزالة الضوضاء من الجرافات، خصوصاً إذا كان الطيف متنوع. فطورو طريقة اسمها Spectral Attention بتستغل طيف الجراف مباشرة وبتعطي نتائج أحسن. وبعدين حولوا الفكرة لنموذج عملي اسمه Graph Convolutional Attention (GCA) بيشتغل بطريقة permutation‑equivariant وبيستغل استعلامات ومفاتيح مفلترة طيفياً. التجارب على بيانات صناعية وحقيقية بتأكد إنه GCA بيحسّن التنقية والانتشار، خصوصاً إذا كان الطيف متنوع، وبدون ما يحتاج حسابات مكلفة للخصائص الهيكلية.

الفريق قدم HiLS‑Attention، آلية انتباه هرمي متناثر بتختار القطع (chunks) إشي بطريقة تعلمية خلال تدريب نموذج اللغة. كل استعلام بيشتغل على كل قطعة بشكل مستقل وبعدين بيجمع النتائج حسب درجة استرجاع القطعة. الطريقة بتوصل لأداء قريب من الانتباه الكامل، بل وأحياناً أحسن، وبتقدر تتعامل مع سياقات أطول بـ 64 مرة من طول التدريب مع دقة استرجاع 90٪. كمان فينا نحول النماذج الحالية إلى HiLS‑Attention بتدريب إضافي بسيط ونحافظ على الأداء الأصلي مع تحسين القدرة على القراءة الطويلة.

فريق Lin وزملاؤه قدموا MentalThink، طريقة جديدة بتخلّي الـ Multimodal LLMs يقدروا يتخيلوا ويصوّروا أفكارهم داخل عالم رسومات SVG. النموذج بيتعلم يولّد كود SVG، يرسمه، وبعدها يفسّره كخطوة وسط عملية التفكير المتعددة الجولات. التدريب صار على مرحلتين: أولاً سوّوا Fine‑Tuning عشان يتماشى الكود مع قواعد SVG، وبعدين استخدموا Reinforcement Learning ليخلّي النموذج يراجع ويعدّل الرسومات لحد ما توصل للنتيجة الصح. التجارب أظهرت إن الطريقة بتحسّن الفهم المكاني على معايير زي VSIBench وMindCube.

الفريق قدم إطار اسمه RSF‑GLLM يفصل بين استدلال الرسم البياني القابل للتفريق وتوليد الإجابة. وحدة Recurrent Soft‑Flow (RSF) بتستعمل مُحدّث استعلام مدفوع بـ GRU لتوزيع درجات الصلة المستمرة، مع آلية gating ديناميكية بتعبر عن العقد الجسرية اللي ما فيها تشابه لفظي مع السؤال. كمان أضافوا flow sparsity regularization لتأكد إن الاحتمالات الناعمة بتتحول لمسارات استدلال واضحة. بعد ما بنستخرج هالمسارات، بنحوّلها لنص ونستخدمها لتدريب Large Language Model، وبهالطريقة بنحصل على إجابات دقيقة وبكفاءة استدلال أعلى على مجموعات WebQSP وCWQ.

هالورقة بتقدّم إطار تصميم تجريبي لتقييم سلوك الوكلاء اللي بيكتشفوا نماذج بشكل مستقل. الباحثين بيعاملوا الوكلاء زي مشغّلات عشوائية بتحوّل بيانات مهمة وهدف تحسين لنموذج جاهز، وبيجرّبوا Codex وClaude Code تحت عوامل مختلفة مثل جهد التفكير والمهام ومقاييس التحسين. لكل تركيبة، بينعملوا نماذج انحدار لتقييم جودة المخرجات، التكلفة بالدولار، الوقت، وتعقيد العملية، وبعدين بيحللوا إذا كان جهد التفكير بيقود للاتجاه المفيد من ناحية الأداء والتكلفة.

الفريق Abaskohi وزملاؤه قدموا طريقة جديدة اسمها SeKV لتقليل حجم الذاكرة المطلوبة عند تشغيل نماذج اللغة الكبيرة على سياقات طويلة. الفكرة إنهم يقسّموا النص إلى فواصل دلالية مبنية على الإنتروبيا، ويحفظوا ملخّص خفيف على الGPU وبنقطة منخفضة الرتبة على الCPU. وقت التوليد، آلية zoom‑in بتفتح الفواصل اللي بيحتاجها الاستعلام بدقة، وبتعيد بناء تفاصيل الرموز من الCPU بس لما يلزم. الطريقة بتضيف أقل من 0.05% من المعاملات القابلة للتدريب وبتقلل استهلاك الGPU بأكثر من نصف بدون ما تخلّي النموذج يغيّر شي.

الباحثين قدموا KVpop، طريقة جديدة لتقليص حجم ذاكرة الـ KV أثناء توليد النصوص. الطريقة بتعلم سياسة إخلاء الـ KV مباشرةً عن طريق إشراف على قرار الاحتفاظ أو الحذف، باستخدام إشارة future-attention اللي بتحسب بدون ما تحتاج خريطة انتباه كثيفة. كمان حطوا scorer بيأجل التقييم لعدة خطوات ليستفيد من السياق القريب. التجارب على نماذج Qwen3 أظهرت إن KVpop يحقق تقريبًا نفس جودة الأداء مع ضغط 75‑88% للذاكرة.

الفريق قدم فكرة جديدة اسمها digital teleoperation، اللي بِصير فيها جمع بيانات الروبوت ما له علاقة بأي جهاز مادي. المتحكم بيمسك إيماءة إيده، والنظام بيولّد فيديوهات من منظور الروبوت باستخدام world model مدرب على صورة مرجعية وحدة. البيانات اللي بتنتج من هالعملية بتتحول لأي روبوت تاني وبنفس الوقت بيصير التدريب أسرع، لأن النموذج يشتغل بأكثر من 40 FPS على GPU H100. التجارب وضحت إن السياسات المتدربة على هالبيانات تقدر تنقل المعرفة من المحاكاة للواقع بدون تعديل.