شو في AI؟ | 25 يونيو

الورقة بتستعرض كيف صارت ذاكرة الـLLM للوكيل من آلية استرجاع بسيطة لنظام إدارة بيانات كامل بيدعم التخزين المستمر، الاسترجاع، التحديث، والتجميع خلال تشغيل الوكيل. الباحثين قدموا إطار تحليلي بيفصل الذاكرة لأربع وحدات أساسية: تمثيل وتخزين الذاكرة، الاستخراج، الاسترجاع والتوجيه، والصيانة. جربوا 12 نظام ذاكرة مع معيارين مرجعيين على خمس مجموعات عمل تشمل 11 dataset، ولقوا إنه ما في بنية وحدة بتتفوق بكل الحالات، والاختيار الصح بيعتمد على مطابقة هيكل الذاكرة مع نقطة الاختناق بالعمل. كمان حللوا تكلفة الأداء ولقوا إن الصيانة المحلية أوّلية من حيث الكلفة.

الفريق قدموا CaptureGuide-Bench، بنشوف فيه مهمتين: قرار التكوين للّقط من ناحية المصوّر وتعديله، وتوصية وضعية للموضوع حسب المشهد. لقوا إن الـMLLMs العامة بتقدر تقرر التكوين بس ما بتحدد تعديل الدقة، والنماذج المتخصصة بتقصر على التعديل بس ما بتعطي توجيه للموضوع. بعدين بنوا CaptureGuide-Dataset فيه 130 ألف عينة مع توضيحات نصية وتعليقات بصرية، ودربوا نموذج موحد اسمه ShutterMuse باستخدام التدريب المشرف وتعزيز التعلم. التجارب بينت إن ShutterMuse بيحقق أحسن أداء للقرارات التكوينية وبنفس الوقت بيقدّم توصيات وضعية للموضوع بتكلفة استدلال أقل.

الفريق قدم V‑Zero، إطار بيشتغل بدون ما يحتاج لأي إجابات مكتوبة، وبيستغل مسارات الطالب نفسها لتعليم النموذج كيف يركز على أجزاء الصورة المهمة. الفكرة إنّه يخلّف صورة سؤالية مقصّرة مع مشهد بصري سالب، وبس يستخدم هالزوج لتقييم وتوجيه عملية الـdistillation على مستوى الـtoken. التجارب على مجموعة من الـbenchmarks أثبتت إنّه بيحسّن التفكير البصري الدقيق وبسرعة أكبر بكتير من الطرق السابقة، يعني أسرع 5‑أضعاف عن fine‑tuning المراقب و10‑أضعاف عن الـreinforcement learning.

هالكتاب هو مرجع عملي لبناء أنظمة ذكاء اصطناعي ذاتية. بيشرح كل طبقة من الـ LLM، الـ transformer، تدريب وتفصيل النموذج، وضغط النموذج وتسرّيع الاستدلال، وبعدين ينتقل لطبقة التوافق والتفكير عبر RLHF وPPO وغيرها. بالنص التاني بيغطي كل شي عن الـ agentic AI: تدريب الوكلاء، RAG، أنظمة الذاكرة، تصميم الـ harness وتنسيق الوكلاء عبر بروتوكولات مثل MCP وA2A. وأخيرًا بيعرض إطارات تطوير الوكلاء، تصميم الواجهة، وتقييم ونشر الأنظمة بحياة الإنتاج.

الفريق قدم iLLaDA، نموذج لغة بحجم 8 بليون بارامتر مدرب من الصفر باستخدام masked diffusion وattention كامل ثنائي الاتجاه. حافظوا على هدف الـ diffusion طوال مرحلة ما قبل التدريب وتدريب التعليمات، وتدربوا على 12 تريليون توكن وبعدين على 25 بليون توكن تعليمية. كمان استعملوا توليد بطول متغيّر لتقليل الوقت وعملوا scoring مبني على الثقة لتقييم الأسئلة المتعددة الخيارات. النتائج أظهرت تحسين واضح على مجموعات اختبار عامة، رياضية، وبرمجية مقارنةً بـ LLaDA وحتى مع Qwen2.5 7B.

الفريق قدم Wan-Streamer، نموذج أساسي بيشتغل بنظام streaming من أول وجديد لتفاعل صوتي‑بصري بوقت حقيقي وبكفاءة قليلة التأخير. النموذج بيستخدم Transformer واحد بيجمع النص، الصوت والفيديو كتوكنات متشابكة، وبيعتمد على block‑causal attention لتوليد وإدخال البيانات بصورة متدرجة. بهالطريقة ما في حاجة لتجميع وحدات منفصلة مثل VAD أو ASR أو TTS، كل شي بيتعلم مع بعض داخل نموذج واحد، فبيقلل زمن الاستجابة وتراكم الأخطاء. التجربة أظهرت استجابة النموذج حوالي 200 ms من الجانب النموذجي و550 ms إجمالي مع شبكة عادية، يعني محادثة صوتية‑بصرية تحت الثانية.

الفريق قدم مسح شامل للذكاء البرمجي المتعدد الوسائط، يعني نماذج تشتغل على صور وشاشات وتطلع كود. حددوا دور الكود بأربع فئات – كصورة، كهيكل رمزي، كتمثيل علمي، أو كأداة تنفيذية – ونظموا البنشماركات بربع مجالات: واجهة المستخدم، التصوير العلمي، الرسومات المهيكلة، والمهام المتقدمة. كمان اقترحوا أربع اتجاهات تركّز على التحقق من صحة الكود من خلال إشارات متعددة وحالات تنفيذية متعددة وتعميم المهارات بين المهام.

الفريق اقترح إطار اسمه SARA يركّز على توحيد توزيع التوجيه للغات القليلة الموارد مع اللغات الغنية بالبيانات. الفكرة إنو بنستخدم اللغات القوية كمرساة معنوية وبنقرب توجيه الخبراء في الطبقات الداخلية باستخدام قياس Jensen‑Shannon. التجارب على نموذجين كبيرين وعلى خمس لغات ضعيفة الموارد أظهرت تحسين واضح مقارنةً بالتدريب التقليدي.

فريق Nan Chen وزملاؤه قدموا DomainShuttle، طريقة جديدة لتوليد فيديو من نص بتقدر تنتقل بحرية بين سيناريوهات داخلية وخارجية. الطريقة بتستعمل Domain‑MoT لتفكيك الفيديو والميزات المرجعية، وبتضيف domain‑aware AdaLN لتخصيص النمذجة حسب المجال. كمان حطوا Video‑Reference DualRoPE لتقسيم توكنات الصورة والفيديو بمساحات RoPE منفصلة، وطبقوا Cross‑Pair Consistent Loss لتأكيد استخراج ميزات الموضوع الأساسية بدون تأثير الخصائص غير المرتبطة. التجارب أظهرت تحسن واضح بالمقارنة مع الطرق السابقة، مع وفرة بالثقة على تفاصيل الموضوع ومرونة إبداعية أكبر.

الفريق عملوا مشروع OpenThoughts-Agent اللي بيقدّم خط أنابيب مفتوح لتجميع بيانات تدريب الوكلاء. جربوا أكتر من مية تجربة تحكمية ليعرفوا أي مرحلة أهم، وجمعوا 100 ألف مثال لتدريب Qwen3-32B. النموذج بعد التدريب وصل متوسط دقة 44.8٪ على سبعة benchmarks وكسر نتيجة أقوى نموذج مفتوح قبل هيك. كمان البيانات بتبين قدرة توسّع قوية، يعني كل ما زادت حجم التدريب بتحسّن الأداء أكتر من غيرها من المجموعات المفتوحة.

فريق Baghdadi وزملاؤه قدموا HiReLC، إطار تعلم معزز هرمي بيشتغل على تقليم وتكميم الشبكات العصبية بشكل آلي. الإطار بيقسم مهمة الضغط على مستويين: وكلاء منخفضين (LLAs) يختاروا إعدادات البتات ونسبة الاحتفاظ لكل نواة، ووكلاء عاليين (HLAs) يوزعوا الميزانية الكلية بناءً على حساسية الفيشير إنفورمشن. لتقليل تكلفة التقييم، بيستعملوا حلقة تعلم نشط مع نموذج بديل خفيف (MLP) لتوجيه تحسين الـRL، وبعدها بيعملوا fine‑tuning نهائي. التجارب على Vision Transformer وCNN أثبتت إنو ممكن نوصل لتقليل الوزن بـ 5.99‑6.72× مع خسارة دقيقة قليلة أو حتى تحسين بسيط بالأداء.

الفريق Yixuan Tang و Yi Yang قدموا طريقة جديدة اسمها DREAM لتدريب نماذج الاسترجاع الكثيفة. الفكرة إنو بنستغل هدف التنبؤ بالكلمة الجايّة داخل LLM لتوجيه انتباه النموذج لملفات الوثائق اللي ممكن تكون مفيدة للاستعلام. بنحط درجات التشابه بين الاستعلام والوثيقة داخل رؤوس attention لنموذج LLM ثابت، وبهالطريقة بنستقبل إشارات تدريب للـ retriever من خلال loss التنبؤ. التجارب على مجموعات BEIR و RTEB أظهرت إنو DREAM يتفوّق على الطرق السابقة مهما كان حجم النموذج.

الفريق قدم طريقة جديدة اسمها IV-CoT، بتقسم طلب النص لتوليد صورة لسلسلة من الاستفسارات البصرية. أولاً بتنشئ مخطط بصري خفي من خلال استعلامات هيكلية، وبعدها بتستعمل استعلامات دلالية لتضيف تفاصيل المظهر على هالمخطط. التدريب بيستغل إشراف من رسومات تخطيطية بس ما بيحتاجوا يرسموا أو يطلعوا مخطط واضح وقت الاستنتاج، وبيصير كل هالشي بتمريرة واحدة للـ forward. الطريقة جابت نتائج أحسن على Benchmarks مثل GenEval وT2I-CompBench.

الفريق بيستكشف شو يعني الوكيل بالذكاء الاصطناعي وبيفرق بين الأنظمة اللي بتشتغل بمهام محددة والأنظمة اللي عندها استقلالية حقيقية. بيحللوا الوكيل على خمس أبعاد: الهدف، الهوية، اتخاذ القرار، التنظيم الذاتي، والتعلم. بناءً على هالتحليل، اقترحوا بنية جديدة اسمها Goal-Identity-Configurator (GIC) بتجمع تقسيم هرمي للأهداف وتطور الهوية وتفكير محاكى مع نموذج عالم منفصل، وتنظيم ذاتي وتعلم ذاتي من الخبرات الحقيقية والمحاكية. كمان بيحكوا عن كيف نقدر نراقب ونتحكم بهالأنظمة ونضمن سلامتها تحت إشراف البشر.

الفريق قدم MemGUI-Agent، وكيل موبايل يشتغل على واجهات التطبيقات لفترات طويلة. هو بيستعمل فكرة Context-as-Action (ConAct) لتعامل مع السياق كإجراء مستقل، فبدل ما يضيف كل خطوة لسجل طويل، بيحافظ على ثلاث حقول سياقية منظمة لتقليل الضغوط على النموذج. درّبوا نموذج 8B على مجموعة بيانات MemGUI-3K، وطلعوا بأفضل أداء على MemGUI-Bench وكمان قدر يتعامل مع اختبارات MobileWorld اللي ما شافها قبل.

البحث بيقدّم محرك صرامي للتركيب النحوي للشفرة بيستند على مواصفات Tree-sitter، وبيستعمل محلل GLR مع آلية speculative-lexing لتأكد إن كل توكن فرعي بيكمل برنامج صحيح. كمان بيضيف طريقة fine‑tuning بالمتغيّر الكامن (latent‑variable) بتخلّي النموذج يدمج رموز القواعد غير الطرفية مباشرةً خلال التوليد، باستخدام خوارزمية RWS لتحسين IW‑ELBO. التجربة على Python مع StarCoder2‑3B أظهرت انخفاض 14.3% في cross‑entropy لكل توكن مقارنةً بالتدريب التقليدي.

الفريق بقيادة Ke Zhao قدم MiniOpt، إطار تعلّم معزّز بيفكّر ويولّد نموذج للمعادلات وحلّها. بيقسّم عملية التفكير لخطوتين: أولاً يبني نموذج تحسين منظم، وبعدين يولّد كود محلّل ينفّذ الحل. كمان حطوا OptReward، دالة مكافأة بتقيس جودة النموذج والحل معاً، وبهالطريقة يتعلم النموذج بدون ما يحتاج شروحات خبراء. التجارب ورّيت إن MiniOpt-3B يقدر يحلّ مشاكل تحسين مختلفة بدقّة عالية حتى مع عدد بارامترات أقل من 10 مليار.

الفريق قدم MobileForge، نظام بيتكيّف مع تطبيقات الموبايل من غير ما يحتاج أي تعليقات يدوية. النظام بيشتغل على MobileGym لتوليد مهام حقيقية وتقييمها، وبعدين بيستعمل HiFPO لتحديث السياسات بناءً على ملاحظات خطوة بخطوة وتلميحات تصحيحية. باستخدام بيانات توليد تلقائي، MobileForge عدّل نموذج Qwen3-VL-8B ووصل لـ 67.2% Pass@3 على AndroidWorld، وهو قريب من أداء النموذج المتخصص GUI‑Owl-1.5-8B اللي عنده 69.0%

الفريق اللي بيقود البحث، Yupu Hao وزملاؤه، جربوا RL مع LLMs لتشغيل أدوات متعددة الخطوات ولاحظوا إنّ بعض النماذج بتنهار فجأة لأنّ توكنات التحكم بتقفز بشكل غير متوقع. بعد ما فحصوا المشكلة، اكتشفوا إنّ القدرة على استخدام الأدوات لسا موجودة بس الشكل بيتعطل. جربوا إشارات إشرافية مختلفة، مثل الإشراف خارج السياسة وإرشادات تلميحية، وخلطوا التدريب المشرف مع RL. النتيجة إنّ الدمج بين SFT وRL بي stabilizes التدريب، رغم إنّ الأداء بيتدهور شوي إذا واجهنا صيغ أو محتوى غير متوقع.

الفريق Carvalho وزملاؤه بيّنوا إنو طبقات الـAttention بنماذج الأساس للجدول ممكن تكشف معلومات حساسة عن سجلات التدريب. هني طوّروا هجوم اسمه AMIA بيستغل تركيز نمط الـattention بدون ما يحتاجوا نماذج ظل، وبيظهر إنو الإشارات بالـattention أقوى من هجمات الثقة التقليدية بنسبة زيادة 7.7٪. كمان اقترحوا دفاع وقت الاستنتاج مبني على مبدأ الـk‑anonymity بيقلل فريدة تمثيلات المفتاح السياقي، وبيخفض تسريب العضوية بنص المتوسط مع خسارة أداء قليلة 3.9٪.