شو في AI؟ | 24 يونيو — عالم لغوي للوكيل وتعديل بيانات

الفريق قدم Qwen-AgentWorld، أول نموذج لغوي بيحاكي بيئات الوكلاء عبر 7 مجالات باستخدام reasoning على شكل chain-of-thought. استُخدموا أكثر من 10 مليون مسار تفاعل حقيقي لتدريب النموذج بثلاث مراحل: CPT لتعميم قدرات النمذجة، SFT لتفعيل توقع الحالة الجاية، وRL لتحسين دقة المحاكاة. لتقييم النموذج، بنوا AgentWorldBench اللي بيقارن 5 نماذج متقدمة على 9 benchmarks، ولقوا إن Qwen-AgentWorld بيتفوق على باقي النماذج. كمان بيشتغل كمحاكي بيئات مستقل أو كـ foundation model للوكيل، وبيحسّن أداء الوكلاء على 7 benchmarks.

الفريق قدم فكرة جديدة اسمها Agentic Data Tailoring، يعني بدل ما نترك البيانات غير مرتبة، الوكيل يتدخل ويعيد ترتيبها لتناسب نوايا المستخدمين والمهام اللاحقة. صمموا خط أنابيب من مرحلتين يربطوا توليد النصوص الدلالية بقاعدة حقائق ثابتة، وبهالطريقة جمعوا مجموعة ضخمة من البيانات عبر خمس مجالات. بعدين طوّروا نموذج DataClaw_0-9B ودمجوا Supervised Fine-Tuning مع Group Relative Policy Optimization ليصير يقدر ينسق البيانات بدقة. أخيرًا بنوا معيار DataClaw_0-val لتقيس قدرة النموذج على تحسين البيانات، وأثبتوا فعاليته على توليد فيديو، أسئلة-أجوبة بصرية، وتصفح واجهات المستخدم.

الفريق Tripathi وزملاؤه قدموا طريقة جديدة اسمها Grouped Query Experts (GQE) لتقليل تكلفة الـself‑attention داخل الـTransformer. الفكرة إنه كل مجموعة استعلام (GQA) فيها راوتر يختار k خبراء من رؤوس الاستعلام لكل توكن، بينما رؤوس المفتاح‑القيمة (KV) بتضل كثيفة. بهالطريقة بيقللوا عدد عمليات الاستعلام الفعّالة للنصوص الطويلة من غير ما يضيعوا الفوايد اللي بتعطيها ذاكرة KV. التجربة على 250 مليون باراميتر وبميزانية 30 مليار توكن أظهرت إنه الدقة بتضل ثابتة مع تقليل نص عدد رؤوس الاستعلام النشطة.

الفريق قدم NatureBench، benchmark بيغطي 90 مهمة مستخلصة من أوراق Nature‑family، هدفه يقيّم إذا الوكلاء البرمجيين يقدروا يتخطوا مجرد إعادة إنتاج ويصلوا للاكتشاف الحقيقي. الـ benchmark مبني على NatureGym، بيوفر بيئة حاوية موحدة لكل مهمة وبيحل مشكلة تجزّء البيئات اللي كانت بتقلل مصداقية التقييمات السابقة. جربوا عشر تكوينات من الوكلاء تحت بروتوكول ما فيه بحث ويب، ولاحظوا إن أقوى نموذج فاق الـ SOTA بس بـ 17.8٪ من المهمات وفق معيار g>0.1. التحليل بيبين إن الوكلاء ينجحوا غالبًا عبر تحويل المهمات العلمية لمشكلات تنبؤ مألوفة، مش عبر اختراع علمي حقيقي.

الفريق Tamoyan وزملاؤه قدموا SHERLOC، إطار شغله من غير أي تدريب إضافي، بيربط LLM يقدر يفسّر مع أدوات خفيفة للملفّات. بيقدر يحدد موقع العطل بدقة عالية (84.33% accuracy@1 على SWE‑Bench Lite) وبسرعة، وبيقلل استهلاك الرموز بحوالي ٣٦٪. كمان لما يضيفوا نتائج SHERLOC للوكيل اللي بيصلّح الكود، بيزيد معدل حل المشاكل بنحو ٦ نقاط مئوية ويقلل الوقت الكلي للمعالجة.

الفريق قدم دراسة تجريبية منهجية لنظام ذاكرة الوكلاء من منظور إدارة البيانات. قسموا الذاكرة لأربع وحدات أساسية: تمثيل وتخزين، استخراج، استرجاع وتوجيه، وصيانة، وجربوا 12 نظام ذاكرة مع اثنين من القواعد المرجعية على خمس مجموعات شغل تشمل 11 مجموعة بيانات. النتائج بتبين إنه ما في نظام واحد بيتفوق على الكل، والفعالية بتعتمد على توافق بنية الذاكرة مع نقطة الضعف بالعمل. كمان حددوا تبادل التكلفة مع الأداء، ولقوا إن الصيانة المحلية أكتر كفاءة من إعادة التنظيم الشامل.

الفريق اللي بيقودوا هيرنانديز-غارسيا وفريقه درسوا مشكلة فقدان البلاستيسية، يعني صعوبة النموذج يتعلم معلومات جديدة بعد ما يتعلم سابقة، داخل نماذج Transformer الكبيرة. لقوا إنه حتى بالنماذج من 5 مليون لـ 314 مليون باراميتر بيظهر هالإشكال على مهمة فيتنامية بسيطة، وإنه حجم النموذج بيأخر ظهور المشكلة وفق قانون scaling law شبه خطي. كمان اكتشفوا إنه المشكلة بتظهر حتى لو التدريب ثابت ومتعدد اللغات، مش بس بالمواقف اللي بتتغير فجأة. النتيجة إنه زيادة حجم الباراميتر لحالها ما بتكفي لتقضي على فقدان البلاستيسية نهائيًا.

الفريق Tang وزملاؤه استكشفوا فكرة إنه نماذج اللغة الكبيرة ممكن تعلّم مُستخرج تمثيلات الاسترجاع بطريقة غير تقليدية. حطوا درجات التشابه بين الاستعلام والوثيقة داخل رؤوس الانتباه في LLM ثابت، ولما النموذج يتنبأ بالكلمة الجاية، بيستفيد من هالدرجات لتعديل المُستخرج. الطريقة بتعطي إشارات تدريب مباشرة للمستخرج من خلال آلية الانتباه، وبتظهر أداء أحسن على مجموعات الاختبار BEIR وRTEB عبر نماذج حجمها من 0.5B إلى 3B بارامتر.

الفريق قدم AI‑PAVE‑Br، نظام مبني على Large Language Models مخصوص لاستخراج خصائص المنتجات من أوصاف المتاجر البرازيلية بالبرتغالية. كمان شاركوا مجموعة Golden Set، مجموعة بيانات يدويًا منقحة فيها الكيانات والفئات والفرعيات لتدريب وتقييم النماذج. التجارب أظهرت إنه باستخدام prompt engineering، AI‑PAVE‑Br بيضلّق على الـ NER التقليدي بدقة أعلى بكتير. هالإضافة بتعطي حل قوي لسوق غير إنجليزي وبتفتح باب للبحوث المستقبلية.

الفريق قدم UniDrive، إطار بيوحد بين تحليل الزمن من فيديوهات متعددة ودقة الصورة العالية من الإطار الأخير، وهيك بيقدر يكتب وصف خطر بالإنجليزي ويحدّد موقعه بصندوق حوالينه. بيستخدموا وحدة gated cross-attention لتوحيد المعلومات، وبتظهر النتائج إنه أحسن من الطرق اللي بتشتغل بصورة وحدة أو بدقة منخفضة على benchmark DRAMA-Reasoning. كمان UniDrive بيظهر قدرة أكبر على رصد أشياء صغيرة، وبيقدر يتعمّم على بيانات جديدة مثل NuScenes و BDD100K.

الفريق قدم طريقة جديدة اسمها EDV، بتقسم عملية تعلّم الخبرة للوكيل إلى ثلاث مراحل: Execute، Distill، Verify. بالمراحل الأولى، بيشتغلوا مجموعة من الوكلاء المتنوعين سوا ليولّدوا مسارات مختلفة، وبعدين وكيل ثالث بيقارن بين هالمسارات ويختار التجارب الأنسب، وأخيرًا مجموعة الوكلاء بتأكد على الاختيارات قبل ما تنحط بالذاكرة. هالطريقة بتقلل من الأخطاء اللي بتصير لما الوكيل يثق بتلخيصه الخاص وتأكد من إن التجارب المضافة صحيحة. التجربة اتقست على ثلاث Benchmarks صعبة وطلعت النتائج أحسن من الطرق السابقة.

الفريق Ghita وزملاؤها بيطلعوا قوانين توسّع تجريبية لتقطيع LLM لمهام معينة. بيقيسوا كيف الأداء داخل المجال ومعرفة عامة بيتغيّر حسب حجم الداتا، نسبة الضغط، صيغة الإشراف، وجدولة القطع المتكررة. باستخدام بيانات مالية، قارنوا بين تقطيع يعتمد على اللوجيت وتقنية LoRA تحت قطع هيكلي متكرر، وقدموا خسارة إشرافية مختلطة على طريقة chain-of-thought لتثبيت KL-divergence خلال تتبع التفكير. النتايج بتبين إن جودة المهمة داخل المجال بتنخفض بشكل متوقع مع الضغط، بينما معايير المعرفة العامة بتنهار أسرع، وصيغة الإشراف هي المفتاح لتوازن هالشي.

الفريق قدم إطار CineCap اللي بيجمع بين reasoning منظم مع spatio-temporal anchors وتدريب reinforcement learning بمكافآت للشمولة والدقة. الطريقة بتربط أوصاف السينمائية الاحترافية بأدلة بصرية واضحة وبتنظمها كأجزاء صغيرة لتدريب supervised fine‑tuning، وبعدين بتستخدم RL لتوازن بين التفصيل والصدق. كمان بنوا CineCap Bench، مجموعة فيها 472 فيديو مع شروحات يدوية لتقييم النموذج. التجارب أظهرت إن CineCap يتفوق على النماذج القوية المتاحة، وبيسجل حالة جديدة في مجال الشرح السينمائي للفيديو.

الفريق اللي بيقود Zixuan Li وزملاؤه قدموا طريقة جديدة لتوليد الصور من النص، اسمها IV-CoT. الفكرة إنه بيقسموا استفسارات الصورة لسلسلة تخطيط هيكلي أولاً وبعدين بيمرّوا للجزء اللي بيحدد الشكل والمظهر، وكل هالشي بيصير بتمرير واحد بس. استخدموا إشراف رسومات (sketch) بس وقت التدريب لتعلم التخطيط بدون ما يحتاجوا يرسموا أو يطلعوا نتائج وسطية وقت الاستنتاج. النتيجة إنه النموذج بيحافظ على عدد الأشياء، علاقاتهم المكانية، والخصائص بشكل أحسن من الطرق القديمة على Benchmarks مثل GenEval وT2I-CompBench.

الفريق قدم ScaleToT، طريقة بتعلم التفكير المنظم من مجموعة صغيرة من المستخدمين اللي عالجتهم LLM، وبعدين بتعمّمه على مليارات المستخدمين القليلين النشاط. الطريقة بتبني سلاسل حالات المستخدم بنوعيات معينة وبتنقّحها بإجراء Tree-of-Thought الموجه بالانتروبيا. بعدين بتستعمل هالسلاسل لتدريب نموذج طالب على البروفايلات الساكنة عبر supervised fine-tuning وOSIPO، وبنقل تمثيلات التفكير لهEncoder خفيف. التجربة على توقع قيمة العمر (LTV) بالإعلانات أظهرت زيادة 6.738% بـ LT30 مع تقليل تكلفة الحوسبة.

الفريق كشف إنه الطبقات المتأخرة من LLMs ممكن تخلّي التوقعات تميل للردود العامة أو اللي بتتماشى مع سياسات التوافق، بينما الطبقات الأولية بتعطي تخمينات أولية والوسطى بتصقل الفهم. قدموا طريقة اسمها Confident Decoding، بتختار طبقة قريبة من الأخيرة لكن مش الأخيرة، عبر بحث عكسي موجه بالـ entropy، وبدون أي تدريب إضافي. النظرية بتوضح إنه هالاختيار هو حل لمشكلة الإيقاف الأمثل، وبيقلل التشويش اللي بيصير بالطبقة الأخيرة مع الحفاظ على جودة التوقع. التجارب على LLMs كثيفة وMixture‑of‑Experts أظهرت تحسين ملحوظ على اختبارات التفكير الصعب مع زيادة زمن بسيطة أقل من 2% وبدون استهلاك ذاكرة إضافي.

الفريق قدم طريقة جديدة لتعديل الفيديو بدون ما يغيّر الأشياء الأساسية، مثل الشخصيات أو الخلفية. Vera يخلق طبقة تعديل مع قناع شفاف (alpha matte) يخلّينا نركّب الطبقة الجديدة على الفيديو الأصلي. النموذج يعتمد على DiT موسّع بـ Mixture‑of‑Transformers لتنسيق الطبقات مع بعض. التدريب صار على مجموعة بيانات طبقية فيها قناعات دقيقة ومشاهد متنوعة، ونتائج التقييم بتبين إن Vera يحافظ على المحتوى أحسن من باقي النماذج المفتوحة المصدر.

هالورقة بتقدّم EG-VQA، مجموعة اختبار جديدة لتقييم إجابات أسئلة الفيديو بطريقة بتطلب دليل زمني واضح. كل سؤال بيكون مرفق بقطعة فيديو معينة بتثبت الجواب، وبيتم قياس الدقة باستخدام مقياس EG-F1 اللي بدمج التوافق الزمني والملاءمة الدلالية. التجارب بتظهر إن حتى أقوى النماذج التجارية ما بتقدر تثبت دليل موثوق، فهنا قدموا نموذج EG-Reasoner اللي بيتعلم من إشراف واضح وبيحقق أحسن النتائج بين النماذج المفتوحة.

الفريق Liu وزملاؤه اقترحوا إطار LaGO اللي بيستغل LLM مدرب مسبقًا كـlatent action prior لتوجيه تحسين السياسة الأونلاين، بدل ما يستخدموه كمتخّط مباشر. التجارب على benchmarkين، CLEVR‑Robot وMeta‑World، أظهرت إن LaGO يرفع المكافأة ومعدل النجاح مقارنةً بـVanilla PPO. بالذات ارتفع معدل النجاح من 15.1% لـ27.2% على CLEVR‑Robot، ومن 2.7% لـ15.2% على Meta‑World. التحليل بيأكد إن LLM أقوى يعطي إرشاد أقوى، يعني معرفة اللغة ممكن تحسّن التخطيط والقرارات الأونلاين.

الفريق قدم طريقة جديدة اسمها SAFARI لتشخيص أخطاء الوكلاء اللي بيشتغلوا على مهمات طويلة ومعقّدة. بدلاً ما نحمل كل مسار التنفيذ داخل نافذة الذاكرة للـLLM، SAFARI بتستعمل صندوق أدوات خاص وذاكرة قصيرة المدى لتقرأ وتبحث عن أجزاء المسار خطوة بخطوة. هالطريقة بتخلي الدقة ما تتأثر بحدود حجم الذاكرة، وبتظهر تحسين واضح على مجموعات البيانات Who&When وTRAIL GAIA. كمان بتضل دقيقة حتى لما يكون الخطأ بعيد عن نافذة الذاكرة بخمس أضعاف.