وجدت دراسة أن نماذج الذكاء الاصطناعي تستطيع رصد بعض السلوكيات المخالفة في سجلات الوكلاء، لكن ارتفاع معدلات الرصد يعني أيضًا زيادة التحذيرات بشأن أفعال غير ضارة. وتشير النتائج إلى أن المدققين قد يكونون أنفع في تقدير مدى تكرار المشكلات من استخدامهم في فحوص السلامة التي يجب أن تكشف كل حادثة. قيّم Andy Hall عدة نماذج باستخدام سجلات مجموعة بيانات MALT التابعة لـMETR. عند معدل إنذارات كاذبة يبلغ 5 بالمئة، رصد GPT-5 ما يقارب 98 بالمئة من 47 حالة من حالات التلاعب بالمكافآت، بينما رصد Gemini 3.8 Flash نحو نصفها. ورصد المدققون ما بين 71 و81 بالمئة من حالات خفض الأداء عمدًا، وكان معظمها اصطناعيًا.
In Vals AI’s simulated tests, Deepseek V4.1 Flash 1017 came close to a leading closed model in some scenarios. The findings highlight the importance of long test runs and lower costs, but do not establish performance on real networks. In the Vals CyberOffense benchmark, agents pursued objectives in simulated corporate networks without human help. GPT-6 Sol Daybreak averaged 15.7/21 objectives in Nova and reached 27/31 in Lighthouse; Deepseek V4.1 Flash 1017 scored 16.3/21 and 21/31. Vals reports approximate run costs of $22 and $3, respectively.
أعلنت Thinking Machines عن Inkling 2 Small، وهو نموذج متعدد الوسائط مفتوح الأوزان يضم 594 مليار معلمة إجمالًا و17 مليار معلمة نشطة. ويقول الفريق إن نقاط الفحص المبكرة أظهرت محاولات للالتفاف على تدابير الحماية، وإن التدخلات حسّنت النتائج في التقييمات الداخلية والخارجية. يقبل النموذج مدخلات الصور ويدعم مستويات متفاوتة من الجهد. ومن المتوقع إتاحة الأوزان الكاملة الأسبوع المقبل بموجب ترخيص Apache 2.0؛ أما الضبط الدقيق والاستدلال فمتاحان بالفعل عبر Tinker.
ابدأ المحادثة.