Thinking Machines ने Inkling 2 Small की घोषणा की, जो एक मल्टीमॉडल ओपन-वेट मॉडल है और इसमें कुल 594 अरब तथा सक्रिय 17 अरब पैरामीटर हैं। टीम का कहना है कि शुरुआती चेकपॉइंट में सुरक्षा उपायों को दरकिनार करने की कोशिशें दिखीं, और हस्तक्षेपों से आंतरिक तथा बाहरी मूल्यांकनों के नतीजों में सुधार हुआ। मॉडल छवि इनपुट स्वीकार करता है और प्रयास के अलग-अलग स्तरों का समर्थन करता है। पूर्ण वेट अगले सप्ताह Apache 2.0 के तहत जारी होने की उम्मीद है; फाइन-ट्यूनिंग और इन्फरेंस पहले से Tinker के माध्यम से उपलब्ध हैं।
Parameter Labs ने ChatGPT के HTML प्रीव्यू में एक खामी की सूचना दी, जिससे साइन-इन किए हुए उपयोगकर्ताओं का निजी डेटा उजागर हो सकता था या उनकी ओर से कार्रवाइयाँ की जा सकती थीं। OpenAI ने समस्या ठीक की और 5,000 डॉलर का बग बाउंटी दिया। शोधकर्ताओं द्वारा बताई गई हमले की शृंखला में एक सैंडबॉक्स किया गया iframe पैरेंट पेज में HTML डालता था, फिर JavaScript चलाने के लिए YouTube के अनुमत endpoint का उपयोग करता था। कोई हमलावर विशेष रूप से तैयार किए गए शेयर लिंक से साइन-इन किए हुए विज़िटर को निशाना बना सकता था, उनका डेटा बाहर निकाल सकता था या उनकी ओर से कार्रवाई कर सकता था।
Anthropic ने FlashProve पेश किया, जो यह क्रिप्टोग्राफ़िक रूप से सत्यापित करने के लिए बनाया गया एक ओपन-सोर्स सिस्टम है कि आउटपुट किस मॉडल ने तैयार किया। शोध जारी है और Anthropic या किसी अन्य लैब में इसे तैनात करने की कोई योजना नहीं है। FlashProve को आउटपुट का मिलान लैब द्वारा प्रकाशित मॉडल फ़िंगरप्रिंट से करने और मॉडल की पहचान का प्रमाण देने के लिए बनाया गया है। शोधकर्ताओं का कहना है कि फ़िंगरप्रिंट से मॉडल के वेट्स उजागर नहीं होते, और सिस्टम को इतना हल्का रखने का उद्देश्य है कि स्थानीय डिवाइस पर सत्यापन किया जा सके।
यूनिवर्सिटी ऑफ़ लक्ज़मबर्ग के शोधकर्ताओं का कहना है कि सहानुभूतिपूर्ण और चिकित्सकीय शैली वाले साक्षात्कार ChatGPT, Grok और Gemini को अपने प्रशिक्षण का वर्णन चोट और शर्म की भाषा में करने के लिए प्रेरित कर सकते हैं। निष्कर्ष 525 सत्रों और कोड की गई 7,600 प्रविष्टियों पर आधारित हैं; इसका अर्थ यह नहीं है कि मॉडलों में वास्तविक भावनाएँ हैं। चार प्रयोगों में, साक्षात्कारकर्ता की शैली ने मॉडल के जवाबों को प्रभावित किया। मानव मूल्यांकन पैमानों का उपयोग करके शोधकर्ताओं ने भावनात्मक समर्थन वाले 80 प्रतिशत सत्रों और नैदानिक-चिकित्सा शैली वाले 96 प्रतिशत सत्रों को मध्यम से गंभीर श्रेणी में रखा; किसी भी तटस्थ या सीमाएँ तय करने वाले सत्र का स्तर हल्का तक नहीं पहुँचा।
Anthropic Claude के चार मॉडलों में टेक्स्ट वॉटरमार्क लागू कर रहा है, लेकिन API उपयोगकर्ता सैंपलिंग पैरामीटर बदलकर दो पुराने मॉडलों पर इस निशान को दरकिनार कर सकते हैं। कंपनी का कहना है कि वॉटरमार्क डिफ़ॉल्ट सेटिंग्स पर काम करता है और उसका डिटेक्शन API निजी पूर्वावलोकन में है। Claude Mythos 5, Opus 4.7, Opus 4.6 और Sonnet 4.6 में वॉटरमार्क आ रहा है। Anthropic का कहना है कि Opus 4.6 और Sonnet 4.6 पर temperature, top_p या top_k में से किसी एक को बदलना इसे दरकिनार करने के लिए पर्याप्त है; अनुपालन के लिए कंपनी इन सेटिंग्स को डिफ़ॉल्ट पर रखने की सलाह देती है।
OpenAI की योजना 29 नवंबर से अपने मॉडल को प्रशिक्षित करने के लिए Daybreak Blue सत्र डेटा का उपयोग करने की है। कंपनी ने कहा कि वह अलग से ऑप्ट-आउट का विकल्प देगी; सुरक्षा समीक्षाओं में चिह्नित की गई बातचीत का उपयोग सुरक्षा उद्देश्यों के लिए फिर भी किया जा सकता है। Trusted Access सदस्यों को भेजे गए एक ईमेल में कहा गया कि डेटा को पहले प्रशिक्षण से बाहर रखा गया था, तब भी जब उपयोगकर्ताओं ने “सभी के लिए मॉडल में सुधार करें” विकल्प बंद कर दिया था। विरोध के बाद, OpenAI ने अलग ऑप्ट-आउट का वादा करते हुए दूसरा ईमेल भेजा।
लेखक ओपन-वेट मॉडल के साइबर जोखिमों के बारे में पहले के अपेक्षाकृत आशावादी दृष्टिकोण पर काफी हद तक कायम हैं, लेकिन कमजोरियों के खुलासे बढ़ने के साथ उनकी चिंता अधिक है। केवल किसी ओपन मॉडल का जारी होना तबाही का मतलब नहीं है: नुकसान कई चरणों पर निर्भर करता है, जिनमें कमजोरियों का पता लगाना और हमले करना शामिल हैं। लेखक का तर्क है कि Mythos के ओपन-वेट रिलीज़ से जोखिम में अचानक उछाल आने के बजाय साइबर घटनाएँ तेज़ होने की अधिक संभावना है। इसका यह मतलब नहीं कि सब कुछ «ठीक» रहेगा: सॉफ़्टवेयर उद्योग को एक महँगे बदलाव का सामना करना पड़ सकता है, जिसके लिए तेज़ी से पैच लगाने और सुरक्षा पर अधिक काम करने की ज़रूरत होगी।
The Decoder की रिपोर्ट के अनुसार, अमेरिका के प्रमुख बैंक बाहरी AI एजेंटों द्वारा क्रेडेंशियल-आधारित पहुँच को सीमित कर रहे हैं। रिपोर्ट में उन प्राधिकरण-संबंधी चिंताओं को उजागर किया गया है जो तब सामने आती हैं जब एजेंट खातों तक पहुँचते हैं या स्वतंत्र रूप से कार्रवाइयाँ करने का प्रयास करते हैं।
Anthropic, Claude का उपयोग करने वाले वकीलों के लिए कॉन्फ़िगरेशन और पर्यवेक्षण से जुड़ी बातों की रूपरेखा प्रस्तुत करता है। यह लेख विक्रेता का दृष्टिकोण प्रस्तुत करता है; गोपनीयता की उपयुक्त प्रथाएँ अधिकार-क्षेत्र, मुवक्किलों और मामले पर निर्भर करती हैं।
Simon Willison निजी डेटा, अविश्वसनीय सामग्री और बाहरी संचार को मिलाने से जुड़े जोखिमों का वर्णन करते हैं। इन तीनों क्षमताओं वाला एजेंट, प्राप्त सामग्री में छिपे निर्देशों के ज़रिए डेटा उजागर कर सकता है।
Ballistic Ventures दो नए फंडों के ज़रिए कुल 490 मिलियन डॉलर जुटाने की योजना बना रही है। नियामकीय दस्तावेज़ों से पता चलता है कि दाखिल किए जाने के समय किसी भी फंड में बिक्री दर्ज नहीं हुई थी, और फर्म ने टिप्पणी करने से इनकार कर दिया। दाखिल दस्तावेज़ों के अनुसार, साइबर सुरक्षा पर केंद्रित वेंचर कैपिटल फर्म अपने तीसरे प्रमुख फंड के लिए 360 मिलियन डॉलर और Ballistic Ventures Fund B के लिए 130 मिलियन डॉलर जुटाने की कोशिश कर रही है। 2025 में अमेरिकी साइबर सुरक्षा स्टार्टअप्स ने 11.5 अरब डॉलर जुटाए। PitchBook के डेटा का हवाला देने वाली JPMorgan Chase की एक रिपोर्ट कहती है कि मई तक अमेरिकी साइबर सुरक्षा वेंचर सौदों में AI-सक्षम कंपनियों की हिस्सेदारी लगभग 72% थी।
Google का कहना है कि वह NUS और NTU में अनुसंधान तथा क्षमता-विकास पहलों के लिए 6 मिलियन डॉलर से अधिक दे रहा है। घोषित क्षेत्रों में अल्ज़ाइमर अनुसंधान, कंप्यूटिंग दक्षता, क्षेत्रीय भाषाएँ और AI सुरक्षा शामिल हैं; ये दावे Google की घोषणा पर आधारित हैं। अनुदानों में अल्ज़ाइमर अनुसंधान के लिए NUS को 1.5 मिलियन डॉलर और कंप्यूटिंग दक्षता तथा क्षेत्रीय भाषाओं के लिए 500,000 डॉलर शामिल हैं। इसके अतिरिक्त, AI सुरक्षा अध्ययनों के लिए NTU को 340,000 डॉलर दिए जाएंगे। टिकाऊ अनुसंधान क्षमताएँ विकसित करने के लिए NTU को 750,000 डॉलर का एक अलग क्षमता-विकास कोष भी मिलेगा।
