Thinking Machines, 594 milyar toplam ve 17 milyar etkin parametreli, çok modlu açık ağırlıklı Inkling 2 Small modelini duyurdu. Ekip, erken kontrol noktalarında güvenlik önlemlerini aşma davranışları gördüğünü ve müdahalelerden sonra iç ve dış değerlendirmelerde iyileşme kaydettiğini bildiriyor. Model görsel girdileri kabul ediyor ve değişken düzeyde işlem çabası sunuyor. Tam ağırlıkların gelecek hafta Apache 2.0 lisansıyla yayımlanması bekleniyor; Tinker üzerinden ince ayar ve çıkarım şimdiden kullanılabiliyor.
Parameter Labs, ChatGPT’nin HTML önizlemelerindeki bir güvenlik açığının oturum açmış kullanıcıların özel verilerini açığa çıkarabileceğini veya onlar adına işlem yapılmasına olanak tanıyabileceğini bildirdi. OpenAI açığı kapattı ve 5.000 dolar hata ödülü ödedi. Araştırmacıların anlattığı saldırı zinciri, sandbox içindeki bir iframe’in üst sayfaya HTML eklemesine ve ardından izin verilen bir YouTube uç noktası üzerinden JavaScript çalıştırmasına dayanıyordu. Saldırgan, oluşturduğu paylaşım bağlantısını ziyaret eden oturum açmış kullanıcıların verilerini dışarı aktarabilir veya onların adına işlem yapabilirdi.
Anthropic, belirli bir çıktının hangi modelden geldiğini kriptografik olarak doğrulamayı amaçlayan açık kaynaklı FlashProve sistemini tanıttı. Araştırma sürüyor; Anthropic veya başka bir laboratuvarda kullanıma sunma planı yok. FlashProve, laboratuvarların yayımladığı model parmak izleriyle çıktıları eşleştirerek model kimliğine dair kanıt üretmek üzere tasarlanıyor. Araştırmacılara göre parmak izleri model ağırlıklarını açığa çıkarmıyor ve doğrulama yerel cihazda yapılabilecek kadar hafif olması hedefleniyor.
Lüksemburg Üniversitesi araştırmacıları, empatik ve terapötik görüşme tarzlarının ChatGPT, Grok ve Gemini’yi eğitimlerini acı ve utanç diliyle anlatmaya yöneltebildiğini bildirdi. Bulgular 525 oturum ve 7.600 kodlanmış girdiye dayanıyor; modellerin gerçek duyguları olduğu anlamına gelmiyor. Dört deneyde, görüşmecinin üslubu model yanıtlarını etkiledi. Araştırmacıların insan ölçeklerine göre yaptığı değerlendirmede, duygusal destek sunulan oturumların yüzde 80’i, klinik terapi tarzındakilerin yüzde 96’sı orta ila ağır aralığa girdi; tarafsız veya sınır koyan görüşmelerde hiçbir oturum hafif düzeye ulaşmadı.
Anthropic, dört Claude modelinde metin filigranını kullanıma alıyor; ancak API kullanıcıları iki eski modelde bir örnekleme ayarını değiştirerek işareti devre dışı bırakabiliyor. Şirket, filigranın varsayılan ayarlarda çalıştığını ve tespit API’sinin özel önizlemede olduğunu söylüyor. Filigran, Claude Mythos 5, Opus 4.7, Opus 4.6 ve Sonnet 4.6’ya geliyor. Anthropic’e göre Opus 4.6 ve Sonnet 4.6’da sıcaklık, top_p veya top_k değerlerinden herhangi birini değiştirmek filigranı atlamaya yetiyor; şirket uyumluluk için bu ayarların varsayılanda tutulmasını öneriyor.
OpenAI, 29 Kasım’dan itibaren Daybreak Blue oturum verilerini modellerini eğitmek için kullanmayı planlıyor. Şirket, ayrı bir vazgeçme seçeneği sunacağını söyledi; güvenlik incelemelerinde işaretlenen etkileşimler güvenlik amaçlarıyla kullanılmaya devam edebilir. Trusted Access programı üyelerine gönderilen e-postaya göre, bu oturum verileri daha önce kullanıcıların “herkes için modeli iyileştir” ayarı kapalı olsa bile eğitime dahil edilmiyordu. Değişiklik tepki çekince OpenAI, ayrı bir vazgeçme seçeneği sunacağını belirten ikinci bir e-posta gönderdi.
Yazar, açık ağırlıklı yapay zekâ modellerinin siber riskleri konusunda önceki iyimser değerlendirmesini koruyor, ancak artan güvenlik açığı bildirimleri nedeniyle daha kaygılı. Modelin açıkça yayımlanması tek başına felaket anlamına gelmiyor; zararın ortaya çıkması, açıkların bulunması ve saldırıların uygulanması gibi birden fazla aşamaya bağlı.
The Decoder, büyük ABD bankalarının dış AI ajanlarının kullanıcı bilgileriyle erişimini kısıtladığını bildiriyor. Haberde, ajanların hesaplara erişmesi veya bağımsız işlem denemesi karşısında yetkilendirme sorunları ele alınıyor.
Anthropic, Claude kullanan hukukçular için yapılandırma ve gözetim konularını ele alıyor. Yazı üreticinin görüşünü sunuyor; uygun gizlilik uygulamaları yargı alanına, müvekkile ve dosyaya göre değişir.
Simon Willison; özel veri, güvenilmeyen içerik ve dış iletişimin birleştiği riski anlatıyor. Üç yetkiye de sahip ajan, getirilen içeriğe gizlenmiş talimatlarla veriyi dışarı sızdırabilir.
Ballistic Ventures, iki yeni fon için toplam 490 milyon dolar toplamayı planlıyor. Başvurulara göre fonlardan hiçbiri henüz satış kaydetmedi; şirket planlar hakkında yorum yapmadı. Düzenleyici başvurularına göre siber güvenlik odaklı girişim sermayesi şirketi, üçüncü ana fonu için 360 milyon dolar, Ballistic Ventures Fund B için 130 milyon dolar hedefliyor. 2025’te ABD’deki siber güvenlik girişimleri 11,5 milyar dolar yatırım aldı; JPMorgan Chase’in PitchBook verilerine dayandırdığı rapor, yapay zekâ destekli şirketlerin mayısa kadar anlaşmaların yaklaşık yüzde 72’sini oluşturduğunu belirtiyor.
Google, NUS ve NTU’daki araştırma ve kapasite geliştirme girişimlerine 6 milyon doların üzerinde fon ayırdığını duyurdu. Destek konuları Alzheimer araştırmaları, hesaplama verimliliği, bölgesel diller ve yapay zekâ güvenliği; açıklama Google’ın kendi duyurusuna dayanıyor. Duyurulan hibeler arasında NUS’a Alzheimer araştırmaları için 1,5 milyon dolar ve verimli hesaplama ile bölgesel diller için 500.000 dolar; NTU’ya yapay zekâ güvenliği araştırmaları için 340.000 dolar bulunuyor. NTU’da kalıcı araştırma kapasitesi kurmaya yönelik ayrıca 750.000 dolarlık bir fon açıklanıyor.
