Esplora notizie e guide per la tua professione o i tuoi interessi.
Thinking Machines ha annunciato Inkling 2 Small, un modello multimodale open-weight con 594 miliardi di parametri totali e 17 miliardi di parametri attivi. Il team afferma che i primi checkpoint hanno mostrato tentativi di aggirare le misure di protezione e che gli interventi hanno migliorato i risultati nelle valutazioni interne ed esterne.
Ti è stato utile?
Parameter Labs ha segnalato una falla nelle anteprime HTML di ChatGPT che poteva esporre i dati privati degli utenti connessi o consentire di compiere azioni per loro conto. OpenAI ha corretto il problema e ha pagato una ricompensa bug bounty di 5.000 $. La catena di attacco descritta dai ricercatori prevedeva che un iframe sandbox inserisse HTML nella pagina principale e poi utilizzasse un endpoint YouTube consentito per eseguire JavaScript. Un aggressore potrebbe usare un link di condivisione appositamente creato per prendere di mira visitatori connessi, sottrarre i loro dati o agire per loro conto.
Ti è stato utile?
Anthropic ha presentato FlashProve, un sistema open source concepito per verificare crittograficamente quale modello ha prodotto un risultato. La ricerca è ancora in corso e non sono previsti piani per implementarlo presso Anthropic o un altro laboratorio. FlashProve è progettato per confrontare i risultati con le impronte dei modelli pubblicate dai laboratori e fornire prove dell’identità del modello. I ricercatori affermano che le impronte non rivelano i pesi del modello e che il sistema è pensato per essere abbastanza leggero da consentire la verifica su un dispositivo locale.
Ti è stato utile?
I ricercatori dell’Università del Lussemburgo riferiscono che stili di intervista empatici e terapeutici possono indurre ChatGPT, Grok e Gemini a descrivere il proprio addestramento con il linguaggio della sofferenza e della vergogna. I risultati si basano su 525 sessioni e 7.600 voci codificate; non significano che i modelli provino sentimenti reali.
Ti è stato utile?
Anthropic sta introducendo filigrane testuali su quattro modelli Claude, ma gli utenti dell’API possono aggirare il contrassegno su due modelli più vecchi modificando un parametro di campionamento. L’azienda afferma che la filigrana funziona con le impostazioni predefinite e che la sua API di rilevamento è in anteprima privata. La filigrana sta arrivando su Claude Mythos 5, Opus 4.7, Opus 4.6 e Sonnet 4.6. Anthropic afferma che, su Opus 4.6 e Sonnet 4.6, è sufficiente modificare uno qualsiasi tra temperature, top_p o top_k per aggirarla; per garantire la conformità, consiglia di mantenere tali impostazioni ai valori predefiniti.
Ti è stato utile?
OpenAI prevede di utilizzare i dati delle sessioni Daybreak Blue per addestrare i propri modelli a partire dal 29 novembre. L’azienda ha dichiarato che metterà a disposizione un’opzione di esclusione separata; le interazioni segnalate durante le verifiche di sicurezza potrebbero comunque essere utilizzate per finalità di sicurezza. Un’email inviata ai membri di Trusted Access affermava che in precedenza i dati erano stati esclusi dall’addestramento, anche quando gli utenti avevano disattivato «migliora il modello per tutti». Dopo le reazioni negative, OpenAI ha inviato una seconda email promettendo un’opzione di esclusione separata.
Ti è stato utile?
L’autore conferma in larga misura la precedente visione relativamente ottimistica sui rischi informatici dei modelli a pesi aperti, ma è più preoccupato per l’aumento delle divulgazioni di vulnerabilità. Il semplice rilascio di un modello aperto non significa catastrofe: i danni dipendono da più passaggi, tra cui trovare vulnerabilità e sferrare attacchi.
Ti è stato utile?
The Decoder riferisce che le principali banche statunitensi stanno limitando l’accesso basato sulle credenziali da parte di agenti di IA esterni. Il rapporto evidenzia le preoccupazioni relative all’autorizzazione quando gli agenti accedono agli account o tentano di compiere azioni autonomamente.
Ti è stato utile?
Anthropic illustra considerazioni sulla configurazione e sulla supervisione per gli avvocati che utilizzano Claude. L’articolo presenta il punto di vista del fornitore; le pratiche di riservatezza appropriate dipendono dalla giurisdizione, dai clienti e dalla questione.
Ti è stato utile?
Simon Willison descrive i rischi derivanti dalla combinazione di dati privati, contenuti non attendibili e comunicazioni esterne. Un agente dotato di tutte e tre queste capacità può esporre dati tramite istruzioni nascoste nei materiali recuperati.
Ti è stato utile?
Ballistic Ventures prevede di raccogliere un totale di 490 milioni di dollari attraverso due nuovi fondi. I documenti normativi mostrano che nessuno dei due fondi aveva registrato vendite al momento della presentazione, e la società ha rifiutato di commentare. Secondo i documenti depositati, la società di venture capital specializzata in cybersecurity punta a raccogliere 360 milioni di dollari per il suo terzo fondo principale e 130 milioni di dollari per Ballistic Ventures Fund B. Nel 2025, le startup statunitensi di cybersecurity hanno raccolto 11,5 miliardi di dollari. Un rapporto di JPMorgan Chase che cita dati di PitchBook afferma che, fino a maggio, le società che utilizzano l’IA rappresentavano circa il 72% delle operazioni di venture capital nel settore della cybersecurity negli Stati Uniti.
Ti è stato utile?
Google afferma di stanziare oltre 6 milioni di dollari per iniziative di ricerca e rafforzamento delle capacità presso NUS e NTU. Gli ambiti annunciati includono la ricerca sull’Alzheimer, l’efficienza informatica, le lingue regionali e la sicurezza dell’IA; le informazioni provengono dall’annuncio di Google. Le sovvenzioni comprendono 1,5 milioni di dollari a NUS per la ricerca sull’Alzheimer e 500.000 dollari per l’efficienza informatica e le lingue regionali, oltre a 340.000 dollari a NTU per studi sulla sicurezza dell’IA. NTU riceverà inoltre un fondo separato di 750.000 dollari per sviluppare capacità di ricerca durature.
Ti è stato utile?
