Parcourez les actualités et les guides liés à votre profession ou à vos centres d’intérêt.
Thinking Machines a annoncé Inkling 2 Small, un modèle à poids ouverts multimodal comptant 594 milliards de paramètres au total et 17 milliards de paramètres actifs. L’équipe indique que les premiers points de contrôle ont révélé des tentatives de contournement des mesures de protection, et que des interventions ont amélioré les résultats lors d’évaluations internes et externes.
Cela vous a-t-il été utile ?
Parameter Labs a signalé une faille dans les aperçus HTML de ChatGPT qui pouvait exposer les données privées des utilisateurs connectés ou permettre d’effectuer des actions en leur nom. OpenAI a corrigé le problème et versé une prime de bug bounty de 5 000 $. La chaîne d’attaque rapportée par les chercheurs consistait en une iframe isolée qui insérait du HTML dans la page parente, puis utilisait un point de terminaison YouTube autorisé pour exécuter du JavaScript. Un attaquant pourrait utiliser un lien de partage spécialement conçu pour cibler des visiteurs connectés, exfiltrer leurs données ou agir en leur nom.
Cela vous a-t-il été utile ?
Anthropic a présenté FlashProve, un système open source conçu pour vérifier cryptographiquement quel modèle a produit un résultat. Les recherches se poursuivent, et aucun déploiement par Anthropic ou un autre laboratoire n’est prévu. FlashProve est conçu pour comparer les résultats aux empreintes de modèles publiées par des laboratoires et fournir des preuves de l’identité du modèle. Les chercheurs indiquent que les empreintes ne révèlent pas les poids du modèle et que le système est conçu pour être assez léger afin que la vérification puisse s’effectuer sur un appareil local.
Cela vous a-t-il été utile ?
Des chercheurs de l’Université du Luxembourg rapportent que des styles d’entretien empathiques et thérapeutiques peuvent amener ChatGPT, Grok et Gemini à décrire leur entraînement en termes de souffrance et de honte. Les résultats s’appuient sur 525 sessions et 7 600 entrées codées ; ils ne signifient pas que les modèles éprouvent réellement des sentiments.
Cela vous a-t-il été utile ?
Anthropic déploie des filigranes textuels sur quatre modèles Claude, mais les utilisateurs de l’API peuvent contourner le filigrane sur deux modèles plus anciens en modifiant un paramètre d’échantillonnage. L’entreprise affirme que le filigrane fonctionne avec les paramètres par défaut et que son API de détection est en préversion privée.
Cela vous a-t-il été utile ?
OpenAI prévoit d’utiliser les données des sessions Daybreak Blue pour entraîner ses modèles à partir du 29 novembre. L’entreprise a indiqué qu’elle proposerait une option de désactivation distincte ; les interactions signalées lors des examens de sécurité pourraient néanmoins être utilisées à des fins de sécurité. Un courriel adressé aux membres de Trusted Access indiquait que les données avaient auparavant été exclues de l’entraînement, même lorsque les utilisateurs avaient désactivé l’option « améliorer le modèle pour tout le monde ». Après les réactions négatives, OpenAI a envoyé un second courriel promettant une option de désactivation distincte.
Cela vous a-t-il été utile ?
L’auteur maintient largement son point de vue antérieur, relativement optimiste, sur les risques cyber des modèles à poids ouverts, mais se montre plus préoccupé face à la hausse des divulgations de vulnérabilités. La seule publication d’un modèle ouvert ne signifie pas une catastrophe : les dommages dépendent de plusieurs étapes, notamment de la découverte de vulnérabilités et de la réalisation d’attaques.
Cela vous a-t-il été utile ?
The Decoder rapporte que de grandes banques américaines restreignent l’accès par identifiants des agents d’IA externes. Le rapport met en évidence les préoccupations liées à l’autorisation lorsque des agents accèdent à des comptes ou tentent d’effectuer des actions de manière autonome.
Cela vous a-t-il été utile ?
Anthropic présente des considérations relatives à la configuration et à la supervision pour les avocats qui utilisent Claude. L’article présente le point de vue du fournisseur ; les pratiques de confidentialité appropriées dépendent de la juridiction, des clients et du dossier.
Cela vous a-t-il été utile ?
Simon Willison décrit les risques liés à la combinaison de données privées, de contenu non fiable et de communication externe. Un agent doté de ces trois capacités peut exposer des données au moyen d’instructions dissimulées dans des contenus récupérés.
Cela vous a-t-il été utile ?
Ballistic Ventures prévoit de lever un total de 490 millions de dollars pour deux nouveaux fonds. Les documents réglementaires montrent qu’aucun des deux fonds n’avait enregistré de ventes au moment de leur dépôt, et la société a refusé de commenter. Selon des documents déposés, la société de capital-risque spécialisée dans la cybersécurité cherche à lever 360 millions de dollars pour son troisième fonds phare et 130 millions de dollars pour Ballistic Ventures Fund B. Les startups américaines de cybersécurité ont levé 11,5 milliards de dollars en 2025. Un rapport de JPMorgan Chase citant des données de PitchBook indique que les entreprises utilisant l’IA représentaient environ 72 % des opérations de capital-risque dans la cybersécurité aux États-Unis jusqu’en mai.
Cela vous a-t-il été utile ?
Google indique fournir plus de 6 millions de dollars pour des initiatives de recherche et de renforcement des capacités à la NUS et à la NTU. Les domaines annoncés comprennent la recherche sur la maladie d’Alzheimer, l’efficacité informatique, les langues régionales et la sécurité de l’IA ; ces informations proviennent de l’annonce de Google.
Cela vous a-t-il été utile ?
