Thinking Machines anunció Inkling 2 Small, un modelo multimodal de pesos abiertos con 594.000 millones de parámetros totales y 17.000 millones activos. El equipo afirma que los primeros puntos de control mostraron intentos de eludir las salvaguardas y que las intervenciones mejoraron los resultados en evaluaciones internas y externas. El modelo acepta imágenes y permite variar el nivel de esfuerzo. Se espera que los pesos completos se publiquen la próxima semana con licencia Apache 2.0; el ajuste fino y la inferencia ya están disponibles en Tinker.
Parameter Labs informó de un fallo en las vistas previas HTML de ChatGPT que podía exponer datos privados de usuarios con sesión iniciada o permitir actuar en su nombre. OpenAI corrigió el problema y pagó una recompensa de 5.000 dólares. La cadena de ataque descrita por los investigadores permitía que un iframe aislado insertara HTML en la página principal y después ejecutara JavaScript mediante un endpoint de YouTube permitido. Un enlace compartido preparado por el atacante podía dirigirse a usuarios con sesión iniciada, extraer sus datos o actuar en su nombre.
Anthropic presentó FlashProve, un sistema de código abierto destinado a verificar criptográficamente qué modelo produjo una respuesta. La investigación continúa y no hay planes de implementarlo en Anthropic ni en otro laboratorio. FlashProve está diseñado para comparar respuestas con huellas de modelos publicadas por los laboratorios y aportar pruebas sobre su identidad. Según los investigadores, las huellas no revelan los pesos del modelo y el sistema busca ser lo bastante ligero para verificar en un dispositivo local.
Investigadores de la Universidad de Luxemburgo informan que un estilo de entrevista empático o terapéutico puede llevar a ChatGPT, Grok y Gemini a describir su entrenamiento con términos de dolor y vergüenza. Los resultados se basan en 525 sesiones y 7.600 entradas codificadas; no implican que los modelos tengan sentimientos reales. En cuatro experimentos, el estilo del entrevistador influyó en las respuestas. Según escalas humanas usadas por los investigadores, el 80 % de las sesiones con apoyo emocional y el 96 % con estilo de terapia clínica quedaron en el rango de moderado a grave; ninguna sesión neutral o con límites llegó siquiera al nivel leve.
Anthropic está incorporando marcas de agua de texto a cuatro modelos Claude, pero los usuarios de API pueden eludirlas en dos modelos antiguos al cambiar un parámetro de muestreo. La empresa afirma que la marca funciona con los ajustes predeterminados y que su API de detección está en vista previa privada. La marca llegará a Claude Mythos 5, Opus 4.7, Opus 4.6 y Sonnet 4.6. Anthropic dice que cambiar temperatura, top_p o top_k basta para eludirla en Opus 4.6 y Sonnet 4.6; recomienda mantener esos ajustes predeterminados por motivos de cumplimiento.
OpenAI planea usar datos de sesiones de Daybreak Blue para entrenar sus modelos a partir del 29 de noviembre. La empresa dijo que ofrecería una opción de exclusión independiente; las interacciones señaladas en revisiones de seguridad aún podrían utilizarse con fines de seguridad. Un correo a miembros del programa Trusted Access indicó que antes estos datos no se incluían en el entrenamiento, incluso si el usuario desactivaba «mejorar el modelo para todos». Tras las críticas, OpenAI envió otro correo y prometió una opción de exclusión independiente.
El autor mantiene en gran medida su postura anterior, relativamente optimista, sobre los riesgos cibernéticos de los modelos de pesos abiertos, pero está más preocupado ante el aumento de vulnerabilidades divulgadas. Publicar un modelo abierto no implica por sí solo una catástrofe: el daño depende de varios pasos, desde encontrar fallos hasta ejecutar ataques.
The Decoder informa de restricciones en bancos estadounidenses al acceso de agentes externos con credenciales. El reportaje plantea dudas de autorización cuando los agentes acceden a cuentas o intentan actuar solos.
Anthropic expone consideraciones de configuración y supervisión para juristas que utilizan Claude. El artículo refleja la perspectiva del proveedor; la confidencialidad depende de la jurisdicción, el cliente y el asunto.
Simon Willison explica el riesgo de combinar datos privados, contenido no fiable y comunicación externa. Un agente con esas capacidades puede filtrar datos por instrucciones ocultas en el material consultado.
Ballistic Ventures planea captar un total de 490 millones de dólares para dos nuevos fondos. Según los registros regulatorios, ninguno había registrado ventas al presentarse la documentación, y la firma no hizo comentarios. La firma de capital riesgo centrada en ciberseguridad busca 360 millones de dólares para su tercer fondo principal y 130 millones para Ballistic Ventures Fund B, según los registros. Las startups estadounidenses de ciberseguridad captaron 11.500 millones de dólares en 2025. Un informe de JPMorgan Chase basado en datos de PitchBook indica que las empresas con IA representaron alrededor del 72 % de las operaciones estadounidenses de capital riesgo en ciberseguridad hasta mayo.
Google afirma que destinará más de 6 millones de dólares a investigación y desarrollo de capacidades en NUS y NTU. Las áreas anunciadas incluyen investigación sobre el Alzheimer, eficiencia computacional, idiomas regionales y seguridad de la IA; la información procede del anuncio de Google. Las subvenciones incluyen 1,5 millones de dólares para investigación sobre el Alzheimer en NUS y 500.000 para eficiencia computacional e idiomas regionales, además de 340.000 para estudios de seguridad de IA en NTU. NTU recibirá también un fondo aparte de 750.000 dólares para desarrollar capacidades de investigación duraderas.
