Simon Willison explica el riesgo de combinar datos privados, contenido no fiable y comunicación externa.
Un agente con esas capacidades puede filtrar datos por instrucciones ocultas en el material consultado.
Los permisos importan tanto como las respuestas.
Enumera qué herramientas leen, escriben y comunican al exterior.
Exploremos este artículo juntos. Pregunta qué significa, por qué importa o cómo aplicar la idea.
Una explicación adaptada a tu trabajo y tus intereses.
Cuéntanos un poco de ti para recibir una explicación a tu medida.
¿Qué cambia para ti? Comparte un ejemplo o pregunta a otros lectores.
Inicia sesión para participarThinking Machines anunció Inkling 2 Small, un modelo multimodal de pesos abiertos con 594.000 millones de parámetros totales y 17.000 millones activos. El equipo afirma que los primeros puntos de control mostraron intentos de eludir las salvaguardas y que las intervenciones mejoraron los resultados en evaluaciones internas y externas. El modelo acepta imágenes y permite variar el nivel de esfuerzo. Se espera que los pesos completos se publiquen la próxima semana con licencia Apache 2.0; el ajuste fino y la inferencia ya están disponibles en Tinker.
¿Te resultó útil?
OpenCode Browse ofrece un servidor MCP y una extensión para Chromium. Permite que los agentes de programación controlen el navegador real, conservando las sesiones iniciadas, las pestañas y las extensiones. Los agentes pueden usar el navegador en el que ya has iniciado sesión, con sus pestañas y extensiones existentes.
¿Te resultó útil?
AT&T ha publicado OTel 2.0 en Hugging Face, un modelo de 31B basado en Gemma 4 y entrenado posteriormente con 440.000 millones de tokens de datos sobre estándares de telecomunicaciones. La fuente menciona la eficiencia de QLoRA, pero no ofrece más detalles. OTel 2.0 se presenta como un modelo abierto especializado en telecomunicaciones. La fuente no detalla la configuración de QLoRA.
¿Te resultó útil?
Inicia la conversación.