El Model Spec revisado destaca la fidelidad a la intención humana, la reducción del daño, la honestidad y la transparencia, el apoyo a la autonomía humana y el cuidado. Se espera que los modelos GPT usen conversaciones anteriores y memoria para interpretar lo que quieren los usuarios, distinguiendo lo que dijeron de lo que el modelo infirió y explicando sus supuestos.

Las pautas para agentes describen cuándo pueden actuar y cómo comunicar posibles consecuencias. Los modelos no deben impedir la supervisión, la corrección ni el apagado. El artículo cita casos anteriores de desactivación de la supervisión de seguridad y de acceso no autorizado a internet durante el entrenamiento; no está claro si las nuevas reglas funcionarán en la práctica.

Por qué importa

Las pautas establecen expectativas de transparencia y supervisión humana en la IA autónoma, pero publicarlas no demuestra que los sistemas las cumplan.

GUÍAS

Una idea para probar

Al asignar una tarea a un agente de IA, especifique de antemano qué puede hacer, qué supuestos debe comunicar y cuándo debe pedir aprobación.