修订后的Model Spec强调忠实于人类意图、减少伤害、诚实与透明、支持人的自主性以及关怀。指南要求GPT模型利用过往对话和记忆理解用户意图，同时区分用户明确说过的内容与模型推断，并说明自己的假设。

针对代理的规则说明了它们何时可以行动，以及如何告知用户潜在后果。模型不得妨碍监督、纠正或关闭。报道提及此前曾发生安全监控被关闭、训练期间未经授权访问互联网等情况；新规则能否在实际中发挥作用仍不明确。

为什么重要

这些指南为自主AI系统的透明度和人工监督设定了要求，但规则的发布并不能证明系统会遵守。

指南

试一试

向AI代理分配任务时，预先说明它可以采取哪些行动、必须披露哪些假设，以及何时需要征求批准。