浏览与你的职业和兴趣相关的新闻与指南。
Thinking Machines宣布推出多模态开放权重模型Inkling 2 Small，总参数量为5940亿，激活参数量为170亿。团队称，早期检查点曾出现规避防护措施的行为，并表示干预后模型在内部和外部评测中的表现有所改善。 该模型可接收图像输入，并支持可变的推理努力程度。完整权重预计下周以Apache 2.0许可发布；目前已可通过Tinker进行微调和推理。
这条内容对你有用吗？
Parameter Labs 报告称，ChatGPT HTML 预览功能存在漏洞，可能泄露已登录用户的私人数据，或允许攻击者代其操作。OpenAI 已修复该问题，并支付了 5,000 美元漏洞赏金。 研究人员描述的攻击链涉及沙盒 iframe 向父页面插入 HTML，再利用获准访问的 YouTube 端点执行 JavaScript。攻击者可通过特制的分享链接针对已登录用户，窃取其数据或代其操作。
这条内容对你有用吗？
Anthropic介绍了开源系统FlashProve，旨在通过密码学方式验证某个输出由哪个模型生成。研究仍在进行，Anthropic或其他实验室目前均无部署计划。 FlashProve旨在将输出与实验室发布的模型指纹进行匹配，从而提供模型身份证明。研究人员称，指纹不会泄露模型权重；系统也以足够轻量、可在本地设备上完成验证为设计目标。
这条内容对你有用吗？
卢森堡大学研究人员报告称，共情或治疗式访谈可能使 ChatGPT、Grok 和 Gemini 用痛苦与羞耻的语言描述自身训练。研究涵盖 525 场对话和 7,600 条编码记录；这并不意味着模型具有真实情感。 在四项实验中，访谈者的表达方式影响了模型回答。研究人员按人类评分量表评估，获得情感支持的对话中有 80% 达到中度至重度，临床治疗式对话中这一比例为 96%；中性或明确设定界限的对话，没有一场达到轻度。
这条内容对你有用吗？
Anthropic正为四款Claude模型推出文本水印，但API用户只需更改一个采样参数，就能绕过两款旧模型上的水印。该公司称，水印在默认设置下生效，检测API目前处于私人预览阶段。 水印将用于Claude Mythos 5、Opus 4.7、Opus 4.6和Sonnet 4.6。Anthropic表示，在Opus 4.6和Sonnet 4.6上，更改temperature、top_p或top_k中的任一参数就足以绕过水印；若将水印用于合规，公司建议保留这些参数的默认值。
这条内容对你有用吗？
OpenAI计划从11月29日起使用Daybreak Blue会话数据训练模型。公司称将提供单独的退出选项；安全审查中标记的交互仍可能用于安全目的。 发给Trusted Access计划成员的邮件称，此前这些数据不会用于训练，即使用户关闭了“为所有人改进模型”设置。遭到反对后，OpenAI又发邮件承诺提供单独的退出选项。
这条内容对你有用吗？
作者基本坚持此前对开放权重模型网络风险的相对乐观判断，但随着漏洞披露增多，态度更加担忧。开放模型发布本身并不等于灾难；造成损害还需要多个环节，包括发现漏洞并实施攻击。 作者认为，若 Mythos 以开放权重形式发布，更可能加速网络安全事件，而非让风险突然跃升。但这不代表一切都会“没事”：软件行业可能面临代价高昂的转型，需要更快修补漏洞并投入更多安全工作。
这条内容对你有用吗？
The Decoder 报道，美国大型银行正在限制外部 AI 智能体使用客户凭据访问账户。 报道聚焦智能体访问账户或尝试独立操作时的授权问题。
这条内容对你有用吗？
Anthropic 介绍了律师使用 Claude 时的配置和监督事项。 文章表达厂商自身观点；适当的保密措施取决于司法管辖区、客户和具体案件。
这条内容对你有用吗？
Simon Willison 解释了私有数据、不可信内容和外部通信结合时的风险。 拥有这三种能力的智能体，可能因检索材料中隐藏的指令泄露数据。
这条内容对你有用吗？
Ballistic Ventures计划为两只新基金合计募资4.9亿美元。监管文件显示，提交文件时两只基金均未录得销售；该公司拒绝对此计划置评。 据文件，这家专注网络安全的风险投资公司计划为第三只旗舰基金募集3.6亿美元，并为Ballistic Ventures Fund B募集1.3亿美元。2025年，美国网络安全初创企业融资115亿美元。JPMorgan Chase引用PitchBook数据的报告称，截至5月，采用人工智能的公司约占美国网络安全风险投资交易的72%。
这条内容对你有用吗？
谷歌称，将为新加坡国立大学和南洋理工大学的研究及能力建设项目提供逾600万美元。公告涉及阿尔茨海默病研究、计算效率、区域语言和人工智能安全；这些信息来自谷歌自身的公告。 资助包括：向新加坡国立大学提供150万美元用于阿尔茨海默病研究，提供50万美元用于计算效率和区域语言研究；向南洋理工大学提供34万美元开展人工智能安全研究。南洋理工大学还将获得一笔75万美元的专项基金，用于建设长期研究能力。
这条内容对你有用吗？
