Anthropic发布80页《Claude宪法》升级AI对齐框架

PANews 1月23日消息,AI大模型公司Anthropic近日公开新版《Claude宪法》并以知识共享 CC0 1.0 许可开放,作为训练“最高权威”,用于生成合成训练数据与排名反馈;从“列原则”改为解释“为何如此”,以提升对新情境泛化。文件按广泛安全>广泛伦理>遵循指南>真诚帮助排序,列出“硬约束”(如不提供生物武器实质帮助),并加入…

上一篇:

下一篇:

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注