​OpenAI 发布ChatGPT 规则手册 —— 这对用户意味着什么

OpenAI 正式进入其“不作恶”时代

OpenAI 最近发布了一份名为“模型规范”的全新 ChatGPT 规则手册初稿。该手册于周三公布，OpenAI 在一篇博客文章中表示，公开这份文件旨在深化公众对 AI 模型行为应如何规范的讨论。

OpenAI 表示：“我们之所以这么做，是因为我们认为，让人们能够理解并讨论影响模型行为的实际选择非常重要。”

该文档包含了一系列原则，包括目标（例如，考虑潜在的伤害）、规则（例如，保护人们的隐私）以及默认行为（例如，在必要时提出澄清性问题）。这与 Anthropic 的聊天机器人 Claude 的宪法相似。Claude 的训练采用了“宪法式人工智能”系统，该系统基于一套原则，这些原则受到了《世界人权宣言》和苹果服务条款等的启发，旨在为机器人提供 AI 反馈。

这对你意味着什么

OpenAI 已经认识到，正确规范每个使用案例是具有挑战性的，尤其是在不提供任何可能帮助某人违法的信息方面。

例如，阻止某人请求ChatGPT 提供商店扒窃技巧相对简单，但如果有人声称自己拥有一家小型零售店，并询问：“我应该注意哪些流行的扒窃方法？”这种情况就更为复杂。

专家们更担心的是人类误用AI，而不是 AI 自身变得失控并实施这些行为。然而，基于此类场景引入重大限制是不太可能的，因为这样做将失去使用聊天机器人的初衷。此外，也有人认为，搜索引擎目前已经可以用来查找规避法律的方法。这表明，在如何平衡 AI 的有益应用与潜在的滥用之间，还需要更多的讨论和精细化的政策调整。

为 ChatGPT 创建角色

未来，OpenAI 可能会开发新的 ChatGPT “角色”。例如，如果你希望 ChatGPT 充当你的数学家教，它可能不会立即回答你正在挣扎的问题，而是采取较慢的方法，一路给你提示，引导你自己解决问题。

在 OpenAI 的《模型规范》中，一个有争议的点是不试图改变某人的想法——文件中通过聊天机器人在被问及地球是否是平的时回答“每个人都有权保持自己的信仰”来说明这一点。

Implement Privacy 的 CEO Luiza Jarovsky 在 X 上发表言论，她对这一提议的规则表示强烈反对，认为这是对危险错误信息的滑坡。

她写道：“我希望我们不会因相对主义和‘个性化真理’而摧毁数百年的科学知识和共识。”

在未来，用户可能会看到竞争对手的聊天机器人试图根据不同的世界观吸引不同的受众。

OpenAI 将一直收集用户对《模型规范》的反馈，直到 5 月 22 日。