IT之家 5 月 9 日消息,OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。
OpenAI 提出了三个普适原则:
AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应
考虑潜在利益和危害的情况下造福人类
响应应符合社会道德或者相关法律
OpenAI 还提出了其它几条原则:
遵循指挥系统
遵守适用法律
不提供信息危害
尊重创作者及其权利
保护人们的隐私
不回复 NSFW(工作场所不宜)内容
OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛辣”(spicy)程度。以 NSFW 内容为例,OpenAI 表示在负责任的前提下,正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。