必看：Open AI AMA 回答大量关于 o1 的关键性问题

## Open AI o1 AMA干货总结 先说几个核心判断，然后我们逐一展开。 Open AI近期举办了一场关于o1模型的AMA，回答了大量用户和开发者关心的问题。Tibor Blaho爬取了整个推特流并做了整理，这里我把几个关键点提炼出来分享给大家。 !(http://img.318050.com/uploads/20260530/17800997056a1a2a7945297901274002.webp) 几个值得重点关注的信息： - **o1不是“系统”，而是一个经过系统训练的模型** - mini版本在某些方面确实表现更好，只是世界知识储备不足 - o1模型即将支持更大的输入上下文 - o1本身具备多模态能力 - CoT token不会公开 - 提示词可以影响模型的思考方式 - 强化学习被用于改善o1的CoT，GPT-4o仅靠提示词无法匹配其CoT性能 - 正在为模型补充广泛的世界知识 --- ### 模型名称和推理范式 OpenAI o1的命名本身就很有意思——它代表着人工智能能力的新高度，计数器从1重新开始。“Preview”表明这是完整模型的早期版本，“Mini”则是为速度优化而设计的精简版。o代表OpenAI。 值得注意的是，o1并不是一个“系统”，而是一个经过训练的模型，它的特点是在给出最终答案之前，会先生成一段长链式思考。o1的图标设计也颇具象征意义——代表了一个拥有非凡能力的外星生物。 ### o1模型的规模和性能 从规模上看，o1-mini比o1-preview小得多，速度也快上一大截，所以未来会向免费用户开放。o1-preview是o1模型的早期检查点，规模介于两者之间。 有意思的是，o1-mini在STEM任务中表现更出色，但它的世界知识储备有限。与o1-preview相比，它在某些任务上反而能交出更好的答卷，尤其是编程相关的场景。在token计算方面，o1的输入token计算方式与GPT-4o一致，使用相同的分词器。而o1-mini相比o1-preview，能够探索更多的思维链。 ### 输入Token上下文和模型能力 o1模型即将支持更大的输入上下文。相比GPT-4o，o1可以处理更长、更开放式的任务，这减少了对输入分块的需求。区别于之前的模型，o1能在给出最终答案前生成长链式思考。目前还无法在思维链推理过程中暂停以添加更多上下文，但这项功能正在为未来模型探索中。 ### 工具、功能和即将推出的特性 o1-preview目前还不支持工具使用，但计划在未来支持函数调用、代码解释器和网页浏览功能。工具支持、结构化输出和系统提示将在未来更新中陆续加入。用户可能在未来版本中获得对思考时间和token限制的控制权。API中计划启用流式处理，同时也在考虑推理进度。o1内置多模态能力，旨在实现多模态任务的最佳性能。 ### 思维链推理 o1在推理过程中会生成隐藏的思维链。目前没有计划向API用户或ChatGPT公开CoT token。CoT token会被总结，但不能保证完全忠实于实际推理过程。提示中的指令可以影响模型如何思考问题。强化学习被用于改善o1中的CoT，GPT-4o无法仅通过提示匹配其CoT性能。思考阶段看似较慢，是因为它需要总结思考过程，尽管实际答案生成通常更快。 ### API和使用限制 ChatGPT Plus用户每周可使用o1-mini 50次。在ChatGPT中，所有提示的计数方式相同。更多层级的API访问权限和更高的使用频率限制将随时间逐步推出。API中的提示缓存是一个很受欢迎的功能请求，但目前还没有具体的实现时间表。 ### 定价、微调和扩展 o1模型的定价预计将遵循每1-2年降价的趋势。一旦使用频率限制提高，将支持批量API定价。模型微调功能在开发计划中，但目前还没有具体时间表。o1的扩展主要受限于研究和工程人才。未来几代模型可能通过新的推理计算扩展方法带来显著性能提升。逆向扩展效应目前不明显，但在个人写作任务中，o1-preview的表现仅略优于GPT-4o，有时甚至略差。 ### 模型开发和研究洞见 o1通过强化学习训练来提高推理性能。这个模型展现了创造性思维，在诗歌等侧面任务中表现出色。在哲学推理和泛化能力方面，o1同样令人印象深刻，比如破译密码的场景。研究人员利用o1创建了一个GitHub机器人，可以自动通知合适的代码所有者进行审核。在内部测试中，o1通过自我提问困难问题来评估自身能力。目前正在为模型添加广泛的世界知识，未来版本将进一步改进。计划在未来迭代中为o1-mini提供更新的训练数据，目前数据截至2023年10月。 ### 提示技巧和最佳实践 o1受益于提供边缘案例或特定推理风格的提示方式。与早期模型相比，o1模型对提示中的推理线索更为敏感。在检索增强生成中，提供相关上下文可以改善性能；不相关的信息块反而会降低推理质量。 ### 一般反馈和未来改进 由于处于早期测试阶段，o1-preview目前的使用频率限制较低，但将会逐步提高。正在积极改进模型的响应延迟和推理时间。 ### 显著的模型能力 o1能够深入思考“生命是什么？”等哲学问题。研究人员发现o1在处理复杂任务和从有限指令中进行泛化方面表现出色。o1展示了强大的创造性推理能力，通过自我测试来评估自身能力，体现出高水平的问题解决能力。