OpenAI神秘项目“草莓”曝光：推理能力接近类人水平，或威胁全人类！内部人士曾发出警告

OpenAI神秘项目“草莓”曝光：推理能力接近类人水平，或威胁全人类！内部人士曾发出警告

新近披露：OpenAI正致力于将人工智能大模型的推理能力提升至接近类人水平。

据知情人士和内部文件显示，OpenAI正在进行一个代号为“草莓”的项目，旨在开发一种新型人工智能模型。这一项目迄今未曾公开，公司正在努力展示该模型具备高级推理能力的潜力。知情人士透露，即使在OpenAI内部，“草莓”的工作原理也被严格保密。

内部文件还描述了使用“草莓”模型的项目，旨在使OpenAI的人工智能不仅能够生成答案，还能够提前规划和可靠地导航互联网，以进行所谓的“深度研究”。

OpenAI发言人在一份声明中表示：“我们希望我们的AI模型能像人类一样看待和理解世界。持续研究新的AI能力是行业的常见实践，我们相信这些系统的推理能力将随着时间的推移而提高。”

尽管发言人没有直接回答关于“草莓”技术的问题，但媒体指出，“草莓”项目曾用代号Q。去年11月，媒体报道称，Q项目取得了重大突破，可能推动通用人工智能（AGI）的进展，但这也导致OpenAI CEO奥特曼因未充分向董事会披露进展而被解雇。内部人士曾向董事会发出警告，称Q*的发现可能对人类构成威胁。

近期曝光的文件显示，OpenAI计划在2027年之前实现人类水平的AGI。公司正在开发一个名为Arrakis或Q*的超大型模型，旨在提升推理能力。OpenAI还推出了一套新的AI分级系统，以跟踪其产品的技术进展。

这些消息引发了公众和专家对于AI超越人类可能带来的风险以及对经济和就业的潜在影响的担忧。

今年5月，OpenAI发布了其最新的旗舰AI模型GPT-4o，该模型面向所有用户，包括免费用户，具有卓越的性能特征。它能够以最快232毫秒响应音频输入，平均响应时间接近人类水平；相较于GPT-4 Turbo，速度提高了两倍，成本降低了50%，API速率限制提升了五倍。

然而，上个月传出了关于GPT-5发布可能大幅延迟的消息。OpenAI的首席技术官Mira Murati透露，GPT-5预计将在2025年底或2026年初推出，这与先前的市场预测有所出入，因为之前的传闻指出GPT-5可能会在2023年底或2024年夏季发布。

尽管发布时间有所推迟，Murati强调了GPT-5性能的显著提升。该模型内部代号为“Gobi”和“Arrakis”，拥有52万亿参数的多模态模型，远超前一代GPT-4的2万亿参数。这一巨大的参数规模预示着GPT-5在复杂任务和能力上将有重大进展，被比作从高中到大学水平的跨越。

此外，OpenAI还公布了基于GPT-4的新模型CriticGPT，用于检测ChatGPT生成的代码中的错误。CriticGPT能够生成对ChatGPT响应的批评性评论，帮助人类训练者在RLHF（Review of Linear Human Facilities）期间发现潜在问题。OpenAI发现，借助CriticGPT的帮助，人类训练者的审查效果比未使用帮助的情况提高了60%。公司正在积极将类似CriticGPT的模型集成到其RLHF标记管道中，以提供更为精确的AI辅助。

总体而言，OpenAI的最新进展显示，他们不仅在提升AI模型的性能和效率方面取得了显著进展，还在开发能够有效评估高级AI系统输出的工具上迈出了重要的一步。