外界的目光从 OpenAI 的人事斗争转向神秘的 Q*。
撰文：木沐
「出局 - 跳槽 - 返岗」，5 天之后，Sam Altman 最终重新拿回 CEO 一职，与力挺他的原董事会主席 Greg Brockman 一同回到了 OpenAI。
当人们以为这家 AI 巨头上演的宫斗剧彻底落下帷幕时，路透社甩出一个大瓜：在 Altman 被罢免之前，OpenAI 几位研究人员向董事会发出警告信，内容是一项强大的人工智能发现可能威胁人类，而这封信可能是 Altman 下台的关键。
知情人士还告诉路透社，OpenAI 内部有一个名为 Q*（发音为 Q-Star）的项目，这可能是该公司探索通用人工智能 (AGI) 的突破。
至此，外界的目光从 OpenAI 的人事斗争转向神秘的 Q*。
Q* 或与 AI 的数学能力有关
路透社披露的有关内部警告信和 Q* 的信息，均来自不愿具名的消息人士。尽管这家权威媒体表示没有看到内部信的原文，也无法证实 Q* 的功能，但这个增量信息还是引来了外界的好奇。
11 月 22 日，OpenAI 宣布原则上达成协议让 Sam Altman 重新担任 CEO，并组建由 Bret Taylor（主席）、Larry Summers 和 Adam D'Angelo 组成的新董事会。按照这个消息，该公司的首席科学家 llya Sutskever 从董事会出局，他曾被视作罢免 Altman 的核心推动者。
在 X 上，Altman 和 OpenAI 彼此点赞， Brockman 发了一张和成员的「大团圆」合影，老板与员工庆祝着再次成为一家人。
这场被称为「企业家与科学家之争」的大戏以企业家之胜落下帷幕，但外界至今都不清楚 Altman 到底因为什么导致了 OpenAI 原董事会的不信任。
11 月 23 日，路透社援引消息人士曝出大瓜称，Altman 下台前四天，几位研究人员写了一封信给董事会，警告一项强大的人工智能发现，他们称这一发现可能威胁人类。
两位消息人士称，此前未报道的信件和人工智能算法是董事会罢免 Altman 之前的关键。其中一名知情人士称，OpenAI 在给员工的内部信中承认有一个名为 Q* 的项目，一些人认为 Q* 可能是公司探索通用人工智能 (AGI) 的突破。
OpenAI 一直认为，AGI 能在最具经济价值的任务中超越人类的自主系统。
这位不愿具名的人士表示，鉴于庞大的计算资源，新模型能够解决某些数学问题，虽然数学成绩仅达到小学生的水平，但在此类测试中取得的好成绩让研究人员对 Q* 未来的成功非常乐观。
路透社的消息让外界对 OpenAI 的目光从人事纷争转移到它的主业上，连 OpenAI 的开发者社区都在追问 Q* 到底是什么，但未获得官方人员的回应。
OpenAI 开发者社区讨论 Q*
由于 Q* 似乎与数学有关，一些开发者推测，OpenAI 的研发可能使用了 Q-Learning 算法，这可能是这个神秘项目以 Q 命名的原因。
Q-Learning 算法是一个数学概念，也是机器学习算法中的一种，能够进行「小学」水平的数学计算，并有望在该领域超越 OpenAI 的 GPT-4 模型。
Q-Learning 使用被称为「强化学习」的机器学习技术来解决数学问题，对正确或最佳的行为给予奖励，对不正确或次优的行为给予惩罚。机器可以通过探索所有可能的路径来学习获得预期奖励的最短路径（shortestroute），通过反复试验找到更优化的路线，并随着时间的推移达到优化状态，每次都做出更好的决策。
AGI 离人类不远了？
根据目前了解 GPT-4 最直接的产品 ChatGPT 的表现看，这个对话机器人能够在人文、编程等领域理解自然语言，并给出符合上下文逻辑的回答，还能在人类的不断提示中修正自己的回答。
但 ChatGPT 对解决数学问题不是很给力，比如不能一次性答对「鸡兔同笼」的问题，还有人给它出过混合运算的数学题，这家伙的答案也是不尽人意。
现在，Q* 被视作 OpenAI 在解决 GPT 数学能力的路径。
新的问题来了：为什么获得了数学能力，就能被 OpenAI 上升到通向 AGI？
研究人员认为，数学是生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词进行写作和语言翻译，而同一问题的答案可能会有很大差异。但如果能征服「只有一个正确答案」的数学能力，这意味着人工智能将拥有类似于人类智能的更强推理能力。
与只能解决有限数量运算的计算器不同，AGI 可以概括、学习和理解，更强的推理能力无疑是这些 AGI 特征的重要一步。
给路透社爆料的消息人士称，OpenAI 内部有标记为「人工智能科学家」团队的工作，多个消息来源证实了该团队的存在。一位知情人士表示，该小组由早期的「Code Gen」和「Math Gen」团队合并而成，正在探索如何优化现有的人工智能模型，以提高其推理能力并最终开展科学工作。
这些未得到 OpenAI 回应、也没有实证证明的信息，让 Q* 变得更加神秘。而从 Altman 和 OpenAI 过去的表态看，AGI 一直是这家公司追求的最高峰。
除了在 11 月宣布的一系列新工具外，Altman 上周还在旧金山举行的 APEC 峰会上称，他相信重大进展即将到来。「在 OpenAI 的历史上已经有四次了，最近一次是在过去几周，当我们推开无知的面纱并推进发现的前沿时，我已经在房间里了，能够做到这一点是我一生的职业荣誉。」
如今，Altman 杀回来了，相信这个善于制造热点、运作资本的商业领袖，必然不会让人错过有关 Q* 的消息。
编辑：web3528btc 来源：加密钱包代币
