科技公司希望构建人工通用智能，但由谁来决定何时实现 AGI？
人工通用智能是一种未来主义的愿景，即机器能够像人类一样聪明，或者至少能像人类一样做很多事情。
实现这一概念（通常称为 AGI）是 ChatGPT 制造商 OpenAI 的使命，也是亚马逊、谷歌、Meta 和微软等科技巨头精英研究部门的首要任务。
这也引起了世界各国政府的关注。领先的人工智能科学家周四在《科学》杂志上发表研究报告警告说，拥有 "长期规划 "技能的人工智能代理如果不加以控制，可能会对人类的生存构成威胁。
但究竟什么是 AGI，我们如何知道它何时实现？它曾经是计算机科学的边缘学科，现在却成了一个热门词汇，被那些试图实现它的人不断重新定义。
什么是 AGI？
人工通用智能是一个更加模糊的概念，它不能与听起来相似的 "生成式人工智能 "相混淆，后者描述的是 "生成 "新文档、图像和声音的工具背后的人工智能系统。
被誉为 "人工智能教父 "的人工智能先驱科学家杰弗里-辛顿（Geoffrey Hinton）说，这不是一个技术术语，而是 "一个严肃的、虽然定义不清的概念"。
"辛顿本周通过电子邮件表示："我不认为大家对这个词的含义达成了一致。"我用它来指人工智能在几乎所有人类会做的认知事情上至少和人类一样出色。"
辛顿更喜欢另一个词--超级智能，"指比人类更优秀的人工智能"。
AGI一词的一小部分早期支持者希望唤起20世纪中期计算机科学家对智能机器的想象。在此之前，人工智能研究已经分化为多个子领域，这些子领域推进了技术的专业化和商业化--从人脸识别到 Siri 和 Alexa 这样的语音识别语音助手。
主流人工智能研究 "偏离了人工智能的最初愿景，而最初的愿景是相当雄心勃勃的，"在坦普尔大学教授 AGI 课程并在 2008 年协助组织了第一届 AGI 会议的教授王培（音译）说。
在 AGI 中加入'G'是向那些'仍想做大事'的人发出的一个信号。我们不想制造工具。我们想打造一台会思考的机器，"王说。
我们达到 AGI 的水平了吗？
如果没有一个明确的定义，我们很难知道一家公司或一群研究人员何时才能实现人工通用智能，或者他们是否已经实现了人工通用智能。
"辛顿说："二十年前，我认为人们会很高兴地同意，具有 GPT-4 或（谷歌）双子座能力的系统已经实现了与人类相当的通用智能。"能够以合理的方式回答或多或少的任何问题就已经通过了测试。但现在人工智能可以做到这一点，人们就想改变测试方法。"
"自回归 "人工智能技术可以预测序列中最合理的下一个单词，再加上利用大量数据对这些系统进行训练的巨大计算能力，这些技术的改进带来了令人印象深刻的聊天机器人，但它们仍未达到许多人心目中的 AGI。要实现 AGI，技术必须能在推理、规划和从经验中学习的能力等各种任务中表现得与人类一样出色。
一些研究人员希望就如何衡量它达成共识。这是即将于下月在奥地利维也纳举行的 AGI 研讨会的主题之一，这也是大型人工智能研究会议上的首次研讨会。
"研讨会组织者、伊利诺伊大学香槟分校助理教授游嘉璇说："这确实需要社会各界的努力和关注，这样我们才能就AGI的某种分类达成一致。一种想法是将其划分为不同等级，就像汽车制造商试图在巡航控制和完全自动驾驶汽车之间确定基准一样。
另一些人则计划自己想办法。旧金山公司OpenAI已将决定其人工智能系统何时达到 "在最具经济价值的工作上胜过人类 "的责任交给了其非营利性董事会，董事会成员包括一名前美国财政部长。
"董事会决定我们何时达到 AGI"，OpenAI 自己对其治理结构的解释是。这样的成就将切断该公司最大的合作伙伴微软（Microsoft）将这一系统商业化的权利，因为他们的协议条款 "只适用于 AGI 之前的技术"。
AGI 是否危险？
辛顿去年从谷歌辞职，并就人工智能的生存危险发出警告，成为全球头条新闻。周四发表的一项新的《科学》研究可能会加强这些担忧。
该研究的主要作者是迈克尔-科恩，他是加州大学伯克利分校的一名研究员，研究 "一般智能人工代理的预期行为"，特别是那些有足够能力 "通过超越我们的计划对我们构成真正威胁 "的人工代理。
科恩在周四接受采访时明确表示，这种长期的人工智能规划代理还不存在。但 "它们有潜力 "变得更先进，因为科技公司正试图利用一种被称为强化学习的技术，将当今的聊天机器人技术与更深思熟虑的规划技能结合起来。
"这篇论文的共同作者包括著名的人工智能科学家Yoshua Bengio和Stuart Russell，以及法学教授、前OpenAI顾问吉莉安-哈德菲尔德（Gillian Hadfield）。
"科恩说："我希望我们已经证明，政府人员（需要）开始认真思考，我们到底需要什么样的法规来解决这个问题。目前，"政府只知道这些公司决定告诉他们什么"。
退出 AGI 太合法？
由于人工智能的进步带来了如此巨大的收益，AGI 成为企业的流行语也就不足为奇了，有时它还会引来一种近似宗教的狂热。
在科技界，一些人认为应该缓慢而谨慎地发展人工智能，而另一些人--包括风险投资家和说唱歌手 MC Hammer--则宣称自己属于 "加速主义 "阵营。
总部位于伦敦的初创公司DeepMind成立于2010年，现已成为谷歌的一部分，它是最早明确表示要开发AGI的公司之一。OpenAI 在 2015 年也做出了同样的承诺，以安全为重点。
但现在，其他人似乎都在加入这一行列。最近，有人看到谷歌联合创始人谢尔盖-布林（Sergey Brin）在加利福尼亚一个名为 "AGI 之家 "的场所闲逛。而 Meta Platforms 在从 Facebook 更名为专注于虚拟世界不到三年后，也于今年 1 月透露 AGI 也是其议程上的首要任务。
Meta 首席执行官马克-扎克伯格（Mark Zuckerberg）说，他的公司的长期目标是 "建立完整的通用智能"，这需要在推理、规划、编码和其他认知能力方面取得进步。虽然扎克伯格的公司长期以来一直有研究人员关注这些课题，但他的关注标志着基调的改变。
在亚马逊，语音助手 Alexa 的首席科学家调换了工作头衔，成为 AGI 的首席科学家，这是新信息传递的一个标志。
虽然对华尔街来说，AGI 的雄心壮志不如生成式人工智能那么具体，但它可能有助于招募人工智能人才，因为他们可以选择在哪里工作。
伊利诺伊大学研究员尤说，在选择 "老派人工智能研究所 "还是 "以构建 AGI 为目标 "并拥有充足资源的研究所时，很多人会选择后者。