据路透社报道，在山姆·奥特曼(Sam Altman)被OpenAI首席执行官一职短暂解雇四天之前，几名研究人员给董事会写了一封信，警告称“强大的人工智能”可能威胁到人类。路透社的消息来源称，这封信是导致奥特曼被临时解雇的一个因素。

　　报告公布后，OpenAI向员工透露了一个名为Q*(发音为Q- star)的项目。随后的报道称，该公司的一些员工认为，Q*可能是搜索所谓的通用人工智能(AGI)的一个突破，该公司将其定义为在大多数有价值的任务中超越人类的自主系统。

　　这个术语是由物理学家马克·古布鲁德提出的，他目前是北卡罗来纳大学和平、战争和国防课程的兼职教授。早在1997年，他就在一次关于完全自动化军事生产和操作的影响的讨论中使用了这个词。大约在2022年，这个词后来被参与人工智能研究的两位企业家谢恩·莱格和本·戈泽尔重新引入并推广开来。

　　戈泽尔是SingularityNET的创始人兼首席执行官，该项目旨在使人工智能的使用民主化，并与多家与人工智能研究相关的组织合作。他还是OpenCog基金会的主席，该基金会致力于建立一个开源的人工智能网络，并管理了OpenCog Prime，这是一个旨在实现“人类水平并最终超越人类水平”的AGI的系统架构。

　　AGI是一种假想的人工智能，它能够以人类的水平处理信息，甚至超越人类的能力。它将是一台机器或一个网络，能够完成人类能够完成的相同范围的任务，并且能够“学会做人类能做的任何事情”，例如，参与“细微的互动，理解上下文和情感，在任务之间转移学习，无需编程即可适应新任务和环境”。这种类型的系统并不存在，AGI的完整形式仍然是推测性的。一些研究人员正在致力于开发AGI，为此，他们中的许多人对开放式学习感兴趣，这将使人工智能系统像人类一样不断学习。

　　2023年，OpenAI发布ChatGPT-4后，微软表示，该系统可以被视为AGI系统的早期和不完整版本。然而，目前还没有一个系统被证明符合AGI的标准，而且它的可行性也存在问题。虽然一些专家认为，AGI系统可以在未来几个月或几年内实现，但其他人认为这需要几十年的时间，这可能是本世纪最大的技术进步。

　　Q*是OpenAI的一个项目，据称，在一些员工提出该系统可能是人工智能(AGI)的担忧后，该项目导致了首席执行官萨姆·奥特曼(Sam Altman)被解雇。到目前为止，只有关于Q*执行数学推理的报道，没有证据表明该系统是在AGI的基础上发展起来的。其他几位研究人员对这些说法不屑一顾。

　　大多数AGI研究项目都集中在全脑模拟上，即用大脑模型详细模拟生物大脑。目标是使模拟忠实于自然，所以它可以模仿它的行为。为了实现这一目标，神经科学和计算机科学的研究，包括动物大脑测绘和模拟，以及更快的机器的开发，以及其他领域都是必要的。

　　从比尔·盖茨(Bill Gates)到斯蒂芬·霍金(Stephen Hawking)，几位公众人物都对人工智能对人类的潜在风险表示担忧，这些担忧得到了斯图尔特·j·罗素(Stuart J. Russell)等人工智能研究人员的支持，后者因对人工智能的贡献而闻名。2021年对人工智能相关风险的审查发现:“人工智能脱离了人类所有者/管理者的控制，设定或制定了不安全的目标，开发了不安全的人工智能，道德、道德和价值观不佳的人工智能;对AGI管理不足，以及存在的风险”。2023年，几家人工智能研究实验室的首席执行官，以及其他行业领袖和研究人员发表了一份声明，称“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一样，成为全球的优先事项。”

　　人工智能系统带来的另一个风险是大规模失业。自从ChatGPT流行以来，一些工作场所已经削减了劳动力，开始依赖人工智能。AGI的到来可能导致数百万人失去工作，办公室职员受到的影响最大。