随着ChatGPT热潮，当全社会都在为AI的进化而欢呼雀跃之时，许多科技界和学术界部门人却以为 AI 手艺风险越来越高。

钛媒体App 3月29日新闻，未来生命研究所（Future of Life Institute）今天宣布了一封《暂停大型人工智能研究》的果然信，呼吁所有AI实验室立刻暂停训练比GPT-4更壮大的人工智能（AI）系统至少6个月，呼吁配合开发和实行用于高级AI开发的共享平安协议，并接受自力外部监视，以制止可能导*端风险的大规模手艺转变。

该机构以“指导转变性手艺造福生涯，远离极端的大规模风险”为使命。信中称，只有当确保壮大的 AI 系统的效果是努力的，其风险是可控的才气继续开发。AI 实验室和自力专家应在暂停时代，配合制订和实行一套先进的 AI 设计和开发的共享平安协议，由自力的外部专家举行严酷的审查和监视。

停止现在，天下首富、特斯拉CEO马斯克，苹果团结首创人Steve Wozniak，“AI教父”Geoffrey Hinton，Stability AI 首创人Emad Mostaque等1000多名科技大咖和 AI 手艺专家均签署了这封果然信。

值得一提的是，此前有推特网友发现OpenAI CEO Sam Altman曾泛起在呼吁暂停大型 AI 训练果然信署名处，推特研发工程师Rahul Ligma也在列，现在二人名字均已消逝。

现实上，随着ChatGPT和GPT-4风靡全球、全球热议，一时与ChatGPT相关的种种信息遍布网络。但随着讨论热度转向通用 AI 手艺带来的风险话题，OpenAI公司CEO奥特曼（Sam Altman）自身也加入其中。

3月27日宣布的麻省理工学院研究科学家Lex Fridman节目中，奥特曼提到，壮大的 AI 杀死人类有一定可能性。“许多关于 AI 平安和挑战的展望被证实是错误的，我们必须正视这一点，并尽早实验找到解决问题的方式。”

在奥特曼看来，GPT-4已经让人人看到，AI“杀死”人类不再是空谈。他坦言，“客服”将会是受到大规模打击的事情类型。

今天的这封果然信中，焦点是呼吁所有 AI 实验室立刻暂停比GPT-4更壮大的 AI 系统的训练，时间至少延续6个月，并称政府应该介入并制订暂停令。但信中指出，这并不意味着暂停一样平常的 AI 开发，只是从危险的竞赛中退后一步，限制不能展望的研究和开发。

果然信中强调，AI 的研究和开发应该重新聚焦于，使现在*进和壮大的系统加倍准确、平安、可注释、透明、稳健、一致、值得信托和忠诚。

钛媒体App凭证现有果然信息整理，现在ChatGPT相关手艺依然存在无法举行事实核查容易提供诈骗信息、小我私人数据与商业隐秘泄露、输出虚伪信息、语料库与天生文本的侵权问题等问题，存在一定的执法破绽。若是没有监视息争决，AI 手艺可能会威胁人类一样平常生涯。

据报道，数据平安服务Cyberhaven检测到并阻止了其客户公司160万名员工中4.2%的人将数据输入ChatGPT的请求，由于存在泄露隐秘信息、客户数据、源代码或羁系信息的风险。现在，摩根大通已经限制员工使用 ChatGPT，亚马逊、微软和沃尔玛也已向员工发出忠言，要求员工郑重使用天生式 AI 服务。

停止现在，多位科技大咖和学术界人士对于 AI 手艺带来的风险挑战表达诸多看法，对AI生长的潜在威胁示意关切，强调在推着手艺提高的同时确保人类的平安和福祉：

特斯拉CEO马斯克（Elon Musk）：他以为 AI 是人类面临的*威胁之一。他忠言说，若是没有适当的羁系和控制，AI可能导致意想不到的结果，甚至危及人类生计；

李书福不能既要还要

已故著名物理学家霍金 (Stephen Hawking)：在生前，霍金示意 AI 的生长可能是人类最伟大的成就，也可能是最终的灾难。他以为，若是AI生长适合，将为人类带来伟大利益；但若是失控，可能导致人类的扑灭；

微软首创人比尔·盖茨（Bill Gates）：他以为在某些方面，AI可能会取代人类事情，导致失业率上升。此外，他还担忧AI在未来可能会成为一种壮大且不受控制的气力；

哲学家，牛津大学未来人类研究所所长Nick Bostrom：在他的著作中，他以为，若是AI生长跨越人类智能，可能会导致无法展望和控制的结果；

哲学家，神经科学家Sam Harris：AI的生长可能会导致人类失去对未来的控制。他强调，随着AI手艺的提高，人类必须思索若何在保持创新的同时确保平安与稳固。

在科学界希望暂停壮大 AI 手艺研究的新闻宣布之后，海内许多商业大咖也表达相关看法。

其中，自动驾驶芯片公司地平线首创人兼CEO余凯在其微信同伙圈称，通用人工智能（AGI）正在失控的生长，会给人类带来伟大的风险，呼吁推动 AI 盘算的平权。珍爱自己的隐私，透明干预种种AGI模子的行为，控制AGI带来的风险。

3月29日，360公司首创人、董事长周鸿祎示意，GPT是一个改变天下的器械，它开启了 AI 手艺新时代。而现在，GPT-4已经是天下上最伶俐的“人”。“我们不要用原来的眼光看待今天的 GPT，以是许多人对 AI 有焦虑。”

脑机接口公司脑虎科技团结首创人、CEO彭雷示意，照这个生长速率，他展望未来两年内会出来一个类似“核不扩散条约”的“AGI不扩散条约”，限制跨越一定量级的大模子被部署和训练，甚至安剖析成员国来缔约签署，并搞个类似“国际原子能机构”来监视模子的参数和运行状态，类似治理离心机一样。

事实上，奥特曼先前对外媒示意，他郁闷 AI 取代人类事情的转变很快到来。“人类已经证实自己可以顺应重大手艺转变，但若是这种情形发生在个位数的几年内即是我郁闷的部门。人类拥有无限缔造力，我们找到新事情、找到新的事情去做。”

早前，微软研究院团队公布长达154页的论文《通用 AI的火花：GPT-4早期实验》。效果注释，微软以为，GPT-4是一种异常壮大的 AI 系统，它在许多义务和领域中显示出了惊人的能力，而且在某些方面甚至可以与人类相媲美。然而，GPT-4仍然存在一些局限性和挑战，需要进一步研究和生长才气实现更深入、更周全的AGI系统。

OpenAI 的官方研究显示，美国80%的事情职业中，都将因GPT-4而取代人类事情。该研究发现，除会计师外，数学专家、口译员、作家以及近20%的美国劳悦耳口，也深受AI影响。最不受影响的事情包罗快餐厨师、摩托车技师和石油和自然气杂工。

“GPT-4可被视作 AGI 的早期版本。”微软研究团队示意，GPT-4标志着盘算机科学领域及其他领域真正的范式转变。”

高盛3月27日公布讲述指出，全球预计将有3亿个事情岗位最终被 AI 取代。假设天生式 AI 实现了各企业准许的能力，劳动力市场将面临挑战，AI 可以接手美国和欧洲高达四分之一的事情。讲述预计，随着劳动生产力提高，AI 应用有望使全球在下一个10年内，推动全球GDP（海内生产总值）年复合增进率将到达7%。

那么，ChatGPT是若何看待果然信中 AI 对人类社会的影响？

ChatGPT回应称：这示意随着 AI 手艺的不停生长和普及，AI 可能对社会和人类造成的影响将越来越大。这封果然信提出的呼吁和建议，应该被视为引起更普遍和深入讨论的起点和参考，而不是一个终点或解决方案。