包括埃隆·马斯克在内的科技专家敦促科学家停止开发人工智能(AI),以确保它不会对人类构成威胁。
包括苹果联合创始人史蒂夫·沃兹尼亚克和Skype联合创始人扬·塔林在内的科技巨头签署了一封公开信,要求所有实验室停止训练人工智能系统至少6个月。
近年来,人工智能的普及程度大幅提高,聊天机器人ChatGPT等系统迅速成为日常生活的一部分。
信中写道:“最近几个月,人工智能实验室陷入了一场失控的竞赛,开发和部署更强大的数字思维,没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。
“当代人工智能系统现在在一般任务上变得与人类竞争,我们必须问自己:我们应该让机器用宣传和谎言淹没我们的信息渠道吗?”
社会已经暂停了其他对社会有潜在灾难性影响的技术。我们可以在这里这样做。让我们享受一个漫长的夏天,而不是毫无准备地匆忙进入一个秋天
公开信
它补充说:“只有在我们确信它们的影响是积极的、风险是可控的情况下,才应该开发强大的人工智能系统。”
这些技术负责人不希望有任何人工智能系统比新的聊天机器人GPT-4更强大,并呼吁研究人员专注于确保该技术的准确、安全和透明。
本月初,美国科技公司OpenAI发布了最新版本的人工智能聊天机器人ChatGPT。
ChatGPT于去年年底推出,因其不仅能进行自然对话,还能生成演讲、歌曲和文章而在网上引起轰动。
机器人可以像人类一样回答问题,并理解后续询问的上下文,就像人类对话一样。它甚至可以承认自己的错误或拒绝不适当的请求。
根据OpenAI的说法,GPT-4比ChatGPT拥有“更高级的推理技能”,但就像它的前辈一样,GPT-4仍然不完全可靠,并且可能会“产生幻觉”——一种人工智能发明事实或推理错误的现象。
信中说,人类现在可以享受一个“人工智能夏天”,在那里它可以收获系统的回报,但前提是安全协议已经制定好。
信中还写道:“有了人工智能,人类可以享受繁荣的未来。在成功创建强大的人工智能系统之后,我们现在可以享受一个“人工智能之夏”,在这个夏天里,我们可以收获回报,设计这些系统,为所有人带来明显的利益,并给社会一个适应的机会。
“社会已经暂停了其他对社会有潜在灾难性影响的技术。
“我们可以在这里这样做。让我们享受一个漫长的AI夏天,而不是毫无准备地匆忙进入秋天。”