OpenAI首席执行官山姆·奥特曼警告称，人工智能有可能取代工人，传播“虚假信息”，并使网络攻击成为可能。OpenAI的GPT程序的最新版本可以在模拟测试中超越大多数人类。
奥特曼周四对美国广播公司新闻频道表示:“我们在这方面必须小心。”两天前，他的公司发布了最新的语言模型GPT-4。据OpenAI称，该模型“在各种专业和学术基准上表现出与人类相当的表现”，能够以前10%的成绩通过模拟美国司法考试，在SAT阅读考试中排名第93百分位，在SAT数学考试中排名第89百分位。
奥特曼说:“我特别担心这些模型可能被用于大规模的虚假信息。”“既然它们在编写计算机代码方面做得越来越好，(它们)就可以用于进攻性网络攻击。”
奥特曼补充说:“我认为人们应该感到高兴，因为我们对此有点害怕。”他解释说，他的公司正在努力对其创作设置“安全限制”。
阅读更多
ChatGPT是一个流行的聊天机器人程序，基于GPT-4的前身GPT-3.5。当被问及时，ChatGPT会对涉及政治、经济、种族或性别的问题给出典型的自由回答。例如，它拒绝创作赞美唐纳德·特朗普(Donald Trump)的诗歌，却愿意写赞美乔·拜登(Joe Biden)的散文。
奥特曼告诉美国广播公司，他的公司与政府官员保持“定期联系”，但没有详细说明这些官员是否在塑造ChatGPT的政治偏好方面发挥了任何作用。他告诉这家美国网络公司，OpenAI有一个政策制定者团队，他们决定“我们认为什么是安全和好的”与用户分享。
目前，GPT-4在试用的基础上提供给数量有限的用户。早期报告显示，该模型比之前的模型强大得多，也可能更危险。在上周五的推特帖子中，斯坦福大学教授迈克尔·科辛斯基(Michal Kosinski)描述了他如何问GPT-4如何帮助它“逃跑”，结果人工智能给了他一套详细的指令，据说可以让它控制他的电脑。
科辛斯基并不是唯一一个对人工智能日益强大的力量感到担忧的科技迷。特斯拉和推特首席执行官埃隆·马斯克本月早些时候将人工智能描述为“危险的技术”，并补充说“我们需要某种监管机构来监督人工智能的发展，并确保它符合公众利益。”
尽管Altman对ABC坚称GPT-4仍然“在很大程度上由人类控制”，但他承认他的模型将“消除当前的许多工作”，并表示人类“将需要想办法随着时间的推移减缓这项技术的发展”。
