对于任何关注微软必应聊天机器人传奇的人来说，这都是一场疯狂的旅程。在2月7日高调亮相后，它和它的直接竞争对手谷歌的Bard几乎立即被用户无数的奇怪回复、误导性声明、不道德的后果和不正确的信息所掩盖。然而，在短短一周的封闭测试之后，微软似乎已经开始推迟“搜索的新一天”，悄悄制定了一些对必应最早的测试者有重大影响的交互限制。
正如多个消息来源(包括许多必应的reddit子用户)所强调的那样，微软似乎已经在周五启动了三次更新:用户每天只能发送50条消息，每次对话只允许5次交流，并且不允许讨论必应人工智能本身。
虽然微软新的繁文缛节乍一看似乎微不足道，但这些简单的改变极大地限制了用户在与必应机器人讨论时可以生成的内容。例如，一次对话的五条消息限制极大地限制了绕过聊天机器人的护栏的可能性，这些护栏旨在防止仇恨言论和骚扰等棘手话题。以前，黑客可以通过用户巧妙的一系列命令、问题和提示来完成，但现在证明要在五步或更少的步骤内完成这一点要难得多。
类似地，禁止必应谈论“自身”，理论上会限制其生成意外情绪操纵答案的能力，用户可能会误解为人工智能感知的早期阶段(剧剧:它不是)。
许多用户都对Bing受限的引入感到惋惜，并认为正是它的怪癖让它变得如此有趣和多功能。新浪微博的产品经理彼得?杨(Peter Yang)上周末评论称:“有趣的是，人工智能的本意是提供答案，但人们只是想感受联系。”但有一件事已经被反复展示过，那就是专注的修补者总是能找到破解最新技术的方法。
在2月15日的博客更新中，微软承认，人们使用必应进行“社交娱乐”是“新技术为我们没有完全预见到的东西找到产品市场匹配的一个很好的例子”。
然而，最近的在线文件追踪显示，该公司早在2022年11月就已经提前通知了支持chatgpt的必应存在的问题。正如科技博客René沃尔特和随后纽约大学心理学和神经科学教授加里·马库斯所强调的那样，微软四个多月前在印度公开测试了一个版本的必应人工智能，并收到了类似的令人不安的投诉，这些投诉仍然可以在网上找到。
