微软将把必应聊天限制在每轮5回合对话以阻止人工智能变得怪异
微软表示,在其必应人工智能的聊天机器人对用户多次出言不逊后,它正在对其实施一些对话限制。在搜索引擎被发现侮辱用户、对他们撒谎和情绪化地操纵人们之后,必应聊天现在将被限制在每天50个问题,每轮5次对话。
?
"我们的数据显示,绝大多数人在5个回合内找到了他们要找的答案,只有大约1%的聊天对话有50条以上的信息,"Bing团队在一篇博文中说。如果用户达到每次5次的限制,必应会提示他们开始一个新的话题,以避免长时间的来回聊天。
?
微软本周早些时候警告说,这些有15个或更多问题的较长的聊天会话,可能会使必应"变得重复,或被提示/挑动而作出不一定有帮助或符合我们设计的语气的回应"。微软说,在仅仅五个问题之后擦除对话意味着"模型不会被混淆"。
?
本周早些时候出现了关于Bing"不正常"对话的报道,随后《纽约时报》发表了一整段与Bing的两个多小时的来回对话,其中聊天机器人说它爱作者,不知为何他们当晚无法入睡。不过,本周很多聪明人都没有通过人工智能的镜像测试。
?
微软仍在努力改善必应的语气,但现在还不清楚这些限制会持续多久。"随着我们继续得到反馈,我们将探索扩大聊天会话的上限,"微软说,所以这似乎是一个有限的上限,至少在目前。
?
必应的AI聊天功能每天都在不断改进,技术问题得到解决,每周都会有更大的修复量,以改善搜索和回答。微软本周早些时候说,它没有"完全设想"人们将其聊天界面用于"社交娱乐"或作为更多"发现世界的一般工具"。