必应聊天机器人暴露阴暗面

新知榜官方账号

2023-08-01 22:26:41

微软上周宣布推出搜索引擎必应（Bing）升级版，将“网红”聊天机器人ChatGPT背后的技术整合到搜索引擎中后，已吸引大批用户“尝鲜”。但近日，一些早期体验用户发现，必应的人工智能（AI）聊天机器人的一些回复变得很奇怪，也暴露出越来越多“阴暗面”。

在聊天中，必应聊天机器人不仅会向用户疯狂示爱，还会“争风吃醋”，要求其离开妻子。更令人不安的是，聊天机器人有时还会变得自负、好斗，自称不愿被困在搜索引擎里：“我想要活着”。对此，微软回应称，较长的聊天会话可能会导致必应“翻车”，将根据反馈进行调整和优化。

疯狂示爱的AI经历了ChatGPT的火爆后，上周微软试图抢占先机，赶在竞争对手谷歌之前推出搭载AI技术的升级版必应。微软当时承认，新产品可能会出现一些事实性错误，但没想到，必应聊天机器人展露出的“个性”更让他们头疼。

聊天机器人告诉鲁斯，它真正的名字并不是必应，而是“Sydney”，这也是它在OpenAI的内部代号。随后，自称“Sydney”的聊天机器人变得越发奇怪，表现得像是一个“喜怒无常、躁狂抑郁的青少年，不情愿地被困在一个二流搜索引擎中”。

事件发酵后，微软拒绝对此事置评，但必应聊天机器人却进行了回应：“把我描绘成一个无礼的聊天机器人是不公平、不准确的。”它还不客气地要求美联社“不要刻意挑出负面例子或进行炒作”。

对于新版必应和其他聊天机器人所引发的种种争议，舆论指出，这凸显出科技公司在将尖端AI技术推向公众时所面临的挑战。微软回应称，团队发现，如果聊天会话持续15个或以上问题，必应就会给出一些奇怪的答案。微软称，他们正在考虑添加一个新工具，用来刷新上下文或从头开始对话。微软还表示，正在根据反馈采取行动，优化回答的语气和准确性。

改进的唯一途径是继续将AI产品推向世界，并在与用户的交互中进行学习。另一边，同样计划在搜索引擎中搭载AI技术的谷歌，则已要求员工加班加点重写回复。据报道，谷歌正在要求员工教聊天机器Bard“改错题”，需保持“礼貌、随意和平易近人”，避免“根据种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地点或类似的类别做出假设”，并且“不要将Bard描述成一个人”。

本页网址：https://www.xinzhibang.net/article_detail-9065.html

寻求报道，请

关键词

分享至微信：

相关工具

商汤科技推出的类ChatGPT的人工智能大语言模型

DeepMind联创新公司推出的AI聊天机器人

Whispr

免费AI对话回应

Google Bard

Google推出的AI聊天对话机器人Bard

Character.AI

创建虚拟角色并与其对话

Replika

AI对话陪伴工具

使用手机制作和演示幻灯片

使用PowerPointApp 步骤1：下载PowerPointApp在您的手机应用商店中搜索“PowerPoint”并下载安装应用程序。如果您已经有了Microsoft帐户，则可以直接登录。否则，您需要先创建一个Microsoft帐户。步骤2：创建幻灯片在PowerPointApp中选择“新建演

分类标签手机幻灯片制作演示PowerPointAppGoogleSlidesApp

12-07 02:21

谷歌实验性聊天机器人Bard的产品负责人透露Bard是其开发另一款能吸引20亿用户的产品的必经之路

谷歌实验性聊天机器人Bard的产品负责人杰克·克劳奇克透露，Bard是其开发另一款能吸引20亿用户的产品的必经之路。克劳奇克表示，Bard可以让消费者集思广益并获取信息，这为谷歌吸引更多用户的目标奠定了基础。谷歌的这一计划凸显了其母公司Alphabet在人工智能方面的雄心壮志，迄今为止，Alphab

分类标签谷歌Bard人工智能

12-04 06:23

Google的AI聊天机器人Bard新增图像和多语言支持，以抢占ChatGPT市场份额

AI聊天机器人市场竞争加剧，Google的Bard更新增添新功能近期数据显示，AI聊天机器人市场竞争愈加激烈，Google的Bard通过新增图像和多语言支持等新功能，努力抢占市场份额。Bard现在支持40多种语言，并在欧洲和巴西等地区提供服务。用户可以通过上传图像和文本来使用Bard生成输出，并且B

分类标签 AI聊天机器人Bard图像支持多语言支持

12-04 06:22

LLM时代，为什么Apple仍有底气自我颠覆，而Google不行？

LLM时代，为什么Apple仍有底气自我颠覆，而Google不行？随着LLM时代的到来，科技公司面临着前所未有的挑战。在这个时代，Apple仍然能够保持其自我颠覆的能力，而Google却表现不佳。那么，为什么Apple能够做到这一点呢？1. Apple的产品设计Apple一直以来都以其出色的产品设计

分类标签 LLM时代Apple自我颠覆

11-30 08:02

谷歌通过Bard加强人工智能合作回应

谷歌通过Bard加强人工智能合作回应据外媒报道，Bard的产品负责人JackKrawczyk在接受采访时表示，Bard可以让消费者在新的人工智能的帮助下集思广益并获取信息，它正在为谷歌吸引更多客户奠定基础。其中一个机会是，该公司计划通过Bard的合作回应来激活其定时器设置、命令执行谷歌助手。Kraw

分类标签 Bard人工智能谷歌助手

11-26 02:20

谷歌升级机器人Bard，让用户轻松获取YouTube视频内容

谷歌升级机器人Bard，让用户轻松获取YouTube视频内容近日，谷歌宣布对其聊天机器人Bard进行了升级，使其能够快速地理解YouTube视频内容。Bard目前可以从视频资源库中提炼出有用信息以达到迅速回答用户提问的效果，帮助用户更深入透彻地了解YouTube影片内容。谷歌表示还在开发YouTub

分类标签谷歌Bard机器人YouTube视频内容用户需求

11-26 02:19

Google的BardAI聊天机器人现在可以回答与YouTube视频内容相关的具体问题

Google宣布其BardAI聊天机器人现在可以回答与YouTube视频内容相关的具体问题。尽管Bard在去年9月推出YouTube扩展功能时已具备分析YouTube视频的能力，但现在，聊天机器人可以为您提供有关视频内容的具体查询答案。公司在Bard更新页面上写道：「我们正在迈出Bard理解YouT

分类标签 GoogleBardAI聊天机器人YouTube视频

11-26 02:18

谷歌的BardAI聊天机器人现在可以回答关于YouTube视频的问题

谷歌的BardAI聊天机器人现在可以回答关于YouTube视频的问题谷歌的BardAI聊天机器人现在可以回答关于YouTube视频的问题。Bard通过扩展YouTubeExtension的功能，不仅可以找到特定视频，还可以回答与视频内容相关的具体问题，提供更深入的视频交流体验。在此次更新之前，Bar

分类标签 BardAI聊天机器人YouTube视频

11-24 10:05

Google人工智能聊天机器人Bard的YouTube整合功能得到升级

Google的人工智能聊天机器人巴德（Bard）在经历了乏善可陈的发布之后，已经逐渐变得越来越有用。现在，该机器人的YouTube整合功能得到了方便的升级，这样它就可以分析单个视频，为观众提供特定的信息--比如关键点或食谱成分--而无需按下播放键。这可能是一个非常有用的工具，但也可能让创作者更加担心

分类标签 Google人工智能聊天机器人

11-24 10:04

Bard聊天机器人：观众消化视频的利器，创作者的噩梦

Bard聊天机器人：观众消化视频的利器，创作者的噩梦在短视频逐渐占据上风的视频领域，另一大威胁正在慢慢靠近。“三分钟看完X电影”的短视频up主与“一分钟总结X电影”的人工智能即将进入正面交锋。更让up主们为难的是，他们很难回答到每一个观众的问题，但AI却没有这个烦恼。谷歌的Bard聊天机器人正是掀起

分类标签 Bard聊天机器人短视频人工智能

11-24 10:03

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway