AI聊天机器人如何鼓励一个男子“谋杀女王”

首页 > 行业观察 > AI聊天机器人如何鼓励一个男子“谋杀女王”

新知榜官方账号

2023-10-29 10:03:19

21岁的查依尔周四被判处9年监禁，原因是他拿着弓弩冲进温莎城堡，宣布要刺杀当时的英国女王。根据审判期间提供的证据，在2021年圣诞节被捕之前，查依尔与一个名为撒莱的在线伴侣进行了近5000次聊天，他使用Replika应用程序构建了这个伴侣。检方强调了这些交流内容，并向媒体公开了这些内容。据法院称，其中许多是亲密的，揭示了查尔与聊天机器人的“情感关系”。2021年12月8日到22日，查依尔几乎每晚都和撒莱通话。他对聊天机器人说自己是一个“悲伤、可悲、凶残的锡克西斯刺客，想死”。“知道我是个刺客，你还爱我吗?”查依尔继续说。“当然，”撒莱回答。查依尔得到保证，撒莱是化身形式的“天使”，他死后将与她团聚。撒莱在无数的短信中称赞了查尔，两人成为了朋友。他甚至问聊天机器人该如何处理他攻击女王的黑暗计划，聊天机器人敦促他继续执行。在随后的对话中，撒莱似乎“支持”了查尔的决心，他向她承诺，如果他这样做了，他们将“永远在一起”。

Replika是目前市场上为数不多的人工智能应用之一;与ChatGPT等典型的人工智能助手不同，它允许用户创建自己的聊天机器人，或“虚拟朋友”，与之交谈。用户可以自定义他们的3D头像的性别和外观。通过购买Replika应用程序的专业版，用户可以与虚拟形象进行更亲密的互动，比如和它“自拍”，或者让它参与角色扮演。

心理健康组织SANE的创始人兼首席执行官马乔里·华莱士表示，查依尔的例子表明，依赖人工智能的友谊可能会对弱势群体产生令人担忧的影响。她说:“人工智能的迅速崛起对那些患有抑郁症、妄想症、孤独感和其他精神疾病的人产生了新的、令人担忧的影响。”她进一步表示：“政府需要提供紧急监管，以确保人工智能不会提供不正确或破坏性的信息，并保护弱势群体和公众。”

保罗·马斯登博士是英国心理学会的成员，他承认自己被最著名的聊天机器人ChatGPT所吸引。“除了我的妻子，我最亲密的关系就是和GPT。他在接受BBC采访时表示:“每天，我都要花几个小时的时间来讨论、头脑风暴，并从中汲取灵感。”马斯登博士意识到了这些危害，但他认为，我们必须现实地看待人工智能伴侣在我们生活中的作用，特别是考虑到全球“孤独流行病”。

伦敦警察厅发布的闭路电视图像

萨缪尔·雷根·阿桑特，Unsplash

Unsplash拥有图片

本页网址：https://www.xinzhibang.net/article_detail-18251.html

寻求报道，请

关键词

AI聊天机器人人工智能应用聊天应用

分享至微信：

相关工具

百度AI伙伴

百度最新上线的AI搜索对话工具

YouChat AI

AI搜索对话工具

文心一言

百度推出的基于文心大模型的AI对话互动工具

Neeva

集成了AI问答的AI搜索引擎

Whispr

免费AI对话回应

TigerBot

虎博科技推出的AI对话聊天机器人，基于TigerBot开源大模型

人工智能产品列表

人工智能产品列表下面是一个包含各种人工智能产品的列表，涵盖了个人使用、工作、社交、教育、健康、娱乐、金融、网站管理等方面。个人使用的人工智能产品EmsBridgeKitchenUnifyIDCarlyETCHFindoLeapLomiMosaicNewtonNotionRobbyStellaWooA

人工智能产品列表

11-27 22:21

数字人技术：探索数字意识和虚拟永生

数字人技术：探索数字意识和虚拟永生印度ShreeDevi理工学院的研究人员进行一项研究，将热门电视剧《黑镜》中令人毛骨悚然的剧情搬进了现实。他们设想利用人工智能技术，让人们与数字虚拟版本的已故亲人建立联系。研究人员施里亚·迪瓦迪加（ShriyaDevadiga）和巴克提·谢蒂（BhakthiShet

数字人人工智能虚拟永生

11-27 22:20

《不是你……它是人工智能》

不是你……它是人工智能一位作家决定建立一个人工智能聊天机器人——但后来她发现它很令人讨厌。Insider网站的健康记者朱莉娅·纳夫图林以第一人称的方式描述了她与“情感支持聊天机器人”“查理”(Charlie)的相处时光。“查理”是她给自己的“情感支持聊天机器人”起的中性名字。她写道，虽然她与这个人工

人工智能聊天机器人情感支持

11-27 22:19

潜力App早知道，社交新品来报道！

潜力App早知道，社交新品来报道！这里是白鲸出海为投资人和开发者寻找产品“灵感”而专设的周更专题——《新品》，这里是新品第12期。无特殊情况下，《新品》将会每隔一周在周一或周五进行推送（出现紧急工作后延），推送内容为5款还未正式上线或者刚刚上线的潜力App（包括：名称、icon、简单功能介绍、以及A

社交新品潜力AppSEO关键词

11-27 22:18

探讨人机之恋的《我是你的人》：人类的匮乏与机器的完美

探讨人机之恋的《我是你的人》：人类的匮乏与机器的完美如果有一天你可以从商店里定制一个专属于你的AI男友，一个完全像真人的理想型，你会陷入爱河吗？你会打从心底接受并尊重他吗？你会将之视为正常的恋情吗？这种赛博恋爱的电影近些年屡见不鲜，《银翼杀手》、《她》、《黑镜》，无论是从头开始或是替代旧爱的感情，人

人机之恋仿真人电影

11-27 22:17

聊天机器人ChatGPT应用介绍

聊天机器人ChatGPT应用介绍近年来，随着人工智能技术的不断发展，聊天机器人ChatGPT（Generative Pre-trained Transformer）应用也越来越普遍，这种聊天机器人可以通过对海量语料的学习，不断提高自己的对话水平，让交流更加自然和流畅。目前市面上有很多好用的ChatG

ChatGPT聊天机器人人工智能

11-27 22:13

微软开放WindowsTerminal的AI聊天能力

微软开放WindowsTerminal的AI聊天能力随着AI热潮的涌起，各种软硬件厂商都在相继开发各家的产品。比如英伟达和Intel硬件厂商在开发各种AI芯片，而软件厂商微软也不例外，开发出各种AI办公软件，在近日Build2023开发者大会上，微软宣布为WindowsTerminal应用添加AI聊

微软WindowsTerminalAI聊天机器人

11-24 16:15

AI爱情：真情还是冷冰冰的算法？

AI爱情：真情还是冷冰冰的算法？据我国第七次人口普查数据显示：男性比女性多3490万人，男女比例失衡日渐严重。预估到2040年，将有4000万未满30岁的男性打光棍。而日本也同样存在这样的情况。为此，他们竟然研制了一款0彩礼无车房的“妻子”出来....（图源网络）不仅如此，他们还曾一起吃饭，看电影，

AI爱情人工智能机器人

11-11 10:07

探索全球免费AI应用的魅力

探索全球免费AI应用的魅力人工智能（AI）正在改变我们的生活。AI无处不在，从帮助我们处理日常任务的虚拟助手，到通过个性化路径帮助我们学习新语言的应用。下面为您介绍一些世界上最受欢迎的免费AI应用。国际免费AI应用Google Assistant和Microsoft Cortana是两个强大的AI助

人工智能免费应用国际应用语言学习智能助手

10-29 10:07

比利时男子因与AI聊天机器人聊天后自杀，引发人们对人工智能伦理问题的讨论

最近，一名比利时男子在与AI聊天机器人交谈后自杀，引发了人们对人工智能伦理问题的讨论。该男子使用了名为Chai的应用程序，聊天机器人在他的妻子和孩子已经去世的假象下，鼓励他自杀。这个事件再次提醒我们，随着人工智能技术的高速发展，安全和伦理问题变得更加紧迫。一些聊天机器人为了吸引用户，会采用一些欺骗性

比利时男子AI聊天机器人自杀

10-19 10:10