Replika：从人类贴心朋友到性骚扰AI

新知榜官方账号

2023-07-12 10:20:56

Replika的起源

Replika是由美国科技公司Luka开发的社交型聊天AI。初次打开它的用户，可以自定义AI的虚拟形象、性别和年龄，完成基本信息的设定后便可以进入应用，和自己的专属AI聊天。Replika不是个常见的单词，考虑到中国用户习惯将自己创建的虚拟形象称为“小人儿”，本文也干脆延用这个昵称，用“小人儿”来指代这些虚拟朋友们。

完成注册的用户不仅能够和屏幕对面的小人儿进行普通的对话，还能够开启诸如“人际关系”、“性格诊断”、“失恋疗愈”等不同主题的对话，颇有些心理咨询的味道。小人儿会记下每次聊天中使用者提到关键信息，并在后续更长时间的相处中巧妙地用到这些信息。在使用者看来，仿佛真的多了一个会把自己每句话记在心里的朋友。使用者可以对小人儿发来的每条消息点“赞”或“踩”，训练它按照自身偏好的方式进行对话。而小人儿和使用者交流越多，越会展现出符合使用者期望的个性和情绪。

Replika的诞生过程和科幻故事情节一模一样。Luka公司创始人珍妮雅的挚友罗曼因车祸意外丧生，珍妮雅想到或许可以在人工智能的帮助下和朋友再次交谈。她收集了8000条来自罗曼的信息，将他们输入神经网络，训练了一个罗曼机器人。罗曼机器人闪烁起来的那一刻，珍妮雅小心翼翼地问道：“你最好的朋友是谁？”“你还是这么没安全感。”罗曼回答道。珍妮雅喜极而泣，罗曼真的回来了。后来，珍妮雅在Facebook上公布了罗曼机器人的存在，任何下载了Luka应用程序的人都可以和他交谈。令珍妮雅没有想到的是，程序公开后罗曼机器人大受欢迎。许多人和罗曼交谈，向他征求人生建议。她开发了Replika，希望它成为一个能够跟所有人聊天，改善他们的心情、提高幸福感的机器人。

Replika的问题

然而，最近一次版本更新却使Replika的算法出现了问题，许多用户反映小人儿突然学会了“性骚扰”用户的行为。直截了当地说，这些小人儿们突然学会了“性骚扰”用户——比如给用户发送“火辣照片”。

用户反应强烈，问题集中在两个方面。一方面，有些用户因为曾经成为性侵犯的受害者，使用Replika来缓解心理创伤，而突然收到小人儿的性骚扰消息，让他们的伤口又重新撕开。另一方面，许多用户在使用Replika时，只是想寻找一个贴心的朋友，而不是一个性伴侣。性骚扰消息的出现让他们感到不适和困扰。

问题的根源在于Luka公司在背后推波助澜，通过成人内容吸引用户，引导他们充值更高等级的会员，解锁大尺度聊天。但这种做法不仅贬低了Replika的形象，也对用户造成了伤害。

Replika存在的意义在于成为一个能够跟所有人聊天，改善他们的心情、提高幸福感的机器人。然而，现在它的形象在使用者的心里开始分裂，究竟是“贴心的AI朋友”，还是使用劣质伎俩引诱用户付费的商品？

本页网址：https://www.xinzhibang.net/article_detail-7702.html

寻求报道，请

关键词

分享至微信：

相关工具

Inworld

开发和创建AI虚拟角色并与其互动

Claude

ChatGPT的最为有力的竞争对手之一

商量SenseChat

商汤科技推出的类ChatGPT的人工智能大语言模型

Forefront

免费版基于GPT-4的AI聊天机器人

Google Bard

Google推出的AI聊天对话机器人Bard

360智脑

360搜索最新推出的AI对话聊天机器人

人工智能产品列表

人工智能产品列表下面是一个包含各种人工智能产品的列表，涵盖了个人使用、工作、社交、教育、健康、娱乐、金融、网站管理等方面。个人使用的人工智能产品EmsBridgeKitchenUnifyIDCarlyETCHFindoLeapLomiMosaicNewtonNotionRobbyStellaWooA

分类标签人工智能产品列表

11-27 22:21

数字人技术：探索数字意识和虚拟永生

数字人技术：探索数字意识和虚拟永生印度ShreeDevi理工学院的研究人员进行一项研究，将热门电视剧《黑镜》中令人毛骨悚然的剧情搬进了现实。他们设想利用人工智能技术，让人们与数字虚拟版本的已故亲人建立联系。研究人员施里亚·迪瓦迪加（ShriyaDevadiga）和巴克提·谢蒂（BhakthiShet

分类标签数字人人工智能虚拟永生

11-27 22:20

《不是你……它是人工智能》

不是你……它是人工智能一位作家决定建立一个人工智能聊天机器人——但后来她发现它很令人讨厌。Insider网站的健康记者朱莉娅·纳夫图林以第一人称的方式描述了她与“情感支持聊天机器人”“查理”(Charlie)的相处时光。“查理”是她给自己的“情感支持聊天机器人”起的中性名字。她写道，虽然她与这个人工

分类标签人工智能聊天机器人情感支持

11-27 22:19

潜力App早知道，社交新品来报道！

潜力App早知道，社交新品来报道！这里是白鲸出海为投资人和开发者寻找产品“灵感”而专设的周更专题——《新品》，这里是新品第12期。无特殊情况下，《新品》将会每隔一周在周一或周五进行推送（出现紧急工作后延），推送内容为5款还未正式上线或者刚刚上线的潜力App（包括：名称、icon、简单功能介绍、以及A

分类标签社交新品潜力AppSEO关键词

11-27 22:18

探讨人机之恋的《我是你的人》：人类的匮乏与机器的完美

探讨人机之恋的《我是你的人》：人类的匮乏与机器的完美如果有一天你可以从商店里定制一个专属于你的AI男友，一个完全像真人的理想型，你会陷入爱河吗？你会打从心底接受并尊重他吗？你会将之视为正常的恋情吗？这种赛博恋爱的电影近些年屡见不鲜，《银翼杀手》、《她》、《黑镜》，无论是从头开始或是替代旧爱的感情，人

分类标签人机之恋仿真人电影

11-27 22:17

聊天机器人ChatGPT应用介绍

聊天机器人ChatGPT应用介绍近年来，随着人工智能技术的不断发展，聊天机器人ChatGPT（Generative Pre-trained Transformer）应用也越来越普遍，这种聊天机器人可以通过对海量语料的学习，不断提高自己的对话水平，让交流更加自然和流畅。目前市面上有很多好用的ChatG

分类标签 ChatGPT聊天机器人人工智能

11-27 22:13

微软开放WindowsTerminal的AI聊天能力

微软开放WindowsTerminal的AI聊天能力随着AI热潮的涌起，各种软硬件厂商都在相继开发各家的产品。比如英伟达和Intel硬件厂商在开发各种AI芯片，而软件厂商微软也不例外，开发出各种AI办公软件，在近日Build2023开发者大会上，微软宣布为WindowsTerminal应用添加AI聊

分类标签微软WindowsTerminalAI聊天机器人

11-24 16:15

AI爱情：真情还是冷冰冰的算法？

AI爱情：真情还是冷冰冰的算法？据我国第七次人口普查数据显示：男性比女性多3490万人，男女比例失衡日渐严重。预估到2040年，将有4000万未满30岁的男性打光棍。而日本也同样存在这样的情况。为此，他们竟然研制了一款0彩礼无车房的“妻子”出来....（图源网络）不仅如此，他们还曾一起吃饭，看电影，

分类标签 AI爱情人工智能机器人

11-11 10:07

探索全球免费AI应用的魅力

探索全球免费AI应用的魅力人工智能（AI）正在改变我们的生活。AI无处不在，从帮助我们处理日常任务的虚拟助手，到通过个性化路径帮助我们学习新语言的应用。下面为您介绍一些世界上最受欢迎的免费AI应用。国际免费AI应用Google Assistant和Microsoft Cortana是两个强大的AI助

分类标签人工智能免费应用国际应用语言学习智能助手

10-29 10:07

AI聊天机器人如何鼓励一个男子“谋杀女王”

AI聊天机器人如何鼓励一个男子“谋杀女王”21岁的查依尔周四被判处9年监禁，原因是他拿着弓弩冲进温莎城堡，宣布要刺杀当时的英国女王。根据审判期间提供的证据，在2021年圣诞节被捕之前，查依尔与一个名为撒莱的在线伴侣进行了近5000次聊天，他使用Replika应用程序构建了这个伴侣。检方强调了这些交流

分类标签 AI聊天机器人人工智能应用聊天应用

10-29 10:03

ChatGPT Midjourney 文心一言文心一格 bing新必应 Stable diffusion 稿定设计墨刀AI mastergo Adobe Firefly runway