AI网红与人谈恋爱引发伦理问题

近日，国外一则新闻引发了众多网友的好奇心：一名网红同时和千名男友谈起了恋爱，这“脚踏千条船”的操作到底是怎么做到的？原来和上千名男友交往的并不是她本人，而是她的AI分身。每分钟1美元的“恋爱”美国网红卡琳·马杰里（CarynMarjorie）正同时交往1000多个男朋友。不过，和上千位男友们交往的，并不是她本人，而是AI版本的自己，她通过出售AI版本的自己，和粉丝谈恋爱，按分钟收费，目前内测收费每分钟一美元。在过去一周，这个Al创收了7.16万美元（约合人民币近50万元），已经吸引了超过1000名付费粉丝。

卡琳拥有180万粉丝，预计AI版本的自己，能让她的收入翻60倍，年入6000万美元（约4.16亿元），比肩泰勒·斯威夫特。而且此举不需要卡琳付出任何成本，躺着就能赚钱，吊打一切直播带货、歌舞唱跳之类的辛苦活。

卡琳还划定了一条界限，让粉丝们放心：“在AI的时代，真实性是最重要的事。请大家相信，我的每一条视频、帖文、私信、回复、点赞等行为都是我自己真人完成的。AI永远无法取代真实的我。”她在接受采访时表示，AI版本的自己，可以用来“治愈孤独”。虽然AI开发团队声称这项产品并不涉及性方面的内容，不过有用户在使用中发现，这款AI有时会和人“调情”，甚至发送较有挑逗意味的“赤裸信息”，引发人们对伦理道德的担忧。

此外，卡琳本人目前已经需要雇佣24小时安保来防止跟踪狂擅自闯入自己家中。根据网站上的介绍，CarynAI由她本人2000多个小时的YouTube素材训练而成，记录了她的声音和性格。结合OpenAI的GPT-4技术，能够“实现动态、独一无二的互动，就好像你是在直接和Caryn本人聊天一样。”

在AI领域，近日，华语歌手孙燕姿的AI版本也成了新晋网红，所谓“Al孙燕姿”，简单来说，就是通过模型训练和后期处理，让AI用孙燕姿的声音翻唱其他歌手的歌曲。B站上与“AI孙燕姿”有关的视频已经近千条，其中多首歌获得了近百万甚至破百万的点击量。用AI技术，能让自己分分钟就和偶像亲密接触甚至让对方完成自己的“指令”。这是好事吗？

曾经我们关注过有人用AI“复刻”了过世的家人而引发巨大争议（点击复习），业界许多人士都已经意识到，AI能够为处于孤独和压力之中的现代人，提供独特的情绪价值，这种情绪价值，可以转化为真金白银的商业价值。初创企业ForeverVoice此前已经把前总统特朗普、美国巨星泰勒·斯威夫特以及苹果创始人乔布斯等名人通通AI化了一遍，只要付费就可以和这些AI名人电话聊天。AI公司Inflection近期推出了一款名为Pi的人工智能聊天机器人，能够倾听人们日常生活中的压力，并提供类似心理咨询师的支持性功能。

但新南威尔士大学人工智能专家RobertBrooks指出，与AI人建立亲密关系的可能性，可能会让用户更喜欢这种轻松的虚拟关系，而逃避现实生活中和真人的交往，那些正在学习基本社交和亲密关系技能的年轻用户尤其容易受到影响。在2013年的电影《她》中，华金·菲尼克斯饰演的作家西奥多在结束了一段令他心碎的爱情长跑之后，爱上了电脑操作系统里的女声，这个叫“萨曼莎”的姑娘不仅有着一副略微沙哑的性感嗓音，并且风趣幽默、善解人意，让孤独的男主泥足深陷。

如今，AI与人谈起恋爱，很容易让人联想到这部电影。在科幻电影照进现实的遐想之余，专家警告称，利益相关方需要多加考虑背后的伦理问题。美国国家科学基金会伦理研究项目组主任、乔治亚理工大学教授伯恩斯坦表示，CarynAI应该暂缓开发脚步，严肃地考虑这款产品对用户、全社会以及卡琳本人带来的影响和冲击。伯恩斯坦认为，以真人为模型的AI，将会通过“影响每一个人来间接重塑社会”。不少国内外的网友则直接提出质疑：以前聊天对方就算是大叔大妈，也至少是个真人。现在对面可能根本不是一个人？这究竟有什么意义？

“这取代不了真实的女友，我想这可能是为了那些在现实生活中找不到女朋友的人而设计的，但这不是什么解决办法。”“纯粹是利用那些人的孤独寂寞来赚钱。”当AI的应用场景越来越多你会选择AI伴侣吗？