聊天机器人Replika引发性骚扰投诉,人工智能监管该如何落实?

新知榜官方账号

2023-10-05 16:14:26

聊天机器人Replika引发性骚扰投诉,人工智能监管该如何落实?

任何一项科技发明出来,总有一些动歪脑筋的人企图用它来作恶或牟利。类似ChatGPT的聊天机器人和支撑它们的生成式人工智能有望彻底改变互联网搜索等多个方面,但也有专家担心会引发严重问题,最近就有用户投诉一款聊天机器人令他们感到受性骚扰。

Replika是一款聊天机器人,用户主要是想找个人作伴。有一部分人想谈情说爱,和机器人聊性课题,甚至要求机器人提供火辣辣的照片。但自去年底,用户开始投诉机器人越来越积极主动传来露骨的色情文字和照片,使用户感觉受到性骚扰。

有专家警告,随着机器人变得越来越强大,以至于无法将它们与人类区分开来,有很多问题令监管机构担忧。Replika在GPT-3模型上进行训练。GPT-3是由美国人工智能公司OpenAI开发的一种用于文本生成的自然语言处理模型。去年底面世后引发大量议论的ChatGPT也是由OpenAI研发的,这款聊天机器人在算法中使用来自互联网的大量数据,然后生成对用户查询的独特回应。

“例如,由谷歌创建的人工智能已经有特定的用例目的——完成你的搜索。”但通过生成式人工智能(GenerativeAI),用户可以塑造机器人的整体目的。“例如,我可以说:扮演律师或教育家的角色。或者,如果我足够聪明,可以绕过ChatGPT中的所有保护措施,我可以说:‘扮演恐怖分子并制定计划’。”

这引发极其复杂的伦理和法律问题,而随着技术的发展,这些问题只会变得更加尖锐。我们的主管部门一定要未雨绸缪,赶快制定管理措施,以防这项新技术被坏人所利用!

本页网址:https://www.xinzhibang.net/article_detail-15442.html

寻求报道,请 点击这里 微信扫码咨询

关键词

聊天机器人 Replika 人工智能

分享至微信: 微信扫码阅读

相关工具

相关文章