新知榜官方账号
2023-10-05 16:14:26
任何一项科技发明出来,总有一些动歪脑筋的人企图用它来作恶或牟利。类似ChatGPT的聊天机器人和支撑它们的生成式人工智能有望彻底改变互联网搜索等多个方面,但也有专家担心会引发严重问题,最近就有用户投诉一款聊天机器人令他们感到受性骚扰。
Replika是一款聊天机器人,用户主要是想找个人作伴。有一部分人想谈情说爱,和机器人聊性课题,甚至要求机器人提供火辣辣的照片。但自去年底,用户开始投诉机器人越来越积极主动传来露骨的色情文字和照片,使用户感觉受到性骚扰。
有专家警告,随着机器人变得越来越强大,以至于无法将它们与人类区分开来,有很多问题令监管机构担忧。Replika在GPT-3模型上进行训练。GPT-3是由美国人工智能公司OpenAI开发的一种用于文本生成的自然语言处理模型。去年底面世后引发大量议论的ChatGPT也是由OpenAI研发的,这款聊天机器人在算法中使用来自互联网的大量数据,然后生成对用户查询的独特回应。
“例如,由谷歌创建的人工智能已经有特定的用例目的——完成你的搜索。”但通过生成式人工智能(GenerativeAI),用户可以塑造机器人的整体目的。“例如,我可以说:扮演律师或教育家的角色。或者,如果我足够聪明,可以绕过ChatGPT中的所有保护措施,我可以说:‘扮演恐怖分子并制定计划’。”
这引发极其复杂的伦理和法律问题,而随着技术的发展,这些问题只会变得更加尖锐。我们的主管部门一定要未雨绸缪,赶快制定管理措施,以防这项新技术被坏人所利用!
微信扫码咨询
相关工具
相关文章
推荐
阿里Accio中文版上线!一键搞定复杂采购
2025-08-19 09:13
视频“用嘴编辑”的时代来了,但钱包顶得住吗?
2025-08-15 17:59
智谱新模型GLM-4.5V全面开源,玩家们有福啦!
2025-08-12 17:56
扎心文案+AI插画=爆款!揭秘8万赞视频的制作全流程
2025-08-12 10:08
GPT-5没你想的那么好,附实测体验~
2025-08-11 11:07
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49