新知榜官方账号
2023-10-05 16:14:26
任何一项科技发明出来,总有一些动歪脑筋的人企图用它来作恶或牟利。类似ChatGPT的聊天机器人和支撑它们的生成式人工智能有望彻底改变互联网搜索等多个方面,但也有专家担心会引发严重问题,最近就有用户投诉一款聊天机器人令他们感到受性骚扰。
Replika是一款聊天机器人,用户主要是想找个人作伴。有一部分人想谈情说爱,和机器人聊性课题,甚至要求机器人提供火辣辣的照片。但自去年底,用户开始投诉机器人越来越积极主动传来露骨的色情文字和照片,使用户感觉受到性骚扰。
有专家警告,随着机器人变得越来越强大,以至于无法将它们与人类区分开来,有很多问题令监管机构担忧。Replika在GPT-3模型上进行训练。GPT-3是由美国人工智能公司OpenAI开发的一种用于文本生成的自然语言处理模型。去年底面世后引发大量议论的ChatGPT也是由OpenAI研发的,这款聊天机器人在算法中使用来自互联网的大量数据,然后生成对用户查询的独特回应。
“例如,由谷歌创建的人工智能已经有特定的用例目的——完成你的搜索。”但通过生成式人工智能(GenerativeAI),用户可以塑造机器人的整体目的。“例如,我可以说:扮演律师或教育家的角色。或者,如果我足够聪明,可以绕过ChatGPT中的所有保护措施,我可以说:‘扮演恐怖分子并制定计划’。”
这引发极其复杂的伦理和法律问题,而随着技术的发展,这些问题只会变得更加尖锐。我们的主管部门一定要未雨绸缪,赶快制定管理措施,以防这项新技术被坏人所利用!
相关工具
相关文章
推荐
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15
Flux爆火,全网最全面最详细的Flux使用教程!
2025-02-18 14:19
用AI如何创作音乐,实战教学来啦!
2025-02-17 17:23
MidJourney让你秒变绘画大神,从零开始画哪吒!
2025-02-17 14:56
AI应用新境界:让人工智能成为你的得力助手
2025-02-14 15:45
AI短片革命:当创作遇上智能,人人都能成为导演
2025-02-14 14:53
AI狂潮下的人类职场:是失业危机还是进化契机?
2025-02-13 16:53
开启影视创作新纪元,效率提升 10 倍的神器来了!
2025-02-13 15:11
深度解析DeepSeek:当AI技术照进创作产业的未来
2025-02-12 17:16