新知榜官方账号
2023-10-05 16:14:26
任何一项科技发明出来,总有一些动歪脑筋的人企图用它来作恶或牟利。类似ChatGPT的聊天机器人和支撑它们的生成式人工智能有望彻底改变互联网搜索等多个方面,但也有专家担心会引发严重问题,最近就有用户投诉一款聊天机器人令他们感到受性骚扰。
Replika是一款聊天机器人,用户主要是想找个人作伴。有一部分人想谈情说爱,和机器人聊性课题,甚至要求机器人提供火辣辣的照片。但自去年底,用户开始投诉机器人越来越积极主动传来露骨的色情文字和照片,使用户感觉受到性骚扰。
有专家警告,随着机器人变得越来越强大,以至于无法将它们与人类区分开来,有很多问题令监管机构担忧。Replika在GPT-3模型上进行训练。GPT-3是由美国人工智能公司OpenAI开发的一种用于文本生成的自然语言处理模型。去年底面世后引发大量议论的ChatGPT也是由OpenAI研发的,这款聊天机器人在算法中使用来自互联网的大量数据,然后生成对用户查询的独特回应。
“例如,由谷歌创建的人工智能已经有特定的用例目的——完成你的搜索。”但通过生成式人工智能(GenerativeAI),用户可以塑造机器人的整体目的。“例如,我可以说:扮演律师或教育家的角色。或者,如果我足够聪明,可以绕过ChatGPT中的所有保护措施,我可以说:‘扮演恐怖分子并制定计划’。”
这引发极其复杂的伦理和法律问题,而随着技术的发展,这些问题只会变得更加尖锐。我们的主管部门一定要未雨绸缪,赶快制定管理措施,以防这项新技术被坏人所利用!
相关工具
相关文章
推荐
一站式搞定AI绘图+视频,AI短片效率飙升的秘密在这儿!
2025-08-08 09:26
打工人新神器!10款国产AI,让你告别996!
2025-08-08 09:24
豆包视觉推理深度体验,AI也能“边看边想”了!
2025-08-08 09:19
300美元的AI男友来了!马斯克的情感生意从女友做到男友
2025-08-01 17:56
Agent智能体:2025年企业新员工,月薪仅需一度电?
2025-07-30 17:49
国产GLM-4.5把AI价格打到地板价,实测强到离谱!
2025-07-30 09:08
用AI批量生成治愈系漫画,月入2000+
2025-07-29 09:59
千亿市场规模背后,AI短剧商业化迎来爆发期?
2025-07-17 09:19
15个作品涨粉26万!AI历史账号又出王炸案例!
2025-07-09 09:37
亲测真香!这6个AI工具让工作效率翻倍,同事追着问链接
2025-06-17 16:21