新知榜官方账号
2023-11-04 22:32:19
研究表明,通用人工智能工具的广泛应用为监管机构带来新的挑战,他们可能难以应对。实际上,如何监管OpenAI的聊天机器人ChatGPT这样的生成式AI工具,已经成为一个困扰世界各国政策制定者的问题。
ChatGPT可以通过关键字生成任何类型的内容,并接受输入大量知识的训练。其解决方案将涉及评估风险,尤其是其中的某些内容,应该受到严密的监控。在ChatGPT推出后的两个月,这款AI聊天机器人就成为了历史上用户增长最快的消费产品,仅在今年1月的活跃用户就超过1亿人。这促使全球大型科技公司关注或加快AI系统的推出,并为对话式AI领域带来了新的生机。
生成式AI加速监管需求广泛的错误信息和难以发现的网络钓鱼电子邮件为AI的应用带来真正风险,如果将其用于医疗信息,则会导致误诊和医疗事故。如果用于填充模型的不是多样化的数据,也有很高的偏差风险。虽然微软已经有了一个更准确的重新训练的模型,而且AI21公司等提供商正在努力验证生成的内容与实时数据的对比,但生成AI“看起来真实但完全不准确”的响应的风险仍然很高。
欧盟内部市场专员ThierryBreton近日表示,即将出台的欧盟AI法案将包括针对ChatGPT和Bard等生成型AI系统的条款。“正如ChatGPT所展示的那样,AI解决方案可以为企业和公民提供巨大的机会,但也可能带来风险。这就是为什么我们需要一个坚实的监管框架,以确保基于高质量数据的值得信赖的AI。”他说。
AI开发需要合乎道德分析软件提供商SAS在一份名为《AI与负责任创新》报告中概述了AI带来的一些风险。报告的作者KirkBorne博士说:“AI已经变得如此强大、如此普遍,以至于越来越难以分辨其生成内容的真假和好坏。采用这项技术的速度明显快于监管的步伐。”SAS英国和爱尔兰地区数据科学主管IainBrown博士表示,政府和行业都有责任确保AI被用于有益而非有害的方面。
在艾伦·图灵研究所从事AI监管工作的纽卡斯尔大学法律、创新和社会专业的教授LilianEdwards表示,其中一些模型将受到GDPR法规的监管,这可能会导致发布删除训练数据甚至算法本身的命令。如果网站所有者失去了AI搜索的流量,这也可能意味着从互联网大规模抓取数据的终结,目前这种抓取是谷歌等搜索引擎的发展动力。
最终,AI提供商将开始列出“不得使用”该技术的目的,包括在用户登录之前发布法律免责声明,将其置于基于风险的监管行动范围之外。随着监管机构越来越关注这一问题,大型科技公司将开始游说监管机构,希望加强算法透明度。我们正处在困难时刻,需要获得激励措施朝着开放和透明的方向发展,以便更好地理解AI如何做出决策和生成内容。
相关工具
相关文章
推荐
用Deepseek写AI绘图提示词,像呼吸一样简单!
2025-02-19 16:12
你以为AI绘画是黑科技?其实早成了“路边摊生意”!
2025-02-19 10:15
Flux爆火,全网最全面最详细的Flux使用教程!
2025-02-18 14:19
用AI如何创作音乐,实战教学来啦!
2025-02-17 17:23
MidJourney让你秒变绘画大神,从零开始画哪吒!
2025-02-17 14:56
AI应用新境界:让人工智能成为你的得力助手
2025-02-14 15:45
AI短片革命:当创作遇上智能,人人都能成为导演
2025-02-14 14:53
AI狂潮下的人类职场:是失业危机还是进化契机?
2025-02-13 16:53
开启影视创作新纪元,效率提升 10 倍的神器来了!
2025-02-13 15:11
深度解析DeepSeek:当AI技术照进创作产业的未来
2025-02-12 17:16