人工智能绘画应用引发伦理争议

新知榜官方账号

2023-09-24 08:30:17

人工智能绘画应用引发伦理争议

一款使用人工智能技术生成数字肖像的绘画应用引发了伦理、数据偏见等方面的争论。该应用不仅编辑人脸上的瑕疵,还可以将照片转换成各种艺术风格,但使用条款授权该公司使用用户的面部数据训练人工智能算法,并且还存在种族和性别等偏见问题。

该应用的使用条款授权该公司使用用户的“面部数据”来训练他们的人工智能算法,同时还授予了永久的、不可撤销的、非排他性的、免版税的、全球性的、全额支付的、可转让的、可再授权的许可,以使用在该应用中创建的肖像。这些类似于霸王合同的使用条款引发了用户的担忧。

此外,一些女性用户也表示,这款应用会在没有提示的情况下创造过度性感的图像,而一些用户批评这款应用不会描绘亚洲面孔,甚至把他们的种族特征抹去了。虽然这些表现偏差更多的是人工智能训练出来的艺术风格而导致的,而非技术问题,但也存在种族和性别等偏见问题。

艺术家们对这项技术背后隐含的道德伦理问题表示担忧。为了开发人工智能绘画技术,开发人员和工程师会用大量数据训练模型,以识别和学习某些特征或风格。一旦模型学会了这些信息,就可以把一张新图片以被训练好的风格重现出来。但真正的问题在于,很多工程师和设计师都有意或无意地“没想到”种族和性别等方面的问题。

虽然该应用在互联网上掀起了风暴,但它也引发了围绕伦理、数据偏见等方面的争论。对于这些问题,有专家表示,公司可以投入更多工作来清理和抓取输入算法的数据,把性别和种族等类别作为“控制信号”,使模型更加公平。

本页网址:https://www.xinzhibang.net/article_detail-13346.html

寻求报道,请 点击这里 微信扫码咨询

关键词

人工智能 绘画应用 伦理争议

分享至微信: 微信扫码阅读

相关工具

相关文章

相关快讯