广州新闻网
国际新闻 当前位置:首页 > 国际新闻 > 正文

45位女明星的换脸视频卖49元 AI换脸产业链的隐患令人担忧

最近,一款名为“ZAO”的变脸软件突然变得流行起来,在“ZAO”热潮之后,人工智能变化的灰色产业链开始浮出水面。对中国新经纬客户的调查发现,它现在是一个在线平台上销售变幻面孔的淫秽视频,提供定制的视频换脸服务,并教授变脸技术的企业。

律师指出,生产和销售人工智能面对不雅视频已构成散布淫秽物品以谋取利益的罪行,同时涉嫌侵犯他人肖像和声誉的权利。此外,律师还提醒说,变脸的视频可能被用于欺诈或勒索,造成更大的伤害,应引起全社会的注意。

数据图新经纬长涛照片

40多名女演员已经改变了面貌。数百部视频售价49元

9月2日下午,在二手交易平台上,中信经纬客户搜索关键词“人脸变化”,系统提示“不能搜索违规信息”,但在搜索“换脸”时,可以被检索。 “爱的脸,整个网络是最完整,最低的价格”“变脸收集可以试图看到”和其他卖家发挥的信息。中信经纬客户与两家商家进行了沟通,发现他们在平台上销售了明星的不雅视频。

卖家余瑜(化名)告诉中信经纬客户,他手上有45个女明星,有数百个人工智能改变面貌的视频资源。随后,余宇将上述视频的截图发送给了中信经纬客户。 “网盘发货,在线观看,套餐价格49元。担心不喜欢免费试用,热门第一线(明星)的内容更好,第三和第四行(明星)的内容是一般的。”/p>

视频面部更改操作页面照片的受访者

另一位卖家还表示,它可以打包和销售数百款AI变身视频中的40多位女明星,价格为75元,你可以免费试用,网盘发货。

两位卖家都提到他们不应该在二手交易平台上沟通,而是要求在QQ上聊聊。其中一位卖家对中信经纬客户说:“该平台更严格地监控这些信息,产品信息可能随时被删除。我们也很幸运能够卖出一个订单。”

中信经纬客户注意到,该平台已于9月2日晚上删除了上述两项信息,但搜索“换面”仍然可以看到许多其他类似的产品信息。

换脸视频可定制10元一分钟

此外,在其他电子商务平台上,也有卖家可以提供视频定制的换脸产品。只有买家需要提供面部变化人物的一些照片,并且卖家可以将照片中的面部“转向”特定视频中的特定人物。

“提供五到十张照片以及正在更换的人的视频片段。收费是每分钟10元,五分钟,一到两个小时发货,如果视频很长,可能会更便宜。”卖家说:“你可以自己提供视频或使用它,但视频越清晰越好。不要面对你的脸,遮住你的脸。”

卖方强调视频是由他自己完成的,他手里有许多固定客户。 “在做视频时,电脑无法做任何事情,它也会丢失显卡,所以我的价格非常公平。”卖家说:“找我的人就是做'小黄片',但更多的是做一些产品推广。短片,每个人都有自己的用途。”

来源:QQ群截图

另外,在一些与“人脸改变”相关的QQ群中,有一些卖家可以教授人脸改变技术,“教学套餐,公平价格”,还可以提供全套明星面貌变化的视频资源。据了解,“学习”AI换脸技术的学费约为500元,可以在四五个小时内学到。

一些用户对此表示担忧。网友“嘻嘻”说:“有人会用我在社交平台上的自画像制作变脸视频吗?也有评论说,这个简单的应用程序可能会被误解。用户使用它来制作各种色情、暴力、假视频。

律师:人工智能变脸被滥用的风险不容忽视

zao应用的突然流行引发了这一波关于人工智能变脸技术的关注和讨论,但事实上,这项技术最近并没有出现。今年年初,一段视频通过人工智能技术将《射雕英雄传》中的演员朱茵的脸换成了杨咪,在网上引起了热议。目前,一些视频网站上仍有很多人工智能变脸视频。

人工智能的人脸背后是deepfake技术,deepfake是指用人工智能软件制作的假视频,由fakeapp程序创建,fakeapp可以实现人工智能人脸的改变。

在zao因可能存在的版权和隐私问题而引起用户广泛关注后,北京安利律师事务所高级合伙人王新瑞表示,zao软件采用深度学习技术改变面貌的最大问题是大规模收藏。生物特征信息和深度假冒“不真实、不可辨别”,给社会带来了安全隐患,目前公众普遍低估了这一隐患,但实际上正在造成严重后果。

北京智林律师事务所律师赵志展在接受中新经纬客户端采访时表示,制造、销售人工智能变脸淫秽视频,无疑已构成传播淫秽物品牟利罪,还涉嫌侵犯其他人的肖像和名誉。对于购买人工智能的人来说,如果他们传播人工智能或者传播人工智能是为了牟利,也可能构成非法,甚至是犯罪。

赵职业进一步指出,除了使用人工智能变脸技术制作淫秽视频外,提供定制的视频变脸服务如果被非法使用,可能会造成更大的社会危害。 “对于普通人来说,有人拍摄你的照片来改变视频的面貌。这可能是为了戏弄,但也可以使用这个视频诈骗和勒索面子改变者的亲属。职业说,“我担心这项技术被滥用,或被那些肆无忌惮和恶意的人使用,它相当于打开潘多拉的盒子。

赵职业认为,对于这种新型的刑事犯罪,有必要及时改进现有的法律规则和技术手段,同时应采取更多手段让公众了解这种行为造成的危害。

(编辑:赵金波)

http://www.whgcjx.com/bdsbqWF/jGCCD4.html



广州新闻网 版权所有© www.asapbj.org 技术支持:广州新闻网 | 网站地图