崇左新闻网

AI换脸病毒式传播,灰色产业链浮出水面

原始歌曲Hongbing 2019.9.4我要分享

■文|洪评论

8月30日晚上,播放了“ ZAO”屏幕放映圈,其口号是“只有一张照片在世界上出演”。大量用户上传自画像照片,并使用该应用程序将自己“变成”电影剪辑的主角,并将这些“重定向”的视频上传到社交平台(例如朋友圈),从而引起“病毒式”传播。仅两天后的9月1日,App Store免费应用列表中的“ ZAO”已跃居榜首。

但是,由于用户反映生成的视频无法删除,并且ZAO的霸道用户隐私条款引起了关注,其口口相传也遇到了滑铁卢,因此App Store中的评分迅速从4.6分降至1.9分。

ZAO的主要功能包括“制作视频”和“制作表情”,所有这些都需要上传肖像照片。上传资料时,首先需要通过权限验证。系统判断上传的照片是用户后,可以继续执行下一步。

实际上,AI换脸技术并不新鲜。早在2017年12月,一个名为“ deepfakes”的外国Reddit论坛用户首次发布了自己的AI换脸视频,效果非常逼真。今年3月,视频网站blibli播放了一段视频:视频制作人[朱]主演的电影《射雕英雄传》(1994年版)黄蓉经过视频制作人的处理,通过“ AI Face Change”成为杨幂的脸,最后没有违反效果。突然之间,网民进行了激烈的辩论,微博话题的点击量猛增至1.1亿。

据《科技日报》报道,所谓的AI换脸技术是基于人工智能的人体图像合成技术来生成人工脸部。早期对技术和硬件的要求很高。家用计算机比较费力,制作花费了几个小时甚至几十个小时。但是现在有许多插件可以提供帮助。

随着技术门槛的降低,“ AI Face Change”的灰色产业链开始出现。一些记者发现,在互联网平台上,销售明星变脸的淫秽视频,提供个性化的视频变脸服务,教授变脸技术已经成为一种业务。

供应商表示,在某些电子商务平台上,他们可以提供定制的视频换脸产品。只要买主提供一些变脸人的照片,卖主就可以将照片中的脸“转向”特定视频中的特定人。卖家说:“提供五到十张换脸器的照片和视频资料,收费是每分钟10元,五分钟开始,一到两个小时发货,如果视频较长,也可以更便宜。” “您可以自己提供视频,也可以使用我的视频,但是视频越清晰越好。不要遮住脸部。”卖方说:“有些找我的人在制作《小黄画》,但更多人在做一些商品的简短广告。每个人都有自己的目的。”

一些网友对此表示强烈关注:“有人会在社交平台上使用我的自画像照片制作变脸视频吗?那太可怕了。”

随着企业级“变脸”技术的普及,迫切需要加强对相关应用程序的监管。在不久的将来,可能很难获得用肉眼难以区分的面部改变技术,并且该技术足够真实。它甚至很容易落入谣言,欺诈和色情行业的非法分子之手。普通用户根本无法识别它。其后果是难以想象的,人们不禁屏住呼吸。

对于这个问题,ZAO和在线支付平台都表示他们可以确保安全。 ZAO表示,它不会存储个人面部生物特征信息,不会存储个人面部生物特征信息,严格遵守法律法规要求,充分保护个人信息和数据安全。蚂蚁金融服务公司于8月31日接受记者采访时称,支付宝将通过各种安全风险控制策略确保账户安全,而不必担心支付宝支付面值的安全性,即使账户被欺诈使用的可能性很小,支付宝也是保险公司将支付全额。

即使各方不保证有问题,普通用户也无法关心。

在数据和虚拟化时代,个人生物识别功能将成为未来越来越重要的信息。我们不应该从保护个人隐私的角度来看待这个问题。对于假的个人生物信息,我们应该作为互联网时代的“伪钞”,从保护其“产权”的高度来看,它是认真对待的。

对相关企业的监督也必须跟上,不允许大量增长。中国尚未建立成熟的商业文明,商业秩序不规范,商业法律有待提高,虽然竞争激烈,但竞争无序。特别是面对人工智能改变新事物,法律监督空白,缺乏行业自律约束,企业可以轻松培养“赢王”的心态,做出一些无底的行为。

例如,ZAO的用户协议表明,在使用ZAO时,如果您改变自己或其他人的脸,这意味着同意或确保肖像所有者同意在全球范围内完全免费和不可撤销地授予ZAO及其关联公司。永久性,可转让性和可再授权的权利,包括但不限于:肖像,照片,视频材料等中包含的您或肖像权利人的肖像权利,以及您或肖像权利人使用技术的肖像。形式改变。

这意味着用户失去了对其肖像数据的控制权和知情权,这意味着许多相关公司可以使用“ ZAO”数据。当您同意ZAO使用您自己的信息时,这还意味着同意您不知道使用您的信息的其他公司。

在公众舆论的压力下,ZAO于9月3日道歉并更改了用户协议,并改为“您同意或确保肖像权持有人已同意授予'ZAO'使用'ZAO'技术服务。处理其他人的面孔,但仅将用户内容作为新内容进行合成。”

ZAO不是第一个处理个人生物特征的公司,也不是最后一个。我们不能每次都依靠公众舆论监督相关行为。当企业涉及相关信息时,我们应明确界定其行为边界。具体来说有两个:

1.“最小可用原则”。企业在收集用户生物识别信息时应遵循“最少,足够”的原则,并且不要收集超出必要水平的信息以积极防止滥用。

2.“被遗忘的权利。”您可以参考2018《欧盟数据保护通用条例》(GDPR)来强制企业执行用户的“被遗忘权”:数据主体有权要求数据控制者删除其个人数据的权利,而控制者为在某些情况下负责及时删除个人数据。

我们不知道将来会出现什么新技术,因此我们无法明确规定禁止哪些行为。这可能会使漏洞被别有用心的人利用,并可能抑制创新。尽管监督必须落后于创新,但如果我们能够遵守上述两个基本原则,即使存在一些负面和跨界的不当行为,社会和司法系统也可以迅速有效地纠正它们,使我们享受科学的成就和技术创新。在保护个人信息之间取得更好的平衡。

这张照片来自互联网。如果有任何侵权,请与我们联系将其删除

- 结束 -

本文为第一作者的原创,未经授权不得转载

收款报告投诉

■文|洪评论

8月30日晚上,播放了“ ZAO”屏幕放映圈,其口号是“只有一张照片在世界上出演”。大量用户上传自画像照片,并使用该应用程序将自己“变成”电影剪辑的主角,并将这些“重定向”的视频上传到社交平台(例如朋友圈),从而引起“病毒式”传播。仅两天后的9月1日,App Store免费应用列表中的“ ZAO”已跃居榜首。

但是,由于用户反映生成的视频无法删除,并且ZAO的霸道用户隐私条款引起了关注,其口口相传也遇到了滑铁卢,因此App Store中的评分迅速从4.6分降至1.9分。

ZAO的主要功能包括“制作视频”和“制作表情”,所有这些都需要上传肖像照片。上传资料时,首先需要通过权限验证。系统判断上传的照片是用户后,可以继续执行下一步。

实际上,AI换脸技术并不新鲜。早在2017年12月,一个名为“ deepfakes”的外国Reddit论坛用户首次发布了自己的AI换脸视频,效果非常逼真。今年3月,视频网站blibli播放了一段视频:视频制作人[朱]主演的电影《射雕英雄传》(1994年版)黄蓉经过视频制作人的处理,通过“ AI Face Change”成为杨幂的脸,最后没有违反效果。突然之间,网民进行了激烈的辩论,微博话题的点击量猛增至1.1亿。

据“科技日报”报道,所谓人工智能人脸改变技术是基于人工智能,基于人体图像合成技术生成虚假人脸。早期的技术和硬件要求很高,家用电脑会有点困难,生产需要几个小时甚至几十个小时,但现在有许多插件可以提供帮助。

随着技术门槛的降低,“人工智能变脸”的灰色产业链已经开始浮出水面。记者调查发现,在线平台上,淫秽视频销售明星面貌,提供定制视频换脸服务,以及教学变脸技术已成为一项业务。

在一些电子商务平台上,一些卖家表示他们可以提供视频定制的改变面部的产品。只有买家需要提供面部变化人物的一些照片,并且卖家可以将照片中的面部“转向”特定视频中的特定人物。一些卖家说:“提供五到十张照片和视频资料的人正在改变。费用是每分钟10元,五分钟,一到两个小时发货,如果视频很长,可以便宜“。 “你可以自己提供视频或使用它,但视频越清晰越好,不要面对并掩盖你的脸。”卖家说:“找我的人就是'小黄片',但更多的是制作一些产品的宣传视频,每个产品都有自己的用途。”

一些网友表达了强烈关注:“有人会在社交平台上使用我的自拍来制作变脸视频吗?那太可怕了。”

随着商业层面“变脸”的普及,加强对相关应用的监管势在必行。在不久的将来,这种难以区分并且确实令人困惑的变脸技术可能会触手可及。它甚至可能落入谣言,欺诈和色情行业的非法分子手中。普通用户根本无法识别它,后果是不可想象的。冷空气。

为此,ZAO和在线支付平台均表示可以确保安全性。 ZAO表示,它将不会存储个人面部生物特征信息,不会存储个人面部生物特征信息,严格遵守法律和法规要求,并充分保护个人信息和数据安全。蚂蚁金服在8月31日接受记者采访时说,支付宝将通过各种安全风险控制策略确保账户的安全性,即使担心欺诈性使用该账户的可能性很小,也不必担心支付宝的面额支付的安全性,支付宝也将由保险公司全额支付。

即使各方不能保证问题,普通用户也不会在意。

在数据和虚拟化时代,个人生物特征将在未来变得越来越重要。我们不仅应该从保护个人隐私的角度来看这个问题。对于虚假的个人生物识别信息,我们应该作为互联网时代的“伪钞”,从保护其“财产权”的高度出发,认真对待它。

相关企业的监管也必须跟上,并且不能疯狂增长。中国还没有建立起复杂的商业文明,商业秩序还没有规范,商业法律有待完善,尽管有力且竞争激烈,但竞争无序。特别是当面对AI变脸的新事物,法律监督空白,缺乏行业自律约束时,企业很容易滋生``取胜之王''的心态并做出一些无底的行为。

例如,ZAO的用户协议表明,使用ZAO时,如果您将自己的面孔更改为自己或他人的面孔,则意味着同意或确保肖像所有者同意在全球范围内完全免费且不可撤销地授予ZAO及其关联公司。永久,可转让和可再许可的权利,包括但不限于:您或肖像,照片,视频材料等中包含的肖像权持有人的肖像权,以及您或肖像权持有人对技术的使用形式改变。

这意味着用户失去了对他或她的肖像数据的控制和权利,这意味着许多相关公司可以使用“ZAO”的数据。当您同意ZAO使用您自己的信息时,这也意味着同意您不知道使用您的信息的其他公司。

在公众舆论的压力下,ZAO于9月3日道歉并更改了用户协议并将其替换为“您同意或确保肖像权利持有人同意授予'ZAO'使用'ZAO'技术服务。或者其他人的面孔被处理,但只与用户内容合成为新内容。“

ZAO不是第一家处理个人生物识别功能的公司,也不是最后一家公司。我们不能每次都依赖舆论来监督相关行为。我们应该在涉及相关信息时明确界定企业的行为边界。具体有两个:

1.“最低可用原则”。企业在收集用户生物信息时应遵循“最小,充分”的原则,不收集超出必要水平的信息,积极防止滥用。

2.“被遗忘的权利。”您可以参考2018《欧盟数据保护通用条例》(GDPR)强制企业执行用户的“被遗忘权”:数据主体有权要求数据控制者删除其个人数据的权利,控制器是负责在某些情况下及时删除个人数据。

我们不知道将来会出现什么新技术,因此我们无法明确规定哪些行为是被禁止的。这可能会留下别有用心的人利用的漏洞,并可能抑制创新。虽然监管必须落后于创新,但如果我们能够遵守上述两项基本原则,即使存在一些消极和跨境的不端行为,社会和司法系统也能迅速有效地纠正它们,使我们能够享受到科学的成就。和技术创新。保护个人信息之间的更好平衡。

这张照片来自互联网。如果有任何侵权行为,请与我们联系删除

- 结束 -

本文为第一作者的原创,未经授权不得转载