首页 法律服务 法律问题 法律观点 法律常识 律师专线 律师诉讼 律师咨询 著名律师 法治动态 法治快讯 法治工作 法治经纬 法律法规 经济法类 行政法类 民事法类 新法速递 案例判例 法律咨询 司法解释

“换脸”应用爆红引发风险担忧 专业人士表示新技术应用和普及应在法律框架内进行

2019-09-11 15:41     来源:网络整理     编辑:中国网络法律信息网小编    人气:

  可以看到,在“换脸”带来了一场社交圈的集体娱乐盛宴的同时,强监管也随之而来,人们意识到这场游戏可能带来的负面影响。同时,这款应用本身也存在一些法律问题。

  专业人士称,随着上百万级别的互联网用户大规模参与,很容易滋生黑产和诈骗,或者在各种人像识别场景盗用,甚至刷脸支付。

  近期,一款“换脸”应用爆红,用户只需上传一张正脸照片,即可一键无痕切换到明星脸上,生成自己的表情包,甚至是“成为”影视剧的主角儿。该应用曾一度跃升至下载榜首位。

  《金融时报》记者发现,从“P图”到“P视频”,涉及到的用户肖像权和隐私权渐成议论的焦点,“换脸”技术所带来的负面影响开始受到关注,技术创新带来的隐患能否运用技术来攻克成为业界探讨的问题。

  AI媒体合成技术的运用

  “这是国内第一次上百万级别的AI换脸用户普及事件,其爆红的原因在于操作便利。用户只需上传照片,等待几秒钟就能生成视频,然后分享到社交媒体中。不难猜想,未来的几个月里,各大应用商店即将涌进一大批换脸软件。” 西密歇根大学教授杨子江告诉《金融时报》记者。

  杨子江介绍说,“换脸”实际上是一种AI媒体合成技术,即利用机器学习的方法合成视频、图像及语音等多媒体信息。主要有三个特点:一是合成的媒体信息完全可以以假乱真;二是具有较强的普及性,利用机器学习原理制作视频图片语音的工具已经可以免费下载,且具有娱乐性和一定的实用性;三是技术发展迅速,更新能力强。

  “这个技术可以让任何人说任何话、做任何动作,不仅肉眼无法分辨,目前也还没有完美的技术进行鉴别真伪。这意味着在人工智能时代,眼见不再为实。”杨子江说。

  据了解,AI换脸技术最早出现在2017年12月,用户“Deepfakes”在Reddit上发布一个“假视频”,将盖尔·加朵等知名女星的脸换到色情电影中,画面以假乱真。“deepfake”逐渐成为AI换脸技术的代称,同名算法也在GitHub开源。

  2019年1月,荷兰Deeptrace实验室发布deepfake发展报告显示,2018年“deepfake”关键词的搜索次数比2017年增长了1000倍。

  AI换脸已不再单纯是一个技术,而是开始向产业化方向发展。杨子江告诉《金融时报》记者:“截至2019年7月,市场上已出现7款类似Deepfake的主流造假软件和算法。APP应用市场AI换脸APP超过30款。当前在国外ctrl-shift-alt团队推出云换脸服务,一次收费5至8美元;国内活跃的‘AI、换脸’QQ群直接参与人数已超过两万人。”

  深度造假带来的影响

  可以看到,在“换脸”带来了一场社交圈的集体娱乐盛宴的同时,强监管也随之而来,人们意识到这场游戏可能带来的负面影响。同时,这款应用本身也存在一些法律问题。

  “换脸APP的用户协议部分条款涉嫌无效的格式条款。而且用户协议存在‘复杂冗长’且‘大多数用户没有仔细阅读用户协议的习惯’等特点,特别容易掺杂无效的格式条款在其中。”广东成说律师事务所律师胡帅在接受《金融时报》记者采访时说,“诸如让用户保证拥有使用相关录像的权利、授权其在‘完全免费、不可撤销、永久、可转授权和可再许可’的条件下使用用户的肖像权等条款,应属于无效的格式条款。它不仅没有尽提醒、说明义务,而将其隐藏在用户极容易忽略的用户协议中,还在相关条款中免除了自己的主要义务,大大加重了用户使用该软件的责任,容易错误处分自己的权利(如隐私权、肖像权等),试图通过这样‘抖机灵’的方式排除自身在用户上传的大量影视作品的侵权责任,将该款应用使用各种拥有知识产权的影视作品时获取相关权利人授权的责任转嫁到用户身上,实际上是滥用格式条款的行为,该部分条款应属无效。”

  而针对AI媒体合成,即深度造假对社会造成的巨大影响,杨子江认为,比如利用合成熟人语音进行诈骗、视频是否可以成为法庭证据、媒体网站收到群众爆料是否可以刊登、领导人的讲话如何核实,这些衍生的问题如何解决已成当务之急。

  “一次正常的AI换脸,将产生0.5至1元的成本(GPU算力消耗+电费),随着上百万级别的互联网用户大规模参与,很容易滋生黑产和诈骗,或者在各种人像识别场景盗用、甚至刷脸支付。”杨子江说,具体来看,AI换脸的负面影响主要体现在以下场景:虚假视频合成——对名人、普通人的肖像权、隐私权侵犯,获得经济利益;虚假广告——用名人换脸做虚假的广告代言,获得经济利益;电信诈骗——用社交网络素材制作虚假视频进行诈骗,获得经济利益;市场操纵——散播恶意的经济界名人视频与言论,做空/做多标的,达到经济目的;更严重的可能涉及国家安全的场景等。

  负面影响如何化解

相关阅读

精选图文
热门排行榜
  1. 深入践行“两山”理念依法治山铁腕护山
  2. 香港示威者污毁国徽,突破法律底线
  3. 2020年浙江军队文职招聘考试基础知识备考:社会
  4. 理性讨论996,别离开法律框架
  5. 最新法律规定, 这样同居是要坐牢的!
  6. 法律规定这些网贷不用还!
  7. 走出去智库:副总理莅临视察 合通机器人亮了!
  8. 东湖观点:“996工作制”没有看上去那么美好
  9. 中办 国办印发《关于加快推进公共法律服务体系
  10. 法律知识考试:家产风波
Copyright 中国网络法律站点 闽ICP备05007636号 联系邮箱:sheng6665588@gmail.com