20231218
<科网热话>Deepfake – AI的两面效应
在2017年,Reddit这个知名的娱乐、社交及新闻网站中的一位名为"deepfakes"的会员发布了一个由AI合成的名人伪造视频,从此开始这种AI合成技术被称为Deepfake。Deepfake一词由"Deep Learning"和"Fake"组合而成,它是一种利用人工智能深度学习模型的技术。其原理是通过两个神经网络相互对抗,经过交替优化训练后,生成的内容可以与真实人物难以区分。
最初,Deepfake技术主要用于宣传和创意用途,并且在大多数影片中,作者都会声明其影片是假的。此外,Deepfake甚至被用于弥补原本无法实现的事情,其中最著名的应用是在好莱坞电影《玩命关头7》和《星际大战》中的主角保罗·沃克。沃克在拍摄期间意外身亡,他的角色由他的弟弟代替完成,然后使用Deepfake技术连接电影中的场景,最终使电影完成并上映。
然而,尽管这种技术表面上看起来无害且有着良好的意图,但它却带来了许多法律问题和信息风险。随着技术的发展,任何人都可以轻易制作假影片或假声音,其中可能包含不良意图。由于Deepfake可以模仿任何人的外貌和声音,这意味着任何人,尤其是知名人士,都可能被放置在虚假的情境中,从而造成名誉损害。此外,Deepfake技术可能被滥用于政治操作、伪造新闻和商业领域,这些都可能成为其负面影响的例子。而最接近普通人的可能就是由Deepfake技术产生的诈骗。
由Deepfake产生的诈骗主要可以分为三种。首先是电话诈骗,主要是模仿亲朋好友的声音,以此来骗取金钱和个人信息。诈骗者不仅模仿声音,还能模仿说话的语调、断句和口音。其次是视讯诈骗,由于Deepfake技术可以合成影片和语音,这意味着你可能会接到看似是你认识的人打来的视讯通话。第三种是恐吓诈骗,主要是通过合成不雅照片或影片来恐吓并勒索当事人。
在接下来难办真相的网络世界中,Deepfake只是当今科技社会所面临的一个问题,法律和社会规范应该如何跟上这一步?如何解决其中涉及的著作权和伦理问题?这些都是需要进行深入讨论和验证的重要课题。
尹展轩
永盛科讯
地址:香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室
电邮:info@ringus-solution.com
电话:(852) 2907 6011
网址:www.ringus-solution.com
上一篇文章
下一篇文章
延伸阅读
<科网热话>聊天机器人:技术进步与安全挑战
BY 集团品牌及推广 FROM 亨达集团
<科网热话>太空网络安全
BY 集团品牌及推广 FROM 亨达集团
<公司三文治>办公室的未来学
BY 集团品牌及推广 FROM 亨达集团
Hibiya Mitsui Tower12F, Tokyo Midtown Hibiya 1-1-2 Yuraku-cho, Chiyoda-ku, Tokyo 100-0006, Japan
(81) 2 4590 8012
香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室
澳大利亚新南威尔士州悉尼市帕克街花旗集团中心18楼 邮政编码 NSW2000
台湾台北市中山区中山北路二段162号7楼
(852) 2907 6011