20231218

<科网热话>Deepfake – AI的两面效应

hero banner

在2017年,Reddit这个知名的娱乐、社交及新闻网站中的一位名为"deepfakes"的会员发布了一个由AI合成的名人伪造视频,从此开始这种AI合成技术被称为Deepfake。Deepfake一词由"Deep Learning"和"Fake"组合而成,它是一种利用人工智能深度学习模型的技术。其原理是通过两个神经网络相互对抗,经过交替优化训练后,生成的内容可以与真实人物难以区分。

最初,Deepfake技术主要用于宣传和创意用途,并且在大多数影片中,作者都会声明其影片是假的。此外,Deepfake甚至被用于弥补原本无法实现的事情,其中最著名的应用是在好莱坞电影《玩命关头7》和《星际大战》中的主角保罗·沃克。沃克在拍摄期间意外身亡,他的角色由他的弟弟代替完成,然后使用Deepfake技术连接电影中的场景,最终使电影完成并上映。

然而,尽管这种技术表面上看起来无害且有着良好的意图,但它却带来了许多法律问题和信息风险。随着技术的发展,任何人都可以轻易制作假影片或假声音,其中可能包含不良意图。由于Deepfake可以模仿任何人的外貌和声音,这意味着任何人,尤其是知名人士,都可能被放置在虚假的情境中,从而造成名誉损害。此外,Deepfake技术可能被滥用于政治操作、伪造新闻和商业领域,这些都可能成为其负面影响的例子。而最接近普通人的可能就是由Deepfake技术产生的诈骗。

由Deepfake产生的诈骗主要可以分为三种。首先是电话诈骗,主要是模仿亲朋好友的声音,以此来骗取金钱和个人信息。诈骗者不仅模仿声音,还能模仿说话的语调、断句和口音。其次是视讯诈骗,由于Deepfake技术可以合成影片和语音,这意味着你可能会接到看似是你认识的人打来的视讯通话。第三种是恐吓诈骗,主要是通过合成不雅照片或影片来恐吓并勒索当事人。

在接下来难办真相的网络世界中,Deepfake只是当今科技社会所面临的一个问题,法律和社会规范应该如何跟上这一步?如何解决其中涉及的著作权和伦理问题?这些都是需要进行深入讨论和验证的重要课题。


尹展轩


永盛科讯 

地址:香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室 

电邮:info@ringus-solution.com 

电话:(852) 2907 6011 

网址:www.ringus-solution.com



集团品牌及推广 FROM 亨达集团
标签

延伸阅读

<科网热话>聊天机器人:技术进步与安全挑战
BY 集团品牌及推广 FROM 亨达集团

<科网热话>太空网络安全
BY 集团品牌及推广 FROM 亨达集团

<公司三文治>办公室的未来学
BY 集团品牌及推广 FROM 亨达集团

Mouket株式会社
亨达信息科技
A.

Hibiya Mitsui Tower12F, Tokyo Midtown Hibiya 1-1-2 Yuraku-cho, Chiyoda-ku, Tokyo 100-0006, Japan


T.

(81) 2 4590 8012



阅读更多
WISVIA
亨达信息科技
A.

香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室


T.

(852) 2907 6011


W. http://www.wisvia.com

阅读更多
永盛科讯
亨达信息科技
A.

香港九龙旺角太子道西193号新世纪广场一座18楼1817-20室

 

澳大利亚新南威尔士州悉尼市帕克街花旗集团中心18楼 邮政编码 NSW2000

 

台湾台北市中山区中山北路二段162号7楼


T.

(852) 2907 6011


W. https://www.ringus-solution.com

阅读更多