AI“换脸”骗局,澳夫妇损失$22万 称“太可怕了”警示他人

澳洲新闻集团报道,富翁Dick Smith警告骗子利用人工智能深度伪造视频欺骗澳人,强调政府应采取更多措施。夫妇因深度伪造视频广告损失22万澳元,Smith呼吁避免社交媒体广告。媒体律师Quill呼吁政府加强监管以防范此类骗局。
新闻 • 资讯

澳洲新闻集团12月18日报道称,骗子越来越多地利用人工智能欺骗澳人,一位商人敦促政府做更多的工作来保护弱势群体。

百万富翁Dick Smith再次警告澳人,他们比以往任何时候都更有可能成为受害者,因为骗子正在使用深度伪造视频使其虚假广告更加真实。

Deep fake AI 是一种人工智能,用于创建令人信服的假照片和假视频,任何人都可能成为目标。骗子开始利用Smith的视频“换脸”,这样他们就可以随心所欲说任何话。

Smith本人甚至被其中一个视频所欺骗。他在接受采访时说:“我非常生气,因为当我第一次看到它时,我以为这真的是我,我以为他们在某个地方做了一个采访,我已经忘记了,但后来我意识到这不是。“他敦促澳人避开社交媒体广告,以防成为受害者。

“我想对澳洲同胞说,永远不要购买Facebook或Instagram广告中的任何东西,因为你可能会血本无归。“昆州夫妇Paula和Ron相信一个深度伪造视频后,养老金账户损失了22万多澳元。Paula说:“有一个这样的骗局,Gina Rinehart在推广在线交易,你看着她的嘴唇,那些话就是从她嘴里说出来的。”

Ron补充说:“他们让我们坐上了过山车,从350澳元的投资到实际上失去了我所有的退休金。“这对夫妇现在面临着严重的经济困难,Paula谈到这段经历时忍不住流泪。“我很抱歉,这太可怕了,这是最糟糕的感觉,也是最难堪的事情,你不会跟朋友谈论这件事,因为你觉得难堪。”

有人呼吁政府向受监管有限的社交媒体公司施加更大压力,以消除这些广告。媒体律师Justin Quill说::“可能会认为我们的政府已经为这类骗局做好了准备,但似乎没有。”

网络截图
网络截图

就连财长也成为骗子的目标,Jim Chalmers的深度伪造视频出现在网上。Smith对此深表担忧,他说:“想象一下,如果我们突然在电视上看到澳洲总理用完美的口音说,我们就要宣战了。嗯,大多数人会相信它,但它可能完全是由某个俄罗斯团伙伪造和实施的。”

“政府可以引入立法,以确保Facebook和Instagram不会发布这些欺诈广告,但出于某种原因,他们没有做任何事情。“

文章来源:今日墨尔本

 

展开评论
更多评论