騙徒「AI換臉變聲」開視像會議騙過港分部 職員向總部查詢始知大鑊
人工智能「深度偽造」技術被用來行騙，詐騙集團向一間跨國公司的香港分公司下手食「大茶飯」。詐騙集團事先在網上搜集該公司英國總部一眾高層的面部和聲音數據，透過深偽技術將騙徒換上多名公司高層的面貌和聲音，再按劇本預製「高層發言」短片，繼而以總部首席財務官名義發出釣魚信息，邀請香港公司職員參加線上「視像會議」，聽取「機密交易」匯款指令。由於與會高層都被集體「變臉」，「熟口熟面」加上聲音都似，令香港職員不虞有詐，遂按「最高指示」分多次將合共兩億港元轉賬至5個本地銀行戶口，直至日前向總部查詢始知受騙。這是本港首宗AI「多人變臉」騙案例，也是迄今損失最大的「變臉」案例。
◆香港文匯報記者 曾立本
據香港警方案情透露，被騙的是一間總部設在英國的跨國公司，在香港設有分公司。警方相信，騙徒在設置AI「變臉」騙局前，可能用「釣魚」軟件或其他網上途徑，掌握到公司內部人員架構及運作模式等資料，然後設計好行騙劇本，令受害人以為是日常商業操作。
騙徒疑摸透內部資料 準備「面具」劇本
騙徒在搜集了該公司英國高層在YouTube上公開的影像後，再利用人工智能「深度偽造」技術製造，給騙徒換上英國高層的面部和聲音。據悉，騙徒為防露出破綻，平日與香港分公司有密切工作關係的總部首席財務官面部和聲線「深偽」得仿真度頗高。今年1月中，涉案騙徒以「英國總部首席財務官」的名義，向香港分公司的財務職員發信息，聲稱公司要進行一項「機密交易」，邀請香港職員登入網上多人視像會議「開會」。視像會議的畫面上有4名至6名英國總部高層人員，包括眾人熟悉的英國總部首席財務官，其他高層也「熟口熟面」。
會議期間，該「英國總部首席財務官」要求香港分公司職員簡短自我介紹，接着其他高層簡短「討論」公司的交易決策，着「首席財務官」跟進香港分公司匯款事宜。香港職員見眾高層與真人「一模一樣」，故不虞有詐。其後，該「總部首席財務官」透過即時通訊軟件向香港分公司財務職員下達轉款指示，一星期內分15次，將合共兩億港元存入5個本地銀行戶口，作為「機密交易」資金。
「最高指示」掩飾單向播片 避免互動穿幫
今年1月底，香港公司財務職員向公司總部查詢時始揭發被騙。香港警方經深入調查，發現這次AI「變臉」有幾個特點：
一、為令受害人更加相信，騙徒用「深偽技術」偽冒多人多角色臉譜；
二、騙徒用真人換上英國高層的面部和聲音後，實際上他們在視像上的發言，是根據按事前寫好的講稿拍攝的預製片段，故會議上不能與香港職員有對話互動，即不給香港職員提問機會；
三、為免露出破綻，「視像會議」在短短數分鐘內結束；
四、所謂總部高層現身直接下指令，只是要給香港公司職員營造一個「最高指示」的場景，令職員深信是真實決策。
網絡安全及科技罪案調查科網絡安全組署理高級警司陳純青表示，利用人工智能「深度偽造」的欺詐手法，與傳統詐騙手法其實如出一轍，只是利用不同手段以取得受害人信任進行詐騙，最終目的主要是誘騙受害人將款項轉賬到騙徒指定戶口。
他強調，雖然科技發展一日千里，只要市民時刻保持警惕，養成一個高防騙意識的習慣，對任何社交平台或通訊軟件所收到信息，也要有一個查證真偽的意識及必須要有行動，謹記在人工智能「深偽技術」下，網上已經「眼見不一定為實，有圖有片亦不一定是真相」。
沒有留言:
張貼留言