在國外人工智能成功幫助犯罪分子詐取22萬歐元？

有消息稱華爾街日報(bào)報(bào)道，3月英國的一家能源公司的老板讓CEO給匈牙利的供應(yīng)商打款22萬歐元，可后來他得知，他的老板并未讓他打款?？墒窃趺磿l(fā)生這種戲劇性的失誤呢？原來CEO確信老板讓他打款，是因?yàn)樗拥搅死习宓碾娫?，要求他一小時(shí)內(nèi)進(jìn)行匯款，而且電話聲音確認(rèn)是老板。另外電話里還附了一封電子郵件，這樣CEO更加確信是老板吩咐無疑。

事實(shí)上，這是一個配備人工智能設(shè)備的詐騙人員正在使用deepfake軟件模仿這位高管的聲音，要求他的下屬在一小時(shí)內(nèi)進(jìn)行匯款。

裕利安宜公司的一位發(fā)言人后來告訴《華盛頓郵報(bào)》:“該軟件不僅能夠模仿聲音，連音調(diào)、斷句和德國口音都能模仿。電話里還附帶了一封電子郵件，能源公司的執(zhí)行官就答應(yīng)了?！?

在詐騙人員提出之后的要求后，這家能源公司的執(zhí)行官給他真實(shí)的老板打了電話，結(jié)果發(fā)現(xiàn)他同時(shí)接通著兩處電話，方才驚覺被騙了。裕利安宜拒絕透露這家能源公司或其德國母公司的名稱。

《華盛頓郵報(bào)》稱，這些錢現(xiàn)在已經(jīng)沒有了，已經(jīng)通過匈牙利和墨西哥的賬戶轉(zhuǎn)移到世界各地。

這種情況可能不是頭次發(fā)生。據(jù)《華盛頓郵報(bào)》報(bào)道，網(wǎng)絡(luò)安全公司賽門鐵克(Symantec)表示，他們已經(jīng)遇到了至少三起deepfake語音欺詐案件。賽門鐵克對《華盛頓郵報(bào)》表示，至少有一起案件造成了數(shù)百萬美元的損失。這起案件似乎與裕利安宜確認(rèn)的那起不同。

這種情況突顯出人工智能研究令人擔(dān)憂的本質(zhì)，尤其是圍繞著視頻和音頻的AI創(chuàng)造。雖然沒有一家擁有大型、有能力的人工智能研究機(jī)構(gòu)的公司公開開發(fā)deepfake視頻軟件，但一些公司正在音頻領(lǐng)域加大研發(fā)力度。

谷歌備受爭議的Duplex服務(wù)使用人工智能模仿真人的聲音，這樣它就可以代表用戶打電話。一些規(guī)模較小的初創(chuàng)企業(yè)正在智能手機(jī)上免費(fèi)提供類似的服務(wù)，有時(shí)涉及隱私和數(shù)據(jù)收集方面的問題。與此同時(shí)，科技公司和學(xué)術(shù)界的研究人員正試圖開發(fā)deepfake檢測軟件。

在未來人工智能更加進(jìn)步的一天，我們更應(yīng)該積極優(yōu)化我們的人工智能防御系統(tǒng)，杜絕非法分子有可乘之機(jī)。

更多新聞資訊歡迎關(guān)注無錫市思美達(dá)科技有限公司，我們提供粘膠服務(wù)。