詐騙犯罪分子越來越多地使用生成式人工智能技術(shù)來實(shí)施詐騙計(jì)劃，人們?cè)絹碓綋?dān)心這可能會(huì)加劇咋騙打流行。在2020年，詐騙犯利用生成式人工智能技術(shù)模仿了一位公司董事的聲音，成功欺騙了香港一家銀行經(jīng)理，使其授權(quán)轉(zhuǎn)賬3,500萬港元。自那以后，這項(xiàng)技術(shù)變得更加令人信服，使詐騙犯能夠在幾秒鐘內(nèi)生成類似人類的文本，繞過了長期以來與詐騙信息同義的拼寫和語法錯(cuò)誤。

2023年，ChatGPT令人印象深刻的能力，可以在各種提示下生成高度逼真和連貫的回答，從創(chuàng)意寫作到技術(shù)支持，激發(fā)了公眾的想象力。不幸的是，詐騙犯也看到了潛力，并開始探索使用AI聊天機(jī)器人生成惡意軟件的方法。ChatGPT出色地模仿特定組織和機(jī)構(gòu)的語言風(fēng)格的能力使詐騙犯能夠創(chuàng)建高度詳細(xì)和逼真的副本，他們可以用來制作詐騙信息或虛假網(wǎng)站。這使得生成詐騙信息成為一項(xiàng)低投入、高回報(bào)的工作，導(dǎo)致對(duì)釣魚和冒充詐騙的檢測(cè)和辨別更加困難。

生成式人工智能技術(shù)的興起似乎加強(qiáng)了詐騙犯已經(jīng)使用的有效工具。在新加坡，2022年報(bào)告的詐騙案件數(shù)量比2021年增加了32.6％，損失總額達(dá)到了6.6億新加坡元。根據(jù)澳大利亞競(jìng)爭與消費(fèi)者委員會(huì)（ACCC）的數(shù)據(jù)，澳大利亞消費(fèi)者在過去一年中失去了超過31億澳元的資金，這比前一年增加了80％以上。雖然并非所有詐騙都直接與AI技術(shù)相關(guān)，但詐騙案件的增加頻率令人擔(dān)憂。詐騙犯現(xiàn)在擁有了更全面的AI技術(shù)使用權(quán)限，這引發(fā)了公眾對(duì)詐騙的脆弱性的擔(dān)憂。

銀行和金融機(jī)構(gòu)必須與技術(shù)的步伐保持一致，并不斷發(fā)展用于消費(fèi)者保護(hù)的工具集，以有效應(yīng)對(duì)使用ChatGPT等精密工具自動(dòng)化進(jìn)行的欺詐和詐騙行為。通過利用人工智能和機(jī)器學(xué)習(xí)技術(shù)，例如復(fù)雜的行為分析和相應(yīng)的欺詐和詐騙檢測(cè)評(píng)分，銀行可以顯著提高檢測(cè)準(zhǔn)確性，并實(shí)時(shí)應(yīng)對(duì)由犯罪分子利用ChatGPT引發(fā)的欺詐和詐騙案件數(shù)量的增加。

盡管ChatGPT對(duì)于希望生成惡意內(nèi)容的用戶有一些限制，但這些限制可以輕易被狡猾的詐騙犯繞過。新加坡警方已開始監(jiān)控與ChatGPT相關(guān)的犯罪活動(dòng)。上個(gè)月，執(zhí)法組織歐洲刑警組織（Europol）發(fā)布了一份有關(guān)ChatGPT和其他“大型語言模型”潛在犯罪用途的國際警示。類似地，美國聯(lián)邦貿(mào)易委員會(huì)（FTC）一直在分享其對(duì)生成式人工智能能力欺騙公眾的擔(dān)憂。

這應(yīng)該不會(huì)令人驚訝，因?yàn)榉缸锓肿硬粩鄬ふ倚碌姆椒ê凸ぞ邅韺?shí)施詐騙計(jì)劃，并已經(jīng)開始探索如何利用AI聊天機(jī)器人生成惡意軟件。

對(duì)于該地區(qū)的銀行和金融機(jī)構(gòu)來說，這應(yīng)該敲響警鐘，特別是在數(shù)字銀行服務(wù)在該地區(qū)的受歡迎程度不斷增長，消費(fèi)者成為實(shí)時(shí)支付的熱衷用戶。在詐騙犯或騙子發(fā)送無意義信息的情況下，顧客發(fā)現(xiàn)這些信息的可能性只會(huì)變得更小，而依靠行為分析來檢測(cè)財(cái)務(wù)支付的變化將變得更加重要，因?yàn)榱淤|(zhì)生成的詐騙信息與精心生成的信息之間的界限變得模糊。

銀行可以通過充分利用人工智能、機(jī)器學(xué)習(xí)和教育來更好地防止基于人工智能的欺詐和詐騙，并保護(hù)客戶免受賬戶劫持和冒名頂替等金融威脅。