隨著深度僞造技術和AI語音克隆的迅速發展，南非金融行業監管局(FSCA)發佈警告，呼籲公衆提高對金融詐騙新形式的警覺。
OpenAI首席執行官Sam Altman日前在美國聯邦儲備系統組織的金融會議上指出，AI正加劇金融欺詐風險，尤其是其模仿人類聲音的能力已經足以繞過現有語音識別系統。他批評聲紋驗證已過時，無法應對當今AI語音與影片克隆的真實性，並呼籲盡快建立新的身份驗證機制。
美聯儲也表達了與業界合作、共同應對AI生成內容風險的意願。
FSCA指出，已有詐騙分子利用AI生成的影片和音頻冒充公衆信任的名人，例如南非橄榄球隊隊長Siya Kolisi和演員Connie Ferguson，以誘導投資者上當受騙。
監管機構提醒公衆,在進行任何金融交易前，應通過FSCA官網或官方渠道核實對方是否為持牌金融服務提供商。
FSCA補充道：“對於社交媒體上的投資或交易邀約，或任何突如其來的投資機會，請務必保持警惕。如果某項提議感覺異常或好得令人難以置信，建議立即暫停，向FSCA核實該機構是否具備金融服務授權。”