FCA要求AI公司警示聊天機器人理財建議的侷限性

英國金融行為監理局(FCA)要求AI服務商提醒使用者,AI模型生成的金融資訊和建議存在侷限性。FCA首席資料、資訊與情報官Jessica Rusu在Bloomberg英國政策系列活動上提出這一要求。

根據FCA公佈的演講稿,監理機關要求通用AI模型開發商提供“清晰、適度且一致的免責宣告”。Rusu表示,最好在使用者接觸AI生成的金融資訊時同步顯示相關警示。

Rusu援引兩組資料說明此舉的必要性。她表示,18至40歲的投資新手中,五分之四曾藉助AI獲取投資建議,但僅有40%的消費者知道,如果依據通用AI提供的建議採取行動並因此蒙受損失,將無法尋求相應的追責或補救。

此次演講呼籲AI服務商主動採取行動,但未設定實施期限。上週,FCA執行長Nikhil Rathi向議員表示,聊天機器人若僅提供一般性資訊,而未給出促成交易的個性化建議,相關服務便不完全屬於金融監理範圍。

Rusu還介紹了FCA對今年7月釋出的Mills Review的回應。該報告探討了AI到2030年可能如何重塑零售金融服務。她表示,FCA正將報告提出的七項建議中的六項納入實際工作。

針對報告提出的開發公共金融素養工具的建議,FCA決定不另行開發新工具,而是依託國際證券委員會組織(IOSCO)與FCA AI實驗室聯合開展的首個TechSprint專案,幫助投資人識別詐騙,並對不可靠的AI回答保持警惕。

其他地區的監理機關也面臨類似挑戰。澳大利亞證券監理機關在最近一個財年下架了超過19,400起詐騙內容,AI深度偽造技術被用於針對投資人實施詐騙。

在智慧代理金融領域,FCA將與產業機構、其他監理機關及前沿AI實驗室合作制定相關框架,涵蓋代理身份、授權範圍、責任歸屬和交易執行等方面。Rusu未透露具體時間表。

她表示:“因此,智慧代理系統需要持續且有條件的保障機制。”她補充說,系統在推出之初可能是安全的,但隨著使用規模擴大或底層模型發生變化,其執行表現也可能改變。

經紀商並未等待監理框架落地。FM Intelligence的一項研究發現,2026年上半年,至少有10家零售經紀商和交易平臺供應商將AI代理接入真實客戶賬戶,其中9項產品釋出涉及Anthropic旗下的Claude。

不同平臺賦予AI代理的許可權已有明顯差異。Interactive Brokers允許Claude擬定交易指令,但必須經客戶批准後才能下單。

相比之下,eToro允許投資人將交易許可權委託給運行於獨立投資組合中的AI代理。

不過,FM Intelligence研究涉及的所有產品均未允許AI代理存入、提取或轉移客戶資金。

目前,金融機構已被要求向FCA報告重大事件。Rusu表示,這一義務“必須延伸至重大AI故障及險些釀成事故的事件”。

她指出,針對智慧代理AI的險情報告機制,即對能夠代表使用者採取行動的系統進行監測和報告,既是監理重點,也是國家安全優先事項。

FCA當天還發布了有關AI應用的良好與不良實踐指引,內容基於監理機關與金融企業的合作經驗,包括AI即時測試專案。FCA強調,該指引不會引入新的合規要求。

指引建議,每項AI應用都應指定一名高階管理人員負責,並將過度依賴單一模型或供應商列為有待改進的問題。

其中一則案例顯示,一家金融機構因底層模型停止服務,不得不重新設計相關產品。

Rusu還透露,FCA與英格蘭銀行聯合開展的一項調查將於下週公佈。調查顯示,目前已有86%的金融機構使用AI。在歐盟,證券公司向歐洲證券和市場管理局(ESMA)報告的AI應用案例中,87%用於內部業務。