技術

富國銀行新條款規定AI代理出錯責任由客戶承擔

Susan Hill
在 Google 中新增我們

Wells Fargo 正在改寫其應用程式與網站的使用協議,規定任何外部 AI 代理在客戶帳戶內的所作所為,一律視同客戶本人的行為。該行表示,將不經查驗就執行代理的指令,不會監看代理的操作,並把代理的錯誤算在客戶頭上。新條款以全大寫字母寫道:「您使用任何 AI 代理,風險一律由您自行承擔(Your use of any AI Agent is AT YOUR OWN RISK)。」

對於已把銀行密碼交給購物機器人或理財助理的人來說,軟體一旦出錯,誰來買單就此改變。重複付款、同一筆訂單下了十次,或是被惡意網頁誘發的轉帳,除非法律另有規定,否則都由帳戶持有人承擔,而不是銀行。客戶無須簽署任何文件:變更生效後繼續使用網路銀行,即視為接受條款。布萊恩特大學(Bryant University)研究消費者行為的行銷學教授凱西·金(Kacy Kim)對 Wired 表示:「消費者授權的是目標,而不是每一次點擊。」

條款對「AI 代理」的定義相當寬泛。Wells Fargo 把任何代表他人採取「自主、半自主或非自主行動」的軟體都稱為「AI 代理」,範圍遠超過以個人助理名義販售的聊天機器人。代理誤解指令、做出無人要求的事、依據「遭到操弄的輸入內容」行事,或逾越所獲授權,這些後果都由客戶承擔。客戶允許進入帳戶的其他人所使用的代理,同樣適用這些規則,未滿 18 歲者則完全不得連結任何代理。

關閉代理也是客戶自己的事。條款規定,客戶必須自行撤銷代理的存取權限,保留已撤銷的證據,並在銀行要求時提交。在通知 Wells Fargo 之前,客戶仍須為代理的一切行為負責。這與美國電子轉帳規則 Regulation E 的邏輯一致:凡是由你交出卡片或登入資料的人所發動的轉帳,在你通知銀行停止之前,都視為已獲授權。

Wells Fargo 仍然允許代理進入,這使它在整個正逐步關上大門的產業中站在較寬鬆的一端。據 Wired 報導,JPMorgan Chase 修改條款,禁止第三方代理以客戶憑證登入;Bank of America 警告客戶不要與代理分享登入資料;Citibank 與 PNC 也各自加上了警語。Axios 報導,Morgan Stanley 已封鎖第三方代理進入其平台。Wells Fargo 則保留權利,可切斷代理所使用的連線,或直接封鎖任何代理。

這股抵制並不限於銀行業。Amazon 已封鎖 Meta 的 Muse 代理在其商店購物,United Airlines 也表示,個人機器人將無法替旅客購買機票。在 Wired 的報導中,American Express 是少見的例外:該公司表示,若消費者無法向零售商取回款項,某些代理失誤(例如某商品訂購過量)日後可能符合補償資格。

新措辭在實務上究竟會帶來多大改變,目前仍不明朗。條款中多處提到須以「法律或法規」為準,而當客戶啟用的代理做出了客戶從未打算的事,損失該由誰承擔,至今也沒有法院作出裁決。使用者群體同樣有限。Forrester 分析師蘇查麗塔·科達利(Sucharita Kodali)對 Wired 表示:「我們所有的數據都顯示,大多數人根本不知道代理是什麼,更別說使用了。」而銀行並非反對代理本身。維吉尼亞大學(University of Virginia)研究消費心理與 AI 的教授盧卡·西安(Luca Cian)說:「它們把大門對外部代理鎖上,同時打造自己的代理。」Wells Fargo 自家的生成式 AI 助理,已處理超過十億次互動。

新條款僅適用於 Wells Fargo 美國網路銀行與行動銀行的客戶,且目前點名的銀行全是美國銀行。在歐盟,支付規則已促使讀取或移動資金的應用程式改用由銀行提供的持牌連線,而不是共用密碼,這讓以客戶身分登入的代理更少有施展的空間。

Wells Fargo 更新後的協議將於 11 月 24 日(週二)生效,適用於該日之後繼續使用該行網站或應用程式的所有人。JPMorgan 禁止憑證式代理的規定在 10 月底出台,Bank of America 同一天發出了警告。Wells Fargo 還保留了要求客戶向銀行登記其代理的選項,這將讓銀行掌握一份它自稱不會監看的機器人名單。

標籤: , , , , ,

在 Google 中新增我們

討論

共有 0 則留言。