11月19日消息,多家大型银行近期在邮件和应用通知中提醒客户,一旦把金融账户的访问权限交给AI智能体,智能体的操作可能被认定为用户本人的行为,而非外部入侵者所为。
Ally Bank在本月早些时候发给客户的邮件中表示,使用AI服务时,AI采取的任何行动都由用户负责;它可能犯错、产生幻觉、误解指令,或者以用户没有预料到的方式执行指令,进而带来重大损失。
摩根大通在11月的邮件中也提示,如果客户信息遭到滥用,已经授权的交易可能无法撤销。花旗银行则在官网和移动应用中加入提示横幅,引导用户查看相关风险说明,并称AI助手可能犯错,用户也许需要为它造成的错误承担责任。

这些提醒出现在新一代AI智能体逐步具备自主购物能力之时。过去,ChatGPT、Claude等模型多以文本回答为主;现在,meta的Muse、Instinct AI以及OpenAI的Dots等在线智能体可以代替用户完成实际任务,包括预订机票、预约餐厅,甚至在除臭剂快用完前自动下单。
零售商也在调整服务条款。今年3月,Business Insider报道称,塔吉特修改客户协议,将AI智能体代为购物的行为认定为用户授权的交易。到了9月,亚马逊以安全性和可靠性担忧为由,禁止meta的Muse智能体在其网站代为购物。
银行试图区分不同授权方式:通过正规授权把账户连接到AI工具,与直接把账户登录凭据交给AI工具并不相同。Axios上个月报道称,多家大型银行已经发现第三方智能体访问客户账户,其中一些操作获得客户授权,智能体也使用了客户提供的登录凭据。
Business Insider查看的银行邮件均提醒客户,不要向AI工具提供用户名、密码、安全验证码等重要信息。富国银行也表示,客户不应轻易将账户访问权限交给第三方。该银行一名代表称,任何技术都不应在缺乏严格安全措施、明确客户授权以及保护客户资金和金融信息防护机制的情况下,被允许代表客户行动。
今年10月,摩根大通CEO杰米·戴蒙在财报电话会议上也谈到AI智能体访问银行账户的问题。他说,如果人们正在使用这些工具,就应了解其中风险;在此期间,摩根大通不会允许任何外部智能体随意进入公司内部系统,因为这将给客户和摩根大通带来太大风险。
相关风险提示还延伸到设备和软件厂商。苹果最新一代Mac系统软件的测试版已经加入提醒,当用户考虑授予AI智能体或应用电脑系统级访问权限时,系统会弹出风险提示,提醒用户谨慎授权。
