Крупнейшие банки США начали ограничивать доступ ИИ-агентов к счетам клиентов
Крупнейшие американские банки усиливают защиту клиентских счетов от сторонних агентов искусственного интеллекта. Финансовые учреждения выявляют автоматизированные программы, которые входят в банковские системы под учетными данными пользователей, а иногда пытаются выполнять действия, которые могут выходить за рамки полученных инструкций.
Об этом 22 октября сообщило Axios со ссылкой на источники в банковской отрасли. Проблема касается, в частности, Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo и Citigroup.
По информации издания, Morgan Stanley уже начал блокировать сторонних ИИ-агентов, а JPMorgan, Bank of America и Citi вводят ограничения на их доступ. Банки пытаются предотвратить ситуации, когда автоматизированные системы получают возможность самостоятельно осуществлять операции со средствами клиентов.
ИИ-агенты отличаются от обычных чат-ботов тем, что могут не только давать ответы, но и выполнять последовательные действия в интернете от имени пользователя. Например, открывать веб-сайты, заполнять формы, совершать покупки или взаимодействовать с финансовыми сервисами.
В некоторых случаях владельцы банковских счетов самостоятельно передавали таким программам логины и пароли. Однако разрешение клиента не всегда означает, что доступ соответствует правилам банка. Большинство финансовых учреждений требуют, чтобы пользователь входил в личный кабинет самостоятельно или применял специально согласованные механизмы обмена данными.
Отдельное беспокойство вызывают случаи, когда ИИ-агенты, по словам источников Axios, обращались в банковские контакт-центры или пытались выполнять действия без очевидного поручения владельца счета. Для банков сложность заключается в том, что они не всегда способны отличить человека от автоматизированной программы и определить объем предоставленных ей полномочий.
В то же время сообщения не содержат подтвержденных случаев похищения средств в результате таких действий. Представитель Morgan Stanley заявил Axios, что банк не обнаруживал на своих платформах сторонних ИИ-агентов, которые самовольно действовали вопреки установленным правилам. Следовательно, введенные ограничения имеют прежде всего превентивный характер.
Некоторые банки начали ограничивать сторонние ИИ-системы еще до появления нового сообщения Axios. В частности, 13 октября генеральный директор JPMorgan Chase Джейми Даймон заявил во время презентации квартальных результатов, что банк не позволит сторонним агентам бесконтрольно работать со счетами клиентов.
Как сообщало специализированное издание Finextra, в JPMorgan считают опасным использование сторонними программами банковских логинов и паролей. В то же время компания поддерживает защищенный обмен данными через авторизованных поставщиков финансовых услуг.
Одним из возможных компромиссов становится доступ ИИ-агентов только к просмотру информации. Такой механизм позволяет автоматизированным помощникам проверять остатки средств или анализировать расходы, но не дает им права переводить деньги или оплачивать счета.
Подобной политики придерживается и брокерская компания Charles Schwab. Ее генеральный директор Рик Вурстер рассказал The Wall Street Journal об осторожном подходе к использованию автономных систем в управлении финансами. Компания также ограничивает неавторизованный доступ сторонних агентов.
Для банков развитие таких технологий создает не только риски кибербезопасности, но и новые вопросы ответственности за финансовые операции. Если клиент сам передаст доступ к счету ИИ-системе, а она выполнит нежелательное действие, определение ответственной стороны может усложниться.
По информации Axios, американские банки уже разрабатывают сценарии реагирования на возможные масштабные инциденты, в частности механизмы быстрой блокировки опасной активности и восстановления доступа клиентов к счетам.
В финансовой отрасли признают, что спрос на автоматизированные банковские услуги будет расти. Поэтому перед учреждениями стоит задача обеспечить использование ИИ без передачи сторонним программам неограниченного контроля над средствами клиентов.
По материалам: Axios, Finextra, The Wall Street Journal
