Федеральная резервная система США и Управление OCC поручили проверять искусственный интеллект на банковских экзаменах
Федеральная резервная система США и Управление денежного контролера (OCC) сделали знаковый шаг, подчеркивающий растущую важность искусственного интеллекта в финансовых услугах. Они обновили свои процедуры проверки, включив в них обязательную проверку использования ИИ банками. Этот нормативный сдвиг представляет собой значительный шаг на пути к установлению всестороннего надзора за новыми технологиями, которые все больше меняют банковский ландшафт.
Эволюция нормативно-правовой базы
Обновленное руководство, вступившее в силу ранее в этом году, требует, чтобы федеральные эксперты оценивали, как банки разрабатывают, внедряют и управляют системами искусственного интеллекта в различных сферах бизнеса. Это первый случай, когда критерии оценки, специфичные для ИИ, были официально включены в стандартный процесс экзаменов для национальных банков и федеральных сберегательных ассоциаций.
В соответствии с «Руководством по управлению рисками в области искусственного интеллекта» OCC от 2023 года агентство ожидает, что учреждения создадут надежные системы управления, которые устранят риски, связанные с искусственным интеллектом, включая риски моделей, качество данных, предвзятость и проблемы защиты потребителей. Аналогичным образом Федеральная резервная система подчеркнула необходимость того, чтобы учреждения поддерживали соответствующие методы управления рисками на протяжении всего жизненного цикла ИИ.
Основные области проверки
Регуляторное регулирование охватывает несколько важнейших областей, где внедрение ИИ в банковской сфере требует усиленного надзора:
Управление модельными рисками. Оценка проверки, мониторинга и управления моделями искусственного интеллекта, используемыми для принятия кредитных решений, обнаружения мошенничества и других важных функций.
Качество и целостность данных. Оценка источников, точности и полноты данных, используемых для обучения и эксплуатации систем искусственного интеллекта.
Защита потребителей. Обеспечение соответствия приложений искусственного интеллекта законам о справедливом кредитовании и недопущению дискриминационных последствий.
Операционная устойчивость: оценка того, как банки поддерживают непрерывность обслуживания, когда системы искусственного интеллекта выходят из строя или неэффективны.
Объяснимость и прозрачность. Проверка того, могут ли банки предоставить четкие объяснения решений, принимаемых с помощью ИИ, особенно тех, которые затрагивают клиентов.
Влияние на финансовые учреждения
Банкам и финансовым учреждениям необходимо будет усовершенствовать свои системы управления ИИ, чтобы соответствовать новым ожиданиям регулирующих органов. Процесс экзамена теперь будет включать в себя конкретные процедуры для оценки:
| Обзор |
Ожидания регулирующих органов |
Управление и надзор |
Надзор на уровне совета директоров, четкая подотчетность и комплексная политика устранения рисков, связанных с ИИ |
Управление рисками |
Надежные модели программ управления рисками, адаптированные к сложностям и задачам ИИ |
Защита потребителей |
Проактивные меры по выявлению и смягчению потенциальных ошибок в приложениях ИИ |
Эксплуатационная устойчивость |
Тестирование и планирование на случай сбоев системы ИИ и проблем с производительностью |
Прозрачность и объяснимость |
Документирование процессов принятия решений ИИ и способность предоставлять содержательные объяснения заинтересованным сторонам |
Реакция и проблемы отрасли
Банковская отрасль отреагировала на эти нормативные изменения как с поддержкой, так и с беспокойством. Представители отрасли признают важность создания соответствующих барьеров для внедрения ИИ, но выражают обеспокоенность по поводу темпов развития регулирования по сравнению с технологическим прогрессом.
"Регулирующие органы уделяют должное внимание обеспечению безопасности, справедливости и прозрачности систем искусственного интеллекта в банковской сфере", – сказала Джейн Томпсон, директор по рискам крупного национального банка. «Однако проблема заключается в том, чтобы найти баланс между инновациями и соблюдением требований, особенно потому, что многие технологии искусственного интеллекта продолжают развиваться быстрее, чем может адаптироваться нормативная база».
Небольшие финансовые учреждения могут столкнуться с особыми трудностями, поскольку им часто не хватает ресурсов для разработки сложных программ управления ИИ, сопоставимых с программами более крупных учреждений.
Преимущества нормативного контроля
Несмотря на проблемы, обязательная проверка ИИ предлагает несколько потенциальных преимуществ для финансовой системы:
Усиленная защита потребителей за счет выявления и устранения алгоритмических ошибок.
Повышение стабильности и отказоустойчивости системы за счет тщательного тестирования и проверки.
Повышение прозрачности процессов принятия решений, основанных на искусственном интеллекте.
Стандартизированные подходы к управлению рисками ИИ во всей отрасли.
Фонд ответственных инноваций в сфере финансовых услуг
Глобальный нормативный контекст
Подход регулирования в США соответствует более широким международным тенденциям по созданию систем управления ИИ в сфере финансовых услуг. Другие юрисдикции, в том числе Европейский Союз, Великобритания и Сингапур, также начали разрабатывать конкретные рекомендации по использованию ИИ в банковской сфере.
"Этот шаг регуляторов США позиционирует страну как лидера в создании продуманного управления ИИ в финансовых услугах", - отметил д-р Майкл Чен, эксперт по регулированию в сфере финансовых технологий. «Однако международная координация будет иметь важное значение для обеспечения единообразия стандартов во всех глобальных банковских операциях».
Перспективы на будущее
Поскольку внедрение ИИ в банковской сфере продолжает ускоряться, ожидается, что регулирующие органы усовершенствуют свои процедуры проверки и, возможно, выпустят более подробные рекомендации. OCC указал, что может дополнить свою текущую структуру дополнительными отраслевыми рекомендациями по мере накопления опыта оценки внедрения ИИ.
Финансовым учреждениям рекомендуется активно расширять свои возможности управления ИИ, инвестировать в соответствующие инструменты управления рисками и поддерживать открытое общение с регулирующими органами по поводу своих инициатив в области ИИ. Те, кто разрабатывает надежные программы соответствия требованиям ИИ, могут получить конкурентное преимущество, продемонстрировав ответственные инновации как регулирующим органам, так и клиентам.
Заключение
Включение проверки ИИ в банковские проверки представляет собой важнейший шаг на пути к созданию надлежащих барьеров для одной из наиболее преобразующих технологий в современном банковском деле. Хотя этот нормативный сдвиг создает проблемы для финансовых учреждений, в конечном итоге он способствует развитию более безопасной, справедливой и устойчивой финансовой системы.
Поскольку технологии искусственного интеллекта продолжают развиваться, сотрудничество между регулирующими органами и финансовыми учреждениями будет иметь важное значение для стимулирования инноваций при сохранении доверия и стабильности, которые лежат в основе банковской системы. Обязательная проверка использования ИИ означает не только соответствие требованиям, но и признание фундаментальной роли ИИ в формировании будущего финансовых услуг.
ФРС США и OCC обновляют банковские экзамены: проверка использования ИИ теперь обязательна
https://ift.tt/UVtTWy3
ФРС США и OCC обновляют банковские экзамены: проверка использования ИИ теперь обязательна
https://ift.tt/UVtTWy3
TechOffice
