ИИ под контролем: как новые требования ЦБ изменят цифровизацию банков

Банк России впервые выпустил подробные рекомендации по информационной безопасности при использовании искусственного интеллекта на финансовом рынке. Документ фактически формирует новую систему управления рисками ИИ для банковского сектора: от контроля данных и защиты моделей до обязательного участия человека в наиболее чувствительных процессах. Эксперты считают, что регулятор не ограничивает внедрение искусственного интеллекта, а задаёт правила его безопасного использования. Однако вместе с технологическими рисками остаются нерешёнными вопросы ответственности, прозрачности решений и зависимости банков от поставщиков ИИ-решений.

Руководитель управления информационной безопасности АО «Свой Банк» Алексей Ахмеев обращает внимание на фактор, который часто недооценивается при обсуждении ИИ, – человеческие ошибки. По его мнению, большинство рисков возникает не из-за самих технологий, а из-за неправильного использования языковых моделей сотрудниками. Поэтому ключевой задачей становится обучение персонала.

Сотрудники должны понимать:

• какие данные можно передавать нейросетям;
• какие сведения являются конфиденциальными;
• как работать с внешними сервисами;
• какие риски несёт использование зарубежных моделей.

Для минимизации подобных рисков Ахмеев рекомендует использовать DLP-системы, инструменты контроля запросов к нейросетям и специальные промежуточные модели, способные автоматически удалять из запросов персональные данные и коммерческую информацию.

Особенно актуально это в условиях ужесточения требований к обработке персональных данных и трансграничной передаче информации.

По мнению эксперта, будущее банковского ИИ лежит не в ограничении технологий, а в сочетании технических средств защиты, грамотных процессов и цифровой культуры сотрудников.

Источник