Финансовому ИИ прописали этические правила: опубликован Кодекс Банка России

Банк России опубликовал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке. Документ носит рекомендательный характер, но фактически задаёт стандарты для участников рынка, включая банки, страховые компании, платёжные системы и провайдеров технологий.

Цель Кодекса — сформировать доверие клиентов к технологиям ИИ, снизить сопутствующие риски и повысить прозрачность алгоритмов.

🔹 Основные цели и принципы

Ключевые задачи документа:

• обеспечить человекоцентричный подход;

• способствовать справедливости и недискриминационности;

• повысить прозрачность и объяснимость решений ИИ;

• обеспечить безопасность, устойчивость и управляемость рисков.

🧩 Шесть принципов Кодекса

1. Человекоцентричность

ИИ должен повышать качество услуг, но при этом клиент должен:

• иметь право отказаться от взаимодействия с ИИ;

• быть проинформирован о том, когда и как ИИ принимает решение;

• получить возможность оспорить решение, принятое ИИ, — с участием сотрудника.

Кодекс также рекомендует учитывать уязвимость клиентов — например, возраст, уровень образования и другие факторы.

2. Справедливость

Организациям предлагается:

• использовать персональные данные только при наличии функциональной необходимости;

• исключать из алгоритмов дискриминационные признаки (национальность, религию, политические взгляды);

• проверять обучающие выборки на предмет репрезентативности и корректности данных.

3. Прозрачность

ИИ не должен быть «чёрным ящиком». Рекомендуется:

• информировать клиентов о факте использования ИИ;

• раскрывать риски, связанные с применением ИИ;

• маркировать контент, созданный с помощью генеративных моделей (например, изображений и видео), за исключением очевидных или несущественных случаев.

4. Безопасность, надёжность и эффективность

Организации должны:

• проверять наборы данных на точность, полноту и актуальность;

• контролировать качество ИИ-моделей до и после внедрения;

• соблюдать стандарты информационной безопасности и конфиденциальности;

• предусмотреть механизмы резервного управления, если ИИ недоступен.

5. Ответственное управление рисками

ИИ должен быть встроен в общую систему управления рисками компании.

Рекомендуется:

• вести учёт применяемых моделей;

• идентифицировать и оценивать риск-события;

• присваивать уровень риска в зависимости от факторов (например, количество клиентов, сфера применения, источник данных);

• обеспечить контроль и мониторинг моделей;

• регистрировать и анализировать инциденты, связанные с ИИ.

🧭 Комментарий НИП:

Кодекс представляет собой первую попытку формализовать этические рамки для применения ИИ в российской финансовой отрасли. Несмотря на необязательный характер, он создаёт основу для формирования «мягкого регулирования», которое, вероятно, станет ориентиром как для участников рынка, так и для судов при рассмотрении споров.

Финансовым организациям стоит:

• включить положения Кодекса в внутренние политики;

• обновить контрольные процедуры по работе с ИИ;

• учитывать Кодекс при взаимодействии с внешними подрядчиками и разработчиками.