Осторожно, нейросеть: как безопасно работать с ИИ

Чтобы обезопасить себя при работе с искусственным интеллектом, нужно придерживаться требований гигиены информационной безопасности. О них рассказал руководитель Управления информационной безопасности АО «Свой Банк» Алексей Ахмеев.

Нейросети — это очень серьезный и мощный инструмент. Но только в умелых руках и с соблюдением всех требований безопасности он будет на 100% эффективен и не создаст дополнительных рисков при его использовании.

Мало кто может позволить себе развернуть собственный «локальный» ИИ: это очень дорого и сложно. Кроме того, его нужно еще и обучить, а на это требуется много времени. Естественно, гораздо проще использовать существующие на рынке модели нейросетей: они хорошо обучены, постоянно развиваются, есть возможность выбрать нужный вариант по конкретной специфике из множества предложенных опций. Однако не стоит забывать о том, что это внешний инструмент, а значит, им кто-то владеет. Вся информация, которая направляется в такую нейросеть, где-то хранится и обрабатывается.

Нужно очень четко понимать, что раскрытие своих секретов или коммерческой тайны компании может иметь последствия. Все больше новостей появляется о том, что данные, которые направлялись в нейросети, были индексированы поисковыми системами. Или о том, что при долгом взаимодействии с нейросетью переставали работать механизмы фильтрации ответов. Очень часто бывает, что кибермошенники производят «отравление данных»: это вариант атаки на ИИ, цель которой — заставить ИИ делать неверные выводы или давать ложные, а иногда и опасные рекомендации или решения.

Чтобы обезопасить себя при работе с нейросетями, нужно придерживаться главного требования гигиены информационной безопасности: не использовать при работе с ИИ реальные данные, особенно персональные. Это позволит не раскрывать секреты и избежать компрометации, если ИИ захвачен злоумышленником.

Кроме того, чтобы убедиться в реальности тех данных, которые выдает нейросеть, следует обязательно перепроверять выданное решение у профессионалов в соответствующей области. Также можно перепроверять выданные решения в других нейросетях. Например, делать запрос «проверь на этичность и безопасность [сюда вставить текст результата, который проверяется], покритикуй, напиши пять рисков, которые могли пропустить» и затем анализировать результат.

ИИ — это нужный и хороший инструмент, но им нужно пользоваться с умом, соблюдая правила безопасности.

Источник