Россиян предупредили об опасности при работе с нейросетями

Чтобы обезопасить себя при работе с искусственным интеллектом (ИИ), нужно придерживаться требований гигиены информационной безопасности, о которых рассказал начальник управления информационной безопасности АО «Свой Банк» Алексей Ахмеев.

«Нейросети — это очень серьезный и мощный инструмент. Только в умелых руках и с соблюдением всех требований безопасности он будет на 100% эффективен и не создаст дополнительных рисков при его применении», — отмечает Ахмеев.

Существующие на рынке модели нейросетей хорошо обучены и постоянно развиваются, однако нельзя забывать о том, что это внешний инструмент — то есть им кто-то владеет. Вся информация, которая направляется в такую нейросеть, где-то хранится и обрабатывается.

«Нужно очень четко понимать, что раскрытие своих секретов или коммерческой тайны компании может иметь последствия. Все больше новостей появляется о том, что данные, которые направлялись в нейросети были индексированы поисковыми системами. Или о том, что при долгом взаимодействии с нейросетью переставали работать механизмы фильтрации ответов. Очень часто бывает, что кибермошенники производят “отравление данных”: это вариант атаки на ИИ, цель которой — заставить ИИ делать неверные выводы или давать ложные, а иногда и опасные рекомендации или решения», — говорит эксперт.

Источник