Яндекс предложил до миллиона рублей за уязвимости в своих нейросетях

Компания Яндекс объявила о расширении своей программы "Охота за ошибками", впервые включив в неё генеративные нейросети. Теперь исследователи в области кибербезопасности смогут получить вознаграждение до одного миллиона рублей за обнаружение технических уязвимостей в таких моделях, как YandexGPT, YandexART, а также в инфраструктуре, которая обеспечивает их работу. Это решение стало частью усилий компании по обеспечению безопасности своих передовых технологий, применяемых в различных сервисах.

Как сообщают в Яндексе, основной задачей новой фазы программы является выявление ошибок, которые потенциально могут повлиять на стабильность функционирования нейросетей или их взаимодействие с другими продуктами компании. В приоритете будут критические проблемы, например, такие, что раскрывают внутренние настройки моделей или содержат доступ к служебным данным. Именно за такого рода уязвимости предусмотрены наибольшие выплаты.

В компании подчёркивают, что программа направлена исключительно на поиск технических сбоев. Ошибки в генерации ответов виртуального помощника Алиса или неточности при создании изображений генеративными инструментами не попадают под критерии "Охоты за ошибками". Яндекс делает акцент на том, что в данном случае речь идёт о вопросах системной безопасности, а не о корректности контента, создаваемого ИИ.

Генеративные модели Яндекса уже применяются в более чем двадцати сервисах, включая Алису, Поиск, рекламную платформу Директ и облачные решения Yandex Cloud. Именно поэтому, как подчёркивает компания, обеспечение безопасности на всех уровнях жизненного цикла технологий остаётся её безусловным приоритетом. Независимые проверки в рамках программы позволяют не только выявлять скрытые уязвимости, но и подтверждать соответствие разработок высоким стандартам, что особенно важно в контексте защиты пользовательских данных и интересов бизнес-партнёров.

Расширение "Охоты за ошибками" на нейросети свидетельствует о готовности Яндекса открыто взаимодействовать с экспертным сообществом, интегрируя внешнюю обратную связь в процесс совершенствования собственных решений. Подобный подход становится всё более актуальным на фоне активного внедрения искусственного интеллекта в повседневную жизнь и бизнес-процессы.