Эксперт по безопасности GenAI-моделей (LLM/MLM) и приложений

Мы предлагаем возможность присоединиться к проектам в новом, динамично развивающемся направлении безопасности генеративного искусственного интеллекта (GenAI). Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе AI-агентов. В дружном коллективе опытных экспертов вы будете участвовать в исследовании и развитии существующих методов и создании новых методов исследования и тестирования безопасности ИИ. Разнообразие архитектур и компонентов в ИИ решениях требует широкого кругозора от исследователя безопасности ИИ, а также умения быстро разбираться в новых инструментах и технологиях.

Вам предстоит:

• анализ новых инцидентов и методов проведения атак, подготовка рекомендаций по улучшению защищенности
• разработка и создание практических примеров атак (Proof-of-Concept, PoC) для исследования и демонстрации уязвимостей ИИ
• улучшение имеющихся программных инструментов для тестирования моделей ИИ и приложений на основе ИИ, включая ИИ агентов, анализ устойчивости к новым методам атак
• оценка уровня защищенности существующих моделей ИИ и приложений в Банке и предложение улучшений
• участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Что для нас важно:

• профиль и образование: законченное высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин, либо эквивалентный практический опыт
• программирование на Python, понимание и использование принципов «чистого кода», знание основных python библиотек, установка/настройка/применение, опыт использования ИИ python библиотек (например, torch, transformers, langchain), работа с huggingface
• технический (ИТ, ИБ) английский язык для беглого чтения и понимания статей (arXiv и аналоги), опыт разбора статей на английском языке
• технологии ИИ: знание основных задач и принципов машинного обучения, знание основных метрик оценки качества, общее понимание архитектуры, принципов работы и обучения LLM/MLM
• знание основ информационной безопасности, понимание принципов работы основных методов атаки и защиты LLM и AI агентов, знание актуального состояния фреймворков OWASP, MITRE, БДУ ФСТЭК, «Модель угроз кибербезопасности AI Сбер» и других, понимание их структуры и принципов использования в работе
• 2+ лет релевантного опыта работы, включая опыт в академической среде.

Будет преимуществом:

• участие в соревнованиях по атакам на модели/агентов GenAI
• опыт представления результатов своей работы широкой аудитории, публикации, репозитории git, kaggle и т.п.

Мы предлагаем:

• комфортный современный офис
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.