26 июня доктор Арман Жармагамбетов, научный сотрудник лаборатории Meta Fundamental AI Lab, прочитал лекцию на тему “Guardrailing AI Systems for Safety and Robustness: A Discrete Optimization Perspective” в Институте умных систем и искусственного интеллекта (ISSAI).
Доктор Жармагамбетов начал своё выступление с обсуждения важной роли дискретной оптимизации в создании безопасных систем ИИ. Презентация охватила такие глубокие генеративные модели, как GANs и VAEs, представив фреймворк GenCO для генерации глубоких генеративных моделей и AdvPrompter, новаторский инструмент, способный создавать читаемые человеком сопернические запросы за считанные секунды. Арман подробно рассмотрел, как эти методы можно применить к крупным языковым моделям (LLM) в контексте работы “красных команд”, что способствует разработке более безопасных и надёжных ИИ-моделей.
Доктор Жармагамбетов также поделился своим опытом работы в лаборатории Meta FAIR, где он специализируется на пересечении машинного обучения и оптимизации. Его недавние исследования охватывают дискретную оптимизацию для фундаментальных моделей, оптимизацию, управляемую машинным обучением, и обучение с подкреплением.
Мероприятие посетило более 90 участников, как лично, так и онлайн. Слушатели проявили большой интерес к презентации доктора Жармагамбетова. Лекция завершилась сессией вопросов и ответов, в ходе которой спикер ответил на вопросы аудитории и дал советы начинающим исследователям.