28 марта 2025 года Институт умных систем и искусственного интеллекта (ISSAI) при Назарбаев Университете представил собственное решение для обработки данных и искусственного интеллекта (ИИ) — inference-сервер Mangitas 01. Этот инновационный продукт является результатом многих исследований и разработок в области высокопроизводительных вычислений и готов решать сложные задачи по внедрению ИИ-сервисов в Казахстане.
ISSAI разработал такие генеративные модели ИИ, как Soyle, KazLLM и Oylan для удовлетворения потребностей населения Казахстана. Однако из-за отсутствия суперкомпьютеров в стране эти модели остаются недоступными для широкой аудитории. Для решения этой проблемы, молодые исследователи ISSAI разработали inference-сервер Mangitas, используя коммерчески доступные комплектующие.
Mangitas 01 предназначен для локального запуска нашей фундаментальной речевой модели Soyle. Благодаря оптимизированному программно-аппаратному комплексу и дистиллированной версии модели, сервер обеспечивает высокопроизводительное распознавание речи, перевод и генерацию речи. Доступ к возможностям сервера осуществляется через простой веб-интерфейс или API, поддерживая казахский, русский, английский и турецкий языки.
При наличии необходимых ресурсов для поддержания нашей деятельности команда ISSAI продолжит расширять линейку Mangitas, включая разработку сервера, предназначенного для запуска дистиллированной версии визуально-языковой модели Oylan.