Новости

cover

28 Марта

Mangitas 01: Новый inference-сервер ISSAI для фундаментальной речевой модели Soyle 

28 марта 2025 года Институт умных систем и искусственного интеллекта (ISSAI) при Назарбаев Университете представил собственное решение для обработки данных и искусственного интеллекта (ИИ) — inference-сервер Mangitas 01. Этот инновационный продукт является результатом многих исследований и разработок в области высокопроизводительных вычислений и готов решать сложные задачи по внедрению ИИ-сервисов  в Казахстане.

ISSAI разработал такие генеративные модели ИИ, как Soyle, KazLLM и Oylan  для удовлетворения потребностей населения Казахстана. Однако из-за отсутствия суперкомпьютеров в стране эти модели остаются недоступными для широкой аудитории. Для решения этой проблемы, молодые исследователи ISSAI разработали inference-сервер Mangitas, используя коммерчески доступные комплектующие.

Mangitas 01 предназначен для локального запуска нашей фундаментальной речевой модели Soyle. Благодаря оптимизированному программно-аппаратному комплексу и дистиллированной версии модели, сервер обеспечивает высокопроизводительное распознавание речи, перевод и генерацию речи.  Доступ к возможностям сервера осуществляется через простой веб-интерфейс или API, поддерживая казахский, русский, английский и турецкий языки.

При наличии необходимых ресурсов для поддержания нашей деятельности команда ISSAI продолжит расширять линейку Mangitas, включая разработку сервера, предназначенного для запуска дистиллированной версии визуально-языковой модели Oylan.