Компания MTS AI представила открытую языковую модель Cotype Nano, предназначенную для решения бизнес-задач, связанных с созданием и анализом текстов на русском языке. Модель может работать локально на персональных устройствах — мобильных телефонах, настольных ПК и ноутбуках средней производительности, что делает её доступной для широкого круга пользователей.
Параметры модели открыты для исследователей и разработчиков, что позволяет им изучать её работу, настраивать под свои задачи и использовать в собственных проектах без необходимости создавать систему с нуля.
Cotype Nano показала отличные результаты на бенчмарке Ru Arena Hard — первой в России открытой платформе для оценки языковых моделей на русском языке. Тестирование включает в себя оценку точности, качества и релевантности ответов на вопросы пользователей по сравнению с другими моделями.
Модель может обрабатывать контекст до 32 000 токенов (примерно 45 страниц текста), что позволяет работать с большими объемами данных.
Она обучена для генерации контента, перевода между русским и английским языками, обработки и анализа текстов для улучшения клиентского обслуживания, а также может использоваться для создания чат-ботов и виртуальных помощников. Кроме того, Cotype Nano обладает расширенными возможностями классификации данных, что полезно для автоматического поиска и анализа информации в корпоративных базах знаний.
Модель оптимизирована для работы как на CPU, так и на GPU, с дополнительной настройкой под процессоры Intel, что позволяет запускать её даже на ноутбуках и смартфонах, делая её доступной для разработчиков и компаний, которые не имеют доступа к мощным вычислительным ресурсам.
«MTS AI придерживается принципов открытости и прозрачности в разработке генеративного искусственного интеллекта. Мы запускаем открытую большую языковую моделей с лицензией на использование в коммерческих целях и разрабатываем новые сервисы для автоматического обучения нейросетей и создания кода, которые ускорят процесс разработки. Развитие открытых LLM-моделей в России позволит компаниям и начинающим разработчикам и исследователям создавать решения на основе нейросетей, не вкладывая значительные ресурсы в разработку и оборудование», – отметил директор по LLM-продуктам MTS AI Сергей Пономаренко.
Фото: Firestock.
