Apulis AI Studio

Гетерогенная MLOps-платформа полного цикла для совместной разработки ML/DS/AI-команд

Ключевые возможности Apulis AI Studio

Платформа Apulis AI Studio позволяет автоматизировать, облегчить и ускорить все ключевые процессы, которые входят в обязанности ML/DS/AI-специалистов

Доступ ко всем видам данных
- Поддержка всех распространенных типов доступа к данным
- Поддержка нескольких протоколов передачи данных
- Различные решения для хранения данных
- ETL данные
- Управление версиями данных
Разметка данных
- Ручная разметка данных
- Полуавтоматическая разметка данных при помощи предварительно обученной нейронной сети
- Групповое выполнение задач
- Контроль и проверка качества разметки данных ответственным сотрудником
Разработка моделей
- Интерактивное моделирование
- Минимизация процесса разработки (low-code)
- Поддержка различных фреймворков (MindSpore, TF, PyTorch, Horovod и другие)
- Одноузловое и распределенное обучение (decentralized training)
- Встроенные алгоритмы оптимизации предобученных моделей
Управление моделями
- Оценка качества моделей
- Встроенные утилиты конвертации моделей под различные фреймворки (TF, MindSpore, OpenVINO и др.)
- Управление версиями модели
Развертывание и применение
- Развертывание приватного облака в один клик
- Инференс в ЦОДе
- Инференс на краю
- Управление пограничными узлами и служебными ячейками
- Возврат данных
Сопровождение и обслуживание
- Визуализированная работы и мониторинг
- Журналы оповещений
- Управление пользователями и группами
- Динамическое распределение ресурсов
- Квотирование ресурсов
- Логирование всех действий пользователей и используемых ресурсов

Преимущества для бизнеса

Платформа Apulis AI Studio позволяет защитить ваши долгосрочные инвестиции и масштабировать вычислительные мощности быстро и безопасно

Защита инвестиций
Повышает эффективность использования имеющейся инфраструктуры за счет значительного увеличения степени утилизации оборудования и применения вычислительных мощностей, которые обеспечивают оптимальное с точки зрения cost/performance решение поставленных задач.
Безопасность и масштабирование
Обеспечивает реализацию единых стандартов безопасности, а также поддержку гетерогенной вычислительной инфраструктуры, что позволяет бесшовно использовать в рамках единой платформы оборудование различных производителей, как существующих (nVidia, Huawei, Intel и др.), так и перспективных.

Тестовый доступ

Оставьте информацию о себе и мы свяжемся с вами для согласования условий предоставления оборудования и программного обеспечения на тесты.

Модули платформы Apulis AI Studio

Платформа Apulis AI Studio содержит множество модулей для полного управления процессинговым вычислительным кластером и решения всех задач DS/DL/AI специалистов

AIArts
AIArts предоставляет пользователям удобную, стабильную и эффективную среду разработки моделей. Обучение и оценка моделей основаны на компьютерном зрении и других данных для разработки, обучения, оценки и выпуска моделей.
- Поддержка множества вычислительных ресурсов для разработки и обучения моделей
- Поддержка гибкого планирования вычислительных ресурсов
- Поддерживает множества фреймворков глубокого обучения
- Поддержка настройки и подбора гиперпараметров
- Поддержка множества инструментов визуализации моделей
DataEyes
Модуль DataEyes предоставляет комплексные и простые в использовании возможности обработки структурированных данных. Доступен функционал для очистки, оптимизации и анализа данных, включая визуальное моделирование.
- Поддержка множества вычислительных ресурсов для разработки и обучения моделей
- Поддержка гибкого планирования вычислительных ресурсов
- Поддерживает множества фреймворков глубокого обучения
- Поддержка настройки и подбора гиперпараметров
- Поддержка множества инструментов визуализации моделей
AIAuto
Модуль AIAuto предоставляет пользователям сквозной конвейер обучения моделей без кода (low-code system) с автоматической настройкой гиперпараметров, оценкой качества моделей, выводом моделей и т.д.
- Поддерживает сквозное обучение, оценку и вывод моделей без кода в нескольких сценариях
- Нет необходимости писать код, быстрый старт проектов и проверка гипотез
- Поддержка автоматической настройки гиперпараметров, автоматической оценки модели и сравнения результатов для выбора наилучших гипотез
- Создавайте модели, поддерживающие исполнение на различных вычислительных ресурсах: CPU, GPU, NPU
APFlow
APFlow - это сервисы логических выводов, адаптированные к различным моделям. Поддерживаются как предварительно созданные и загруженные модели, так и модели разработанные внутри платформы Apulis AI Studio.
- Управление и разграничение доступа к ресурсам, унифицированное управление оборудованием
- Полное управление жизненным циклом всех сервисов
- Поддержка отправки данных логического вывода в облако в режиме реального времени через REST API
- Полный замкнутый цикл дополнительного обучения, обновление модели и работы с данными
ADMagic
Эффективная платформа для разметки данных задач компьютерного зрения, распознавания языка и распознавания текста. Включает функционал основной, вспомогательной и автоматической разметки данных.
- Поддержка различных типов сценариев
- Простой интерфейс для разметки и работы с данными с поддержкой многопользовательской работы
- Встроенный инструментарий для аннотации данных различными типами атрибутов
- Поддержка автоматического обучения и разметки данных с обратной связью
ADHub
Помогите внутренним и внешним командам улучшить процессы управления данными, обучения моделей, вывод моделей и совместную работу. ADHub - это соединение функций разметки данных, обучения моделей, проведения экспериментов с данными и многое другое.
- Поддерживает обработку наборов данных, таких как изображения, естественный язык и аудио/речь
- Поддерживает управление более чем 20 наборами данных, такими как COCO, YOLO, MINIST, MINIST в CSV, CVAT, ImageNet, Kitti
- Поддерживает импорт данных в любом формате
- Поддерживает загрузку больших наборов данных, сегментацию данных и сопоставления
APWorkshop
APWorkshop - это центр управления, разработанный для загрузки, конвертации, контроля версий и комбинирования различных моделей.
- Возможность комбинирования моделей для различных сценариев
- Встроенный набор предустановленных моделей различных категорий: CV, NLP, Recommend, MultiModal и др.
- Автоматическая конвертация моделей различных фреймворков
APHarbor
Встроенное хранилище данных. Позволяет эффективно управлять изображениями: загрузка, скачивание, контроль версий, контроль прав доступа и др.
- Быстрая и легкая загрузка неограниченного объема данных для обучения моделей
- Проверка качества загруженных изображений
- Управление версиями, удобное для пользователей
APSC
Модуль мониторинга ресурсов кластера с возможность создания правил оповещений по различным событиям.
- Визуальный мониторинг состояния ресурсов кластера
- Настраиваемая комбинация правил создания оповещений
- Управление ресурсами на уровне организаций, групп и пользователей
- Гибкое и удобное управление системой, установка и настройка в один клик

Знакомое окружение и безопасная экосистема

Работайте из любой точки мира в безопасной среде и собственном окружении, необходимом под реализацию конкретного проекта

Jupyter Notebook, VS Code
Jupyter Notebook, Jupyter Lab, а также VS Code. Доступ по SSH или в консоли онлайн. Предустановленные базовые образы с популярными инструментами внутри платформы.
Kubernetes, Docker
Разворачивайте собственные образы в качестве требуемого окружения или используйте предустановленные контейнеры Docker различных модификаций.

Преимущества при внедрении

Концентрируйтесь на создании качественных AI-сервисов, все остальное есть в Apulis AI Studio

-1-

Cost effective

Экономит до 30% рабочего времени дата‑сайентистов, ML-инженеров и рабочей группы, в целом. За счет автоматизации процессов позволяет решать больше задач меньшим числом специалистов.

-2-

Time-to-market

Сокращает время разработки и time‑to‑market моделей в несколько раз. Позволяет тестировать больше гипотез, мгновенно выводя лучшие решения на рынок.

-3-

Ready for scale

Повышает уровень зрелости ML-проектов, защищает от утечек информации и позволяет разрабатывать и тестировать гипотезы "в один клик".

Хочу узнать подробнее

А что "под капотом"?

Полная поддержка гетерогенных кластеров с CPU, GPU, NPU. Поддержка Huawei Ascend, nVidia GPU, ресурсов x86/ARM-архитектуры. Встроенная возможность управления EDGE-устройствами

Прикладной уровень
- Доступ к данным и управление
- Предварительная обработка данных / ETL
- Ручная и автоматическая разметка данных
- Разработка моделей и их обучение
- Оптимизация моделей
- Управление моделями
- Инференс нейронных сетей
- Мониторинг состояния оборудования
- Управление пользователями
1
Функциональный уровень
- Служба развертывания
- Управление данными
- Обработка данных
- Обучение моделей
- Оценка качества моделей
- Настройка и подбор гиперпараметров
- Конвертация моделей
- Инференс нейронных сетей
- Управление потоками данных
2
Компонентный уровень
- Центр управление конфигурацией кластера
- Центр безопасности
- Центр хранения данных
- Центр управления задачами
- Центр управления техническим состоянием
- Центр управления пользователями
- Центр управления полномочиями
- Фреймворки MindSpore/TF/PyTorch/Horovod
- Серверы ATC/TensorRT/Inference
3

Мировые внедрения Apulis AI Studio

Самые значимые мировые лаборатории искусственного интеллекта выбирают Apulis AI Studio в качестве основной платформы

Audi AG Innovation Lab AI Develop Platform
Pengcheng Labarotory R&D Platform
Vancouver Research Centre AI Platform
Huawei OpenLab,
Russia

Хочу пилотный проект

Наши мероприятия

Значимые мероприятия, в рамках которых мы рассказываем и показываем основные принципы работы гетерогенных кластеров под управление ПО Apulis AI Studio

Петербургский Международный Газовый Форум 2022
13 сентября 2022 г.
Илья Душин выступил на ПМГФ-2022 в рамках подиумной дискуссии "Прогнозирование возможностей в ситуации крайней неопределенности. Формирование стратегии будущего". В рамках доклада рассказали про преимущества гетерогенных кластеров, MLOps-платформе Apulis AI Studio, а также отраслевых решениях с использование AI/ML-технологий.
Суперкомпьютерные дни в России
26 сентября 2022 г.
Приглашаем коллег на международную конференцию "Суперкомпьютерные дни в России", где ComBox Technology выступает в роли платинового спонсора. Мы расскажем про особенности построения гетерогенных кластеров и управление подобной инфраструктурой с использование платформы Apulis AI Studio. Подробнее - https://russianscdays.org/
Мастер-класс "Совместная работа DS/ML команд"
27 сентября 2022 г.
В рамках мастер-класса представители компании расскажут и покажут, как пользоваться гетерогенной MLOps-платформой Apulis AI Studio для совместной работы ML/DS/AI-команд. Мы удаленно подключимся к кластеру на основе 4-ых нод Huawei Atlas 800 и продемонстрируем основные модули платформы. Подробнее - https://russianscdays.org/workshop/ComBox
Илья Душин рассказывает о Apulis AI Studio в МГУ
26 сентября 2022 г.
26 сентября в Шуваловском корпусе Московского государственного университета им. М.В. Ломоносова прошло открытие VIII Международной конференции «Суперкомпьютерные дни в России». Она проводится в рамках одноименного конгресса и рассчитана на самый широкий круг представителей науки, промышленности, бизнеса, образования, государственных органов, учащихся — всех тех, кто связан с использованием самых передовых вычислительных технологий. Подробнее - https://scientificrussia-ru.turbopages.org/scientificrussia.ru/s/articles/260922-otkrytie-mezdunarodnoj-konferencii-superkomputernye-dni-v-rossii
Мастер-класс по использованию и внедрению Apulis AI Studio
27 сентября 2022 г.
В рамках мастер-класса в МГУ рассказали и показали, как пользоваться гетерогенной MLOps-платформой полного цикла Apulis AI Studio для совместной разработки ML/DS/AI-команд:

1. Гетерогенность кластера и управление множеством нод различной архитектуры
2. Децентрализованное обучение нейронных сетей
3. Разметка данных для систем компьютерного зрения и авторазметка данных
4. Проведение экспериментов со структурированными текстовыми данными
5. Low-Code разработка в изучении данных
6. Мониторинг ресурсов и действий пользователей
ComBox Technology - платиновый спонсор мероприятия
27 сентября 2022 г.
ComBox Technology - платиновый спонсор мероприятия "Суперкомпьютерные дни в России 2022". Конференция о технологиях во всем многообразии: параллельные и распределенные вычисления, высокопроизводительные программные и аппаратные решения, большие данные, машинное обучение и многое другое.

Надеемся, что наш вклад в развитие отрасли поможет создать в России и в мире гибкую, удобную и понятную гетерогенную инфраструктуру в рамках программ по развитию и внедрению центров коллективного пользования ресурсами в сферах AI/ML/DS.

Требуется консультация?

Готовы поддержать ваш проект и ответить на вопросы. Осуществляем услуги по консалтингу и сопровождению имеющихся проектов, а также обеспечим быстрый и безопасный переход с имеющегося технологического стека на Apulis AI Studio и поможем поставить процессы MLOps внутри вашей сформировавшейся команды.

Предсказание мошеннических операций в банковском секторе
Детектирование, сегментация и распознавание объектов на видео
Определение дефектов на различных этапах производства в реальном времени
Реализация мощностей имеющегося GPU/NPU кластера и предоставление услуг в сегментах B2B, B2G в формате IaaS/PaaS/SaaS
Постановка бизнес-процессов работы отдела ML/DS для ведения внутренних проектов компании с приобретением ПО в закрытый контур компании
Обучение студентов высших учебных заведений современным технологиям в области искусственного интеллекта

Подробнее о задачах

Поддержка и сопровождение проектов

Территориально распределенная команда разработчиков. Помощь клиентам от этапа тестирования до сопровождения и решения задач любой сложности

Круглосуточная поддержка внедрений 24/7
Наша команда может обеспечить различные уровни поддержки, начиная от 5/8 (рабочие дни, рабочее время) до 24/7 (круглосуточно). Поддержка осуществляется по телефону и электронной почте с фиксированным временем на решение поставленных задач по SLA.
L1/L2 линии поддержки
Помогаем в решении задач клиентов, как в части настройки оборудования и конфигураций, так и в области DS/ML/AI.
Персонализация платформы под конкретного клиента
Вам требуется биллинг или интеграция с имеющимся озером данных? Наши специалисты помогут оценить задачу и сформировать оптимальный план интеграции платформы в имеющуюся инфраструктуру под сформированные бизнес-требования.

Программно-аппаратные комплексы

Ищете оборудование для кластера? Мы подобрали, оптимизировали и проверили в работе 3 аппаратно-программных комплекса на базе отечественных серверов Звезда с картами Huawei Atlas 300, высокопроизводительных серверов ComBox A8900 и кластера Huawei Atlas 900, полностью готового к промышленным внедрениям

ПАК с ПО Apulis AI Studio на базе серверов Иридиум ИР-224Х
Сервер для инференса отечественного производства
- Сервер монтажной высоты 2RU для установки в 19” стойку
- Базовая (материнская) плата «Звезда» для процессора Intel Ice Lake LGA-4189 – БМП-24189Х
- Два процессора Intel Xeon Scalable 3Gen (Ice Lake) с тепловыделением до 270Вт
- 16 разъемов, 8 на каждое ЦПУ. Поддержка модулей памяти DDR4 3200 МГц. Расширение до 4 Тбайт
- 24 отсека для Hot Swap накопителей SFF 2,5 дюйма SAS/SATA
- 2 отсека для накопителей SFF 2.5 дюйма SAS/SATA Slimline (высотой до 7 мм)
- Опционально, RAID 0, 1, 5, 10, 50
- 3 слота PCIE Gen.4 x16 slot, 2 слота PCIE Gen.4 x8, 1 слот OCP V3.0 и 1 слот OCP V2.0 с поддержкой горячей замены модулей OCP
- 2 порта M.2 2280 PCIE Gen.3 x4, 2 порта 10GbE RJ45, 1 порт управления BMC RJ45 1GbE, 2 порта USB 3.0 Type A, 1 порт VGA DB-15, 1 последовательный порт
- 2 блока питания мощностью 800, 1200 или 1600 Вт с резервированием N+N и поддержкой PMBus
- IPMI 2.0, KVM over IP, мedia redirection, мониторинг температур, вентиляторов, напряжений, БП, удаленное включение/выключение/сброс, тревожная сигнализация по электронной почте, поддержка протокола SNMP, поддержка HTML5, поддержка Redfish
- 3 NPU Huawei Atlas 300 с 4 чипами Ascend 310 на каждой плате
- ПО Apulis AI Studio + DataEyes
ПАК с ПО Apulis AI Studio на базе серверов ComBox A8900
Сервер для обучения нейронных сетей
- 6 * 2.5" NVME SSD Air cooling chassis
- 4 * Kunpeng 920
- 8 * Ascend 910 Pro B
- 4 * 3000W Titanium alloy AC power module
- 8 * DDR4 RDIMM-32GB-288pin-0.625ns-3200000KHz-1.2V-ECC-2Rank (2G*8bit)
- ES3521A V6 SSD-480GB SATA 6Gb/s - Read intensive - 2.5 inch (2.5 inch bracket)
- 2 * 16X SLOT (PCIE X8) RISER2 module
- 2 * 16X SLOT (PCIE X8) RISER3 module
- 4 * TM272 onboard flexible network card-100GE-2port-QSFP28
- TM280 onboard flexible network card-25GE/10GE optical-4port-SFP28 (excluding optical module)
- SmartRAID 3152-8i RAID standard card-PCIE 3.0 X8-2GB cache-RAID 0,1,5,6,10,50,60,1/10ADM-customraid
- Optical module-SFP+-10G-multimode module (850nm,0.3km,LC)
- 8 * High speed optical module-QSFP28-850nm-100G--8.4dBm-2.4dBm--10.3dBm-MPO-MM-0.1km-OM4
- 8 * Optical cable assembly-MPO/PC-MPO/PC-multimode-5m-8-0m/0m-GJFH-8A1a.2(OM3)-3.5mm-LSZH-60mm MPO-bending insensitive
- High speed cable-Internal Mini SAS HD Cable-0.95m-(Internal Mini SAS HD R/A)-(8*(1P*30AWG+ 2*Drain)+8C*30AWG)-(Internal Mini SAS HD STR)
- 4U static slide rail Kit
ПАК с ПО Apulis AI Studio на базе кластера Huawei Atlas 900
Кластер для обучения нейронных сетей и инференса
Представляющий вершину компьютерных возможностей, ИИ-кластер Atlas 900 состоит из тысяч процессоров на базе технологий искусственного интеллекта Ascend 910. Высокоскоростные интерфейсы HCCS, PCIe 4.0 и 100G RoCE, интегрированные посредством библиотеки взаимодействия кластеров и платформы планирования заданий Huawei, позволяют полностью раскрыть потенциал производительности Ascend 910.

Производительность процессора Atlas 900 составляет до 256–1024 петафлопс для операций с плавающей запятой (FP16), что соответствует вычислительной мощности 500 000 компьютеров. Результаты тестов показывают, что Atlas 900 может выполнять обучение моделей на базе ResNet-50 в течение 60 секунд, то есть на 15% быстрее, чем следующий за ним самый быстрый продукт. Это позволяет быстро обучать модели искусственного интеллекта с помощью изображений и речи, эффективнее проводить астрономические исследования и поиски месторождений нефти, составлять прогноз погоды, а также ускорять вывод на рынок решений для автономного вождения.

Кластер полностью управляется в ПО Apulis AI Studio, включая мониторинг состояния узлов, масштабирование, распределенное обучение и множество других функций.

Заказать ПАК

Контакты

Обращайтесь по всем вопросам внедрения платформы MLOps в рамках контура вашей организации

+7 (812) 748-27-27
info@combox.io

Россия, Санкт-Петербург, ул. Яблочкова, 12Ц, оф. 202