Источник фото: TechCrunch
В последние годы всё больше компаний внедряют искусственный интеллект в свои рабочие процессы и продукты, что приводит к растущему спросу на инструменты и платформы для создания, тестирования и развертывания моделей машинного обучения. Эта категория платформ, известная как операции машинного обучения (MLOps), уже достаточно насыщена множеством стартапов, таких как InfuseAI, Comet, Arrikto и другие, а также предложениями от крупных компаний, таких как Google Cloud, Azure и AWS.
Южнокорейская платформа MLOps VESSL AI пытается занять свою нишу, сосредоточив внимание на оптимизации расходов на графические процессоры (GPU) с помощью гибридной инфраструктуры, объединяющей локальные и облачные среды. Стартап уже привлёк $12 миллионов в раунде финансирования Series A, что позволит ускорить разработку его инфраструктуры, нацеленной на компании, желающие разрабатывать собственные крупные языковые модели (LLMs) и вертикальные AI-агенты.
Стартап был основан в 2020 году An, Jihwan Jay Chun (CTO), Intae Ryoo (CPO) и Yongseon Sean Lee (технический руководитель). Все они ранее работали в Google, PUBG и других стартапах в области AI. An столкнулся с определёнными трудностями при разработке моделей машинного обучения в предыдущем медицинском стартапе и решил создать более эффективный и экономичный процесс с использованием гибридной инфраструктуры.
Команда пришла к выводу, что можно значительно повысить эффективность и сократить расходы, используя гибридную модель инфраструктуры. Платформа VESSL AI использует стратегию мультиоблачной работы и спотовые инстансы, что позволяет сократить расходы на GPU до 80%. Эта стратегия также помогает решить проблему нехватки GPU и упрощает процесс обучения, развертывания и эксплуатации AI моделей, включая крупные языковые модели.
Платформа VESSL предлагает четыре основные функции: VESSL Run, которая автоматизирует обучение AI моделей; VESSL Serve, которая поддерживает развертывание в реальном времени; VESSL Pipelines, которая интегрирует обучение модели и предобработку данных для оптимизации рабочих процессов; и VESSL Cluster, которая оптимизирует использование ресурсов GPU в кластерной среде.
