Типы сервисов в Caila

Простой сервис

Простой сервис выполняет одну операцию predict. Его можно либо вызвать по API, если вы внешний пользователь, либо запустить на своих серверах, если вы разработчик сервиса.

Сервис, требующий деплоя — прототип

Такие сервисы представлены в виде шаблона, который вы можете запустить на своём сервере. При развёртывании в своём аккаунте у вас будет возможность модифицировать настройки сервиса и настраивать параметры его масштабирования.

Обучаемый сервис

Это сервисы, которые требуют обучения на пользовательских данных. Например, классификатор интентов (коротких текстов) или файнтюнинг LLM. В результате обучения (или использования фабрики) будет создан новый производный сервис в рабочем пространстве пользователя.

Базовый

Базовым называется сервис, с которого начинается обучение. Базовые сервисы находятся в Каталоге.

Производный

Производным называется сервис, полученный в результате обучения. Производный сервис создаётся в аккаунте пользователя в Моём пространстве.

Композитный сервис

Композитный сервис — сервис, который выполняет вызовы к другим сервисам внутри своей логики. Вызовы могут происходить как во время операции predict, так и во время fit.

Простейшим примером композитного сервиса выступает классификатор интентов text-classifier-logreg-caila-roberta. Этот классификатор использует модель BERT из другого сервиса vectorizer-caila-roberta.

Приложение

Это отдельные веб-приложения со своим интерфейсом. Обычно они предназначены для демонстрации возможностей ML-сервисов, их тестирования или для выполнения каких-либо прикладных задач.