Облачный запуск публичных и собственных AI-моделей
- Русский
- API
Локальная платформа для обучения, запуска и экспорта открытых моделей
Обновлено
Сведения о доступности и функциях проверены 07.10.2026 по официальному источнику.
Unsloth — открытая платформа для обучения и запуска моделей на собственном оборудовании через Desktop, веб-интерфейс Studio или программную библиотеку Core. На 07.10.2026 документация Studio описывает подготовку датасетов из PDF, CSV, JSON, DOCX и TXT, обучение и экспорт GGUF или safetensors. Бесплатный код и локальный интерфейс не предоставляют бесплатную видеокарту: вычисления и хранение обеспечиваются отдельно.
Unsloth Studio объединяет модель, датасет и историю обучения в локальном интерфейсе. Data Recipes преобразует документы в обучающие записи через графовый процесс, используя NVIDIA NeMo Data Designer. Во время обучения доступны loss, нормы градиентов и загрузка GPU. Эти показатели описывают ход обучения, но не доказывают качество ответа на русском. Для оценки нужна отдельная выборка задач, которую не используют при обучении.
Экспорт Unsloth переносит модель в safetensors или GGUF для дальнейшего запуска в совместимом окружении, включая llama.cpp, vLLM и Ollama. Это отличается от задачи библиотеки Hugging Face PEFT: она реализует методы адаптации параметров и интеграции с Transformers. Studio добавляет локальный рабочий интерфейс, подготовку данных и экспорт. Скорость и потребление памяти зависят от модели и метода; рекламные множители не являются результатом проверки на оборудовании пользователя.
API Unsloth обслуживает загруженную локальную модель и поддерживает OpenAI-совместимые вызовы. Документация предусматривает ключи с префиксом sk-unsloth-, хранение их хэша и отзыв. По умолчанию сервер доступен только на собственной машине. Для сетевого сервера инструменты выполнения кода выключены по умолчанию: ключ с сетевым доступом и разрешёнными инструментами может дать возможность выполнять код на хосте.
Локальный режим Unsloth Studio может работать офлайн с уже загруженными моделями. Подключение облачного поставщика создаёт иной путь данных, поэтому локальная установка не гарантирует локальность каждого сценария. Для чужих документов определяют разрешённые источники и права на обучение. Русская локализация, качество русского ответа, загрузка зависимостей из России и оплата платных предложений российской картой не подтверждены. Лицензии кода, модели и датасета рассматривают отдельно.
Точные лимиты и состав тарифов уточняйте на сайте сервиса — цены могут меняться.
Облачный запуск публичных и собственных AI-моделей
Визуальная open-source платформа для AI-агентов и LLM-процессов
облачный запуск моделей через совместимый интерфейс запросов
Облачная платформа для функций на Python и вычислений на видеокартах
Платформа экспериментов и артефактов с трассировкой приложений через Weave
Открытый фреймворк для приложений и агентов на языковых моделях