SEO-платформа с AI-помощником и поисковой аналитикой
- Русский
- API
- Бесплатный тариф
Локальный обход сайтов и Markdown для ИИ-пайплайнов
Обновлено
Сведения о доступности и функциях проверены 04.10.2026 по официальному источнику.
crawler.sh — локальный сборщик веб-страниц для разработчиков и технических специалистов. Он обходит сайт, проверяет технические ошибки и извлекает основной текст в Markdown для поиска по базе знаний, контекста ИИ-агента или подготовки обучающего корпуса. В бесплатной сессии без аккаунта доступны 50 страниц, после входа — 400. Общая подписка Pro для командной строки и настольного приложения стоит $99 в год.
При обходе crawler.sh умеет обрабатывать страницы с JavaScript и выделять основной материал вместо всей разметки. В извлечении предусмотрены текст, число слов, автор, краткий фрагмент и язык, если сведения обнаружены. Готовые файлы можно передать в собственную систему поиска с дополнением ответа найденными документами. Сервис готовит содержимое для ИИ, но не описан как отдельная модель, которая сама отвечает по собранному корпусу.
Технический аудит crawler.sh отмечает, например, отсутствие заголовков, повторяющиеся метаданные, запреты индексирования и битые ссылки. Результаты можно выгружать в структурированные форматы; Markdown-архив содержимого относится к Pro. Одна подписка покрывает обе версии продукта, поэтому командная строка и визуальная панель не требуют двух отдельных лицензий. Приложения выпущены для macOS и Linux; поддержка Windows в справке обозначена как план разработки.
Политика crawler.sh говорит, что адреса обхода, полученные страницы и результаты остаются на устройстве и не отправляются поставщику, если пользователь сам их не передаёт. Для аккаунта и подписки выполняются отдельные сетевые запросы, поэтому локальная обработка не означает отсутствие любых соединений с сервисом. Регион хранения сведений аккаунта не указан. Сборщик учитывает robots.txt и задержки обхода; наличие рендеринга не даёт права игнорировать ограничения владельца сайта.
Точные лимиты и состав тарифов уточняйте на сайте сервиса — цены могут меняться.
SEO-платформа с AI-помощником и поисковой аналитикой
AI-помощники и агенты внутри CRM HubSpot
Посты, видео и планирование социальных сетей
AI-креативы и вариации рекламы для брендов
Конструктор чат-ботов и AI-агентов с отдельным бюджетом токенов
Очередь публикаций с AI Assistant для текста и GraphQL API