Содержание
Ответ страницы
Привет! Давно искал какой-нибудь инструмент для того, чтобы относительно массово проверять ответы страницы сайтов на код ответа сервера. Это были онлайн-сервисы, декстопный софт и даже попытка написать бота для парсинга этих заголовков (почти получилось).
Дабы облегчить жизнь в этом вопросе читателям моего блога, я решил сделать подборку этих инструментов и краткую аннотацию к ним.
Дабы облегчить жизнь в этом вопросе читателям моего блога, я решил сделать подборку этих инструментов и краткую аннотацию к ним.
Сервисы проверки ответа сервера:
Яндекс.Вебмастер
Яндекс.Вебмастер — это самый простой сервис, хотя и не для массовой проверки ответа сервера. Думаю, каждый владелец интернет-ресурса в России хоть раз пользовался этим инструментом.- Лимит 1 URL за проверку
- Проверка URL на наличие в поиске Яндекс
Converseo
Converseo — простой сервис с помощью которого можно проверить 100 URL за раз. Есть возможность скачать результат в CSV.- Лимит 100 URL за проверку
- Экспорт в CSV
Кулаков
Кулаков — этот сервис может проверить 500 URL за раз, есть возможность выбрать User Agent. Чтобы проверить 1000 ссылок, придётся добавлять список URL два раза. Кроме этого, ресурс имеет ещё массу полезных инструментов для SEO-оптимизатора.- Лимит 500 URL за проверку
- Выбор User Agent
- Учёт редиректов
SEOlium.com
SEOlium.com — хороший сервис для проверки HTTP кода. Всё в нем хорошо: добавляешь список в окно, нажимаешь кнопку, получаешь ответы. Только вот есть одно «но» — за сутки с одного IP можно снимать только 500 URL. Конечно, можно обойти эту проблему при помощи прокси или VPN, но кому нужны лишние телодвижения. Мы с коллегами решали эту задачу при помощи Tor Browser Bundle. Также можно попробовать встроенный VPN у Opera или плагин friGate- Лимит 500 URL с IP в сутки
Xenu’s Link Sleuth
Простой многоцелевой парсер Xenu’s Link Sleuth находит битые ссылки, изображения, фреймы, фоновые рисунки и многое другое. Для проверки HTTP более чем достаточно. Выберите «File»→«Check URL List» и загрузите txt файл с необходимыми URL адресами для проверки.- Безлимитная проверка URL
- Экспорт результатов
HEADMasterSEO
На данный момент, при необходимости массово проверить ответы сервера, я использую HEADMasterSEO. Можно сканировать по 500 URL за раз (в платных версиях больше). Софт учитывает редиректы, экспортирует в CSV, имеет возможность добавления URL из буфера обмена (Check URLs→Enter Manually), и ещё несколько других примочек.- Лимит 500 URL за проверку
- Проверка время отклика
- Проверка Sitemap на ошибки
- Импорт/Экспорт в CSV и XML
Телеграм бот HTTP Status Checker
P.S.: нашел для Телеграм интересного бота от Сергея Кокшарова (Девака), который проверяет URL на отклик @httpstatusbot, есть возможность прикреплять в свои чаты.
Хорошая подборочка. Взяла на вооружение HEADMasterSEO и Tor.
Спасибо, ждите еще полезных SEO-шных инструментов.
HEADMasterSEO сейчас стоит 12 к, буквально год назад он стоил 3к, возможно я путаю, хотя за этот срок особо ничего в софт не добавилось.
Попробуйте наГуглить скрипт для Гугл Таблиц, есть вероятность что там будет больше лимитов и бесплатно 🙂
Очень сильно вырос уровень жизни в России и поэтому цены тоже. По телевизору так сказали.
Скажите, почему же нет парсера, в который можно вписать только url сайта, и он сам найдет все урлы внутри? (((
Есть 🙂 скачайте Ксену и он вам вытащит все ссылки, если у вас задача просто спарсить URL без кода ответа сервера, то можно попробовать этот сервис mikrorazmetka.ru/servis/sitemapxml/.
Просто вбиваете карту сайта и он вам выпарсит все url из нее.
Можно ещё на Зенке написать шаблончик и продавать тем кто нуждается 🙂
Если масштабы крупные — то почему бы и нет, хотя проще заказать макрос на кворке.
Здравствуйте, вы знаете, что означают двойные точки перед параметром? Например:
Request Headers
:authority: xxx.com
:method: GET
:path: /api/data/v9.0/$metadata
:scheme: https
Я не знаю, что значит «:».
С техническим аудитом проблем нет, все страницы сайта можно спайдерами распарсить, в том числе и представленными в статье, и все ошибки найти, а вот с радаром сложнее, поэтому свой написали: https://t.me/code_cheker_Bot
Коротко: проверяет код ответа сервера URL с заданной периодичностью. Минимальный период пинга 10 мин, но по опыту, что каждые 30 минут самое то. Подробнее можно здесь почитать: https://t.me/smirnov_seo_blog/71