Сайт может быть совершенным с технической и дизайнерской точек зрения, но если о нем неизвестно поисковым системам, то его продвижение невозможно. Оно начинается с индексации – добавления поисковой системой в свою базу контента сайта. На практике используется несколько способов, как проверить индексацию сайта.
- Как посмотреть индексацию сайта
- Этапы индексации сайта
- Сканирование
- Индексация
- Как проверить индексацию сайта
- С помощью сервиса Rush Analytics
- С помощью поисковых операторов
- С помощью сервисов и плагинов
- Букмарклеты
- Яндекс Вебмастера
- 1 Вариант
- 2 вариант
- С помощью Google Search Console
- Как ускорить индексацию сайта
- Яндекс
- Google Search Console
- Ловец ботов
- Соцсети
- IndexNow Яндекс
- Google Api индекс
- Влияние домена на индексацию
- Как закрыть сайт от индексации
Этапы индексации сайта
В справочной информации поисковых систем Google и Яндекс термин “индексация” используется в разных контекстах.
Сканирование
У каждого сайта есть свой краулинговый бюджет, который зависит от:
По той причине, что ресурсы поисковых систем ограничены, робот-планировщик составляет список очередности обхода страниц, отталкиваясь от критериев полезности контента, его востребованности и популярности среди пользователей.
- скорости загрузки сайта;
- соотношения полезных/мусорных страниц;
- наличия дублей контента;
- корректности реализации навигации на сайте;
- популярности страниц;
- и т.д.
Поисковой бот в бесконечном режиме скачивает страницы и помещает их в базу, заменяя старый контент на новый. Чтобы улучшить индексирование вашего сайта, используйте Парсер поисковых подсказок, чтобы узнать, какие запросы наиболее популярны среди пользователей. С его помощью вы сможете оптимизировать контент под актуальные ключевые слова и повысить видимость сайта в поисковой выдаче.
Индексация
Далее поисковые системы выполняют следующие процессы:
- Другой робот загружает страницы и разбивает их по следующим элементам: мета-теги, изображения, текст, видеоматериалы, микроразметка и другие данные.
- Далее страница проверяется:
- открыта она к индексу или закрыта;
- наличие на странице тега canonical;
- оценивается качество контента;
- и т.д. по списку.
При успешном прохождении проверки, документ добавляется в индекс.
Как проверить индексацию сайта
Существует несколько способов с помощью инструментов ПС или сторонних сервисов.
С помощью сервиса Rush Analytics
- Выбираете частоту проверки:
- ежедневная;
- еженедельная;
- ежемесячная;
- в ручном режиме;
2. Выбираете в какой поисковой системе хотите проверить наличие страниц в индексе
- Загружаете URL
- списком;
- файлом;
- ссылкой на sitemap.xml
4. И через несколько минут получаете результат
С помощью поисковых операторов
Операторами в данном случае называют особые сочетания символов, которые используются для уточнения параметров запросов. Как узнать индексацию сайта в Яндексе или Гугле с их помощью? Существует несколько методов:
- Оператор «site». В поисковой строке нужно ввести «site:адрес сайта». Необходимо учитывать, что если страниц много, информация может быть некорректной.
Оператор «host», работает по тому же принципу, что и «site», но область поиска сужается до конкретного домена, а поддомены в результатах показываться не будут.
С помощью сервисов и плагинов
- pr-cy.ru. Бесплатно можно проверить только 5 URL, плюс проверка проводится только в Google.
- arsenkin.ru. Проверить индексацию в Яндекс можно бесплатно, в Google – только по платной подписке.
- Плагин RDS Bar, предназначенный для браузеров Chrome, Firefox и Opera. Выдает информацию о любой странице, которая открыта в браузере. Как проверить индексацию страницы, число проиндексированных картинок, ссылки на страницу – ответы на эти вопросы можно получить с помощью плагина RDS Bar.
Букмарклеты
Термином «букмарклет» называют специальный скрипт, с помощью которого можно автоматизировать рутинные действия, связанные с продвижением, в том числе узнать, сколько страниц сайта в индексе Яндекса. Чтобы пользоваться ими, нужно предварительно добавить закладку в браузере.
Скрипты позволяют анализировать любой сайт, в том числе конкурента: при его открытии нужно нажать на закладку – и получить подробную информацию о том, насколько виден сайт в поисковых системах. Примеры таких скриптов:
- Как посмотреть индексацию сайта в Яндекс:
javascript:void(window.open(‘https://yandex.ru/yandsearch?text=site:’ + location.host)) .
- Как проверить индексацию сайта в Google:
javascript:void(window.open(‘https://www.google.com/search?q=site:’ + location.host)).
С помощью Яндекс Вебмастера
Необходимо, в первую очередь, добавить сайт в панель Яндекс Вебмастера, подтвердить ваши права на сайт.
1 Вариант
Переходим в раздел “Индексирование” – “Проверить статус URL” .
В этом разделе мы можем увидеть информацию о странице, которая находится в базе Яндекса.
2 Вариант
“Индексирование” – “Страницы в поиске”
Это общая актуальная сводка о статусе страниц сайта.
- Можно посмотреть на исключенные страницы в разрезе причины исключения.
- Проанализировать историю структуры сайта.
- И конечно, понять что страницу нужно проиндексировать.
Также есть вариант выгрузки страниц в формате xls.
С помощью Google Search Console
Аналогичный инструмент для вебмастеров от Google — Google Search Console. Сколько страниц проиндексировано отражено в разделе «Покрытие». В его верхнем углу есть кнопка «Нажать отчет», при нажатии на которую выдаются списки страниц с ошибками и без них. Необходимо выбрать страницы без ошибок, нажать кнопку «Сведения», после чего откроется подробный отчет по этим группам.
Как ускорить индексацию сайта
В первую очередь, необходимо сообщить поисковикам о новом сайте, только после этого имеет смысл задаваться вопросом, как проверить, сколько страниц в Яндексе или Гугле.
Самое эффективное решение – добавить сайт в сервисы для вебмастеров, перечисленные выше. В них можно указать ссылку на Sitemap, после чего поисковые системы начнут самостоятельно регулярно заходить на сайт и добавлять в поиск новые страницы. Существует несколько способов, позволяющих сократить это время.
Яндекс Вебмастер
Сервис для вебмастеров от Яндекса не только дает ответ на вопрос, как узнать индексацию страницы, но и позволяет ускорить процесс попадания и поиск. Для этого существует два способа:
- Переобход страницы сайта – такая функция есть в разделе «Индексирование». В окно вставляются ссылки на страницы, которые нужно проиндексировать, после чего надо нажать кнопку «Отправить».
- Файлы Sitemap также добавляется в разделе «Индексирование». Робот прочитает его и посетит страницы, на которых он еще не был.
- Обход по счетчикам — при помощи Яндекс Метрики. Для начала их нужно установить, подтвердив права на сайт, после чего найти в разделе «Индексирование» подраздел «Обход по счетчикам». Если разрешить обход нажатием соответствующей кнопки, то все страницы, на которые зайдут посетители, по сведениям Метрики, будут индексироваться роботом.
Google Search Console
Аналогично сервису Яндекса, Google Search Console позволяет не только узнать, как проверить индексацию сайта в Google, но и «помочь» боту быстрее заметить новые страницы сайта. Ссылка вставляется в строку проверки, после чего нужно нажать кнопку «Запросить индексацию». Кроме того, в этом случае также целесообразно добавить в сервис файл Sitemap.
Ловец ботов
Инструмент для ускорения индексации страниц сайта поисковыми системами – в SEO называется «Ловец Ботов».
При каждом посещении ресурса ботом поисковой системы, на посещаемой странице в специальном блоке — ротаторе расположенном в футере, показываются ссылки на не проиндексированные страницы. Робот с большой вероятностью может перейти по этим ссылкам и проиндексировать целевые страницы сайта.
Соцсети
Размещение ссылки на новые страницы в социальных сетях когда-то было рабочим и результативным инструментом, но сегодня его эффективность снизилась, поскольку переход на сайт осуществляется через редирект (переадресацию). Рассчитывать только на этот способ ускорения индексации не стоит, однако, даже несмотря на редирект, его можно использовать как дополнение к остальным.
Такой вариант подходит только тем, кто, помимо сайта, регулярно ведет соцсети. Если нет возможности это делать, можно использовать кросс-постинг. Он предполагает, что сразу после того, как материал публикуется на сайте, его лид (вступительный абзац) постится на страницу в социальной сети со ссылкой на материал.
IndexNow Яндекс
Позволяет автоматически сообщать поисковым системам об изменениях на сайте, включая появление новых страниц, обновление или удаление текущих. Как настроить https://yandex.ru/support/webmaster/indexing-options/index-now.html
Google Api индекс
Она позволяет отправлять в поисковик ссылки на новые и обновленные страницы, а также удалять мусорные. Есть лимит – до 200 ссылок в день, но в большинстве случаев этого достаточно. Предусмотрена возможность настройки аналитики, которая позволяет посмотреть, какие ссылки были отправлены, и проверить индексацию статьи в соответствии с датой обхода сайта ботом поисковой системы.
конверсии вашего сайта
в Яндекс-Директ
Уже скачали 1348 раз
Влияние домена на индексацию
Изначально доменные зоны были напрямую связаны с географией: например, российские сайты регистрировались в зоне ru. Однако сегодня они могут быть зарегистрированы в международной зоне com, что свидетельствует о коммерческой деятельности в интернете.
При появлении кириллических доменов действительно были проблемы с их индексацией, однако сейчас они в прошлом. Некоторые сложности остаются – например, проблемы со ссылками, которые выглядят не слишком привлекательно из-за преобразования в punycode. Однако при поиске ответа на вопрос, как проверить индексацию ссылки в доменах с кириллицей, проблем не возникает, и для них актуальны все описанные выше методы.
Как закрыть сайт от индексации
Индексация нужна не всегда, в некоторых случаях может возникнуть необходимость спрятать от поисковиков отдельные страницы – например, дубли.
Для этого есть несколько способов:
- Установить запрет в файле robots.txt.
- Поставить <meta name=”robots” content=”noindex, nofollow”/> — метатег на странице, которую необходимо скрыть от роботов. Вместо robots прописывается название бота – yandex или googlebot.
- Установить пароль в .htaccess – на весь сайт либо на его отдельные страницы. Однако если страницы уже есть базе поисковиков, спрятать их с помощью этого способа невозможно: потребуется сначала удалить.
- Убрать ссылки из панелей для вебмастеров.
Важно помнить, что поисковики редко посещают сайты, которые долго не обновляются. Перед тем как проверить индексацию в Яндекс или Гугл, важно наладить регулярное наполнение сайта полезным, интересным, оптимизированным и соответствующим требованиям поисковиков контентом.
Еще больше об индексации и о том, как улучшить индексирование конкретно вашего сайта, мы рассказываем на курсе сео “SEO-специалист с 0 до middle” в рамках занятий по техническому аудиту.