Как составить список стоп-слов для сбора семантики?

Каждого, кто собирает семантическое ядро, посещает мысль “так, сейчас я спаршу 10000 ключевых слов, удалю 7000 мусора и посмотрю с чем там можно работать?” – Да, такова реальность работы с ключевыми словами 🙂

Команда Rush Agency ежедневно подбирает десятки тысяч ключевых слов для наших клиентов и у нас накопился обширный опыт по работе со стоп-словами (“мусорными” ключевыми словами), которым хотим с вами поделиться в этом руководстве.

В самом начале разработки Rush Analytics, после сбора поисковых подсказок, мы вручную вычищали весь “мусор” используя хитрые фильтры в Excel или регулярные выражения в Notepad++. Это отнимало кучу времени и мы добавили в Rush Analytics функционал, который вырезает все ненужные ключевые слова “на лету”.

Давайте разберемся как “мусор” попадает в нашу семантику

Есть много различных типов нежелательных стоп-слов, которые можно собрать при парсинге ключевых слов и они отличаются от тематики к тематике.
Для интернет-магазинов это вся “не коммерция” вида “бесплатно”, “даром”, “вконтакте”, “майнкрафт”, а также ключевые слова, которые содержат гео-указатели не целевых регионов и городов.
Для информационных тематик стоп-слова могут быть совсем иными – например – наоборот все коммерческие интенты.

Ниже приведены основные группы стоп-слов, которые встречаются при работе с семантикой:

• Для коммерческих сайтов – все некоммерческие интенты: “бесплатно”, “даром”, “инструкция”, “скачать” и прочие
• Для любой тематики: бренды конкурентов, как в русскоязычном написании, так и в англоязычном
• Ключевые слова, связанные с онлайн-играми и соц.сетями: “vk”, “вконтакте”, “одноклассники”, “майнкрафт”, “WOW”, “Linage”. Мы встречали слова вида “Купить лук жестокого орка WOW” с сумасшедшей частотностью. Но запрос для интернет-магазина луков и арбалетов совсем не целевой
• Для любой коммерции – всё не целевое ГЕО. Пример: “профнастил в СПБ” для московского сайта
• Различные запросы, связанные с программным обеспечением “торрент”, “torrent” + уйма по названиям ПО
• Пошлости, порно – каждый из нас встречал много смешных порно-запросов 🙂

Rush Analytics решает проблему мусорных ключевых слов следующим образом:

1. У нас есть форма для ввода стоп-слов.

Мы установили этот функционал в поисковых подсказках и сборе ключевых слов из Wordstat, Кластеризации и проверке запросов .

Работает это так: как только наш парсер встречает подсказку со стоп-словом – он вырезает эту подсказку и прекращает любой перебор этой “ветки подсказок”. Иными словами – если вы ввели стоп-слово “вконтакте” – ни один запрос с этим словом не попадет в итоговый список подсказок, а так же не будет собираться частотность ключевых слов по Wordstat, что сэкономит время сбора задачи и ваши рессурсы.

2. Форма ввода стоп-слов есть и в кластеризации. Мы предусмотрели ситуацию, при которой вы можете загрузить “грязный” список ключевых слов в систему (например, из Яндекс Wordstat). Стоп-слова можно указать прямо при создании задачи. В кластеризации алгоритм работает следующим образом: еще до начала кластеризации все стоп-слова удаляются и кластеризуется только “чистый” список запросов. Это помогло нам существенно сэкономить время, нервы и деньги – поможет и вам! – вам не придется тратить баланс на кластеризацию “мусора”.

3. Очень важно!

Мы добавили в веб интерфейс списки стоп слов и гео запросов, а так же сделали возможность загружать свои собственные списки стоп слов.

Выглядит это так:

Просто выберите свой целевой город.

Важный нюанс: мы заранее добавили в базу все устоявшиеся сокращения городов вида «екб», «спб», «Питер» и т.д. Все словоформы (склонения) городов так же учитываются автоматически.

Все самые популярные стоп-слова всегда под рукой – в 1 клик

Мы так же составили обширные списки популярных мусорных слов по различным тематикам – практически на все случаи жизни – теперь можно в один клик отсеять, например, все ключевые слова с интентом «бесплатно» или «отзывы» или «фотографии и изображения».

Выглядит это так:

4. Символьное совпадение
В данном случае если вы введете стоп-слово “бу”
Будут удалены ключевые слова:

• “бу холодильник”
• “холодильник бу”
• “купить бу холодильник”
• “бублик”
• “бумеранг”
• “бумага”

Внимательно проверяйте каждое ваше стоп слово, если вы используете эту опцию чтобы не было совпадений с запросами так как они могут быть удалены.
Обратите внимание на “Эксперт опции” стоп-слов – по умолчанию применяется символьное соответствие. Пример частой ошибки в стоп словах: стоп слово “тв”удалит все запросы в которых встречается сочетание букв “тв” (тверь, твердый, твитер, растворитель,…). Соответственно стоп слово “с” удалит все запросы в которых есть буква “с”.

Фразовое соответствие
В данном случае если вы введете стоп-слово “бу”
Буду удалены ключевые слова:

• “бу холодильник”
• “холодильник бу”
• “купить бу холодильник”

но не:

• “бублик”
• “бумеранг”
• “бумага”

1. Что бы не потерять нужные подсказки выбирайте “Фразовое соответствие в эксперте опции стоп-слов.

Конечно же, мы предусмотрели, чтобы вы могли добавить свои списки стоп-слов в сервис, чтобы они всегда были под рукой и не нужно было 1000 раз повторять операцию CTRL+C, CTRL+V.

Просто нажмите «Добавить свой список стоп-слов», введите запросы и пользуйтесь своим списком стоп-слов при сборе подсказок Яндекса, в парсере Wordstat и в Кластеризации.

Список категорий стоп слов которые доступны в нашем сервисе:

• Универсальный (Общий список стоп слов подходящий для всех тематик)
• Халява (все что связано со словом “бесплатно”)
• Визуализация
• Соц. сети
• Ремонт
• Софт
• БУ
• Самодеятельность
• Юмор
• Лечение
• Транзакции
• Адалт стоп слова
• Отзывы и смежное
• Оптовые
• Вопросы и инфо запросы
• Аренда
• Крупные интернет магазины
• Авто
• Животные
• Женские имена
• Районы Москвы
• Рецепты еды
• Цвета
• Материалы (ткань)
• Характеристики

Как правильно парсить подсказки?

Руководство по рейтингу