трашный заголовок? По-моему все уже привыкли к тому, что сайт может запросто вылететь из индекса нашего любимого Яндекса. Причем вылететь, как оказалось, можно не из-за линкопомоек, не из-за продажи ссылок, а совершенно по другому основанию.

Так вот...

Недели 2 назад мой сайт совершенно интересным образом пропал из индекса. Разумеется, я первым делом подумал, что его забанили за продажу ссылок (хотя все было сделано с умом — аккуратно и чисто) , но все же решил написать Платону Щ. Через несколько дней пришел такой вот ответ:

    Здравствуйте, Роман!
    Дело в том, что Ваш сайт может индексироваться Яндексом только по адресу
    wwwsite.ru, адрес site.ru является его зеркалом. В данный
    момент у Вас установлен серверный редирект с wwwsite.ru на
    site.ru.
    Страницы, с которых стоит серверный редирект, удаляются роботом из базы. Чтобы
    вернуть сайт в базу Яндекса, необходимо снять редирект, тогда сайт вновь
    начнет индексироваться по адресу wwwsite.ru. Если для Вас важно,
    чтобы сайт индексировался именно по адресу site.ru, есть два пути:
    1. оставить все как есть, но скорректировать robots.txt, добавив в него:
    User-agent: Yandex
    Disallow:
    Host: site.ru

    Важно: блоки указаний роботам должны разделяться пустой строкой. После этого
    надо будет дождаться захода на сайт робота зеркальщика, он отследит изменения
    и переклеит сайты по адресу, указанному в Host. Процесс переклейки в среднем
    занимает до 4−6 недель, ускорить его, к сожалению, нельзя. В этом случае сайт
    появится в базе Яндекса только после того, как произойдет «переклейка».

    2. снять редирект, скорректировать robots.txt так, как указано выше. В этом
    случае сайт вернется в базу Яндекса по адресу wwwsite.ru, после
    переклейки в базе появится site.ru.

Честно говоря, сначала я ничего не понял. При втором прочтении тоже мало что изменилось. Robots.txt у сайта не было никогда.

В результате, заглянув на сайт https://robotstxt.ru, я слепил robots следующего содержания:

    User-agent: Yandex
    Disallow: /feed
    Host: site.ru

Уж не знаю, правильно ли... Вскрытие покажет. Через 4−6 недель, как говорил П.Щ.
Так что мой вам совет: напишите этот роботс.тхт, мало ли что... А то Яндекс - (yandex) заблудится в трех соснах...