21
Марта
2009
Есть такая проблемка. Сайт индексирует yahoo и трафик от него все растет и растет.
ПРавильно ли я закрыл в роботс?
User-Agent: Yahoo! Slurp
User-agent: Yahoo-MMCrawler
User-agent: Slurp
Crawl-delay: 10
Disallow: /
В интернете и на сайте Yahoo нормального описания блока робота не нашел
Seo.by выходит с дизайном в стадии альфа на открытое тестирование. Просьба не пугаться, а наоборот, если есть дельные предложения, то оставлять их в данной ветке.
наивный )
естесственно, что роботс.тхт ничеог не решит и бот как ходил дальше, так и будет ходить )
всё должно решатся через хтаксесс
deny from 66.196.64
deny from 66.228.160
deny from 65.55
politex.team
Вы знаете после того как прописал мною сказанное выше бот пропал. Ура товарищи!
Бесплатные объявления Минск и Интернет Блог
Это не на сайте яху надо смотреть, посмотри как настраивается вообще robot файл в ярушке введи и там полно всякого будет)