Сейчас у меня на сайте robots.txt такой :
User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /editor/
Disallow: /help/
Disallow: /images/
Disallow: /includes/
Disallow: /language/
Disallow: /mambots/
Disallow: /media/
Disallow: /modules/
Disallow: /templates/
Disallow: /installation/
Скажите он правильный.
А почему мне кажется что robots.txt не правильный так из-за того что в индекс не попадают новые страницы ( тексты все уникальны).
И как загрузить новый robots.txt
User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /components/
Disallow: /editor/
Disallow: /help/
Disallow: /images/
Disallow: /includes/
Disallow: /language/
Disallow: /mambots/
Disallow: /media/
Disallow: /modules/
Disallow: /templates/
Disallow: /installation/
Скажите он правильный.
А почему мне кажется что robots.txt не правильный так из-за того что в индекс не попадают новые страницы ( тексты все уникальны).
И как загрузить новый robots.txt
Изменено:
Артем - 6 Декабря 2011 19:32