Robot.txt
Страницы: 1
Robot.txt
Подскажите, это нормальный робот? Или подредактировать помогите, ели не сложно конечно.
Цитата


User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag
Disallow: */attachment/*
Disallow: /page
Disallow: */page/
Disallow: /poisk
User-agent: YandexBot
Disallow: /*id=
Disallow: /a/
Disallow: /stat/
Disallow: /index/1
Disallow: /index/2
Disallow: /index/3
Disallow: /index/5
Disallow: /index/7
Disallow: /index/8
Disallow: /index/9
Disallow: /panel/
Disallow: /admin/
Disallow: /secure/
Disallow: /informer/
Disallow: /mchat
Disallow: /search
Disallow: /shop/order/
Disallow: /?ssid=
Disallow: /abnl/
Crawl-delay: 5
Host: megapda.ru/


Allow: /
Sitemap: megapda.ru/sitemap_index.xml
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag
 
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag
Host: site.ru
Sitemap: http://site.ru/sitemap.xml
 
User-agent: Googlebot-Image
Allow: /wp-content/uploads/
 
User-agent: YandexImages
Allow: /wp-content/uploads/
Самый быстрый хостинг на SSD. Месяц в подарок. Поддержка 24/7. Помощь в переезде.

Передовое сообщество вебмастеров. Тебе к нам!
Артем Малков, спасибо огромное!
User-agent: *
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag
User-agent: Yandex
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: */*/trackback
Disallow: */*/feed/*/
Disallow: */feed
Disallow: /*?*
Disallow: /tag
Host: its-k.ru
 
Sitemap: http://its-k.ru /sitemap.xml.gz
Sitemap: http://its-k.ru /sitemap.xml

Вот наиболее стабильный!
Прошу модератора ссылки затереть) Случайно
Цитата
Подскажите, это нормальный робот? Или подредактировать помогите, ели не сложно конечно.

Вы его откуда-то тупо скопировали для своего сайта? значит ненормальный! если ошибок в написании правил нет, то это вовсе не означает, что скопированный robots.txt будет работать правильно на вашем сайте. Для каждого проекта необходимо составлять свой robots.txt, в зависимости от задачи. 
А я наоборот всё для всех запрещаю,а потом  открываю только  что надо.
У меня вопрос 
как правильно оформлять карту сайта в роботс.тхт, если их несколько.

Добавить только главный файл,ссылками на другие файлы или все добавлять?

Т.е. например, достаточно только так: sitemap_main.xml

или, например, так:
sitemap_main.xml
sitemap_news.xml
sitemap_pages.xml
...
Паразитическая плесень когда-нибудь обязательно предъявит обвинение, что её не пускают в цветущий сад.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
13:05 Взрывной рост роботности в Метрике 
12:35 new way 7 
21:51 Stixi.ru. и stixi.com 
16:22 Работает ли ссылочное продвижение 2019 – 2020? 
14:13 Profit Pixels - In-House Форекс, Крипто, Трейдинг CPA Офферы | Еженедельные Выплаты | CPA до $950 
10:09 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
18:33 Trafee.com – эффективная монетизация вашего дейтинг трафика 
13:08 Нейробог - ваша замена копирайтера 
11:25 Ручное размещение вечных статей и ссылок на хороших площадках. Опыт 15 лет! 
06:04 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
20:22 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
20:21 Sectormoney.com - быстрый и удобный обменник 
17:27 Уникальный сервис SEO продвижения 
05:08 [WORDPRESS] [Gemini|GPT]️ ClipAI - Копирайтинг больше не нужен! Подключит ИИ к интернету и напишет статьи с автоматической публикацией на сайт. 
12:12 Linux - это максимальная свобода 
04:06 Точные прогнозы на футбол 
20:09 Сколько сейчас стоит наполнение ИМ? 
12:43 Куплю проигрышные букмекерские аккаунты 
04:33 Половина скидок на распродажах — фейк 
07:53 НейроБабушка наказывает мошенников 
19:59 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко