А для кого/чего собственно создается роботс?
Страницы: 1
А для кого/чего собственно создается роботс?, гугл кладет больт на роботс
Есть небольшой раздельчик на сайте, который не вписывается в концепцию сайта и закрыт в роботс. Все как-то руки не доходят его удалить. Когда-то спамил где попало ссылки на страницу раздела и теперь есть трафик 1-2 посетителя неизвестно откуда. Седня смотрю в серчконсоль - закрытая от индекса страница нен-нет да и показывается гошей и висит сообщение мол ошибка сканирования, страница закрыта в роботсе, но мы всеравно ее проиндексировали, исправьте роботс!
Вот как это понимать? Гоша сам создает инструкции для закрытия страниц от индекса и сам же кладет на них болт! И что интересно, не могу понять откуда переходы, вебвизор показывает прямые заходы.
Так-то мелочь, но бесит!
Робота есть рекомендательная инструкция.

Закрывайте в мета.
Тоже в этом плане Гугл бесит, пихает все без разбора, а потом сам же и жалуется:). Можно также через консоль ее удалить/скрыть.
Цитата
Сергей пишет:
пихает все без разбора, а потом сам же и жалуется
Шурыгина чёт вспомнилась...
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
Шурыгина чёт вспомнилась...

Ахаха, тонко)
Цитата
Сергей пишет:
Тоже в этом плане Гугл бесит, пихает все без разбора, а потом сам же и жалуется:). Можно также через консоль ее удалить/скрыть.
Странно, у меня ничего не вылазит (если запрещаю, то не индексится) smile:D
Почему завистники всегда чем-то огорчены? Потому что их снедают не только собственные неудачи, но и успехи других.
Если сайт в гугле на переобход ставите гугло бот определится как пользователь с прямым заходом, со 100% отказом
Ну для кого яндекс важнее то и роботс соответственно
К сожалению, даже в справке гугла есть пункт, "Если на страницу заходят/ссылаются, то даже закрытие в роботс не гаранитрует не попадание в индекс". На моей памяти миниум 3 случая, когда приходилось позже удалять urls из выдачи, с помощтю инструмена гугл.
А что если метатегами закрывать индекс?  через тот же донбот, вроде как одно из лучших решений.
Метатеги да, пока еще работают, боты ПС боятся их как черт ладана. smile:sarc:
Робот не часто выплывает
Ахаха, [FONT=Tahoma, Arial, Helvetica, sans-serif]Это очень весело[/FONT]
Вот тут есть информация по запрету на индексирование страниц - https://www.pandoge.com/stati_i_sovety/udalyaem-stranicu-ili-razdel-sayta-s-poiska-google
Самый быстрый хостинг на SSD. Месяц в подарок. Поддержка 24/7. Помощь в переезде.

Передовое сообщество вебмастеров. Тебе к нам!
Артем Малков, Вас, по всей видимости, Coder покусал... smile:D Он тут несколько лет спамил своим сайтом в каждой теме, теперь Вы эстафету переняли? smile:cool:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
22:36 Стоит ли добавлять сайт в Rambler топ 100? 
16:34 Работает ли ссылочное продвижение 2019 – 2020? 
16:22 Adsense личный опыт 
16:20 АП Яндекс ИКС 16.11.2023 
16:19 У Google наблюдается снижение трафика и, как следствие, уменьшение прибыли 
12:10 Взрывной рост роботности в Метрике 
14:12 Роскомнадзор отказал в регистрации трети блогеров-десятитысячников 
02:14 GoogleWalker - устранение конкурентов в Google Ads | Автоматизированная система склика | АНТИБАН 
22:20 Volna.money 
20:46 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
18:39 Бустмаркет 
16:37 Размещение статей, ссылок и постовых на качественных ресурсах 
16:26 Уникальный сервис SEO продвижения 
14:23 Belurk — высокоскоростные анонимные прокси от 0,24 рублей 
01:26 Точные прогнозы на футбол 
12:12 Linux - это максимальная свобода 
20:09 Сколько сейчас стоит наполнение ИМ? 
12:43 Куплю проигрышные букмекерские аккаунты 
04:33 Половина скидок на распродажах — фейк 
07:53 НейроБабушка наказывает мошенников 
19:59 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко