Проблема с фидом
Страницы: 1
Проблема с фидом
Всем привет, как исправить ошибку, чтобы feed индексировался роботом. Сейчас[COLOR=#1a1a1a] при обращении робота на странице сайта с feed, сервер возвращает ему заголовок X-Robots-Tag: noindex, follow, который запрещает роботу индексацию.[/COLOR]
Чтобы оживить тему, опубликую наугад, а там, глядишь, кто-то путное скажет)

Чтобы исправить ошибку и разрешить индексировать feed, нужно изменить заголовок X-Robots-Tag.

Возможные способы решения:

1. В настройках веб-сервера (Apache, Nginx)
Если сервер Apache, проверьте конфигурацию .htaccess или основной конфиг (httpd.conf). Найдите строку, где указано:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "noindex, follow"
</FilesMatch>

Исправьте на:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "index, follow"
</FilesMatch>

Или полностью удалите это правило.

Если сервер Nginx, проверьте конфигурацию (обычно nginx.conf):
Код
location /feed {
    add_header X-Robots-Tag "noindex, follow";
}

Исправьте на:
Код
location /feed {
    add_header X-Robots-Tag "index, follow";
}

Перезапустите сервер после изменений:
Код
systemctl restart apache2  # Для Apache
systemctl restart nginx    # Для Nginx

2. В настройках CMS (если используете WordPress, Joomla, Drupal и др.)
В WordPress:
1. Зайдите в Настройки → Чтение.
2. Убедитесь, что "Поисковым системам не разрешено индексировать сайт" не включено.
3. Проверьте Yoast SEO или другие SEO-плагины, нет ли там правил noindex для /feed.

В Joomla:
Проверьте настройки Global Configuration → SEO Settings, нет ли запрета на индексацию RSS.

3. В robots.txt
Хотя robots.txt не управляет X-Robots-Tag, убедитесь, что там нет строки:
Код
Disallow: /feed/

Если есть — удалите или замените на:
Код
Allow: /feed/

4. В коде сайта (если X-Robots-Tag передается через PHP)
В файле header.php или контроллере генерации feed найдите строку:
Код
header("X-Robots-Tag: noindex, follow", true);

Исправьте на:
Код
header("X-Robots-Tag: index, follow", true);

Как проверить результат?
После внесения изменений проверьте, какие заголовки возвращает сервер:
Код
curl -I https://example.com/feed

Должно быть:
Код
X-Robots-Tag: index, follow

Также можно проверить в Google Search Console или через https://www.google.com/webmasters/tools/googlebot-fetch.

После исправления может потребоваться некоторое время, чтобы поисковые роботы снова проиндексировали feed.
спасибо большое, буду щас разбираться
Цитата
Vova Vova пишет:
спасибо большое, буду щас разбираться

Пожалуйста. Отпишите потом, что из этого вышло.
Не претендую на правильность. Надеюсь, кто-то отпишется, кто в этом хорошо разбирается.
Цитата
Prapovednik пишет:
X-Robots-Tag
В хедере строки не было, долго мучался искал. В итоге думаю дайка зайду в плагин all-in-one-seo-pack, и правда, там почему-то запрет был, стоял ноиндекс, поставил на индекс. Путь: wp-content/plugins/all-in-one-seo-pack/app/Common/Meta/Robots.php . Должно работать исправно, завтра точно скажу.
Vova Vova, благодарю, что делитесь в теме.
да, работает хорошо все индексируется, сори не написал сразу
Цитата
Vova Vova пишет:
да, работает хорошо все индексируется, сори не написал сразу

Отлично. Спасибо, что отписались.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
18:13 Новая поисковая система от OpenAI 
17:37 Оптимизация сайта 
14:10 Работает ли ссылочное продвижение 2019 – 2020? 
19:58 Проблема с фидом 
15:03 Второй год подряд Яндекс Переводчик занимает первое место в мире 
23:50 От ICQ до Max: как VK меняет правила игры на рынке мессенджеров 
16:16 Артемий Лебедев: «ВКонтакте» станет «новым поисковиком» 
16:27 Diamond-exchange.io - круглосуточный сервис обмена валют 
15:48 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
15:45 Swapper.ws - Обмен криптовалют. Быстро, выгодно, круглосуточно. 
14:21 Volna.money 
14:14 Expa24.com Обмен Криптовалют. Ввод/Вывод наличные Украина/Северный Кипр/Мир 
13:37 SpaceSwap.cc - Быстрый и надежный обменник криптовалют 
12:24 Coin Click.cc - Быстрый и надежный обмен электронных валют в два клика 
17:02 Трамп дарит TikTok вторую жизнь: еще 75 дней танцев и мемов! 
10:10 Мобильная афера: как узнать, не участвуешь ли ты в ней? 
02:41 Точные прогнозы на футбол 
00:00 Европа объявляет независимость от Windows: создаётся своя операционная система для чиновников 
23:53 «Заблокировано — и точка!»: новое реалити-шоу от Роскомнадзора 
23:46 Компьютерная мышь 
13:14 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор