Google не удалось просканировать сайт
Страницы: 1 2 След.
[ Закрыто ] Google не удалось просканировать сайт, Ругается на robots.
Добрый день. Пытаюсь добавить сайт   http://gipsokarton-simferopol.ru в Google webmaster. Но при обработке выходит следующее сообщение:
 "Google не удалось просканировать ваш сайт, так как закрыт доступ к файлу robots.txt"?

Вот что выдает сервис bertal.ru : https://bertal.ru/index.php?a3686320/gipsokarton-simferopol.ru/robots.txt#h

Помогите решить проблему.
Настройте robots и будет вам счастье
Цитата
cheatforcs пишет:
Настройте robots и будет вам счастье

Есть пример правильно настроенного robots?
Нужен правильный robots для сайтов , у которых нияего не закрыто для индексации Яндекса и Гугла
Страница недоступна
Возможно, страница недоступна или ее сканирование запрещено в файле robots.txt
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может  .htaccess настроен не правильно или конфигурация веб сервера , или против гугла
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам
Цитата
WGN пишет:
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам


Хостер ответил:

"Данная проблема не является хостинговой и наблюдается на стороне движка.
Анализ, отладка и правка скриптов выходит за рамки работ, выполняемых технической поддержкой хостинга. По данному вопросу, пожалуйста, обратитесь к разработчикам сайта, либо на тематические ресурсы"
Цитата
ZoRKeG пишет:
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может .htaccess настроен не правильно или конфигурация веб сервера , или против гугла

А как и кем настраивается htaccess ? Можно самому или на это есть право только у админ хостинга?
User-agent: *
Disallow:

User-agent: Yandex
Disallow: 
Host: gipsokarton-simferopol.ru
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Изменено: Сергей Бойков - 13 Апреля 2017 11:01
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Обычно в корне сайта лежит.
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Внес изменений в .htaccessпо Вашему совету, google перестал ругаться Спасибо. Проблема решена.
Не за что, обращайтесь. Поскольку вопрос исчерпан, полагаю тему можно закрыть.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
22:36 Стоит ли добавлять сайт в Rambler топ 100? 
16:34 Работает ли ссылочное продвижение 2019 – 2020? 
16:22 Adsense личный опыт 
16:20 АП Яндекс ИКС 16.11.2023 
16:19 У Google наблюдается снижение трафика и, как следствие, уменьшение прибыли 
12:10 Взрывной рост роботности в Метрике 
14:12 Роскомнадзор отказал в регистрации трети блогеров-десятитысячников 
16:42 Swapper.ws - Обмен криптовалют. Быстро, выгодно, круглосуточно. 
12:22 Обмен криптовалют 
09:44 BestChange – обменивать электронную валюту можно быстро и выгодно 
04:31 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
03:53 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc 
02:14 GoogleWalker - устранение конкурентов в Google Ads | Автоматизированная система склика | АНТИБАН 
22:20 Volna.money 
01:26 Точные прогнозы на футбол 
12:12 Linux - это максимальная свобода 
20:09 Сколько сейчас стоит наполнение ИМ? 
12:43 Куплю проигрышные букмекерские аккаунты 
04:33 Половина скидок на распродажах — фейк 
07:53 НейроБабушка наказывает мошенников 
19:59 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко