Что такое robots.txt?

Что такое robots.txt?

robots.txt — файл ограничения доступа роботам к содержимому на http-сервере.

Файл должен находиться в корне сайта (то есть иметь путь относительно имени сайта /robots.txt).

 

При наличии нескольких поддоменов файл «robots.txt» должен располагаться в корневом каталоге каждого из них.

Данный файл дополняет стандарт Sitemaps.