Robots.txt для сайта на WordPress:
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/themes/
Disallow: /trackback/
Disallow: /feed/
Disallow: /comments/
Disallow: /category/*/*
Disallow: /tag/
Disallow: /author/
Disallow: /archives/
Disallow: /xmlrpc.php
Disallow: /login/
Disallow: /logout/
Disallow: /?s=
Disallow: /search/
Disallow: */trackback/
Disallow: */feed/
Disallow: */comments/
Disallow: /cgi-bin/
Disallow: /wp-json/
Allow: /wp-content/uploads/
Allow: /wp-content/cache/
Sitemap: http://www.example.com/sitemap.xml
Этот файл robots.txt запрещает индексацию основных административных и системных частей WordPress, таких как wp-admin/, wp-includes/, а также папок с плагинами и темами. Он также запрещает индексацию трекбеков, лент, комментариев, страниц поиска и т. д.
Обратите внимание, что вы должны заменить "http://www.example.com/sitemap.xml" на актуальный URL вашего sitemap.xml.
Robots.txt для сайта на WordPress с WooCommerce:
Пример файла robots.txt, который подходит для сайта, использующего WooCommerce вместе с WordPress:
User-agent: *
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /wp-content/plugins/
Disallow: /wp-content/themes/
Disallow: /trackback/
Disallow: /feed/
Disallow: /comments/
Disallow: /category/*/*
Disallow: /tag/
Disallow: /author/
Disallow: /archives/
Disallow: /xmlrpc.php
Disallow: /login/
Disallow: /logout/
Disallow: /search/
Disallow: /cgi-bin/
Disallow: /wp-json/
Disallow: /wp-login.php
Disallow: /shop/cart/
Disallow: /shop/checkout/
Disallow: /shop/my-account/
Disallow: /shop/order-tracking/
Allow: /wp-content/uploads/
Allow: /wp-content/cache/
Sitemap: http://www.example.com/sitemap.xml
Этот файл robots.txt аналогичен предыдущему примеру, который использовался для WordPress, но также добавляет запрет на индексацию некоторых страниц, связанных с магазином WooCommerce, таких как корзина (/shop/cart/), оформление заказа (/shop/checkout/), личный кабинет (/shop/my-account/) и отслеживание заказа (/shop/order-tracking/).
Пожалуйста, замените "http://www.example.com/sitemap.xml" на фактический URL вашего sitemap.xml.
