User-agent: * # правила для всех роботов Disallow: /manager/ # авторизация Disallow: /404 # 404 Disallow: /assets/components/ # папка с файлами modx пакетов Disallow: /core/ # папка с системными файлами modx Disallow: /connectors/ # папка с системными файлами modx Disallow: /index.php # дубль главной страницы index.php Disallow: *?* # удаляем дубли для всех страниц (с параметрами) Disallow: *openstat= # ссылки с метками openstat Disallow: *from= # ссылки с метками from Disallow: *utm*= # ссылки с utm-метками Allow: /*.jpg # здесь и далее открываем для индексации изображения, скрипты и прочие файлы Allow: /*.jpeg Allow: /*.gif Allow: /*.png Allow: /*.pdf Allow: /*.doc Allow: /*.docx Allow: /*.xls Allow: /*.xlsx Disallow: /*.ppt Disallow: /*.pptx Disallow: /*.css Disallow: /*.js # Allow: *?page= открываем для индексации страницы пагинации (и проверьте, чтобы для них был настроен canonical) Host: https://www.shinokoff.ru Sitemap: https://www.shinokoff.ru/sitemap.xml