mod: Clean-param
This commit is contained in:
@@ -1,5 +1,5 @@
|
|||||||
# Маркетплейс-агрегатор цен на установку пластиковых и деревянных окон — ОКНАРДИЯ
|
# Маркетплейс-агрегатор цен на установку пластиковых и деревянных окон — ОКНАРДИЯ
|
||||||
# robots.txt последняя версия: 2026-05-15
|
# robots.txt последняя версия: 2026-05-20
|
||||||
|
|
||||||
User-Agent: *
|
User-Agent: *
|
||||||
Allow: /
|
Allow: /
|
||||||
@@ -10,6 +10,9 @@ Disallow: /*?*token*
|
|||||||
Disallow: /*.json$
|
Disallow: /*.json$
|
||||||
Disallow: /.*\.(js|css)$ # CSS и JS обслуживаются отдельно через CDN
|
Disallow: /.*\.(js|css)$ # CSS и JS обслуживаются отдельно через CDN
|
||||||
|
|
||||||
|
# Параметры, которые не влияют на смысловое содержимое
|
||||||
|
Clean-param: page-back /
|
||||||
|
|
||||||
# Быстрые краулеры
|
# Быстрые краулеры
|
||||||
User-agent: YandexBot
|
User-agent: YandexBot
|
||||||
Crawl-delay: 15
|
Crawl-delay: 15
|
||||||
|
|||||||
Reference in New Issue
Block a user