# Permitir sitemap pero no las búsquedas. Host: roscontainer.es Sitemap: https://roscontainer.es/sitemap_index.xml Disallow: /?s= Disallow: /search Allow: /feed/$ # Evita bloqueos de CSS y JS. Allow: /*.js$ Allow: /*.css$ # Lista de bots a permitir. User-agent: Googlebot-Image Allow: /wp-content/uploads/ Allow: /imagenes/ User-agent: Adsbot-Google Allow: / Allow: /wp-admin/admin-ajax.php User-agent: Googlebot-Mobile Allow: / # Lista de bots que generan consultas abusivas aunque siguen las pautas del archivo robots.txt User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: / #Indicamos que estas reglas son aplicables a todos los buscadores User-agent: * Disallow: /cgi-bin Disallow: /wp-includes/ Disallow: /wp-admin/ Disallow: /sitemap/ Disallow: /author/ Disallow: /?format=feed&type=rss Disallow: /wp-register.php Disallow: /xmlrpc.php Disallow: /template.html Disallow: /wp-comments Disallow: /cgi-bin Disallow: /trackback Disallow: /feed Disallow: /comments Disallow: /comment-page Disallow: /replytocom= Disallow: /author Disallow: /?author= Disallow: /tag Disallow: /?feed= Disallow: /?s= Disallow: /?se= Disallow: /prueba Disallow: *?replytocom Disallow: /?s= Disallow: /author/*/$ # Impedir que /permalink/feed/ sea indexado pues el feed de comentarios suele posicionarse antes de los post. # Impedir URLs terminadas en /trackback/ que sirven como Trackback URI (contenido duplicado). Disallow: /comments/feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$