Robots.txt Generator

Robots.txt Generator

Predeterminado - Todos los robots son:	Permitido Rechazado
Retardo de rastreo:	Predeterminado - Sin retraso 5 Seconds 10 Seconds 20 Seconds 60 seconds 120 Seconds
Mapa del sitio: (deje en blanco si no tiene)
Robots de búsqueda:	Google	Igual que el predeterminado Permitido Rechazado
	Google Image	Igual que el predeterminado Permitido Rechazado
	Google Mobile	Igual que el predeterminado Permitido Rechazado
	MSN Search	Igual que el predeterminado Permitido Rechazado
	Yahoo	Igual que el predeterminado Permitido Rechazado
	Yahoo MM	Igual que el predeterminado Permitido Rechazado
	Yahoo Blogs	Igual que el predeterminado Permitido Rechazado
	Ask/Teoma	Igual que el predeterminado Permitido Rechazado
	GigaBlast	Igual que el predeterminado Permitido Rechazado
	DMOZ Checker	Igual que el predeterminado Permitido Rechazado
	Nutch	Igual que el predeterminado Permitido Rechazado
	Alexa/Wayback	Igual que el predeterminado Permitido Rechazado
	Baidu	Igual que el predeterminado Permitido Rechazado
	Naver	Igual que el predeterminado Permitido Rechazado
	MSN PicSearch	Igual que el predeterminado Permitido Rechazado
Directorios restringidos:	La ruta es relativa a la raíz y debe contener una barra diagonal. "/"

Ahora, cree el archivo 'robots.txt' en su directorio raíz. Copia el texto anterior y pégalo en el archivo de texto.

Acerca de Robots.txt Generator

Search Engines are using robots (or so called User-Agents) to crawl your pages. The robots.txt file is a text file that defines which parts of a domain can be crawled by a robot. In addition, the robots.txt file can include a link to the XML-sitemap.