Robots.txt Generator

Robots.txt Generator

Default - Tous les robots sont:	Permis Refusé
Retardement:	Default - No Delay 5 Seconds 10 Seconds 20 Seconds 60 seconds 120 Seconds
Plan du site: (laissez en blanc si vous n'en avez pas)
Robots de Recherche:	Google	Comme par défaut Permis Refusé
	Google Image	Comme par défaut Permis Refusé
	Google Mobile	Comme par défaut Permis Refusé
	MSN Search	Comme par défaut Permis Refusé
	Yahoo	Comme par défaut Permis Refusé
	Yahoo MM	Comme par défaut Permis Refusé
	Yahoo Blogs	Comme par défaut Permis Refusé
	Ask/Teoma	Comme par défaut Permis Refusé
	GigaBlast	Comme par défaut Permis Refusé
	DMOZ Checker	Comme par défaut Permis Refusé
	Nutch	Comme par défaut Permis Refusé
	Alexa/Wayback	Comme par défaut Permis Refusé
	Baidu	Comme par défaut Permis Refusé
	Naver	Comme par défaut Permis Refusé
	MSN PicSearch	Comme par défaut Permis Refusé
Répertoires restreints:	Le chemin est relatif à root et doit contenir une barre oblique "/"

Maintenant, créez le fichier "robots.txt" dans votre répertoire racine. Copiez le texte ci-dessus et collez-le dans le fichier texte.

Sur Robots.txt Generator

Search Engines are using robots (or so called User-Agents) to crawl your pages. The robots.txt file is a text file that defines which parts of a domain can be crawled by a robot. In addition, the robots.txt file can include a link to the XML-sitemap.