zurück zum Allgemeines | Seiten

4n4rchis7

23.07.2008, 21:44
 

wie verwende ich die Robots.txt? (Allgemeines)

wenn ich nun andere Seiten "Disallowen" möchte wie mache ich das dann??
mache ich entweder vor jede Zeile das Disallow oder trenne ich mit Komma oder oder oder
Ein Beispiel wäre sehr nett. Danke.
Ich habe schon einige Sachen ausprobiert, bin jedoch nicht sicher ob die richtig sine/ist.

JR-EWING

24.07.2008, 09:07

wie verwende ich die Robots.txt?

Hier mal ein Beispiel:

User-agent: *
Disallow:/images/
Disallow: /index.php
Disallow: /cgi-bin/

also jede Zeile mit Disallow:
gefolgt vom /Verzeichnis oder /file.endung



» wenn ich nun andere Seiten "Disallowen" möchte wie mache ich das dann??
» mache ich entweder vor jede Zeile das Disallow oder trenne ich mit Komma
» oder oder oder
» Ein Beispiel wäre sehr nett. Danke.
» Ich habe schon einige Sachen ausprobiert, bin jedoch nicht sicher ob die
» richtig sine/ist.


Suche noch Programmierer für das Spider Trap Team, die mir helfen die Software weiterzuentwickeln.


Ähnliche Beiträge
Thema Author Antworten Letzter Beitrag
Eintrag in der robots.txtTorstenMo222.08.2007, 14:47



zurück zum Allgemeines | Seiten