User-agent: * Disallow: # Ganze Site freigeben durch eine leere robot.txt und durch user-agent:* # user-agent mit sternchen lät alle robots ein # Disallow: läd alle robots ein. Mit Sternchen lehnt alle ab. # Disallow: /temp/ # Die Dateien sind sehr kurzlebig # Disallow: /logfiles/ # Die ändern sich jeden Tag # Disallow: /cgi-bin/ # CGI Ausgaben nicht indexieren # Disallow: /werbung/