Die robots.txt-Datei gibt dem Suchmaschinen-Bot die nötigen Hinweise darauf, welche Seiten durchsucht oder von der Suche ausgeschlossen werden sollen.

Ein Video dazu auf video2brain.com