#Crawler sagen, wo er die sitemap findet
Sitemap: http://www.filmsortiment.de/sitemap.xml

# Allen Robots spezielle Seiten ausschließen
# Hauptsächlich dynamisch generierte Seiten
User-agent: *
Disallow: /warenkorb.php
Disallow: /Suche.php
Disallow: /collage.php
Disallow: /bestaetigung.php
Disallow: /Bezahlung.php
Disallow: /danke.php
Disallow: /Fertigstellen.php
Disallow: /Kontrolle.php
Disallow: /order.php
Disallow: /PersDaten.php
Disallow: /Lizenzdetails.php

#Robots, die Seiten kopieren oder Mailadressen auslesen
User-agent: UbiCrawler
Disallow: /

User-agent: DOC
Disallow: /

User-agent: Zao
Disallow: /

User-agent: sitecheck.internetseer.com
Disallow: /

User-agent: Zealbot
Disallow: /

User-agent: MSIECrawler
Disallow: /

User-agent: SiteSnagger
Disallow: /

User-agent: WebStripper
Disallow: /

User-agent: WebCopier
Disallow: /

User-agent: Fetch
Disallow: /

User-agent: Offline Explorer
Disallow: /

User-agent: Teleport
Disallow: /

User-agent: TeleportPro
Disallow: /

User-agent: WebZIP
Disallow: /

User-agent: linko
Disallow: /

User-agent: HTTrack
Disallow: /

User-agent: Microsoft.URL.Control
Disallow: /

User-agent: Xenu
Disallow: /

User-agent: larbin
Disallow: /

User-agent: libwww
Disallow: /

User-agent: ZyBORG
Disallow: /

User-agent: Download Ninja
Disallow: /

# Robots, die verschiedene Probleme verursachen
User-agent: wget
Disallow: /

#
# The 'grub' distributed client has been *very* poorly behaved.
#
User-agent: grub-client
Disallow: /

# Dieser Bot folgt der Seite trotzdem, aber der Vollständigkeit halber
User-agent: k2spider
Disallow: /

# Kommt mehrmals pro sekunde vorbei -> Traffic für die Seite
# http://www.nameprotect.com/botinfo.html
User-agent: NPBot
Disallow: /

# A capture bot, downloads gazillions of pages with no public benefit
# http://www.webreaper.net/
User-agent: WebReaper
Disallow: /