Was ist crawler?
Der Webrobot crawler indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 181.214.183.175 und unter Verwendung des User Agent Mozilla/5.0 (compatible; crawler). Mit 0% Marktanteil ist crawler auf Platz 310 der aktivsten Webrobots im Internet.
Betreiber & Risiko
- Keine öffentlichen Betreiber-Infos bekannt
robots.txt – crawler blockieren
Füge diese Zeilen in deine robots.txt ein, um crawler den Zugriff auf deine Website zu verwehren:
User-agent: crawler
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: crawler
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
IP-Adressen 2 bekannte IPs
Diese IP-Adressen wurden bisher von crawler verwendet:
181.214.183.175
45.56.187.62
User Agents
Mit diesen User-Agent-Strings identifiziert sich crawler:
Mozilla/5.0 (compatible; crawler)