Was ist spinn3r?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot spinn3r indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 173.192.238.36 und unter Verwendung des User Agent Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19. Mit 0.085% Marktanteil ist spinn3r auf Platz 39 der aktivsten Webrobots im Internet.
„Spinn3r is a web service for indexing the blogosphere. We provide raw access to every blog post being published – in real time. We provide the data and you can focus on building your app"
— Offizielle Beschreibung des Betreibers
Gefahreneinschätzung und Bewertung
Sollte man spinn3r blockieren?
Prüfe zuerst Zugriffshäufigkeit, aufgerufene URLs und User-Agent. Danach kannst du entscheiden, ob eine Blockierung sinnvoll ist.
robots.txt – spinn3r blockieren
Füge diese Zeilen in deine robots.txt ein, um spinn3r den Zugriff auf deine Website zu verwehren:
User-agent: spinn3r
Disallow: /Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: spinn3r
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /Häufige Fragen zu spinn3r
Ist spinn3r ein guter oder schlechter Bot?
Das hängt vom Einsatzzweck ab. spinn3r ist als Web-Crawler eingeordnet. Entscheidend sind Serverlast, Crawl-Verhalten, Nutzen für deine Website und ob der Bot deine Regeln respektiert.
Wie erkenne ich spinn3r in Server-Logs?
Suche nach dem User-Agent-Namen spinn3r. Ein beobachteter User-Agent ist Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19. Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
IP-Adressen 9 bekannte IPs
Diese IP-Adressen wurden bisher von spinn3r verwendet:
173.192.238.36
173.192.238.41
173.192.238.44
173.192.238.58
174.36.228.154
174.36.228.156
174.36.241.149
174.36.241.151
174.37.205.76
User Agents
Mit diesen User-Agent-Strings identifiziert sich spinn3r:
Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19