Was ist spinn3r?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot spinn3r indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 173.192.238.36 und unter Verwendung des User Agent Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19. Mit 0.0847% Marktanteil ist spinn3r auf Platz 40 der aktivsten Webrobots im Internet.
„Spinn3r is a web service for indexing the blogosphere. We provide raw access to every blog post being published – in real time. We provide the data and you can focus on building your app"
— Offizielle Beschreibung des Betreibers
Technische Einordnung von spinn3r
spinn3r wurde in Webserver-Logs als Bot oder Crawler erkannt. Die wichtigsten technischen Hinweise findest du auf dieser Seite: bekannte User-Agents, beobachtete IP-Adressen, Aktivitätsdaten und passende robots.txt-Regeln.
Für eine konkrete Entscheidung solltest du zusätzlich prüfen, welche URLs spinn3r abruft, wie häufig die Zugriffe sind und ob der Bot deine robots.txt-Regeln respektiert.
Gefahreneinschätzung und Bewertung
Sollte man spinn3r blockieren?
Prüfe zuerst Zugriffshäufigkeit, aufgerufene URLs und User-Agent. Danach kannst du entscheiden, ob eine Blockierung sinnvoll ist.
robots.txt – spinn3r blockieren
Füge diese Zeilen in deine robots.txt ein, um spinn3r den Zugriff auf deine Website zu verwehren:
User-agent: spinn3r
Disallow: /Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: spinn3r
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /Häufige Fragen zu spinn3r
Ist spinn3r gut oder schlecht?
Das hängt vom Einsatzzweck ab. spinn3r ist als Web-Crawler eingeordnet. Entscheidend sind Nutzen, Serverlast, Crawl-Verhalten und ob der Bot deine robots.txt-Regeln respektiert.
Wie erkenne ich spinn3r in Server-Logs?
Suche nach dem User-Agent-Namen spinn3r. Ein beobachteter User-Agent ist Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19. Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
Kann ein Bot seinen User-Agent fälschen?
Ja. Ein User-Agent ist leicht zu fälschen. Für wichtige Entscheidungen solltest du zusätzlich IP-Adresse, Reverse-DNS, Zugriffsmuster, Häufigkeit und aufgerufene URLs prüfen.
IP-Adressen 9 bekannte IPs
Diese IP-Adressen wurden bisher von spinn3r verwendet:
173.192.238.36
173.192.238.41
173.192.238.44
173.192.238.58
174.36.228.154
174.36.228.156
174.36.241.149
174.36.241.151
174.37.205.76
User Agents
Mit diesen User-Agent-Strings identifiziert sich spinn3r:
Mozilla/5.0 (X11; U; Linux x86_64; en-US; rv:1.9.0.19; aggregator:Spinn3r (Spinn3r 3.1); http://spinn3r.com/robot) Gecko/2010040121 Firefox/3.0.19