Was ist hypercrawl?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot hypercrawl indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 188.138.57.97 und unter Verwendung des User Agent Mozilla/5.0 (compatible; HyperCrawl/0.2; http://www.seograph.net/bot.html). Mit 0.0004% Marktanteil ist hypercrawl auf Platz 212 der aktivsten Webrobots im Internet.
„Real Admin – Bootstrap Admin Template"
— Offizielle Beschreibung des Betreibers
Gefahreneinschätzung und Bewertung
Sollte man hypercrawl blockieren?
Prüfe zuerst Zugriffshäufigkeit, aufgerufene URLs und User-Agent. Danach kannst du entscheiden, ob eine Blockierung sinnvoll ist.
robots.txt – hypercrawl blockieren
Füge diese Zeilen in deine robots.txt ein, um hypercrawl den Zugriff auf deine Website zu verwehren:
User-agent: hypercrawl
Disallow: /
Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: hypercrawl
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /
Häufige Fragen zu hypercrawl
Ist hypercrawl ein guter oder schlechter Bot?
Das hängt vom Einsatzzweck ab. hypercrawl ist als Web-Crawler eingeordnet. Entscheidend sind Serverlast, Crawl-Verhalten, Nutzen für deine Website und ob der Bot deine Regeln respektiert.
Wie erkenne ich hypercrawl in Server-Logs?
Suche nach dem User-Agent-Namen hypercrawl. Ein beobachteter User-Agent ist Mozilla/5.0 (compatible; HyperCrawl/0.2; http://www.seograph.net/bot.html). Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
IP-Adressen 9 bekannte IPs
Diese IP-Adressen wurden bisher von hypercrawl verwendet:
188.138.57.97
188.138.57.98
5.45.80.5
85.25.210.18
85.25.210.189
85.25.210.19
85.25.210.20
88.150.240.116
88.150.240.121
User Agents
Mit diesen User-Agent-Strings identifiziert sich hypercrawl:
Mozilla/5.0 (compatible; HyperCrawl/0.2; http://www.seograph.net/bot.html)