Was ist grapeshotcrawler?
indexiert Inhalte von Websites.
Der Webrobot grapeshotcrawler indexiert Inhalte von Websites. Er zeigt sich meistens mit der IP Adresse 148.64.56.112 und unter Verwendung des User Agent Mozilla/5.0 (compatible; GrapeshotCrawler/2.0; http://www.grapeshot.co.uk/crawler.php). Mit 0.428% Marktanteil ist grapeshotcrawler auf Platz 16 der aktivsten Webrobots im Internet.
„Grapeshot is a software technology company using advanced Information Retrieval techniques pioneered at Cambridge University."
— Offizielle Beschreibung des Betreibers
Gefahreneinschätzung und Bewertung
Sollte man grapeshotcrawler blockieren?
Prüfe zuerst Zugriffshäufigkeit, aufgerufene URLs und User-Agent. Danach kannst du entscheiden, ob eine Blockierung sinnvoll ist.
robots.txt – grapeshotcrawler blockieren
Füge diese Zeilen in deine robots.txt ein, um grapeshotcrawler den Zugriff auf deine Website zu verwehren:
User-agent: grapeshotcrawler
Disallow: /Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: grapeshotcrawler
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /Häufige Fragen zu grapeshotcrawler
Ist grapeshotcrawler ein guter oder schlechter Bot?
Das hängt vom Einsatzzweck ab. grapeshotcrawler ist als Web-Crawler eingeordnet. Entscheidend sind Serverlast, Crawl-Verhalten, Nutzen für deine Website und ob der Bot deine Regeln respektiert.
Wie erkenne ich grapeshotcrawler in Server-Logs?
Suche nach dem User-Agent-Namen grapeshotcrawler. Ein beobachteter User-Agent ist Mozilla/5.0 (compatible; GrapeshotCrawler/2.0; http://www.grapeshot.co.uk/crawler.php). Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
IP-Adressen 35 bekannte IPs
Diese IP-Adressen wurden bisher von grapeshotcrawler verwendet:
148.64.56.112
148.64.56.113
148.64.56.114
148.64.56.115
148.64.56.116
148.64.56.117
148.64.56.118
148.64.56.119
148.64.56.120
148.64.56.121
148.64.56.122
148.64.56.123
148.64.56.124
148.64.56.125
148.64.56.126
148.64.56.127
148.64.56.64
148.64.56.65
148.64.56.66
148.64.56.67
148.64.56.68
148.64.56.69
148.64.56.70
148.64.56.71
148.64.56.72
148.64.56.73
148.64.56.74
148.64.56.75
148.64.56.76
148.64.56.77
148.64.56.78
148.64.56.79
148.64.57.1
89.145.95.2
89.145.95.42
User Agents
Mit diesen User-Agent-Strings identifiziert sich grapeshotcrawler:
Mozilla/5.0 (compatible; GrapeshotCrawler/2.0; http://www.grapeshot.co.uk/crawler.php)Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.17 (KHTML, like Gecko) Chrome/24.0.1312.70 Safari/537.17 GrapeshotCrawler/2.0; http://www.grapeshot.co.uk/crawler.php