Was ist nutch-?
indexiert und analysiert Inhalte von Webseiten.
Der Webrobot nutch- indexiert und analysiert Inhalte von Webseiten. Er zeigt sich meistens mit der IP Adresse 104.42.159.61 und unter Verwendung des User Agent MaxPointCrawler/Nutch-1.10 (maxpoint.crawler at maxpointinteractive dot com). Mit 0.0009% Marktanteil ist nutch- auf Platz 176 der aktivsten Webrobots im Internet.
Technische Einordnung von nutch-
nutch- wurde in Webserver-Logs als Bot oder Crawler erkannt. Die wichtigsten technischen Hinweise findest du auf dieser Seite: bekannte User-Agents, beobachtete IP-Adressen, Aktivitätsdaten und passende robots.txt-Regeln.
Für eine konkrete Entscheidung solltest du zusätzlich prüfen, welche URLs nutch- abruft, wie häufig die Zugriffe sind und ob der Bot deine robots.txt-Regeln respektiert.
Gefahreneinschätzung und Bewertung
Sollte man nutch- blockieren?
Prüfe zuerst Zugriffshäufigkeit, aufgerufene URLs und User-Agent. Danach kannst du entscheiden, ob eine Blockierung sinnvoll ist.
robots.txt – nutch- blockieren
Füge diese Zeilen in deine robots.txt ein, um nutch- den Zugriff auf deine Website zu verwehren:
User-agent: nutch-
Disallow: /Du kannst den Zugriff auch gezielt einschränken, statt ihn komplett zu blockieren:
User-agent: nutch-
Disallow: /wp-admin/
Disallow: /wp-includes/
Allow: /Häufige Fragen zu nutch-
Ist nutch- gut oder schlecht?
Das hängt vom Einsatzzweck ab. nutch- ist als Web-Crawler eingeordnet. Entscheidend sind Nutzen, Serverlast, Crawl-Verhalten und ob der Bot deine robots.txt-Regeln respektiert.
Wie erkenne ich nutch- in Server-Logs?
Suche nach dem User-Agent-Namen nutch-. Ein beobachteter User-Agent ist MaxPointCrawler/Nutch-1.10 (maxpoint.crawler at maxpointinteractive dot com). Vergleiche ausserdem IP-Adressen, Zugriffsmuster und aufgerufene URLs.
Reicht robots.txt zum Blockieren?
robots.txt ist ein Hinweis für regelkonforme Crawler. Unerwünschte oder aggressive Bots können diese Regeln ignorieren. In solchen Fällen helfen zusätzlich Firewall-Regeln, WAF-Regeln oder Blockierungen im Hosting/CDN.
Kann ein Bot seinen User-Agent fälschen?
Ja. Ein User-Agent ist leicht zu fälschen. Für wichtige Entscheidungen solltest du zusätzlich IP-Adresse, Reverse-DNS, Zugriffsmuster, Häufigkeit und aufgerufene URLs prüfen.
IP-Adressen 16 bekannte IPs
Diese IP-Adressen wurden bisher von nutch- verwendet:
104.42.159.61
114.115.190.4
13.230.38.41
13.78.32.25
13.82.188.248
137.116.119.98
141.41.35.178
18.182.28.128
192.99.2.195
204.2.255.145
27.38.250.89
40.112.68.8
52.199.186.107
52.231.152.77
63.216.156.60
94.130.162.92
User Agents
Mit diesen User-Agent-Strings identifiziert sich nutch-:
MaxPointCrawler/Nutch-1.10 (maxpoint.crawler at maxpointinteractive dot com)Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36 QIHU 360SE/Nutch-1.13Honeso Spider/Nutch-1.15nutch-1.4/Nutch-1.4Toshiba Digital Solution TDSL/Nutch-1.8Naaraa/Nutch-1.14