Suchmaschinenoptimierung
   
 

SEMSEO Konferenz 2012
 

 
 

psbot global für ganzen Apache sperren

Neues Thema eröffnen   Neue Antwort erstellen    ABAKUS Foren-Übersicht -> Spiders / Robots Themen
 Hilfe!! picsearch.com spidert wie verrückt... Meine robots.txt - korrekt?  
snowmanmh

pr


: 15.10.2004
: 24
: Meckenheim


: 28.12.2004, 14:00    : psbot global für ganzen Apache sperren Antworten mit Zitat

Hallo,

ich habe Server unter Apache laufen. Auf diesem befinden sich nur meine eigenen Domains. Nun möchte ich global einige Bots sperren. Am meisten sticht mir der psBot ins Auge, der eine ganze Menge Traffic verursacht, und dabei die anderen User beeinträchtigt (Geschwindigkeit).

Kann man sowas global machen, jedesmal per robots.txt ist mühsam, ausserdem habe ich bemerkt, das Ihn (psBot) das manchmal ziehmlich kalt lässt, und er fröhlich weiter macht...


Grüsse Mario
Nach oben
snowmanmh Private Nachricht senden
fool

pr


: 28.03.2004
: 201



: 29.12.2004, 13:23    : psbot global für ganzen Apache sperren Antworten mit Zitat

Hallo mario,

also psbot respektiert bei mir seit ich ihn in der robots gesperrt habe das Verbot. Deshalb interessant, dass du das beobachtest.

Aber wenn du sicher gehen willst, dann sperr ihn in der .htaccess.

Da gibt es ja genug threads hier darüber.

Gruß
fool[/i]
Nach oben
fool Private Nachricht senden
snowmanmh

pr


: 15.10.2004
: 24
: Meckenheim


: 29.12.2004, 13:52    : psbot global für ganzen Apache sperren Antworten mit Zitat

Hallo,

meine robots.txt sieht so aus:

Code:

User-agent: psbot
Disallow: /


diese hat der psBot in den letzten Tagen mehr als genug gelesen:

Code:

62.119.133.10 - - [29/Dec/2004:07:47:04 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"
62.119.133.10 - - [29/Dec/2004:07:51:10 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"
62.119.133.11 - - [29/Dec/2004:07:53:10 +0100] "GET /allkat_Nachrichtentechnik_29_0_50.html HTTP/1.0" 200 22453 "-" "psbot/0.1
62.119.133.10 - - [29/Dec/2004:07:57:13 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"
62.119.133.10 - - [29/Dec/2004:07:59:18 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"
62.119.133.10 - - [29/Dec/2004:08:01:14 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"
62.119.133.10 - - [29/Dec/2004:08:05:15 +0100] "GET /robots.txt HTTP/1.0" 200 179 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"


wie man daraus erkennt liest er fleissig weiter, auch später:

Code:

62.119.133.11 - - [29/Dec/2004:11:44:16 +0100] "GET /allkat_Naturkatastrophe_13_0_50.html HTTP/1.0" 200 15900 "-" "psbot/0.1 (+http://www.picsearch.com/bot.html)"


Die robots.txt liegt da schon 1 Woche so, da sollte man von ausgehen das er dann auch das macht, oder liegt der Fehler an meinem Syntax?

Grüsse Mario
Nach oben
snowmanmh Private Nachricht senden
Maschenka

pr


: 19.11.2004
: 98



: 30.12.2004, 01:23    : psbot global für ganzen Apache sperren Antworten mit Zitat

Die Syntax in deiner robots.txt ist korrekt.

Auf der vom Bot genannten Seite findet sich am Ende folgender Satz, hast du das schon ausprobiert?
:
Experiencing problems?
Since Psbot is still very new we apologize for any inconvenience it may cause and would ask you to notify Picsearch about any problems at psbot@picsearch.com in order for Picsearch to rectify them as quickly as possible. Thank you.
Nach oben
Maschenka Private Nachricht senden
fool

pr


: 28.03.2004
: 201



: 30.12.2004, 02:21    : psbot global für ganzen Apache sperren Antworten mit Zitat

Hallo Mario,
wenn dich solche Zugriffe stören, dann bann den psbot einfach per htaccess und Ruhe ist. Der psbot würde ja sogar Opfer von bulls Kleinbuchstabensperre (siehe thread emailharvester und spambots per htaccess sprerren Seite 4 und 5) - aber nicht vergessen msnbot davon auszunehmen!

Wenn ich solche logfileEinträge hätte, wäre ich da gnadenlos.

Guten Rutsch
fool
Nach oben
fool Private Nachricht senden
Neues Thema eröffnen   Neue Antwort erstellen    ABAKUS Foren-Übersicht -> Spiders / Robots Themen
Seite 1 von 1

 






Ähnliche Beiträge
Thema Forum Antworten
mod_pagespeed für den Apache und Google Speed mod_pagespeed für den Apache und Goog... narc Webprogrammierung, Templatedesign & Microformats 0 05.05.2012, 21:54 mod_pagespeed für den Apache und Google Speed
[S] Dringend Hilfe bei Debugging von Apache/MySQL Fehler [S] Dringend Hilfe bei Debugging von ... tided Marktplatz: Dienstleistungen 0 14.04.2012, 10:49 [S] Dringend Hilfe bei Debugging von Apache/MySQL Fehler
robots.txt - Ganze Unterordner sperren? robots.txt - Ganze Unterordner sperren? thomas_x3 Ich hab' da mal 'ne Frage 2 10.04.2012, 16:39 robots.txt - Ganze Unterordner sperren?
IP-Adressen sperren IP-Adressen sperren Dennis01 Web Analytics & Controlling 5 30.03.2012, 16:58 IP-Adressen sperren
Was ist von den ganzen Gewinnspiel-Programmen zu halten? Was ist von den ganzen Gewinnspiel-Pr... Hanzo2012 Partnernetzwerke 3 25.03.2012, 00:50 Was ist von den ganzen Gewinnspiel-Programmen zu halten?
IP Range sperren IP Range sperren dp-wurzel Weiterleitungen und mod_rewrite 4 05.03.2012, 12:21 IP Range sperren
Proxy IP sperren / IP herausfinden Proxy IP sperren / IP herausfinden marc77 Ich hab' da mal 'ne Frage 3 06.01.2012, 15:59 Proxy IP sperren / IP herausfinden

Suchmaschinenoptimierung | Latent Semantische Optimierung (LSO) | SEO Blog | SEO Online Tools | Suchmaschinenmarketing Angebot | Online Marketing

Impressum

Dieses SEO Forum läuft unter phpBB.


Sie lesen gerade: psbot global für ganzen Apache sperren