Google Groups Home
Help | Sign in
Discussions > Crawling, Indexierung und Ranking > Google greift übertrieben oft auf meine sitemap.txt zu
There are currently too many topics in this group that display first. To make this topic appear first, remove this option from another topic.
There was an error processing your request. Please try again.
flag
  9 messages - Collapse all
The group you are posting to is a Usenet group. Messages posted to this group will make your email address visible to anyone on the Internet.
Your reply message has not been sent.
Your post was successful
HansiHerrmann  
View profile
 More options Jul 5, 3:48 am
From: HansiHerrmann
Date: Sat, 5 Jul 2008 00:48:13 -0700 (PDT)
Local: Sat, Jul 5 2008 3:48 am
Subject: Google greift übertrieben oft auf meine sitemap.txt zu
Hi,

seit ein paar Tagen greift Google übertrieben oft auf meine
sitemap.txt zu, obwohl ich keine neue eingereicht habe (nachfolgend
ein Auszug aus meinen Logfiles).

14 Zugriffe auf diese Datei innerhalb 8 Stunden (das geht aber rund um
die Uhr so!) halte ich schon deshalb für übertrieben, weil ich in den
Webmaster-Tools die
Crawling-Geschwindigkeit auf 'langsam' herabgesetzt habe.

------------------------------------

[05/Jul/2008]

01: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[00:29:23] 304 /sitemap.txt

02: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[01:15:50] 304 /sitemap.txt

03: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[01:46:54] 304 /sitemap.txt

04: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[02:18:25] 304 /sitemap.txt

05: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[02:50:00] 304 /sitemap.txt

06: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[03:36:53] 304 /sitemap.txt

07: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[04:08:17] 304 /sitemap.txt

08: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[04:38:36] 304 /sitemap.txt

09: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[05:09:26] 304 /sitemap.txt

10: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[05:40:35] 304 /sitemap.txt

11: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[06:11:48] 304 /sitemap.txt

12: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[06:59:10] 304 /sitemap.txt

13: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[07:47:34] 304 /sitemap.txt

14: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/
bot.html) *g
[08:17:51] 304 /sitemap.txt

------------------------------------

Kann man das irgendwie wieder auf ein normales Maß bringen?

Im Voraus vielen Dank für die Antwort(en) :)

Gruß Hansi


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
luzie  
View profile
 More options Jul 5, 3:54 am
From: luzie
Date: Sat, 5 Jul 2008 00:54:38 -0700 (PDT)
Local: Sat, Jul 5 2008 3:54 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
hi hansi,

>>> 14 Zugriffe auf diese Datei innerhalb 8 Stunden

hmm, soo viel ist das auch wieder nicht, warum der bot sich so
verhalten sollte allerdings, ist mir auch nicht recht klar ...

kontrolliere mal die IP-s von denen diese zugriffe kommen, evtl. ist
das gar nicht wirklich google?

-luzi- http://www.newdy.org/


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
HansiHerrmann  
View profile
 More options Jul 5, 4:03 am
From: HansiHerrmann
Date: Sat, 5 Jul 2008 01:03:35 -0700 (PDT)
Local: Sat, Jul 5 2008 4:03 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hi luzie,

du bist ja schneller als die Polizei! ;)

DANKE für deine Antwort. :)

> kontrolliere mal die IP-s von denen diese zugriffe kommen, evtl. ist
> das gar nicht wirklich google?

So etwas checke ich zuerst. DOCH, es ist Google.

Dieses merkwürdige Verhalten beobachte ich erst seit ein paar
Tagen ...
Vielleicht hört es ja irgendwann von alleine wieder auf.
Aber es ist schon ärgerlich, weil da unnötige Seitenzugriffe erfolgen.

Ich schaue mal, ob ich diesbezüglich in den WMTs was ändern/einstellen
kann.

Gruß Hansi


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
uzimmi  
View profile
 More options Jul 5, 4:51 am
From: uzimmi
Date: Sat, 5 Jul 2008 01:51:36 -0700 (PDT)
Local: Sat, Jul 5 2008 4:51 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hallo Hans,

theoretisch könnten die Anfragen auch von verschiedenen Google-
Rechenzentren kommen. Das wäre aber an unterschiedlichen IP's zu
erkennen.

8 Anfragen innerhalb von 14 Stunden ist aber wirklich nicht viel. Das
ist 1 Anfrage alle 105 Minuten. Die Anfragefrequenz hängt ja auch
meist (aber nicht zwingend) mit dem Interesse an Deinem Auftritt
zusammen. Jetzt stelle Dir mal vor, Google würde bei entsprechender
Anzahl Seiten sekündlich oder noch häufiger Seiten bei Dir abrufen.
Bricht dann Dein Server zusammen oder reicht der Volumentarif dann
nicht mehr? Was machst Du erst, wenn entsprechend viele richtige
Besucher auf Deine Seite kämen?

Gruß, uzimmi


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
HansiHerrmann  
View profile
 More options Jul 5, 10:59 am
From: HansiHerrmann
Date: Sat, 5 Jul 2008 07:59:46 -0700 (PDT)
Local: Sat, Jul 5 2008 10:59 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hi uzimmi,

> 8 Anfragen innerhalb von 14 Stunden ist aber wirklich nicht viel. Das
> ist 1 Anfrage alle 105 Minuten.

14 Anfragen innerhalb 8 Stunden aber schon. ;)
Und alle betreffen die Sitemap!

> Die Anfragefrequenz hängt ja auch
> meist (aber nicht zwingend) mit dem Interesse an Deinem Auftritt
> zusammen.

Das gesteigerte Interesse an meiner Sitemap ist aber doch schon
merkwürdig.

Zur Info:
In meiner Sitemap sind 556 URLs (von ca. 2.500) erfasst.
Google hat davon 206 indiziert.
Sobald ich eine Site ändere oder eine neue hinzu kommt,
reiche ich eine neue Sitemap ein.
Google muss also nicht rund 40 x pro Tag nachschauen,
ob sich an meiner Sitemap was geändert hat ...
Und bisher geschah das auch nur alle paar Tage 1 x.
Ich denke, dass Google bei das bei dir auch nicht tut.

> Jetzt stelle Dir mal vor, Google würde bei entsprechender
> Anzahl Seiten sekündlich oder noch häufiger Seiten bei Dir abrufen.

... Aber warum so oft die Sitemap???
Im Übrigen würde ich das dann über die robots.txt bzw.
den Metatags regulieren (das mache ich jetzt auch schon).

> Bricht dann Dein Server zusammen oder reicht der Volumentarif dann
> nicht mehr?

Darum gehts ja nicht. Sondern darum, dass Google unnötig oft
nachschaut, ob sich meine Sitemap geändert hat.
Dass es genauso oft seinen Index aktualisiert, ist völlig okay.

> Was machst Du erst, wenn entsprechend viele richtige
> Besucher auf Deine Seite kämen?

Das halte ich für ausgeschlossen.
Meine Erfahrung aus 8 Jahren zeigt, dass sich
die "breite Masse" nicht für meine Seiten interessiert.
Und solange ich am Inhalt meiner Seiten nichts ändere,
muss ich über Besuchermassen nicht nachdenken. ;)

Gruß Hansi


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
uzimmi  
View profile
 More options Jul 5, 2:23 pm
From: uzimmi
Date: Sat, 5 Jul 2008 11:23:23 -0700 (PDT)
Local: Sat, Jul 5 2008 2:23 pm
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hallo Hansi,

> Das gesteigerte Interesse an meiner Sitemap ist aber doch schon
> merkwürdig.

Google weiß sehr wohl, dass die Seitemaps nicht von allen nur dann
eingereicht wird, wenn sich daran Änderungen ergeben haben. Das ist
wohl ein Erfahrungswert, weshalb sie eben öfter zugreifen!

> Google muss also nicht rund 40 x pro Tag nachschauen,
> ob sich an meiner Sitemap was geändert hat ...
> Und bisher geschah das auch nur alle paar Tage 1 x.
> Ich denke, dass Google bei das bei dir auch nicht tut.

Ohhhh, das tut Google sehr wohl. Heute bisher 196 Zugriffe. Allerdings
haben wir auch über 287.000 Seiten über mehrere Sitemaps verteilt
(Freizeitangebote, Veranstaltungen und Filme), von denen ca. 57.500 im
Index sind.

> ... Aber warum so oft die Sitemap???
> Im Übrigen würde ich das dann über die robots.txt bzw.
> den Metatags regulieren (das mache ich jetzt auch schon).

Auch wir senden nicht mit jeder Änderung der Sitemaps eine
Aktualisierungsnachricht, weil wir wissen, dass diese Daten ohnehin
von Google regelmäßig gelesen werden. Ein erneutes Einreichen wird nur
bei Fehlerkorrekturen bzw. dringenden Änderungen durchgeführt.

Gruß, uzimmi
http://www.leisurefoxx.de


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
HansiHerrmann  
View profile
 More options Jul 6, 3:10 pm
From: HansiHerrmann
Date: Sun, 6 Jul 2008 12:10:16 -0700 (PDT)
Local: Sun, Jul 6 2008 3:10 pm
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hi uzimmi,

das Problem hat sich (merkwürdigerweise) von alleine gelöst:
Ich habe meine Sitemap geändert, ohne sie Google einzureichen!

Seit dem greift Google nicht mehr darauf zu (eigentlich papadox!).

Das scheint wohl der "Trick" zu sein.
In Zukunft weiß ich Bescheid.

Gruß Hansi


    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
uzimmi  
View profile
 More options Jul 7, 3:24 am
From: uzimmi
Date: Mon, 7 Jul 2008 00:24:52 -0700 (PDT)
Local: Mon, Jul 7 2008 3:24 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Hallo Hansi,

> das Problem hat sich (merkwürdigerweise) von alleine gelöst:
> Ich habe meine Sitemap geändert, ohne sie Google einzureichen!

Das machen wir normalerweise täglich so (Ausnahmen s.o.).

> Seit dem greift Google nicht mehr darauf zu (eigentlich papadox!).

Das halte ich eher für einen Zufall, unsere Erfahrung spricht dagegen,
dass es diesen Zusammenhang gibt.

> Das scheint wohl der "Trick" zu sein.
> In Zukunft weiß ich Bescheid.

Ich denke nicht, dass es da einen Trick gibt. Es ist überflüssige
Mühe, Googles Treiben in allen Details verstehen zu wollen. Es wird
wohl eher so sein, dass sie es teilweise schon selbst nicht mehr
verstehen...

Gruß, uzimmi


    Reply    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
phantastor  
View profile
 More options Jul 7, 3:46 am
From: phantastor
Date: Mon, 7 Jul 2008 00:46:11 -0700 (PDT)
Local: Mon, Jul 7 2008 3:46 am
Subject: Re: Google greift übertrieben oft auf meine sitemap.txt zu
Nunja... sehen wir es doch wie es ist:

Die IPs werden sicher nicht immer auf eine einzige beschränken...

Googles Crawler kommen von verschiedenen Datencentern, die zunächst
unabhängig voneinander arbeiten.
Demnach wird auch jedesmal die Sitemap angesteuert, da ja links nicht
weiß, was rechts macht.

Irgendwann werden all diese Daten abgeglichen, bis alle Datencenter
wieder auf einem Stand sind.

Von daher kann ich mir schon vorstellen, wieso eine Sitemap öfter
angesteuert wird.

Man korrigiere mich, wenn ich nun komplett falsch liege ;)

On 7 Jul., 09:24, uzimmi wrote:


    Reply    Forward  
You must Sign in before you can post messages.
To post a message you must first join this group.
Please update your nickname on the subscription settings page before posting.
You do not have the permission required to post.
End of messages
« Back to Discussions « Newer topic     Older topic »

Create a group - Google Groups - Google Home - Terms of Service - Privacy Policy
©2008 Google