mam w pracy taki mały problem. Kolega z pracy zajmuje się naszym sklepem internetowym i mam razem z nim pewien problem. Czy jest jakiś sposób na robota google? Chodzi o to że trzeba go bardzo pilnować i najzwyczajniej w świeceie blokować. Ponieważ gdy sie rozpędzi to jest w stanie bardzo nabijać transfer były przypadki, iż nawet 2 albo 3 krotnie.
Ale pamiętaj, że spowoduje to usunięcie wskazanej strony z google(nie dożywotnio oczywiście).
###########################
Jeżeli serwer stoi na apachu zainteresuj się także mod_expires(jeżeli jest on aktywny) - nie jest to co prawda sposób na googlebot ale pewnie też się przyda.