robots.txt
Op mijn hosting heb ik een aantal subdomeinen, maar ik wil alleen de map www laten indexeren.
Kan ik dan een robots.txt in de htdocs map zetten die alleen www toestaat te indexeren of moet ik in alle andere mappen een robots.txt gaan toevoegen?
Of anders iets met htaccess of zo?
Kan ik dan een robots.txt in de htdocs map zetten die alleen www toestaat te indexeren of moet ik in alle andere mappen een robots.txt gaan toevoegen?
Of anders iets met htaccess of zo?
Gewijzigd op 03/04/2011 21:13:28 door Michael -
Gesponsorde koppelingen:
"Indien je subdomeinen beheert, voorzie je deze best eveneens van een robots.txt bestand. Ook hier gelden dezelfde regels: plaats het bestand in de root, niet in een onderliggende map."
Mijn vraag was dus ook of 't mogelijk is 1 robots.txt te gebruiken voor alle subdomeinen, maar ik moet dus voor alle subdomeinen apart bestand gaan maken neem ik aan.
Geen makkelijkere manier?
Mijn vraag was dus ook of 't mogelijk is 1 robots.txt te gebruiken voor alle subdomeinen, maar ik moet dus voor alle subdomeinen apart bestand gaan maken neem ik aan.
Geen makkelijkere manier?
Gewijzigd op 03/04/2011 21:43:45 door Michael -
Nee dit hoeft niet, jij geeft gewoon in je root aan waar een robot mag komen en waar niet.
Stel je hebt in de map "text" bestanden staan die hij juist WEL moet indexeren en mee nemen kan je dit aangeven.
Stel je hebt in de map "text" bestanden staan die hij juist WEL moet indexeren en mee nemen kan je dit aangeven.
Dus
www.domein.nl/robots.txt -> Allow: /
dev.domein.nl/robots.txt -> Deny: /
test.domein.nl/robots.txt -> Deny: /
Misschien kan je met Alias een alias voor al je domeinen maken naar de deny-robots.txt en alleen in /www een robots.txt zetten die een uitzondering is, en Allow: / bevat.
www.domein.nl/robots.txt -> Allow: /
dev.domein.nl/robots.txt -> Deny: /
test.domein.nl/robots.txt -> Deny: /
Misschien kan je met Alias een alias voor al je domeinen maken naar de deny-robots.txt en alleen in /www een robots.txt zetten die een uitzondering is, en Allow: / bevat.



