最近看我的一个网站日志,都是 AmazonBot 在爬,浪费我的贷款和性能。这个 Bot 是干嘛的?
看看 Amazon 自己的介绍:
Amazonbot is Amazon’s web crawler used to improve our services, such as enabling Alexa to answer even more questions for customers. Amazonbot respects standard robots.txt rules.
看起来是用于提升 Alexa 这个东西的,对我们普通的网站没有任何好处。
在 robots.txt 中加入
User-agent: Amazonbot
Disallow: /
即可
你还可以在站长工具箱中编辑 robots 设置,如下:
