民审-M

验证 Googlebot 谷歌蜘蛛IP地址段 网站站长添加到白名单

作者:民审-M   发布时间:2017-03-22 10:17   回复数:0   浏览数:554
民审-M
5540民审-M金牌草根
2017-03-22 10:17:42
5540 2017-03-22 10:17:42
本帖最后由 民审-M 于 2017-3-22 10:21 编辑

验证 Googlebot
[color=rgb(33, 33, 33)]
您可以验证访问您服务器的网页抓取工具是否确实是 Googlebot(还是其他 Google 用户代理)。如果您担心自称是 Googlebot 的垃圾内容发布者或其他麻烦制造者访问您的网站,则会发现该方法非常有用。Google 不会发布一个公开的 IP 地址列表供网站站长添加到白名单。这是因为这些 IP 地址范围可能会发生变化,从而给已对其进行硬编码的网站站长带来麻烦。因此,您必须按照下述方法运行 DNS 查找。
要验证 Googlebot 是否为调用方,请执行以下操作:

    [*]使用 host 命令对您日志中访问服务器的 IP 地址运行反向 DNS 查找。
    [*]验证该域名是否位于 googlebot.com 或 google.com 中。
    [*]对在第 1 步中使用 host 命令检索到的域名运行正向 DNS 查找。验证该域名与您日志中访问服务器的原始 IP 地址是否一致。
示例 1:
> host 66.249.66.1

1.66.249.66.in-addr.arpa domain name pointer crawl-66-249-66-1.googlebot.com.


> host crawl-66-249-66-1.googlebot.com
crawl-66-249-66-1.googlebot.com has address 66.249.66.1
[color=rgb(33, 33, 33)]
示例 2:
> host 66.249.90.77
77.90.249.66.in-addr.arpa domain name pointer rate-limited-proxy-66-249-90-77.google.com.


> host rate-limited-proxy-66-249-90-77.google.com

rate-limited-proxy-66-249-90-77.google.com has address 66.249.90.77
[color=rgb(33, 33, 33)]
[color=rgb(33, 33, 33)]

[color=rgb(33, 33, 33)]详细请参考:https://support.google.com/webmasters/answer/80553
游客
登录后才可以回帖,登录 或者 注册