联系我们
UC浏览器神马搜索推广开户
咨询热线:400-960-2809
联 系 人:梁经理
联系电话:15210303112
QQ 咨询:12828130
公司地址:北京市朝阳区广顺北大街33号院1号楼10层1单元1101室1642号
咨询热线:400-960-2809
联 系 人:梁经理
联系电话:15210303112
QQ 咨询:12828130
公司地址:北京市朝阳区广顺北大街33号院1号楼10层1单元1101室1642号
新闻中心
神马搜索站长平台:Spider介绍
UC浏览器神马搜索推广开户 发布时间:2016-09-05 浏览次数:891
1.神马搜索Spider
神马Spider是神马访问互联网,自动化抓取网页的程序。Spider抓取下网页,建立索引,使用户可通过搜索引擎搜索到互联网上的资源。
2. 神马搜索Spider的user-agent及ip地址
user-agent,是http协议中的一个属性,代表了终端的身份。神马Spider的user-agent为:Yisouspider,因为历史原因此user-agent名称将会继续使用。
神马Spider的ip地址是一组ip池,会动态变,因此不在此列举。
3. 神马搜索Spider的网站访问频率
神马会根据网站的规模、服务能力、页面质量、更新速度等因素来决定对网站的访问频率。通常质量高、网页更新快的网站神马spider访问的频率相对会高,以保证高质、时效的能够展现给用户。
4. 神马搜索spider如何发现新网页
神马spider发现新网页的方式有多种,最典型的是在已发现的网页中分析超链关系,选取url并抓取,如此不断拓展,尽可能多的抓取到有价值的网页。另外,神马会从dns服务商处获取新网站域名,能够及时抓取到新建网站。
5. 关于robots协议
robots.txt是搜索引擎访问网站是要访问的第一个文件,以确定哪些网页是允许或禁止抓取的。神马搜索遵守互联网robots协议,如您希望完全禁止神马访问或对部分目录禁止访问,您可以通过robots.txt文件来设置内容,限定神马Spider的访问权限。
robots.txt必须放在网站根目录下,且文件名要小写。
具体的写法:
1) 完全禁止神马Spider抓取:
User-agent: Yisouspider
Disallow: /
2) 禁止神马搜索spider抓取指定目录
User-agent: Yisouspider
Disallow: /update
Disallow: /history
禁止抓取update、history目录下网页
6. 神马搜索Spider是否会造成带宽负担
神马搜索Spider有规范的抓取流程,同时也会考虑网站的忙闲时段来抓取,因此不会给网站造成带宽负担。如您发现名为Yisouspider的user-agent抓取严重影响到了网站的正常访问,您可将该时段的访问日志信息反馈至zhanzhangpingtai@service.alibaba.com,神马同学会将分析结论发送给您。
转载请注明出处,本文链接:https://www.tui86.com/196.html
上一篇:关于UC神马被百度系“误操作”的声明 下一篇:uc浏览器神马搜索优化指南
·移动浏览器市场三强格局初现 | ·神马推广行业客户信息手册 | ·RTB三期商业产品市场资源申请 | ·神马推广新开单行业分析 | ·神马搜索RTB营销利器来啦! | ·2016让红包飞中小招商方案 | ·神马品牌日出【价格发布】 | ·神马份额破28% 年底目标锁定35% | ·蓝光模式:交互APP化 场景化/td> | ·神马搜索企业地标申请格式 |