良好收录

2020-08-13 09:45 更新

机器可读

百度通过一个叫做 Baiduspider 的程序抓取互联网上的网页,经过处理后建入索引中。目前 Baiduspider 只能读懂文本内容,flash,图片等非文本内容暂时不能处理,放置在 flash、图片中的文字,百度无法识别。


建议使用文字而不是 flash、图片、Javascript 等来显示重要的内容或链接,搜索引擎暂时无法识别 Flash、图片、Javascript  中的内容,这部分内容无法搜索到;仅在 flash、Javascript 中包含链接指向的网页,百度可能无法收录。


我们建议
   • 使用文字而不是 flash、图片、Javascript 等来显示重要的内容或链接 

   • 如果必须使用 Flash 制作网页,建议同时制作一个供搜索引擎收录的文字版,并在首页使用文本链接指向文字版 

   •  Ajax 等搜索引擎不能识别的技术,只用在需要用户交互的地方,不把希望搜索引擎“看”到的导航及正文内容放到 Ajax 中;

   • 不使用 frameiframe 框架结构,通过 iframe 显示的内容可能会被百度丢弃


              不符合百度标准


上面例子中,虽然网页上提供了很丰富的信息,但由于信息都在 flash 中,搜索引擎无法提取(从提取信息中可以看到只有网页标题,其他内容都爬取不到),对搜索引擎来讲,这个网页没有任何内容。


网站结构

网站应该有清晰的结构和明晰的导航,这能帮助用户快速从你的网站中找到自己需要的内容,也可以帮助搜索引擎快速理解网站中每一个网页所处的结构层次。


网站结构建议采用树型结构,树型结构通常分为以下三个层次:首页——频道——文章页。象一棵大树一样,首先有一个树干(首页),然后再是树枝(频道),最后是树叶(普通内容页)。树型结构的扩展性更强,网站内容变多时,可以通过细分树枝(频道)来轻松应对。


理想的网站结构应该是更扁平一些,从首页到内容页的层次尽量少,这样搜索引擎处理起来,会更简单。


同时,网站也应该是一个网状结构,网站上每个网页都应该有指向上、下级网页以及相关内容的链接:首页有到频道页的链接,频道页有到首页和普通内容页的链接、普通内容页有到上级频道以及首页的链接、内容相关的网页间互相有链接。


网站中每一个网页,都应该是网站结构的一部分,都应该能通过其他网页链接到。


总结一下,合理的网站结构应该是一个扁平的树型网状结构。我们建议: 

   • 确保每个页面都可以通过至少一个文本链接到达。 

   • 重要的内容,应该能从首页或者网站结构中比较浅的层次访问到。 

   • 合理分类网站上的内容,不要过度细分。


网站应该有简明、清晰的导航,可以让用户快速找到自己需要的内容,同时也可以帮助搜索引擎更好的了解网站的结构。我们建议: 

   • 为每个页面都加上导航栏,让用户可以方便的返回频道、网站首页,也可以让搜索引擎方便的定位网页在网结构中的层次。

               

通过面包屑导航,用户可以很清楚的知道自己所在页面在整个网站中的位置,可以方便的返回上一级频道或者首页也很方便。   

   • 内容较多的网站,建议使用面包屑式的导航,这更容易让用户理解当前所处的位置:网站首页 > 频道 > 当前浏览页面

   • 导航中使用文字链接,不使用复杂的 js 或者 flash

   • 使用图片做导航时,可以使用 Alt 注释,用 Alt 告诉搜索引擎所指向的网页内容是什么 

子域名与目录的选择

选择使用子域名还是目录来合理的分配网站内容,对网站在搜索引擎中的表现会有较大的影响。


我们建议

   • 在某个频道的内容没有丰富到可以当做一个独立站点存在之前,使用目录形式;等频道下积累了足够的内容,再转换成子域名的形式

一个网页能否排到搜索结果的前面,“出身”很重要,如果出自一个站点权重较高的网站,那排到前面的可能性就越大,反之则越小。通常情况下主站点的权重是最高的,子站点会从主站点继承一部分权重,继承的多少,视子站点质量而定。


在内容没有丰富到可以做为一个独立站点之前,内容放到主站点下一个目录中能在搜索引擎中获得更好的表现。

 

   • 内容差异度较大、关联度不高的内容,使用子站点形式 

搜索引擎会识别站点的主题,如果站点中内容关联度不高,可能导致搜索引擎错误的识别。关联度不高的内容,放在不同的子域名下,可以帮助搜索引擎更好的理解站点的主题 


   • 域名间内容做好权限,互相分开,a. example.com 下的内容,不能通过 b. example.com 访问 

子域名间的内容可以互相访问,可能会被搜索引擎当做重复内容而进行除重处理,保留的 url 不一定是正常域名下的。 


   • 不要滥用子域名 

无丰富内容而滥用大量子域名,会被搜索引擎当做作弊行为而受到惩罚。


规范、简单的URL  

创建具有良好描述性、规范、简单的 url ,有利于用户更方便的记忆和判断网页的内容,也有利于搜索引擎更有效的抓取您的网站。网站设计之初,就应该有合理的 url 规划。


我们建议: 

 • 如果网站中同一网页,只对应一个 url     

如果网站上多种 url 都能访问同样的内容,会有如下危险:  

         1、搜索引擎会选一种 url 为标准,可能会和正版不同   

         2、用户可能为同一网页的不同 url 做推荐,多种 url 形式分散了该网页的权重 

   

如果你的网站上已经存在多种 url 形式,建议按以下方式处理:    

        1、在系统中只使用正常形式 url ,不让用户接触到非正常形式的 url    

        2、不把 Session id 、统计代码等不必要的内容放在 url 中   

        3、不同形式的 url,301 永久跳转到正常形式    

        4、防止用户输错而启用的备用域名,301 永久跳转到主域名    

        5、使用 robots.txt 禁止 Baiduspider 抓取您不想向用户展现的形式


        • 让用户能从url判断出网页内容以及网站结构信息,并可以预测将要看到的内容 

                 

以W3Cschool 网站为例,url 结构中加入了列表页信息,用户在看到页面的url时,可以方便的判断是什么的列表页。url 结构中还加入了 tutorialpython3 等内容信息,用户可以通过 url 判断将要看到的内容是一篇教程,还是一个教程频道页。


         • URL尽量短,长URL不仅不美观,用户还很难从中获取额外有用的信息。另一方面,短url还有助于减小页面体积,加快网页打开速度,提升用户体验。

           

 例子中的第一个 url,会让用户望而却步,第二个 url,用户可以很轻松的判断是贴吧中关于百度的吧。


         • 正常的动态 url 对搜索引擎没有影响。url 是动态还是静态对搜索引擎没有影响,但建议尽量减少动态 url 中包含的变量参数,这样即有助于减少 url 长度,也可以减少让搜索引擎掉入黑洞的风险 

         • 不添加不能被系统自动识别为url组成部分的字符

          

上面例子中,url 中加入了“;”、“,”等字符,用户在通过论坛、即时通讯工具等渠道推荐这些 url 时,不能被自动识别为链接,增加了用户访问这些网页的困难度。


         • 利用百度提供的 URL 优化工具检查
 百度站长平台提供了 URL 优化工具,可以帮助检查URL对搜索引擎的友好程度并提出修改建议。


利用站长工具

        互联网越来越庞大、复杂,百度为了更好的处理互联网上的信息,提供了一些的面向站长的工具,合理的利用这些站长工具,可以起事半功倍的效果。 

        • 百度站长平台

     登录zhanzhang.baidu.com获取更多帮助信息。


        • Sitemap :

     百度站长平台支持通过 sitemap 提交网站内容。通过 sitemap 可以让百度更全面更快的发现链接,使得收录更有效率。


         • Ping

    Ping 是针对 blog 内容的提交方式,实时通知搜索引擎 blog 上有新内容产生。目前主流的博客程序都支持 ping,您只需要将百度的 ping 服务地址 http://ping.baidu.com/ping/RPC2 加入博客后台并开启 ping 功能即可。


        • 死链删除: 
    百度站长平台支持通过 sitemap 向百度提交网站的死链列表。网站死链过多,不仅影响用户访问体验,也影响百度对网站质量的判断。通过死链删除的接口可以让百度更快更全面的发现网站死链,从而进行有效删除。 

 
    注:提交需要删除的网址后,需要做如下处理,才能被百度有效删除: 

    1、使用 robots.txt 阻止其被抓取; 

    2、或者返回 404 状态码表示当前页面不存在。


        • 站长工具

    -URL优化工具检查


    百度站长平台提供了 URL 优化工具,可以帮助检查 URL 对搜索引擎的友好程度并提出修改建议。

    -网站安全检测    


百度站长平台提供工具检测网站是否被黑并提示站长,帮助修改。


   ♦ 什么是“网站被黑”?    

              网站被黑,是指黑客利用网站的程序、设置等方面的安全漏洞或管理员安全疏忽(如密码复杂度低),未经管理员授权,对网站进行了篡改。


   ♦ 如何处理网站被黑?

    1、分析系统日志、服务器日志,检查自己站点的页面数量、流量等是否有异常波动,是否存在异常访问或操作日志;

    2、检查网站文件是否有不正常的修改,尤其是首页等重点页面;

    3、网站页面是否引用了未知站点的资源(图片、JS 等),是否被放置了外站的异常链接;

    4、检查网站是否有不正常增加的文件或目录;

    5、检查网站目录中是否有非管理员打包的网站源码、未知 txt 文件等。


   ♦ 如何防止网站被黑?

    1、定期检查服务器日志等方式发现问题,检查是否有可疑的针对非前台页面的访问;

    2、经常检查网站文件是否有不正常的修改或者增加;

    3、关注操作系统,以及所使用程序的官方网站。及时下载补丁,修补安全漏洞;必要时建议直接更新至最新版本;

    4、修改开源程序关键文件的默认文件名,作弊者通常通过程序自动扫描某些特定的文件是否存在来判断是否使用了某套程序;

    5、修改默认管理员用户名,提高管理后台的密码强度,使用字母、数字以及特殊符号多种组合的密码;

    6、关闭不必要的服务,以及端口;

    7、关闭或者限制不必要的上传功能;

    8、设置防火墙等安全措施;

    9、若问题反复出现,建议重新安装服务器操作系统,并重新上传备份的网站文件;

    10、缺乏专业维护人员的网站,建议向专业安全公司咨询;快速发现并处理被黑内容,并做好被黑的预防,非常体现一个网站的运营水平。

上述的几点仅仅是初步的参考。做好网站的安全需要站长、管理员们的不断努力。


        • 百度搜索框提示功能   

百度向站长开放免费“百度搜索框”代码和“百度搜索框提示”代码。    


只需进行简单的设置,即可将“百度搜索框(带提示功能)”功能快速加入到您的网页中。提升用户在网站中的搜索体验。 

              


改版/换域名

网站改版、换域名在互联网飞速发展的情况下是不可避免的,但处理不当,会造成重大的流量损失。改版、换域名需要考虑的第一要点就是如何保证老用户不流失,当用户访问旧内容时,能引导用户到新网站上对应的内容,避免出现用户访问不到以前收藏的网页的情况。 

 
我们建议在改版或者换域名时,将旧网页 301永久重定向 到内容对应的新网页,这样百度更容易发现这个转变,并迅速的将旧网页积累的权值传递给对应的新网页。


 其他建议: 

        • 如非必要,不要做整站内容的完全更换 

网站改版或者网站内重要页面链接发生变动时,应该将改版前的页面 301永久重定向 到改版后的对应的页面 

        • 网站更换域名,应该将旧域名的所有页面 301永久重定向 到新域名上对应的页面 

网站更换域名后,维持旧域名能稳定访问尽可能长的时间,给用户多一些时间记忆新域名 

  • 网站改版/更换域名后,请把新的 URL /新域名下的 URL,通过 sitemap 提交给百度,帮助百度更快发现和作出调整。


合理的返回码

  百度爬虫在进行抓取和处理时,是根据 http 协议规范来设置相应的逻辑的,所以请站长们也尽量参考 http 协议中关于返回码的含义的定义来进行设置。


        百度 spider 对常用的 http返回码 的处理逻辑是这样的: 

  • 404
    404返回码的含义是“NOT FOUND”,百度会认为网页已经失效,那么通常会从搜索结果中删除,并且短期内 spider 再次发现这条 url 也不会抓取。

  • 503
    503返回码的含义是“Service Unavailable”,百度会认为该网页临时不可访问,通常网站临时关闭,带宽有限等会产生这种情况。对于网页返回503,百度 spider 不会把这条 url 直接删除,短期内会再访问。届时如果网页已恢复,则正常抓取;如果继续返回503,短期内还会反复访问几次。但是如果网页长期返回503,那么这个 url 仍会被百度认为是失效链接,从搜索结果中删除。 

  • 403
    403返回码的含义是“Forbidden”,百度会认为网页当前禁止访问。对于这种情况,如果是新发现的 url,百度 spider 暂不会抓取,短期内会再次检查;如果是百度已收录 url,当前也不会直接删除,短期内同样会再访问。届时如果网页允许访问,则正常抓取;如果仍不允许访问,短期内还会反复访问几次。但是如果网页长期返回403,百度也会认为是失效链接,从搜索结果中删除。

  • 301
    301返回码的含义是“Moved Permanently”,百度会认为网页当前跳转至新url。当遇到站点迁移,域名更换、站点改版的情况时,推荐使用301返回码,尽量减少改版带来的流量损失。虽然百度 spider 现在对301跳转的响应周期较长,但我们还是推荐大家这么做。


我们建议:

  • 如果站点临时关闭,当网页不能打开时,不要立即返回 404,建议使用 503 状态。503 可以告知百度 spider 该页面临时不可访问,请过段时间再重试。

  • 如果百度 spider 对您的站点抓取压力过大,请尽量不要使用 404,同样建议返回 503。这样百度 spider 会过段时间再来尝试抓取这个链接,如果那个时间站点空闲,那它就会被成功抓取了。

  • 有一些网站希望百度只收录部分内容,例如审核后的内容,累积一段时间的新用户页等等。在这种情况,建议新发内容暂时返回 403,等审核或做好处理之后,再返回正常状态的返回码。

  • 站点迁移,或域名更换时,请使用301返回。


以上内容是否对您有帮助:
在线笔记
App下载
App下载

扫描二维码

下载编程狮App

公众号
微信公众号

编程狮公众号