很多建站系统，在建成网站后，都网站根目录，默认有robots.txt协议文件。在网站优化竞争日益加剧的今天，原本设立之初无优化因素的robots.txt文件也被**化使用，掌握其写法，有备无患。
　　
　 　一：robots.txt协议文件有什么用？
　　
　　搜索引擎访问一个网站的时候，**访问的文件就是robots.txt。她告诉搜索引擎蜘蛛，哪些网站页面可以被抓取，哪些禁止抓取。表面来看，这个功能作用有限。从搜索引擎优化的角度来看，可以通过屏蔽页面，达到集中权重的作用，这，也是优化人员最为看重的地方。
　　
　　以某seo站点为例，其robots.txt文件如图所示：

　　很多建站系统，在建成网站后，都网站根目录，默认有robots.txt协议文件。在网站优化竞争日益加剧的今天，原本设立之初无优化因素的robots.txt文件也被**化使用，掌握其写法，有备无患。 　　 　　一：robots.txt协议文件有什么用？ 　　 　　搜索引擎访问一个网站的时候，**访问的文件就是robots.txt。她告诉搜索引擎蜘蛛，哪些网站页面可以被抓取，哪些禁止抓取。表面来看，这个功能作用有限。从搜索引擎优化的角度来看，可以通过屏蔽页面，达到集中权重的作用，这，也是优化人员最为看重的地方。 　　 　　以某seo站点为例，其robots.txt文件如图所示： 　　 　　robots.txt协议文件展示 　　 　　二：网站设置robots.txt的几个原因。 　　 　　1：设置访问权限保护网站安全。 　　 　　2：禁止搜索引擎爬取无效页面，集中权值到主要页面。 　　 　　三：怎么用标准写法书写协议？ 　　 　　有几个概念需掌握。 　　 　　User-agent表示定义哪个搜索引擎，如User-agent：Baiduspider，定义百度蜘蛛。 　　 　　Disallow表示禁止访问。 　　 　　Allow表示运行访问。 　　 　　通过以上三个命令，可以组合多种写法，允许哪个搜索引擎访问或禁止哪个页面。 　　 　　四：robots.txt文件放在那里？ 　　 　　此文件需放置在网站的根目录，且对字母大小有限制，文件名必须为小写字母。所有的命令**个字母需大写，其余的小写。且命令之后要有一个英文字符空格。 　　 　　五：哪些时候需要使用该协议。 　　 　　1：无用页面，很多网站都有联系我们，用户协议等页面，这些页面相对于搜索引擎优化来讲，作用不大，此时需要使用Disallow命令禁止这些页面被搜索引擎抓取。 　　 　　2：动态页面，企业类型站点屏蔽动态页面，有利于网站安全。且多个网址访问同一页面，会造成权重分散。因此，一般情况下，屏蔽动态页面，保留静态或伪静态页面。 　　 　　3：网站后台页面，网站后台也可以归类于无用页面，禁止收录有百益而无一害。
　　
　　robots.txt协议文件展示
　　
　 　二：网站设置robots.txt的几个原因。
　　
　　1：设置访问权限保护网站安全。
　　
　　2：禁止搜索引擎爬取无效页面，集中权值到主要页面。
　　
　 　三：怎么用标准写法书写协议？
　　
　　有几个概念需掌握。
　　
　　User-agent表示定义哪个搜索引擎，如User-agent：Baiduspider，定义百度蜘蛛。
　　
　　Disallow表示禁止访问。
　　
　　Allow表示运行访问。
　　
　　通过以上三个命令，可以组合多种写法，允许哪个搜索引擎访问或禁止哪个页面。
　　
　 　四：robots.txt文件放在那里？
　　
　　此文件需放置在网站的根目录，且对字母大小有限制，文件名必须为小写字母。所有的命令**个字母需大写，其余的小写。且命令之后要有一个英文字符空格。
　　
　 　五：哪些时候需要使用该协议。
　　
　　1：无用页面，很多网站都有联系我们，用户协议等页面，这些页面相对于搜索引擎优化来讲，作用不大，此时需要使用Disallow命令禁止这些页面被搜索引擎抓取。
　　
　　2：动态页面，企业类型站点屏蔽动态页面，有利于网站安全。且多个网址访问同一页面，会造成权重分散。因此，一般情况下，屏蔽动态页面，保留静态或伪静态页面。
　　
　　3：网站后台页面，网站后台也可以归类于无用页面，禁止收录有百益而无一害。

　　把不想让百度蜘蛛抓取的目录或者页面，写到robots.txt文件里，然后上传到网站根目录就可以了。


杭州seo优化公司提示，转载请注明来自 http://www.0571seo.net/rjxz/166.html

资讯来源：http://www.0571seo.net/  

燃气天然气锅炉耗气量和燃气流量
燃气天然气锅炉耗气量是多少,需要多少燃气流量?我们先来计算燃气天然气锅炉耗气量是多少，这里以1吨燃气锅炉为例。从理论上计算，一吨燃气热水锅炉把水从20度升温到100度，需要标准的天然气68.175立方米;但是由于燃料燃烧还有热损耗，实际上一吨燃气锅炉一小时的耗气量是大约是75.75立方米。 如果是一吨的燃气蒸汽锅炉，算上燃料损耗，一小时的运行消耗标准燃气大概在87.5立方米。 燃气锅炉的耗气量就是是这样计算的，以此类推，...

罗马之恋冰淇淋美味的意式手工冰淇淋
罗马之恋冰淇淋美味的意式手工冰淇淋，为您带来难忘的舌尖体验，味蕾享受，火遍市场，冰淇淋是老少皆宜、人人喜爱的时尚食品。罗马之恋冰淇淋时尚、美味、营养、健康，学生喜欢的奶茶、小资喜欢的咖啡、中年喜欢的五谷养生、白领喜欢的红酒……应有尽有，满足不同人群的消费需求! 罗马之恋冰淇淋，开店灵活性高，可流动、可档口、可店面;火红的生意，稳当时尚老板!流动冰车开店，无需店面租金，投资成本低，资金回笼快;5平米档口开...

宁夏自助回转火锅设备厂家
麻辣烫转转火锅不锈钢传送带餐饮设备麻辣烫转转火锅其“转”是指火锅 与传统的食用方式和就餐环境是不一样的，h是旋转台式的，各种火锅食物 均放在旋转台上，有消费者自主选择，在吃饭的过程中自得其乐，设计的宗 旨就是让顾客吃的舒心吃得快乐。经营火锅店只有新颖的店面、设备是不够 的，重要的还是火锅的风味，根据火锅店哪类的消费者比较多，对主要 消费群体的口味进行调查，再对于火锅底料、汤底进行选择适当的调整。只 真正满...

湖南长沙龙门吊出租厂家告诉您怎样选择省钱
湖南长沙龙门吊|湖南长沙龙门吊出租|湖南长沙龙门吊出租厂家大桥起重梁经理18237336379 每次购买新起重机时不少人都会后悔当初没有足够重视，导致买回来的机器没能发挥**的功效，湖南长沙龙门吊知道，这种问题让无数的工程项目企业的老板**。其实挑选起重机是有一套标准流程的，只要抓住里面的精髓，老板就能省下一大笔钱。 下面湖南长沙龙门吊出租给您分析选择起重机的要求和方法起重机类型应综合考虑下列诸点进行选择 1、结构...

湖北煤泥烘干机高新的品质
煤泥烘干机的环保性能究竟如何 煤泥烘干机环保性能几乎是现在每个行业都要提到的名词，选矿行业也面临着这种问题，今天我们就来讨论讨论煤泥烘干机的环保性能究竟几何。 随着国家和企业逐步加强重视，如今矿山机械设备企业越来越重视**、环保、节能设备的研究，都渐渐的对设备提出了环保要求。建筑垃圾，相信大家都不陌生，它是我们生活中随处可见到的，这也是人们**的地方，而使用煤泥烘干机就能实现对这些垃圾变废为宝，这从...