点击添加图片描述（最多60个字）
一、robots文件是什么?
这个文件是一种协议,所有的搜索引擎蜘蛛进入网站的时候第一个访问的便是这个文件，详细的浸染便是用来自由设置哪些文件可以抓取，哪些不能抓取。
二、robots文件设置的格式：
User-agent：定义搜索引擎的类型;
Crawl-delay：定义抓取延迟;
Disallow：定义禁止搜索引擎收录的地址;
Allow：定义许可搜索引擎收录的地址;
三、robots给我们网站带来什么好处?
1.可以制止不必要的搜索引擎占用做事器的宝贵带宽，例如，E-MAIL这类搜索引擎对大多数网站是没故意义的;再有像image strippers，对付大多数非图形类网站来说也没有太大的意义，但是却耗用了大量的带宽。
2.网站优化切忌的便是重复页面，但是不少人没有重视，现在的主流网站程序都很随意马虎自动产生一些没用的页面，比如缓存页面，搜索页面，等等，这些页面内容每每和主体内容相重复，而且没有什么用，如果被蜘蛛抓到，那么对网站排名会有非常严重的负面影响。
点击添加图片描述（最多60个字）
3.可以大大的增强蜘蛛网站的爬取效率，帮助搜索引擎理解哪些才是网站最主要的内容，不再摧残浪费蹂躏到其它的那些无用的页面上。
4.可以制止搜索引擎对非公开页面的爬行与索引，如网站的后台程序、隐私页面、图片目录、管理程序，事实上，对付某些在运行中面临页面的网站来说，如果没有配置robots协议，搜索引擎乃至会索引那些临时文件。
5.搜索引擎喜好原创内容，而这一方面并不是单单是指文章的原创度，另一方面网站模板的原创度也是非常主要的评分点，以是如果自己网站的模板不是原创，最好要屏蔽css目录和模板目录。
以是，我们做好robots.***协议就能让搜索引擎能够很好地抓取我们的网站，关于网站SEO优化的展开是非常有利的，robots协议可以保护网络安全，以免网络陷入混乱的状态，可以在信息多元化的时期为网络传播保驾护航。
