Robots.txt指南
当搜索引擎访问一个网站时，它首先会检查该网站的根域下是否有一个叫做robots.txt的纯文本文件。Robots.txt文件用于限定搜索引擎对其网站的访问范围，即告诉搜索引擎网站中哪些文件是允许它进行检索(下载)的。这就是大家在网络上常看到的“拒绝Robots访问标准”(Robots Exclusion Standard)。下面我们简称RES。 Robots.txt文件的格式：Robots.txt文件的格式比较特殊，它由记录组成。这些记录通过空行分开。其中每条记录均由两个域组成：
1) 一个User-Agent(用户代理)字符串行；
2) 若干Disallow字符串行。
记录格式为：<Field> ":" <value>
下面我们分别对这两个域做进一步说明。
User-agent(用户代理)：
User-agent行(用户代理行) 用于指定搜索引擎robot的名字，以Google的检索程序Googlebot为例，有：User-agent: Googlebot
一个robots.txt中至少要有一条User-agent记录。如果有多条User-agent记录，则说明有多个robot会受到RES标准的限制。当然了，如果要指定所有的robot，只需用一个通配符"*"就搞定了，即：User-agent: *
Disallow(拒绝访问声明)：
在Robots.txt文件中，每条记录的第二个域是Disallow:指令行。这些Disallow行声明了该网站中不希望被访问的文件和(或)目录。例如"Disallow: email.htm"对文件的访问进行了声明，禁止Spiders下载网站上的email.htm文件。而"Disallow: /cgi-bin/"则对cgi-bin目录的访问进行了声明，拒绝Spiders进入该目录及其子目录。Disallow声明行还具有通配符功能。例如上例中"Disallow: /cgi-bin/"声明了拒绝搜索引擎对cgi-bin目录及其子目录的访问，而"Disallow:/bob"则拒绝搜索引擎对/bob.html和/bob/indes.html的访问(即无论是名为bob的文件还是名为bob的目录下的文件都不允许搜索引擎访问)。Disallow记录如果留空，则说明该网站的所有部分都向搜索引擎开放。
空格 & 注释
在robots.txt文件中，凡以"#"开头的行，均被视为注解内容，这和UNIX中的惯例是一样的。但大家需要注意两个问题：
1) RES标准允许将注解内容放在指示行的末尾，但这种格式并不是所有的Spiders都能够支持。譬如，并不是所有的Spiders都能够正确理解"Disallow: bob #comment"这样一条指令。有的Spiders就会误解为Disallow的是"bob#comment"。最好的办法是使注解自成一行。
2) RES标准允许在一个指令行的开头存在空格，象"Disallow: bob #comment"，但我们也并不建议大家这么做。
Robots.txt文件的创建：
需要注意的是，应当在UNIX命令行终端模式下创建Robots.txt纯文本文件。好的文本编辑器一般都能够提供UNIX模式功能，或者你的FTP客户端软件也“应该”能够替你转换过来。如果你试图用一个没有提供文本编辑模式的HTML编辑器来生成你的robots.txt纯文本文件，那你可就是瞎子打蚊子——白费力气了。
对RES标准的扩展：
尽管已经提出了一些扩展标准，如Allow行或Robot版本控制(例如应该忽略大小写和版本号)，但尚未得到RES工作组的正式批准认可。
附录I. Robots.txt用法举例：
使用通配符"*"，可设置对所有robot的访问权限。
User-agent: *
Disallow:
表明：允许所有搜索引擎访问网站下的所有内容。
User-agent: *
Disallow: /
表明：禁止所有搜索引擎对网站下所有网页的访问。
User-agent: *
Disallow: /cgi-bin/Disallow: /images/
表明：禁止所有搜索引擎进入网站的cgi-bin和images目录及其下所有子目录。需要注意的是对每一个目录必须分开声明。
User-agent: Roverdog
Disallow: /
表明：禁止Roverdog访问网站上的任何文件。
User-agent: Googlebot
Disallow: cheese.htm
表明：禁止Google的Googlebot访问其网站下的cheese.htm文件。
上面介绍了一些简单的设置，对于比较复杂的设置，可参看一些大型站点如CNN或Looksmart的robots.txt文件(www.cnn.com/robots.txt, www.looksmart.com/robots.txt)
- Robots Meta Tag的使用
2007-03-22 15:03:57
Robots META tag用于告诉一个 Web Robot 某一个网页可否被索引以及可否跟踪其页上的链接。该标记元已占据愈来愈重要的位置。而且，它也应用于没有对服务器顶级目录下的 rob...[阅读全文] - 搜索引擎和网站的目录结构
2007-03-22 15:03:58
对一个网站来说，搜索引擎是否会检索其子目录下的网页？譬如对于 /google/archives/000062.html ，搜索引擎是否会索引？敷衍了事的答案是“会”。对一个站点中包含的子目录...[阅读全文] - 桥”页之道！
2007-03-22 15:03:56
作为一个 网站的经营推广 人员，难免要和搜索引擎打交道。我们也知道真正要搜索引擎能为我们带来访问量，需要排名在前。除了正常的丰富内容、经常递交外，我们也知道要修改...[阅读全文] - 如何选择合适的域名
2007-03-22 15:04:00
拥有自己域名的重要性不用过多强调，如果有网上商业，但是还没有域名，那么就会因此而失去很多生意机会。为什么呢？原因很简单，除非有自己的域名，否则客户就不愿意从你那...[阅读全文] - 创建有意义链接人气度链接数
2007-03-22 15:03:55
原著：Dan Thies 编译：Karen 直到目前为止，有许多的站点管理员只知道链接流行度(链接数)是获得 搜索引擎高排名 的一个极其重要的因素。但你们知道吗，有些链接不但不能够...[阅读全文] - 拥有自己的域名的重要性
2007-03-22 15:04:01
我经常听到的一个问题就是“我真的需要有自己的域名吗？”答案只有一个字“是”。如果用免费的虚拟主机服务建立网站，那么所有的好处都是虚拟主机公司的。这里有几个原因来...[阅读全文] - 影响网站排名的一些问题
2007-03-22 15:03:53
1. 我打算改变我的主机提供商，这对我以前的搜索引擎排名有影响吗? 答：这种改变对搜索引擎没有影响，但ISP提供的服务质量有可能影响到网站在搜索引擎中的排名情况，您需要...[阅读全文] - 关于搜索引擎提交的问题
2007-03-22 15:04:02
1、搜索引擎如何才能找到我的站点？这里有三个基本方法可以使你的网站被搜索引擎收录： A. 通过免费提交直接向搜索引擎提交站点。 B. 搜索引擎通过自己网站的链接（比如目...[阅读全文] - SEO写作中五个最常问的问题
2007-03-22 15:03:52
这个星期，我写了5个有关SEO（搜索引擎优化）方面的问题，这是我们最近从搜索引擎优化写作那里得到的，它对品牌经营有一定影响。这5个FAQ里面有很重要的信息，并且对提高品...[阅读全文] - 如何建立网站地图(site map)
2007-03-22 15:04:03
网站地图是一个网站所有 链接 的容器。它为"饥饿"的搜索引擎程序提供食物。网站地图最起码要包括您的主要网页的内容链接或者栏目链接。根据您网站的大小，页面数量的多少，...[阅读全文] - 收费环境下的搜索引擎推广策略
2007-03-22 15:03:51
搞要: 作为新网站推广的重要手段之一，搜索引擎一直发挥着重要作用，是新网站发布之后的首选网站推广方式，并且由于一直是免费登录，搜索引擎为增加网络资源的数量方便用户...[阅读全文] - 框架型网页的优化技巧
2007-03-22 15:04:04
从一开始，框架型网站对于即使是专业的搜索引擎优化也成了一个挑战。是否该用框架技术去设计一个新网页，也已成了大家争论不休的话题。在这篇文章中，我们为你提供了一些基...[阅读全文] - 工具软件:网页减肥茶
2007-03-22 15:03:50
...[阅读全文] - 怎样避免被搜索引擎视为作弊
2007-03-22 15:04:05
一个网站要想成功注册，它起码应具备两个条件，一是网站本身要有较好的内容和设计，二是网站没有作弊行为。这里所谓的“作弊”，是指采用一些特殊的、有悖常规的网页设计手...[阅读全文] - 检查网站的url结构
2007-03-22 15:03:49
...[阅读全文] - 为网站的Web Robot 设计路标
2007-03-22 15:04:06
Internet越来越酷，WWW的知名度如日中天。在Internet上发布公司信息、进行电子商 务已经从时髦演化成时尚。作为一个Web Master，你可能对HTML、Javascript、Java、 ActiveX...[阅读全文] - 关键字备忘 [10.11-11.2]
2007-03-22 15:03:48
www.wuyue.cn qbnet.cn.alibaba.com www.admin5.com/google 前阶段关键字排名 www.wuyue.cn 窗 帘: 83-357-355-357 -0 -358 -323-301-2870 -194 -66 卷 帘: 17-195-193-194...[阅读全文] - HTML文档中小meta的大作用
2007-03-22 15:04:07
meta是用来在HTML文档中模拟HTTP协议的响应头报文。meta 标签用于网页的＜head＞与＜/head＞中，meta 标签的用处很多。meta 的属性有两种：name和http-equiv。name属性主要...[阅读全文] - 关键字备忘 [11.8- ]
2007-03-22 15:03:46
我的想法,是优化的站点与未作优化的站在google中排名更新情况的观察 www.admin5.com/google www.wuyue.cn qbnet.cn.alibab.com www.admin5.com/google 搜索引擎 google排名...[阅读全文] - 搜索引擎排名算法新趋势
2007-03-22 15:04:08
众所周知， GOOGLE 的 PAGERANK 集页面关键词关联度（TITLE, HEADING, DESCRIPTION, ANCHOR TEXT, ALT TAG, CONTENT, KEYWORD DENSITY/PLACEMENTS, PAGESIZE）和 链接 普遍...[阅读全文]
资讯中心精华推荐
- [博客运营] 各种漂亮的鼠标URL代码
- [搜索优化] 没有放之四海皆准的SEO技巧
- [搜索优化] 搜索引擎关键词排名优化知识完全手册
- [搜索优化] Title的写法
- [搜索优化] 百度封什么样的网站?兼谈初级SEO办法
- [搜索优化] Google排名的三大关键
- [JavaScript] ie里window的method列表
- [JavaScript] 让弹出窗口变得“体贴”一些
- [JavaScript] 点一下，首页地址添加到收藏夹
- [系统DIY] Windows操作系统十三例安装技巧
- [系统DIY] 实现Win98、WinNt、Win2000互相访问Fat32 N
- [系统DIY] Windows 罕见技巧全集大放送
- [系统DIY] 重装Windows后LILO被覆盖的解决办法
