通过网站后台，点配置–》开发者选项–》自定义文件–》添加，即可进行设置

常见的几种规则写法

1.允许访问，允许访问其实不需要设置规则，没有规则就是默认欢迎所有搜索引擎

User-agent: *

Allow:

2.禁止所有SE收录本站：

User-agent: *

Disallow: /

3.禁止Google收录本站：

User-agent: googlebot

Disallow: /

4.禁止某个目录被收录：

User-agent:*

Disallow: /cgi-bin/