某网站禁止百度蜘蛛索引所有网页，以下robots.txt文件正确的是：（）

[单选题]在为禁止搜索引擎抓取网页设计的Robots.txt文件中，哪些指令标示禁止抓取（）A .AllowB .DisallowC .nofollowD .noindex

[单选题]Robots.txt文件是搜索引擎抓取网站第一个需要查看的文件，网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。在www.domain.com中，如禁止所有搜索引擎程序抓取www.domain.com/A下所有内容，Robots文件应如何设置？（）A . "User-agent：*Disallow：/A"B . "User-agent：Allow：/A"C . "User-agent：Disallow：/"D .

[问答题] 什么是robots.txt？

[单选题]robots.txt的作用是（）。A . 禁止搜索引擎蜘蛛抓取特定URLB . 给搜索引擎蜘蛛提供网站地图文件C . 以上都对

[单选题]Robots.txt有什么作用（）A . 使搜索引擎不能访问网站B . 使百度不能访问网站C . 使google不能访问网站D . 控制搜索引擎访问网站

[问答题] 你怎样使用robots.txt？

[多选题] robots.txt支持的代码为（）。A . AllowB . DisallowC . sitemapD . nofollow

[单选题]robots.txt不支持的代码为（）A .AllowB .DisallowC .Crawl-delayD .noindex

[判断题] Yahoo!、网易、搜狐、百度都是搜索引擎，通过它们几乎可以查找到所有的网站。A . 正确B . 错误

[多选题] 关于网站不被百度收录原因，以下哪些说话是正确的？（）A . 与被惩罚的网站交换友链B . 网站不能正常访问C . 同IP网站有被降权D . 用黒帽SEO优化技术