百度与360公司爬虫机器人不正当竞争纠纷案，又被称为Robots协议案，是中国搜索领域爬虫机器人竞争第一案，该案关系互联网行业尤其是搜索引擎的基本游戏规则而广泛被业界、政府和网民关注。8月7日，该案宣判，北京市第一中级人民法院驳回了百度有关不正当竞争的诉求，表明百度单方面利用歧视性Robots协议打击竞争对手的行为不会被公众和法庭所支持，而360则可以继续抓取百度的内容网站。

据悉，Robots协议由荷兰籍网络工程师Martijn Koster于1994年首次提出，是一个被放置在网站中的.TXT文件，为搜索引擎爬虫做出提示，设置允许与不允许两种语句，网络爬虫据此“自觉地”抓取或者不抓取该网页内容。Robots协议的目的，是为了保障著作权、保护个人隐私，尽可能地让互联网健康发展。

虽然名为“协议”，但Robots协议只是行业惯用的说法。它既不是法律意义上的协议，也不是国际组织采纳的标准，因此不受任何机构保护。而百度的Robots协议的特别之处，在于其白名单机制——允许除360之外的搜索引擎访问百度网站，这种白名单在全球是绝无仅有的。

“从百度对360的诉讼来看，有不公平竞争之嫌。”知名IT人士于刚表示，把Robots协议的作用强调于奇虎360身上，而自己却在抓取其他搜索引擎内容或网站里的视频、音乐文件时忽视Robots协议。这样的行为，并非Robots协议初衷。

己所不欲勿施于人，为何百度在robots协议面前，采用两套做法？答案很简单，打击和 堵直接竞争对手360搜索的自由发展。

业内人士分析，360的产品一向以迅速扩张著称，当年白手起家的安全产品如此，今日拥有几亿用户并有入口优势的360更不容小觑。而搜索，是百度的根本，百度不会坐以待毙，眼看着搜索市场被360分割。

据庭审资料显示，谷歌退出中国市场前，国内的搜索引擎市场百度占到60%，谷歌占到20%。在谷歌退出中国市场后，百度占到了80%的市场。2012年8月16日，360正式推出搜索引擎，并在上线6天后，占据中国搜索市场10%的份额，成为仅次于百度的第二大搜索流量来源。至2013年9月，百度的市场份额从81.49%直线下降到63.14%，而360搜索则占到了19.04%。

所以，为了反制360，百度迅速采取了措施，将所有来自360搜索的用户请求跳转至百度首页，用户需要二次点击才能得到搜索的结果。另一方面，便是在百度知道、百科、贴吧等产品在Robots文件中禁止360搜索抓取索引。根据用户协议，这些内容的版权并不归属于百度，而是归生产和制造这些内容的用户所有。

即使是百度公司的专家证人，也在庭审中表示设置Robots协议一是从技术角度，避免网站服务器被攻击瘫痪；二是从内容角度，避免用户留在其他网站而不到自己的网站浏览。对于限制搜索引擎抓取应有的行业公认合理的正当理由，百度专家证人也说不出来。