ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

百度百科大动作!屏蔽谷歌必应,防内容被抓取训练AI?

时间:2024-08-22 11:22:35来源:ITBEAR编辑:瑞雪

【ITBEAR】8月22日消息,近期,有报道指出,百度百科采取了新措施,对谷歌、必应等众多搜索引擎实施了屏蔽策略,此举被推测是为了防止这些搜索引擎及其他爬虫未经授权抓取其内容用于人工智能训练。

根据百度百科的robots.txt文件显示,目前仅有几个搜索引擎被授权可以抓取其内容,包括百度搜索、搜狗搜索、中国搜索(Chinaso)、YYSpider以及宜搜搜索(EasouSpider)。

据ITBEAR了解,谷歌搜索、必应搜索、微软MSN、UC浏览器的Yisouspider以及其他所有搜索引擎爬虫均被明确禁止访问百度百科的内容。尽管360搜索并未在封禁名单中单独列出,但由于百度百科的策略是禁止所有非白名单爬虫,因此360搜索和其他搜索引擎同样受到了屏蔽。

然而,这种屏蔽措施或许只能阻挡一部分访问,仍有许多爬虫可能会通过其他方式继续抓取内容并用于AI训练。

更多热门内容
东方甄选遭江小白起诉,主播言论引争议:江小白不算白酒?
针对消费者对其产品的质疑,江小白官方于8月28日发布了一份回应声明。声明表示该公司于2023年11月23日取得了纯粮固态认证证书,其产品线中的48款产品全部符合认证要求。 此外,该公司还表示将持续改进工艺与…

2024-09-13

华为哈勃出手!烯晶半导体获投,新能源领域又将掀起何种风浪?
证券时报e公司讯,企查查APP显示,近日,苏州烯晶半导体科技有限公司发生工商变更,新增华为旗下深圳哈勃科技投资合伙企业(有限合伙)为股东,公司注册资本由约1053.33万元增至约1127.07万元,同时新增…

2024-09-13