Meta:推出绕过robots.txt规则的网络爬虫程序

2024-08-21 22:03:15 自选股写手 

快讯摘要

Meta发布新型网络爬虫程序Meta-ExternalAgent和Meta-ExternalFetcher,突破robots.txt限制,无障碍收集数据以强化AI模型训练。

快讯正文

【Meta发布新型网络爬虫工具,助力AI模型训练】 Meta近日推出了两款新型网络爬虫程序——Meta-ExternalAgent和Meta-ExternalFetcher,旨在从互联网上收集数据,以支持其AI模型的训练。这些工具能够绕过传统的robots.txt规则,实现对数据的无限访问。

(责任编辑:张晓波 )

【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com

写评论已有条评论跟帖用户自律公约
提 交还可输入500

最新评论

查看剩下100条评论

热门阅读

    推荐阅读