Meta发布新型网络爬虫程序Meta-ExternalAgent和Meta-ExternalFetcher,突破robots.txt限制,无障碍收集数据以强化AI模型训练。
【Meta发布新型网络爬虫工具,助力AI模型训练】 Meta近日推出了两款新型网络爬虫程序——Meta-ExternalAgent和Meta-ExternalFetcher,旨在从互联网上收集数据,以支持其AI模型的训练。这些工具能够绕过传统的robots.txt规则,实现对数据的无限访问。
【免责声明】本文仅代表作者本人观点,与和讯网无关。和讯网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。邮箱:news_center@staff.hexun.com
最新评论