web基础蜘蛛网页文章采集器，英文名称Fast_Spider，属于蜘蛛爬虫类程序，用于从指定网站采集海量精华文章，将直接丢弃其中的垃圾网页信息，仅保存具备阅读价值和浏览价值的精华文章，自动执行HTM-TXT转换。本软件为绿色软件解压即可使用。

web基础蜘蛛网页文章采集器特点如下： (1)本软件采用北大天网MD5指纹排重算法，对于相似相同的网页信息，不再重复保存。 (2)采集信息含义：［［HT］］表示网页标题，［［HA］］表示文章标题，［［HC］］表示10个权重关键字，［［UR］］表示网页中的图片链接，［［TXT］］之后为正文。 (3)蜘蛛性能：本软件开启300个线程来保证采集效率。通过采集100万精华文章来执行压力测试，以普通网民的联网计算机为参考标准，单台计算机可以在一天内遍历200万网页、采集20万精华文章，100万精华文章仅需5天就可采集完毕。 (4) 正式版与免费版的区别在于：正式版允许将采集的精华文章数据自动保存为ACCESS数据库。 web基础蜘蛛网页文章采集器操作步骤 (1)使用前，必须确保你的计算机可以连通网络，且防火墙不要拦截本软件。 (2)运行SETUP.EXE和setup2.exe，以安装操作系统system32支持库。 (3)运行spider.exe，输入网址入口，先点"人工添加"按钮，再点"启动"按钮，将开始执行采集。 web基础蜘蛛网页文章采集器使用注意 (1)抓取深度：填写0表示不限制抓取深度；填写3表示抓到第3层。 (2)通用蜘蛛模式与分类蜘蛛模式的区别：假定网址入口为“http://youxi.baidu.com/”，若选择通用蜘蛛模式，将遍历“baidu.com”里面的每一个网页；若选择分类蜘蛛模式，则只遍历“youxi.baidu.com”里面的每一个网页。 (3) 按钮“从MDB导入”：网址入口从TASK.MDB中批量导入。 (4)本软件采集的原则是不越站，例如给的入口是“http://youxi.baidu.com/”，就只在百度站点内部抓取。 (5)本软件采集过程中，偶尔会弹出一个或数个“错误对话框”，请不予理会，倘若关闭“错误对话框”，采集软件就会挂掉。    以上就是本篇文章【网站采集软件，全自动网站文章采集器，一键网页数据抓取】的全部内容了，欢迎阅览 ！ 文章地址：http://xiaoguoguo.dbeile.cn/quote/649.html 
     行业      资讯      企业新闻      行情      企业黄页      同类资讯      网站地图      返回首页 多贝乐移动站 http://xiaoguoguo.dbeile.cn/mobile/ , 查看更多