百独托管7500 紫田网络超高转化播放器收cps[推荐]速盾CDN 免实名免备防屏蔽阿里云 爆款特卖9.9元封顶提升alexa、IP流量7Q5团队
【腾讯云】中小企福利专场【腾讯云】多款产品1折起高防 随时退换 好耶数据小飞国外网赚带你月入万元炎黄网络4H4G10M 99每月
香港带宽CN2/美国站群优惠中客数据中心 服务器租用联盟系统移动广告平台 中易企业专场腾讯云服务器2.5折九九数据 工信部正规资质
腾讯云新用户大礼包代金券高价收cpa注册量高价展示【腾讯云】2核2G/9.93起租服务器找45互联 随时退换阿里云 短信服务 验证秒达

[落伍原创] bbsgood spider通用蜘蛛采集器 全网落伍首发....... [复制链接]
查看:44407 | 回复:64

3867

主题

5万

帖子

1万

积分

落伍者(四季发财)

自己理解

Rank: 4

贡献
2784
鲜花
1207
注册时间
2009-9-18

落伍手机绑定

发表于 2013-4-15 14:37:06 | 显示全部楼层 |阅读模式 来自 中国福建漳州
本帖最后由 logo设计专家 于 2013-4-15 15:49 编辑





产品名称:BBSGood.Spider (BBSGood蜘蛛采集系统) 全免费

当前版本:v1.0.0.1

软件版权:BBSGood 所有

作者:小糊涂神 QQ38958768

授权形式:完全免费
下载地址 http://www.bbsgood.com/down/spider.rar
技术支持 交流论坛:http://bbs.bbsgood.com/list_51.html

开发背景:
相信早期做网赚的人都用过一个生成HTML的纯静态论坛程序bbsgood...作者小糊涂神也是鱼的老乡......





几乎所有做站的站长,都会碰到内容更新与维护的问题,我前一段时间一直在想,自己做一个网站,要是内容能自动更新就好了,我从其它地方下载试用了几个采集器,都没有满意我的要求,我希望有以下特点:
     
    1.使用简单直观:大部分采集器下载后,其规则的设定,使用非常复杂,很多站长连概念都很难理解,使用困难。所以我们开发的采集软件使用上一定要简单,符合普通人简单的逻辑思维。

    2.能不断的循环自动采集,自动更新内容。我希望尽量不用人工值守,其规则设定后,点击开始采集,就自动探测对方的网站,只要对方网站有内容更新,立马采集过来,自动更新上去。

    3.如果我的采集系统不是在服务器上运行,在自己的电脑上运行,要求采集过来的图片和数据能同步上传到我们的服务器。数据库不用说了,mssql和mysql都可以远程连接。但图片也能通过ftp同步到相关的目录,这样即使没有独立服务器的站长,也能在自己的电脑上,也能自动更新他的网站了。

    4.支持html代码的过滤和内容的替换,这一点不用说了。比如采集过来的文章里可能和对方网站的域名,名称等内容,需要替换成你自己的。有广告代码在内容里需要过滤等。

    5.支持不同编码和数据库的网站,这一点主要是为了所有的站长都能兼容使用这个采集器,另外数据库的名称,表,字段等都可以自己设定。比如标题和内容你想存入哪个表,哪个字段,自己设定,另外除了表和内容,其它字段可以设定初始化内容。这样几乎所有的网站,不同的网站程序都能使用这个采集器了。

    6.无需安装,完全绿色。

    我的希望是,只要设定好规则,开在哪里,就永远自动更新你的网站了,不是起早摸黑的更新内容了。


使用方法:

    1.里面含有二个文件,一个是spider.exe,另一个是db1.mdb,还有一个是test.mdb。spider.exe是采集主程序。db1.mdb是数据库,用来存放你设定的规则。test.mdb是默认用来存放试采集的数据。点击 spider.exe 这个文件,打开采集系统,点击上面的新建项目,就可以设定你的第一个采集目标,我们对每一个采集对方的一个目标,称为一个采集项目。

    2.现在我来介绍一个这个界面,最上面部分是按钮功能区,下面左侧显示的都是你新建的所有项目,项目列表里有三个字段,分别是,编号,项目名称和状态,注意,只有状态为有效的项目才能采集,而要让项目有效,必须经过,测试采集,测试采集成功的项目,才为有效的。右边是采集状态区,状态有二种,采集内容的状态和ftp将图片同步到你的服务器的状态。左边最底下,还有一些有项目管理的按钮,比如删除项目,导出,导入,复制等。

    3.现在我们先来学习,如何新建一个项目,在我们的采集里有一个默认的项目设定例子,供你参考学习:
      (1).点击新建项目,弹出新建窗口,输入项目名称,选择对方网站的编码,如何知道对方网站的编码,请打开对方网页的页面,在浏览器里右键点击,查看源码,在<meta http-equiv="Content-Type" content="text/html; charset=gb2312" />类似的语句中,查看是什么编码,像这个就是gb2312了,注意gbk的网站也选择gb2312,这个兼容的。至于自己网站是什么编码,你自己应该清楚了。 填入要采集的列表网址,这里要注意,如果你要采集的列表要好几页,那么页面就填{$ID},如果只采一页,就直接填这一页的网址了。在列表分页面填从第几页采集到第几页,如果只有一页,那么全部是1。后面如果打勾是否倒序采集,那么采集会从最后一页开始采集到第一页。最后是要采集的这个列表开始和结束部分,查看刚才对方网站的源码,把你需要采集的列表,开始和结束部分的唯一特征代码,填上去(这个可能有点难度,注意多多测试,不懂的到论坛上交流)。
      (2).点击下一步,是设定链接,我们需要将列表的,要采集的文章链接地址给取出来,注意,如果对方网站是相对地址,你可以设定链接重定向,如果是绝对地址,那么链接重定向就不用填了。

      (3).再点下一步,这是该设置文章标题和内容的,注意内容开始和结束分别可以填五项,这是因为网站内容部分的特征码寻找非常困难,同一个网站不同的内容会出现不同的特征码,所以我们可以填写最多五个,另外,这几个特征码的按12345的顺序寻找。

      (4).分页设置,文章很多时候也会分很多页,先设置分页链接部分的开始和结束特征码,然后,将分页的链接取出。分页的内容和前面一步采集。另外,你还可以选择从分页的第几页开始采,默认是1。

      (5).图片下载和标签过滤设置,如果你需要将文章中的图片下载下来并替换成本地图片的链接,而不是盗链对方网站,请打勾将图片下载到本地。如果你需要将下载的图片加入自己的水印,则填写水印图的图片绝对地址和文件名。选择需要水印的图片扩展名,填写排除图片水印的图片大小要求。选择水印位置,另外请填写图片保存的相对路径和绝对路径,这里特别要注意,相对路径,就是你保存图片的目录,比如,你将图片保存在网站的upload目录下,那么就填写/upload,绝对路径就很好理解了,比如如果在upload目录下,那么就填写这个目录的完全路径,D:\wwwroot\upload,相对路径不要填错了,因为这个位置的链接到替换原来的图片链接地址。也就是,相对路径的目录位置同时也是绝对路径的位置(如果本软件不是在服务器上运行的,是通过ftp同步到服务器上面,那么本地的图片存储位置可以与相对路径不一至,因为相对路径就是针对服务器上的存储链接位置,而绝对路径是用来存储下载下来的图片位置。) 另外你可以设置要过滤的标签,比如有些内容中的广告是用script代码来调用的,你可以选择它过滤掉。

      (6).这一步是用来设置文字替换的,可以对文章内容的文字替换掉。下面是FTP设置,如果你在前一步选择了将图片下载到本地,同时本软件不是在服务器上运行的,那么需要设置ftp,用ftp功能将图片同步上传到你上一步图片设置的相对目录中。同时填写上传图片的相对位置和上一步图片设置的相对路径是一至的,注意前面不需要加/了,是upload而不是/upload了。

      (7).这是最后一步了,是设置采集的内容存储在什么数据库中,先选择你网站的数据库类型,然后填写数据库地址,帐号和密码,注意access数据库不需要填写数据库名称和帐号。点击测试连接,提示成功就ok了。然后填写表名称,就是你这个内容要存储到数据库的哪个表中。最下面是填写字段了,你想把对应的标题和内容存储到什么字段中,注意,$title$表示标题,$body$表示内容,其它字段的初始化值,你可以按实际情况填写,比如 1,boardid表示默认在boardid字段中,填1。每个设置用|隔开,比如$title$,subject|$body$,text|2,boardid,前面表示将标题存储到subject字段,将内容存储到text字段,将2这个常量存储到boardid字段。在bbsgood论坛中,boardid表示版块号,也就是说,将采集的内容存储到boardid为2的这个分类中。设置完后,请一定要点一下测试字段,查一下是否设置有错。点击完成。

    4.好了,上面我们介绍了如何新建一个项目,建立完后,这个项目名称会显示在左边的项目列表中,如果双击项目名称,我们可以对这个项目进行编辑,新项目创建完成,首先要做的就是做采集测试。在列表中,选择你要测试的项目,然后,点击测试采集,点击,开始测试采集,如果采集的标题和内容没有异常,就通过测试,可以开始正式采集,如果有异常,就双击项目名称,进行编辑修改。

    5.正式采集,在项目列表中,对需要采集的项目进行打勾,然后点击开始采集,就开始了。注意,上面还有一个,是否对所有项目循环采集,如果对它进行打勾,那么采集就永远不会停止了,除非你手工点击,停止采集,如果你想对打勾的项目,只采集一遍,就不要打勾了。如果你需要对所选的项目进行不停的采集,就打勾吧,循环采集有一个好处,就是系统不停的在对对方网站进行检测,有没有新的文章,如果发现新文章,就马上自动采集过来了,你晚上睡觉不关电脑,也自动在更新了。特别注意一点,就是你对新项目第一次采集的时候,可以在列表中,选择了采集很多页,这样对方网站的内容就全部过来了,但是在以后的循环采集中,就选择只采一页列表就可以了,这样他就只针对第一页最新的内容在不停的检测有没有新文章,提升了采集性能,也就是说当对方网站所有内容都采集过来以后,后面对这个网站的更新采集,只选择一页列表就可以了,双击项目编辑,列表分页从第1到第1页。

    6.在采集的过程中,右边的状态在不停的提醒的,还有如果选择了ftp同步图片,ftp的状态也会在上面显示,注意图片是否上传完,请看看状态里面,还需要上传多少张图片,因为采集可能完成了,但图片还可能还没有上传完,就先不要关闭系统。直到提示还需要上传0张图片为止,另外提示上传失败的图片,系统会自动补传的。

    7.左下角还有几个功能按钮,你可以先选中需要操作的项目,然后点击,删除,导入,导出,复制等,注意,导出和复制只能选择一个项目进行操作。



结束语:
    感谢你使用本系统,本系统是完全开放免费的,为了更好的对这个项目进行发展,请你对使用中的问题和自己的心得,发在我们的论坛上,我们会不停的改进这个系统。

因为是首个版本 如果发现使用中出现什么问题可以到官方论坛发贴,我们会及时修复http://bbs.bbsgood.com/list_51.html


单选投票, 共有 12 人参与投票
8.33% (1)
91.67% (11)
您所在的用户组没有投票权限

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

评分

参与人数 4积分 +2 鲜花 +4 收起 理由
望江汉 + 1 落伍有你更精彩!
兰芝荣 + 1 落伍有你更精彩!
一站成名 + 2 + 1 感谢分享!向楼主学习。
疼训扣扣 + 1 来个使用说明吧,比如通配标签什么的。。。

查看全部评分

LOGO设计 50元 微信amwdhqc 暗号mjj
回复

使用道具 举报

头像被屏蔽

4

主题

58

帖子

54

积分

落伍者(一心一意)

Rank: 1

贡献
8
鲜花
0
注册时间
2005-12-29
发表于 2013-4-16 10:30:02 | 显示全部楼层 来自 中国北京
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽
回复

使用道具 举报

286

主题

1万

帖子

5467

积分

落伍者(三羊开泰)

哥的服务好

Rank: 3Rank: 3

贡献
4864
鲜花
10
注册时间
2009-11-11

QQ绑定落伍手机绑定

发表于 2013-4-15 14:37:51 | 显示全部楼层 来自 中国江西南昌
你可以把代发去掉...。
江西电信/江西双线 服务器特价200元/月。
虚拟主机、云主机买一年送半年
QQ:86204687
回复

使用道具 举报

1797

主题

1万

帖子

1万

积分

落伍者(四季发财)

哥哥(请读第二声)

Rank: 4

贡献
28
鲜花
306
注册时间
2011-8-6

技术小组

发表于 2013-4-15 14:39:01 | 显示全部楼层 来自 中国广东深圳
到底是代发还是首发,代发的话不给高亮

点评

你不高亮鱼也会来高亮的,作者是鱼的基友  发表于 2013-4-15 14:45
作者授权首发  发表于 2013-4-15 14:42
回复

使用道具 举报

15

主题

1048

帖子

2678

积分

落伍者(两全齐美)

Rank: 2

贡献
3143
鲜花
2
注册时间
2007-3-17

QQ绑定

发表于 2013-4-15 14:40:13 | 显示全部楼层 来自 中国广东梅州
钻石广告位招租
回复

使用道具 举报

232

主题

2733

帖子

1211

积分

落伍者(两全齐美)

Rank: 2

贡献
86
鲜花
51
注册时间
2012-3-14

落伍手机绑定

发表于 2013-4-15 14:41:23 | 显示全部楼层 来自 中国北京
后排支持!~
回复

使用道具 举报

32

主题

1万

帖子

1万

积分

落伍者(四季发财)

Rank: 4

贡献
5958
鲜花
20
注册时间
2005-12-10

落伍者落伍手机绑定

发表于 2013-4-15 14:41:32 | 显示全部楼层 来自 中国浙江杭州
不错,支持
回复

使用道具 举报

80

主题

2597

帖子

2930

积分

落伍者(两全齐美)

Rank: 2

贡献
1165
鲜花
7
注册时间
2012-1-1
发表于 2013-4-15 14:41:42 | 显示全部楼层 来自 中国江苏镇江
等程序上传
棕刚玉点焊机联轴器[url=http://www.ydzgy.com]棕刚玉[/u
回复

使用道具 举报

2047

主题

2万

帖子

3万

积分

落伍者(四季发财)

不关我事,我是打魚的

Rank: 4

贡献
1599
鲜花
316
注册时间
2006-6-21
发表于 2013-4-15 14:48:07 | 显示全部楼层 来自 中国河南南阳
虽然不知道怎么用,但觉得楼主很牛逼的样子
与人奋斗,其乐无穷! 邓州社区http://www.dengzhou.org
回复

使用道具 举报

572

主题

1万

帖子

6963

积分

落伍者(三羊开泰)

Rank: 3Rank: 3

贡献
1424
鲜花
57
注册时间
2005-3-21

落伍手机绑定

发表于 2013-4-15 15:05:26 | 显示全部楼层 来自 中国广东深圳
虽然不知道怎么用,但觉得楼主很牛逼的样子
回复

使用道具 举报

2089

主题

2万

帖子

1万

积分

落伍者(四季发财)

低调的狼

Rank: 4

贡献
3060
鲜花
286
注册时间
2006-8-17

QQ绑定落伍者落伍手机绑定

发表于 2013-4-15 15:08:43 | 显示全部楼层 来自 中国山东济南
前面 排名
我发的帖不代表我的观点,仅供娱乐~~
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

论坛客服/商务合作/投诉举报:2171544 (QQ)
落伍者创建于2001/03/14,本站内容均为会员发表,并不代表落伍立场!
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论!
落伍官方微信:2030286 邮箱:(djfsys@gmail.com|tech@im286.com)
© 2001-2014

浙公网安备 33060302000191号

浙ICP备11034705号 BBS专项电子公告通信管[2010]226号

  落伍法律顾问: ITlaw-庄毅雄

手机版|找回帐号|不能发帖?|Archiver|落伍者

GMT+8, 2024-11-22 09:54 , Processed in 0.282735 second(s), 46 queries , Gzip On.

返回顶部