百独托管7500 紫田网络超高转化播放器收cps[推荐]速盾CDN 免实名免备防屏蔽阿里云 爆款特卖9.9元封顶提升alexa、IP流量7Q5团队
【腾讯云】中小企福利专场【腾讯云】多款产品1折起高防 随时退换 好耶数据小飞国外网赚带你月入万元炎黄网络4H4G10M 99每月
香港带宽CN2/美国站群优惠中客数据中心 服务器租用联盟系统移动广告平台 中易企业专场腾讯云服务器2.5折九九数据 工信部正规资质
腾讯云新用户大礼包代金券高价收cpa注册量高价展示【腾讯云】2核2G/9.93起租服务器找45互联 随时退换阿里云 短信服务 验证秒达

[其它内容] 通过Haskell采集人文地理相关数据 [复制链接]
查看:155 | 回复:1

1477

主题

1656

帖子

9

积分

落伍者(一心一意)

Rank: 1

贡献
685
鲜花
0
注册时间
2016-6-22

落伍者落伍微信绑定落伍手机绑定

发表于 2023-11-13 15:30:02 | 显示全部楼层 |阅读模式 来自 中国江苏淮安
华科云商丑图.jpg
在日常生活中,我们需要统计一些人文地理相关的数据,一条一条人工去收集显然非常困难,而且不现实。那么今天,我就试着用Haskell写一个采集统计数据的程序,测试了一下速度不错,稳定性还不确定,至少目前没有什么问题,一起来看看吧。

```haskell

import Network.HTTP

import Network.HTTP.Conduit

import Data.Text (Text)

import Data.Aeson (decode, Value(..))

import Data.List (head)

-- 网页代理信息

proxyHost = "duoip.cn"proxyPort = 8000

-- 网页URL

url = "http://www.stats.gov.cn/tjsj/tjbz/gkpcpd/"

-- 使用HTTP库发送GET请求,获取网页内容

response = httpGet (Proxy $ ProxyTypeHTTP $ ProxyConnect $ Just (proxyHost, proxyPort)) url

-- 将响应内容解码为Text

html = responseBody response

-- 使用BeautifulSoup解析HTML内容

import TextBS

bs :: BeautifulSoup String

bs = parseHTML html

-- 找到所有的标题标签(H1, H2, H3, H4, H5, H6)

headings :: [BeautifulSoup String]

headings = findAllByTag bs ("h1" :: [Tag])

-- 输出第一个标题

print $ head headings

```

这个程序只是一个基本的采集示例,实际的网页可能需要更复杂的解析。此外,爬虫需要遵守网站的相关协议,并尊重网站的版权和隐私政策。在使用网络爬虫时,应该始终尊重他人的权利,避免对网站造成不必要的负担。如果你需要爬取特定网站的数据,最好先联系网站的管理员,了解他们的使用政策和限制。
企业专线拨号VPS动态IP派克斯ADSL本地拨号,联系QQ174629754
回复

使用道具 举报

552

主题

1277

帖子

15

积分

落伍者(一心一意)

Rank: 1

贡献
1417
鲜花
0
注册时间
2017-10-11

落伍手机绑定落伍者

发表于 2023-11-14 10:30:59 | 显示全部楼层 来自 中国重庆
感谢楼主分享


重庆污水处理设备[url]http://www.cqcfjd.com/[/url]
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

论坛客服/商务合作/投诉举报:2171544 (QQ)
落伍者创建于2001/03/14,本站内容均为会员发表,并不代表落伍立场!
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论!
落伍官方微信:2030286 邮箱:(djfsys@gmail.com|tech@im286.com)
© 2001-2014

浙公网安备 33060302000191号

浙ICP备11034705号 BBS专项电子公告通信管[2010]226号

  落伍法律顾问: ITlaw-庄毅雄

手机版|找回帐号|不能发帖?|Archiver|落伍者

GMT+8, 2024-11-26 22:46 , Processed in 0.075089 second(s), 35 queries , Gzip On.

返回顶部