有何样「神奇」的数额拿到格局?

大数据时期,用数码做出理性分析鲜明更压实劲。做多少解析前,可以找到合适的的数据源是一件格外关键的政工,获取数据的方法有不少种,不必局限。上面将从公开的数据集、爬虫、数据收集工具、付费API等等介绍。给我们推荐一些力所能及用得上的多少拿到形式,后续也会没完没了补充、更新。

一 、公开数据库

1.常用数据掌握网站

UCI:经典的机械学习、数据挖掘数据集,包罗分类、聚类、回归等题材下的多个数据集。很经典也比较古老,但照样活跃在科研专家的视线中。

国家数据:数据来自中夏族民共和国国家总计局,包蕴了本国经济惠农等多少个地点的数据,并且在月度、季度、年度都有覆盖,周密又高于。

CEIC:最完整的一套当先128个国家的经济数据,能够规范查找GDP、CPI、进口、出口、外资一贯投资、零售、销售以及国际利率等深度数据。其中的“中国经济数据库”收编了300,000多条时间种类数据,数据内容涵盖宏观经济数据、行业经济数据和地点经济数据。

万得:简要介绍:被誉为中国的Bloomberg,在金融业持有周密的数码覆盖,金融数据的类目更新十分快,听闻很受国内的商贸分析者和投资人的亲睐。

搜数网:已加载到搜数网站的计算资料达到7,874本,涵盖1,761,009张统计报表和364,580,4八十个总括数据,汇聚了中华新闻行自92年的话收集的持有计算和考察数据,并提供几种化的物色功效。

中华计算音信网:国家计算局的官方网站,汇聚了海量的举国各级政党各年度的国民经济和社会进步统计消息,建立了以统计公报为主,统计年鉴、阶段发展多少、统计分析、经济消息、主要计算目标排行等。

亚马逊:来自亚马逊的跨科学云数据平台,包括化学、生物、经济等八个世界的多少集。

figshare:探讨成果共享平台,在那里能够找到来源世界的大牛们的讨论成果分享,获取其中的钻研数据。

github:2个那一个完美的数量拿到渠道,包括各种细分领域的数据库能源,自然科学和社会科学的掩盖都很全面,适合做研讨和数据解析的人手。

2.当局开放数据

新加坡市政务数据财富网:包罗比赛、交通、医疗、天气等数码。

广州市政坛数量开放平台:交通、文娱、就业、基础设备等数码。

新加坡市政务数据服务网:覆盖经济建设、文化科学技术、信用服务、交通骑行等拾个重大领域数据。

西藏省政坛数据开放平台:台湾省在政务数据开放地点做的确实不易。

Data.gov:United States政党开放数据,包涵天气、教育、财富经济等各领域数据。

3.数额竞技网站

比赛的数据集平日干净且科研商性十分高。

DataCastle:专业的多少正确竞技平台。

Kaggle:全世界最大的数量比赛平台。

天池:Ali旗下数据正确竞赛平台。

Datafountain:CCF制定大数额竞技平台。

二 、利用爬虫可以拿到有价值多少

此处给出了一些网站平台,我们得以行使爬虫爬取网站上的数据,有些网站上也交由获取数据的API接口,但需求付费。

1.金融数据

(1)乐乎经济:免费提供接口,那篇博客教师了何等在天涯论坛金融上收获获取历史和实时股票数量。

(2)北边能源网:可以查阅财务目的或然依照财务目的选股。

(3)中财网:提供各项金融数据。

(4)金子头条:种种经济信息。

(5)StockQ:国际股市指数走势。

(6)Quandl:金融数据界的维基百科。

(7)Investing:投资数据。

(8)整合的96个股票API合集

(9)Market Data Feed and
API
:提供大批量数目,付费,有试用期。

2.网贷数据

(1)网贷之家:包涵各大网贷平台不一样时间段的放贷数据。

(2)零壹数据:各大平台的放贷数据。

(4)网贷天眼:网贷平台、行业数据。

(5)76676互连网经济门户:网贷、P2P、理财等互金数据。

3.铺面年报

(1)巨潮资讯:各个股市咨询,集团股票、财务音讯。

(2)SEC.gov:美利哥证券交易数据

(3)HKEx
news披露易
:年度业绩报告和年报。

4.创投数据

(1)36氪:最新的投资新闻。

(2)投资潮:投资音讯、上市集团音讯。

(3)IT桔子:各个创投数据。

5.社交平台

(1)腾讯网博客园:评论、舆情数据,社交关周密据。

(2)Twitter:舆情数据,社交关全面据。

(3)知乎:优质问答、用户数量。

(4)微信公众号:公众号营业数量。

(5)百度贴吧:舆情数据

(6)Tumblr:各样便民图片、摄像。

6.就业招聘

(1)拉勾:网络行业人才须要数据。

(2)中原英才网:招聘音信数据。

(3)海峡人才网:招聘消息数据。

(4)猎聘网:高端职位招聘数据。

7.餐饮食物

(1)美团外卖:区域公司、销量、评论数据。

(2)百度外卖:区域集团、销量、评论数据。

(3)饿了么:区域集团、销量、评论数据。

(4)万众点评:点评、舆情数据。

8.畅达国旅

(1)12306:铁路运维数据。

(2)携程:景点、路线、机票、旅社等数据。

(3)去哪儿:景点、路线、机票、饭店等数码。

(4)途牛:景点、路线、机票、饭馆等数码。

(5)猫途鹰:世界省里旅游景点数据,来自大地乘客的诚实点评。

接近的还有同程、驴姑姑、途家等

9.电商平台

(1)亚马逊:商品、销量、折扣、点评等数据

(2)淘宝:商品、销量、折扣、点评等数据

(3)天猫:商品、销量、折扣、点评等数码

(4)京东:3C产品为主的商品消息、销量、折扣、点评等数码

(5)当当:图书音讯、销量、点评数据。

接近的唯品会、聚美优品、1号店等。

10.影音数额

(1)豆瓣电影:国内最受欢迎的录制新闻、评分、评论数据。

(2)时光网:最全的影视资料库,评分、影视评论数据。

(3)猫眼电影专业版:实时票房数据,电影票房排名。

(4)今日头条云音乐:音乐歌单、歌星新闻、音乐评论数据。

11.房屋新闻

(1)拉勾网房产:二手房数据。

(2)安居客:新房和二手房数据。

(3)Q房网:新房音信、销售数量。

(4)房天下:新房、二手房、租房数据。

(5)小猪短租:短租房源数量。

12.购车租车

(1)新浪汽车:汽车资讯、小车数量。

(2)人人车:二手车新闻、交易数额。

(3)中国小车工业社团:汽车创建商产量、销量数据。

13.新媒体数据

(1)新榜:新媒体平台运行数据。

(2)清博大数据:微信公众号营业榜单及舆论数据。

(3)微问数据澳门葡京,:3个针对微信的数额网站。

(4)知微传播分析:新浪长传数据。

14.分类消息

(1)58同城:丰硕的同城分类新闻。

(2)赶集网:丰裕的同城分类音信。

若是您是小白,想经过爬虫拿到有价值的数码,推荐我们的系列课程——Python爬虫:入门+进阶

叁 、数据交易平台

鉴于现行数码的须要很大,也催生了很多做多少交易的阳台,当然,出去付费购买的数据,在这一个平台,也有成百上千免费的数量可以拿走。

优易数据:由国家消息中央发起,拥有国家级音信财富的数目平台,国内当先的数码交易平台。平台有B2B、B2C二种交易情势,包括政务、社会、社交、教育、消费、交通、财富、金融、健康等多个世界的数据能源。

数据堂:专注于互连网综合数据交易,提供数据交易、处理和多少API服务,包括语音识别、医疗常规、交通地理、电子商务、社交互联网、图像识别等方面的数目。

四 、网络指数

百度指数:指数查询平台,能够按照指数的变通查看某些宗意在各种时间段受关切的状态,进行可行性分析、舆情预测有很好的指导意义。除了关心大势之外,还有必要分析、人群画像等精准分析的工具,对于市镇调研来说有着很好的参考意义。同样的其它三个搜索引擎搜狗、360也有像样的产品,都得以当作参考。

Ali指数:国内权威的商品交易分析工具,能够按地区、按行业查看商品搜索和贸易数额,基于天猫、Taobao和1688平台的交易数据核心可以看出国内商品交易的概貌,对于趋势分析、行业观看意义不小。

友盟指数:友盟在运动互连网应用数据总括和分析具有相比圆满的统计和剖析,对于探究活动端产品、做市集调研、用户作为分析很有帮扶。除了友盟指数,友盟的网络报告同样是驾驭互连网趋势的优质读物。

爱奇艺指数:爱奇艺指数是特意针对摄像的播报行为、趋势的分析平台,对于互连网视频的播音有着周全的总计和分析,涉及到广播趋势、播放设备、用户画像、地域分布、等多少个方面。由于爱奇艺庞大的用户基数,该指数中央能够印证实际意况。

微指数:微指数是天涯论坛腾讯网的数据解析工具,微指数通过机要词的热议度,以及行业/类其他平分影响力,来反映虎扑舆情或账号的上进市场价格。分为热词指数和影响力指数两大模块,别的,还是能查阅热议人群及各项账号的所在分布情形。

除外上述指数外,还有谷歌(Google)方向搜狗指数360趋势艾漫指数等等。

⑤ 、互连网采集器

互连网采集器是经过软件的款型落到实处简单高效地采集互连网上散落的内容,具有很好的内容收集效用,而且不须求技术费用,被不少用户作为初级的采集工具。

造数:新一代智能云爬虫。爬虫工具中最快的,比其余同类产品快9倍。拥有相对IP,可以轻松发起无数伸手,数据保存在云端,安全方便、不难飞速。

列车采集器:一款专业的互连网数据抓取、处理、分析,挖掘软件,可以灵活飞快地抓取网页上杂乱分布的数码消息。

八爪鱼:不难实用的采集器,功用齐全,操作简易,不用写规则。特有的云采集,关机也可以在云服务器上运转采集职务。