超实用干货 金融界的“另类数据”采集技巧分享
2024-06-07 【 字体:大 中 小 】
开始之前,先给大家分享几个案例:
✔一家银行,根据美团点评数据,评估餐饮门店的销量以及客户体验,来分析预测其业务健康度,进而进行普惠业务。
✔一家数据公司,通过监控Tesla工厂里员工手机的信号多少,来预测特斯拉的量产情况,进而预测股价。
✔某能源公司通过分析城市的工业用电数据,预测未来的工业产值,以此来优化能源调度和分配策略,调整定价。
✔某房地产公司通过分析城市交通数据,包括公交线路、地铁站点、共享单车停放点等,来预测房地产的发展,评估房地产项目的开发和投资。
✔投资公司通过监控淘宝、天猫、京东、唯品会等电商平台上每一个商品的价格与销售数量,准确获知这些电商公司的营收情况,以此来辅助投资决策。
以上案例分布在各行各业,但其实都与金融【另类数据】有关,可以很好地诠释【另类数据】的价值与场景。
什么是金融另类数据?
在过去,投资者更多的是依靠传统金融数据进行投资决策。
传统金融数据包括股票/债券的交易数据、上市公司的年报/财报、金融机构的研报数据、政府的统计数据、银行用户的借贷数据等。
而另类数据,通常被定义为传统金融报告和宏观经济指标之外的信息。
另类数据可以提供更多关于公司、市场和经济的深层次信息。例如社交媒体、卫星图像、互联网搜索记录和消费者交易数据等。
另类数据具体有哪些?
另类数据主要分为以下三大类:
✔ 个人产生数据数据:
社交网络信息、电商平台评价、搜索记录、购物喜好等。
✔ 商业过程数据:
商业运输、物流数据、信用卡使用记录、订购、预定数据、购买支付数据等。
✔传感器数据:
卫星数据、GPS定位数据、车辆轨迹、运动轨迹、穿戴设备数据等。
可以看到,另类数据主要是互联网、物联网数据。互联网的高速发展,围绕人类和商业的行为几乎都可以数字化,积累沉淀大量的个人和商业过程数据。
数据示例:门店菜品及销量数据
数据示例:店铺评分等基础数据
物联网技术则让原本不被感知的物理世界成为可数据化的分析对象,逐步形成了大量的物理数据资产。
另类数据的特征
与传统金融数据相比,另类数据具备数据量大、实时性高、数据种类多、结构多样的特点,是对传统金融数据的重要补充,为投资者提供更广泛的交易思路、更多维的分析角度。
✔ 数据量大
另类数据通常规模与传输量巨大,数据以极快的速度积累,涵盖了庞大的样本空间。
✔ 实时性高
数据的获取和传输是实时或者接近实时,能够更迅速地反映市场变化和事件影响。

而通过实时监测此公司去年全年线上销售情况,投资者在1月就能知晓此公司上一年营收情况。
✔ 数据种类多,结构多样:
另类数据的形式结构很多样。有数值、图片、文本、音频、视频等多种数据类型,结构化的、半结构化的、非结构化的都有。尤其是非结构化的文本型数据近年来猛增,是重要的挖掘研究对象。
如何获取另类数据
因为另类数据具有数据量大、实时性高、数据种类多、结构多样的特点,获取难度也比较高。
金融机构一般通过以下3种方式获取另类数据:向另类数据供应商直接购买、自建爬虫团队获取、使用数据采集软件获取。
其中使用数据采集软件成本效益最明显,前期只需投入很少的资金与人力,即可快速开始探索另类数据。
八爪鱼是通用的网页数据爬取软件,拥有行业领先的数据采集能力,能够很好地解决另类数据体量大、实时性高、数据种类多、结构多样的采集痛点。
近年来,我们已经服务了很多金融客户,帮助他们快速获取互联网上的各种另类数据,辅助投资决策。
八爪鱼采集模板-可采集同花顺-爱基金网站下的基金每日净值情况
八爪鱼采集另类数据的案例
案例1:采集股吧3000+股票下实时更新的评论,研究股民情感联系股价。
股吧是东方财富网旗下股票社区,是公众股民快速获取有效信息和发表主观看法的重要平台,每天产生大量的讨论帖和跟帖评论。从这些讨论帖主题和跟帖评论中,可以窥见股民对某只股票/市场的投资情绪(看涨/看跌),进而预测股票价格的波动趋势。
我们就曾帮助某知名券商采集股吧3000+股票下实时更新的全部评论,为其研究股民投资情绪,进而预测股票价格的波动趋势提供充沛数据源。
具体采集需求
① 3000+股票评论分开采集,单独入库。
② 评论实时更新,需第一时间将每只股票更新的评论全部采集下来。
八爪鱼解决方案
① 制作1个股吧股票评论采集任务,利用任务复制功能,快速生成3000+任务,每个任务中存放不同的股票URL,实现快速上线。
② 使用云集群的定时+多节点高并发采集策略,在十几分钟内将每只股票更新的评论全部采集下来。
特别说明:除了示例中的股吧这个平台外,雪球热帖、知乎回答等平台的讨论帖和评论都可以使用八爪鱼进行采集。
案例2:第一时间采集1000+基金产品的净值,支持自身数据、投研、代销等业务发展。
基金投资是一种通过汇集众多投资者的资金,交给银行保管,由基金管理公司负责投资于股票和债券等证券,以实现保值增值目的的一种投资工具。
基金门户网站需要在交易日清算后第一时间获取各个基金产品的净值,从而支持自身数据(通过自己的网站/终端向投资者及时提供第一手数据)、投研(为个人或机构提供投顾服务,为其推荐高净值基金产品、优质基金经理等)、代销等业务发展。
八爪鱼就曾帮助某知名私募基金门户网站第一时间将1000+基金产品每日更新的净值采集下来,维系其相关业务正常运转。
具体采集需求
① 1000+基金产品分布在各个基金网站,每个网站都需访问采集。
② 基金净值每个交易日清算后更新,需在更新后第一时间采集下来。
八爪鱼解决方案
① 使用八爪鱼,每个网站的采集任务配置方法是一致的,2-3天即可配置完1000+基金网站的采集规则。
② 使用云集群的定时+多节点高并发策略,在每个基金网站交易日清算更新基金净值后,第一时间将其采集下来。
数据净值股票基金八爪鱼发布于:广东省声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
猜你喜欢

此人一生用兵如神,终被仇敌所害,临走前的一布局却完成报仇心愿


哈马斯称与以军持续在加沙城等地点激烈战斗


他残杀井冈山军民2000余人,20年后主席要求:务必找到此人该找他算账了


2月8日基金净值:中泰青月中短债A最新净值11534,涨001%


阿里地区噶尔县扎西岗乡扎西岗村:发展有活力 幸福路更宽


欧洲央行的Holzmann认为6月之前不太可能认真讨论降息


富途证券提现到大陆银行卡全攻略


北方多地正“组团”冲击30℃ 北京气温已达295℃


连收三封感谢信!聊城铁塔公司新年获运营商三连赞


北京民间滑冰爱好者,老爷子这身姿太丝滑了,最后还来了个臀部刹车


海德股份:公司董监高拟合计增持公司股票不低于2073万元


美国4月标普全球服务业PMI终值为508,预期512,前值514


社保“就近办”更便民


滚动更新丨美股三大指数开盘涨跌不一,阿里巴巴涨超4%


投顾观市:警惕下跌中继走势?市场风险尚未完全释放!


开评:三大指数涨跌不一 化纤、石油等板块走强


A股一季报行情打响 上市公司净利最高同比预增超15倍


宜宾银行:拟香港IPO发售6884亿股股份,预期2025年1月13日买卖


中欧迎建交50年 听在华跨国企业这样说


梁思成林徽因文献展巡回到上海,走近两位建筑大师的人生
