Terence Tao (2006 Fields Medal) - The Big Think Interview
|
邓煜(2026 Fields Medal)
|
机器学习是应对不确定性决策的引擎。
金融正在成为一门信息科学。
When is a Liability not a Liability? Textual Analysis, Dictionaries, and 10‑Ks.
Text‑Based Network Industries and Endogenous Product Differentiation.
Predicting Returns with Text Data., Enhancing Investment Decisions with Sentiment Analysis: A Probabilistic Ranking Framework.
Combining Satellite Imagery and Machine Learning to Predict Poverty.
Do Weather‑Induced Moods Affect the Processing of Earnings News?
Predicting Anomaly Performance with Politics, the Weather, Sunspots and the Stars.
Forest through the Trees: Building Cross‑Sections of Stock Returns.
金融与大数据
来源: Nagel S. Machine learning in asset pricing[M]. Princeton University Press, 2021. |
|
“统计建模的运用中存在两种文化:
一种假设数据由给定的随机模型生成;
另一种使用算法模型拟合数据。”
— Leo Breiman (2001)
| 维度 | 数据建模文化 | 算法建模文化 |
|---|---|---|
| 目标 | 解释关系、估计参数 | 预测结果、提高准确性 |
| 方法 | 假设随机模型 |
直接从数据中学习映射 |
| 典型方法 | 线性/逻辑回归、ARIMA、Probit | 决策树、随机森林、神经网络 |
| 评估 | 显著性检验、置信区间 | 样本外误差、交叉验证表现 |
| 假设 | 小样本、低维、强结构 | 大样本、高维、弱假设 |
| 重点 | 参数可解释性(“为什么”) | 预测能力(“是什么”) |
传统统计学过度依赖模型假设,而这些假设往往无法充分反映现实世界的复杂性。
算法文化优先考虑经验预测,而非理论形式。
在实际应用中(语音、视觉、金融),算法模型的表现优于经典模型。
统计教育和研究应重视预测、验证和模型表现,而不仅是显著性。
预测与因果是互补关系,而非竞争关系。
在不同监督程度下发现模式。
分类问题
我们必须避免因不了解世界的概率本质,以及试图在本应看到灰色之处只看到黑白而产生的虚假自信。
--- 伊曼努尔·康德,由Maria Konnikova转述
似然函数:
对数似然函数
泛化差距:
测试风险
当我们学习观察时,没有人告诉我们正确答案是什么——我们只是观看。你的母亲偶尔会说“那是一只狗”,但这提供的信息非常少。通过这种方式,如果每秒能获得几个比特甚至一个比特的信息,你就很幸运了。大脑的视觉系统拥有1014个神经连接,而人的一生只有109秒。因此,每秒学习一个比特并无用处。你需要每秒获得大约105个比特的信息,而能够提供如此多信息的地方只有一个:输入本身。
--- Geoffrey Hinton, 1996
假设每个观测到的高维输出
因子分析(FA)
主成分分析(PCA):
非线性模型:神经网络
MDP是描述系统状态随机演化的随机变量序列(
控制
MDP问题的类型:
研究问题:
假设一位投资者拥有给定的初始资本。在
设想一家公司试图在有限的
考虑一位在给定金融市场中交易的小型投资者。她的目标是在所有能够于
假设我们考察一家保险公司的风险准备金:公司一方面获得保费,另一方面必须支付可能发生的理赔。在每个时期开始时,保险公司可以决定是否支付股利。只有当时的风险准备金为正时才能支付股利。一旦风险准备金变为负数,我们便认为公司已经破产并必须停止经营。哪种股利支付政策能够使破产前的预期折现股利最大化?
假设我们有两台成功概率未知的老虎机,其成功概率分别为
为了确定美式期权的公平价格及其最优行权时间,需要求解最优停止问题。与欧式期权不同,美式期权的买方可以在到期时点之前(包括到期时点)的任何时间选择行权。这种最优停止问题可以在马尔可夫决策过程框架下求解。
| 类别 | 示例算法 | 金融应用 |
|---|---|---|
| 回归 | OLS、LASSO、偏最小二乘(PLS)、主成分回归(PCR)、随机森林 | 资产定价、风险模型、因子选择 |
| 分类 | 逻辑回归、SVM、XGBoost、MLP | 信用评分、欺诈检测 |
| 聚类 | k均值、层次聚类 | 市场细分、状态识别 |
| 降维 | PCA、自编码器、PLS、PCR | 因子提取、潜在风险建模 |
| 类别 | 示例算法 | 金融应用 |
|---|---|---|
| 高级因果/结构机器学习 | 双重机器学习(DML) | 处理效应、政策评估、金融因果推断 |
| 表征学习(深度学习) | CNN、RNN、Transformer、GNN | 文本与新闻分析、时间序列预测、ESG图像分析 |
| 生成模型 | GAN、变分自编码器 | 情景模拟、合成金融数据 |
| 强化学习(RL) | Q-learning、PPO | 投资组合优化、交易策略 |
|
来源:CFA课程体系
|
“机器学习从企业特征的高维空间中提取
能够预测收益的结构。”
背景:
实证资产定价传统上依赖少数线性因子(例如 Fama–French 三因子/五因子)。
然而,文献已经发现数百个潜在预测变量 → “因子动物园”。
挑战:
核心问题:
机器学习方法能否在预期股票收益的横截面中
发现稳定且具有经济意义的预测模式?
数据
机器学习模型
1. 正则化线性模型(LASSO、Ridge、Elastic Net)
2. 基于树的模型(随机森林、梯度提升)
3. 神经网络(前馈MLP)
估计设计
| 模型 | 样本外 R² | 说明 |
|---|---|---|
| OLS | ≈ 0 % | 传统线性基准 |
| LASSO / Ridge | 0.5 – 0.8 % | 正则化线性结构 |
| Elastic Net / NN | ≈ 1.2 % | 预测表现最佳的模型 |
| RF / GBRT | ≈ 1.0 % | 非线性树集成模型 |
投资组合含义
机器学习模型自动重新发现并组合已知信号
捕捉线性模型经常忽略的非线性交互作用和时变关系。
学习得到的函数
并与无套利定价相一致。
正则化 = 统计约束;机器学习 = 经济灵活性。
结论:
机器学习技术能够提供更高的预测准确性、更稳健的SDF估计,以及理解风险溢价的新方法。
Gu, S., Kelly, B., and Xiu, D. (2020).
基于机器学习的实证资产定价。
Review of Financial Studies, 33(5): 2223 – 2273。
“目标是让学习智能体通过与市场环境交互,自主调整投资组合权重,
从而最大化风险调整后收益。”
经典投资组合优化(Markowitz,1952):
给定预期收益和协方差,进行一次性的均值—方差权衡。
→ 静态优化;需要事先作出分布假设。
现实投资环境:
强化学习(RL):
通过反复试错学习最优政策,以最大化累计奖励。
| 要素 | 金融解释 |
|---|---|
| 环境(状态 |
时点 |
| 智能体行动 |
投资组合再平衡向量(权重或交易) |
| 奖励 |
风险调整后收益(例如夏普比率或对数效用增量) |
| 政策 |
从观测状态到配置决策的映射 |
| 目标 | 最大化预期折现累计奖励 |
训练循环(智能体
1. 观察市场状态 → 2. 选择行动(再平衡)→ 3. 获得奖励 → 4. 更新政策。
模型类型: 深度强化学习(DRL)
主要发现
→ 证据表明,学习智能体能够在动态不确定性下持续优化资产配置。
该循环说明了持续交互过程:
随着市场演化,智能体学习最优配置。
“对信用评分中的现代分类算法进行基准比较表明,
机器学习模型的表现始终优于传统统计方法。”
研究问题:
哪些机器学习方法在信用评分任务中表现最佳?
| 模型 | 平均AUC(数据集间平均值) | 说明 |
|---|---|---|
| 逻辑回归 | ≈ 0.75 | 行业标准基准 |
| 决策树 | 0.77 – 0.80 | 简单非线性模型 |
| 随机森林 | 0.82 – 0.85 | 稳健的集成表现 |
| 梯度提升(GBM) | 0.84 – 0.88 | 准确性和一致性排名最高 |
| 神经网络 | 0.80 – 0.86 | 具有竞争力,但对数据敏感 |
| SVM | ≈ 0.82 | 需要谨慎调整参数 |
结果总结
该流程说明机器学习模型如何估计PD并支持基于风险的贷款决策。
“商业新闻文章中的经济内容为宏观经济状况和预期提供了一种实时、
数据驱动的测度。”
背景
宏观经济指标(GDP增长、工业生产)的发布频率较低且存在时滞。
→ 难以实时观察商业周期。
思想
金融和商业新闻文章包含大量有关
当前经济活动和情绪的信息。
研究问题
1. 能否从高维新闻文本数据中提取定量信号?
2. 这些“新闻因子”能否预测宏观经济和资产市场波动?
每个因子对应一种潜在经济叙事,概括同期的新闻报道。
| 类别 | 发现 |
|---|---|
| 宏观跟踪 | 第一个新闻因子与工业生产增长%%BR%%及NBER衰退日期的相关系数约为0.8。 |
| 预测能力 | 新闻因子可以预测未来1–12个月的GDP增长、失业率变化%%BR%%和信用利差。 |
| 资产定价联系 | 预期收益和估值比率与新闻推断的周期状态共同变动。 |
| 实时优势 | 新闻数据每日更新 → 相对于滞后的宏观统计数据提供更及时的信号。 |
示例:
“经济活动”因子的急剧下降比官方经济衰退约提前3个月。
作为宏观传感器的文本
新闻报道汇集了来自企业、市场和政策制定者的分散信息。
→ 作为潜在商业状况的实时代理变量。
对传统信号的补充
将定性洞见与定量估计相结合。
改善预测与即时预测。
含义
该循环展示了媒体信息、实体经济与金融市场之间的持续反馈。
Bybee, L., Kelly, B., Manela, A., & Xiu, D. (2024)。
商业新闻与商业周期。Journal of Finance, 79(4), 1919 – 1978。
“如果一个计算机程序能够从经验 E 中学习,以完成某类任务 T,并以表现度量 P 衡量其在任务 T 上的表现,而且其表现会随着经验 E 的增加而改善,那么就称该程序进行了学习。”
— Tom Mitchell (1997)
| 方法 | 概念 | 金融意义 |
|---|---|---|
| LASSO | L1惩罚 | 特征选择:因子稀疏性 |
| Ridge | L2惩罚 | 稳健估计:防止过拟合 |
| Dropout | 随机隐藏节点 | 模型泛化 |
通常使用两项指导原则和两种方法减少过拟合:
K折交叉验证
留一交叉验证:
|
((150, 4), (150,))
((90, 4), (90,))
((60, 4), (60,))
|
|
array([0.96..., 1. , 0.96..., 0.96..., 1. ])
0.98 accuracy with a standard deviation of 0.02
array([0.96..., 1. ..., 0.96..., 0.96..., 1. ]) |
|
TimeSeriesSplit(gap=0, max_train_size=None, n_splits=3, test_size=None)
[0 1 2] [3] |
| 类型 | 指标 | 含义 |
|---|---|---|
| 回归 | MSE、MAE、R² | 拟合质量 |
| 分类 | 准确率、精确率、召回率、F1 | 判别能力 |
| 排序 | AUC、ROC | 信号质量 |
| 投资组合 | 夏普比率 | 风险调整后表现 |
所有模型都是错误的,但其中一些是有用的。
--- George Box
浅层学习 → 深度学习 → 强化学习 → 大数据 → 金融 → 因果 → 大语言模型与智能体
| 层面 | 培养目标 |
|---|---|
| 技术 | 掌握常见ML算法与评估 |
| 金融 | 结合金融数据场景建模 |
| 研究 | 理解方法背后的经济含义 |
| 讲次 | 主题 | 重点 |
|---|---|---|
| 1 | 导论 | 背景与框架 |
| 2 | 浅层学习 | 经典统计学习 |
| 3 | 深度学习 | 表征学习 |
| 4 | 强化学习 | 决策建模 |
| 5 | 大数据 | 文本与图像分析 |
| 6 | 资产定价与机器学习 | 实证与量化应用 |
| 7 | 因果推断 | 因果与解释 |
| 8 | 大语言模型与智能体 | 智能体与AI前沿 |
- 数据 - 约 1,200 万篇 Dow Jones Newswires 新闻; - 高频专业媒体文本流。 - 方法 - 提出 **SESTM (Sentiment Extraction via Screening & Topic Modeling)**; - 监督学习模型,用股票收益信号训练文本情绪。 - 意义 - 机器学习+金融文本融合; - 优于词典与专家打分; - 代表金融文本算法化预测的前沿。
### [Breiman的两种文化](https://projecteuclid.org/journals/statistical-science/volume-16/issue-3/Statistical-Modeling--The-Two-Cultures-with-comments-and-a/10.1214/ss/1009213726.full):数据建模与算法建模 | 维度 | 计量经济学 | 机器学习 | |------------|---------------|------------------| | 重点 | 参数推断 | 预测准确性 | | 模型 | 结构假设 | 算法优化 | | 评估 | 显著性检验 | 样本外表现 | | 数据 | 小规模、结构化 | 大规模、高维 |