Week 1 大语言模型与金融AI Agent

LLMs & Financial AI Agents

本周内容概览

金融工程发展历程(学术创新)

金融工程发展历程(实践创新)

金融工程的核心驱动力

金融工程 = 金融（问题） + 工程（方法）

是创新性金融技术和金融工具的创造性应用，它用工程思维解决具体的金融问题 金融工程是技术驱动的 金融工程是天生的交叉学科 金融工程始终关注新技术 核心问题 原理与方法 资产定价 组合管理/优化 风险管理 合成与复制 无套利动态过程 风险中性 金融工程的作用 微观：通过创造性的方案更好地满足客户的金融需求 宏观：提高金融资源配置效率

Scientists Engineers understand things Build thing observe the world seek to change the world very theoretical more practical embrace ambiguity often frustrated by it work free work hard Source: Lo, Andrew W.. “Robert C. Merton: The First Financial Engineer.” Review of Financial Economics 12 (2020): 1-18.

本课程定位与路线图

LLMs对劳动力市场的影响：OpenAI

LLMs对劳动力市场的影响：Anthropic

讨论

• AI是机遇还是挑战？
• AI技术快速发展背景下金融人的核心竞争力是什么？

基础架构与核心原理

1. 基础架构 Transformer架构 多头自注意力机制 编码器-解码器结构 位置编码 残差连接与层归一化 2. 核心技术原理 预训练过程 输入：大规模文本语料 → 词元化处理 → 注意力计算 → 上下文表示 → 输出：语言模型 推理过程 用户输入 → Token化 → 上下文编码 → 概率预测 → 文本生成

Transformer架构概览

graph TD
    Input["输入序列"] --> Embed["Token Embedding + Position Encoding"]
    Embed --> Encoder["Transformer Encoder × N"]
    Encoder --> Decoder["Transformer Decoder × N"]
    Decoder --> Output["输出序列"]
    
    subgraph Encoder
        Attn["Multi-Head Self-Attention"] --> FFN["Feed Forward Network"]
        FFN --> AddNorm1["Add & Norm"]
        AddNorm1 --> Attn
    end
    
    subgraph Decoder
        MaskAttn["Masked Self-Attention"] --> CrossAttn["Cross-Attention"]
        CrossAttn --> FFN2["Feed Forward Network"]
        FFN2 --> AddNorm2["Add & Norm"]
        AddNorm2 --> MaskAttn
    end

核心创新：摒弃RNN的循环结构，完全基于Attention机制捕获序列关系，实现并行计算。

注意力机制(Attention)详解

Scaled Dot-Product Attention:

其中：

• (Query): 当前token的查询向量
• (Key): 所有token的键向量
• (Value): 所有token的值向量
• : 键向量的维度，缩放因子防止softmax梯度消失

直观理解：Q问"谁和我相关？"，K回答"我是谁"，通过计算相似度，再用softmax归一化为权重，最后用V加权聚合信息。

Multi-Head Attention

Transformer的关键组件

从GPT-1到GPT-4：能力跃迁

*注：OpenAI未公开确切参数，为外界估计值

LLM的关键能力涌现

大模型的局限性

主流LLM模型对比：国际模型

主流LLM模型对比：国内模型

模型选用建议

LLM在金融工程中的应用框架

关键趋势：LLM从"对话助手"演变为"AI Agent"——自主规划、工具调用、多步推理。

提示工程核心原则

Few-shot提示与In-Context Learning

Few-shot示例：情感分析应用于金融新闻

对以下金融新闻进行情感分类（positive/negative/neutral）：

新闻1："公司宣布盈利超预期，股价上涨5%"
情感：positive

新闻2："监管机构对行业展开反垄断调查"
情感：negative

新闻3："公司发布董事会改选公告"
情感：neutral

新闻4："央行维持利率不变，符合市场预期"
情感：

原则：提供3-5个高质量示例，覆盖不同类别，保持一致格式。

Chain-of-Thought (CoT) 推理

零样本CoT：在提示后加 "Let's think step by step" 或 "请逐步分析"

金融分析示例：

请分析：如果美联储在通胀率3.5%的情况下降息25bp，
对10年期国债收益率可能产生什么影响？请逐步分析。

步骤1：当前通胀率3.5%高于美联储2%目标
步骤2：在此背景下降息是鸽派信号，可能被市场解读为...
步骤3：历史上类似情况下，收益率曲线通常...
步骤4：综合判断，10年期收益率可能...

CoT-SC (Self-Consistency)：

• 多次运行CoT，取多数结果
• 提高推理稳定性
• 适合金融量化判断

ReAct模式：推理+行动

ReAct在金融中的应用：

1. 思考：需要查询某公司最新财报数据
2. 行动：调用API获取财务数据
3. 观察：获得营收、净利润等指标
4. 思考：基于数据计算估值倍数
5. 行动：调用计算工具
6. 最终：综合分析报告

渐进式提示优化案例

Prompt: "分析这只股票"
LLM输出: "这是一只中等市值的科技股，有一定的增长潜力..."

Prompt: "分析茅台(600519)的投资价值。请从以下维度分析：
1. 财务指标(PE/PB/ROE/毛利率)
2. 行业地位
3. 近期催化剂
4. 风险因素"
LLM输出: 有结构的分析，但仍然主观，缺少量化基准

Prompt: "分析茅台(600519)。要求：
- 对比近5年PE中位数和当前PE，计算偏离度
- 用Z-score评估当前估值水位
- 列出未来3个月已知催化剂及历史同类事件的市场反应
- 用FinBERT评估最近1个月新闻的情感分数
格式: Markdown表格 + 每项附量化数据"
LLM输出: 高度结构化、可量化验证的分析

金融场景Prompt模板

你是一位资深金融分析师。请分析以下财务数据：
公司：{company_name}
财报期间：{period}
关键数据：{financial_data}

请从以下维度分析：
1. 营收增长趋势与驱动因素
2. 利润率变化及原因
3. 现金流质量
4. 风险提示
5. 投资建议（基于数据，非预测）

格式：Markdown，每个维度2-3个要点。

结构化输出控制

JSON Mode 示例：

从以下新闻中提取金融实体和事件：

新闻："2025年3月15日，宁德时代宣布2024年全年营收
同比增长15.4%，净利润突破500亿元。同时公司宣布
10送8的分红方案。"

请输出JSON格式：
{
  "company": "宁德时代",
  "date": "2025-03-15",
  "financial_metrics": [
    {"metric": "营收增长率", "value": 15.4, "unit": "%"},
    {"metric": "净利润", "value": 500, "unit": "亿元"}
  ],
  "events": [
    {"event": "分红方案", "detail": "10送8"}
  ],
  "sentiment": "positive"
}

RAG架构

RAG vs 纯LLM：RAG让LLM可以访问外部知识，缓解幻觉问题，适用于需要最新信息的金融场景。

• 讨论：模型有更佳的上下文能力后RAG是否还有价值？

文档分块策略

金融文档推荐：

• 年报：按章节分块（营收、风险、治理等）
• 研报：按主题分块（摘要、分析、结论）
• 法规：按条款分块

Embedding模型与向量数据库

RAG检索增强策略

金融RAG应用案例

案例：实时财报问答系统

场景：分析师需要快速查询多家公司的财务指标

数据源：过去5年A股上市公司年报（PDF格式）
分块策略：按章节+表格分块，保留章节标题元数据
检索策略：先检索章节标题，再检索内容
增强策略：将检索到的数据与当前市场数据结合

用户Query：
"宁德时代2024年的研发投入占营收比例是多少？"

RAG流程：
1. 检索"宁德时代 2024 研发投入"相关内容
2. 找到财报"研发投入"章节的具体数据
3. 将数据+Query送入LLM
4. LLM计算比例并给出分析

从单Agent到多Agent

多Agent优势：专业化分工、相互校验、风险隔离、可扩展

TradingAgents框架 (GitHub 51.4k★)

TradingAgents/
├── Analyst Agent           # 分析Agent: 市场数据、财务报表、新闻
├── Strategist Agent        # 策略Agent: 生成交易信号
├── Risk Manager Agent      # 风控Agent: 评估风险敞口
├── Portfolio Manager Agent # 组合Agent: 最终决策
├── Executor Agent          # 执行Agent: 下单执行
└── Memory Module           # 记忆模块: 历史经验存储

TradingAgents工作流程

LLM工具调用机制

Function Calling：LLM生成结构化的函数调用请求

# 定义金融工具函数
tools = [
    {
        "type": "function",
        "function": {
            "name": "get_stock_price",
            "description": "获取股票实时价格",
            "parameters": {
                "type": "object",
                "properties": {
                    "ticker": {"type": "string", "description": "股票代码"},
                    "date": {"type": "string", "description": "日期"}
                },
                "required": ["ticker"]
            }
        }
    },
    {
        "type": "function",
        "function": {
            "name": "calculate_var",
            "description": "计算VaR风险价值",
            "parameters": {
                "type": "object",
                "properties": {
                    "positions": {"type": "array", "items": {"type": "object"}},
                    "confidence": {"type": "number"}
                },
                "required": ["positions"]
            }
        }
    }
]

# Agent自动决定何时调用哪个工具
response = client.chat.completions.create(
    model="gpt-4",
    messages=[{"role": "user", "content": "计算当前组合的95% VaR"}],
    tools=tools
)

为什么金融工程师需要个人知识库？

核心理念：知识不是孤立的点，而是相互连接的网。个人知识库让你构建自己的"第二大脑"。

Obsidian核心特性

Claude Code与Obsidian的集成

# 在Obsidian仓库中直接使用Claude Code
cd path/to/your/obsidian/vault

# Claude Code可以：
# 1. 阅读和理解现有笔记
# 2. 总结和提炼关键信息
# 3. 创建新的笔记并建立链接
# 4. 跨笔记分析和综合
# 5. 重构和重组知识结构

金融工程知识库结构

 fe-knowledge-vault/
├──  01-理论基础/
│   ├── 随机过程.md
│   ├── 时间序列分析.md
│   ├── 金融计量经济学.md
│   └── 优化理论.md
├──  02-资产定价/
│   ├── BS模型.md
│   ├── 二叉树方法.md
│   ├── 蒙特卡洛模拟.md
│   └── 随机波动率模型.md
├──  03-量化交易/
│   ├── 因子模型/
│   │   ├── Fama-French三因子.md
│   │   └── 机器学习因子.md
│   ├── 统计套利.md
│   ├── 高频交易.md
│   └── Backtrader框架.md
├──  04-风险管理/
│   ├── VaR与CVaR.md
│   ├── 压力测试.md
│   ├── 组合优化.md
│   └── 风险平价.md
├──  05-LLM与AI/
│   ├── Transformer架构.md
│   ├── Prompt工程.md
│   ├── RAG技术.md
│   └── AI Agent框架.md
├──  06-市场数据/
│   ├── A股市场特征.md
│   ├── 衍生品市场.md
│   └── 宏观指标.md
├──  07-课程笔记/
│   └── 金融工程前沿/
└──  08-研究项目/
    ├── 正在进行的项目.md
    └── 论文阅读笔记/

关键笔记模板：论文阅读笔记模板

---
tags: [论文, 量化交易, 2025]
authors: [作者1, 作者2]
journal: 期刊名称
year: 2025
---

# 论文标题

## 核心问题
<!-- 本文试图解决什么金融工程问题？ -->

## 方法与创新
<!-- 使用了什么新方法/模型？ -->

## 数据与实验
- 数据来源：
- 时间跨度：
- 主要结果：

## 关键结论

## 与[[相关笔记]]的联系

## 我的思考
<!-- 对本人的研究/实践的启示 -->

关键笔记模板：策略研究笔记模板

---
tags: [交易策略, 因子, 回测]
status: 实验中
---

# 策略名称

## 策略逻辑
<!-- 核心逻辑和假设 -->

## 实现方式
- 工具/框架：
- 代码位置：`code/strategies/`

## 回测结果
| 指标 | 数值 |
|------|------|
| 年化收益 | |
| Sharpe | |
| Max DD | |

## 风险评估

## 改进方向

Claude Code辅助知识管理实操

你：请阅读这个PDF并提取核心内容
→ Claude Code读取论文，生成结构化笔记
→ 自动创建笔记文件，链接相关概念

你：对比所有笔记关于"随机波动率模型"的内容
→ Claude Code跨笔记检索
→ 生成对比分析报告
→ 更新综合笔记

你：从笔记中找出所有提到"回测"的策略，整理代码结构
→ Claude Code分析笔记内容和代码目录
→ 生成策略分类和代码索引
→ 创建策略对比表格

你：回顾这个月所有关于强化学习的笔记
→ Claude Code筛选时间范围内的笔记
→ 生成知识图谱和要点总结
→ 识别知识盲区

知识管理最佳实践

课堂实践：搭建个人知识库

本地部署 vs API调用

维度	本地部署	API调用
数据安全	数据不出本地	数据需上传
延迟	无网络延迟	依赖网络
成本	一次性硬件	按量付费
模型能力	开源模型(LLaMA, Qwen等)	闭源顶尖(GPT-4, Claude)
维护成本	需要自行维护	服务商维护
定制化	可微调	有限定制

金融场景建议：

• 敏感数据（客户信息、交易策略）→ 本地部署
• 通用分析（市场研报摘要、代码生成）→ API调用
• 最佳实践：混合架构，本地+云端协同

Ollama框架

# 安装Ollama（支持Windows/macOS/Linux）
# 下载地址：https://ollama.ai

# 拉取模型
ollama pull llama3.1:8b
ollama pull qwen2.5:7b
ollama pull mistral:7b

# 运行模型
ollama run llama3.1:8b

# API接口（兼容OpenAI格式）
curl http://localhost:11434/api/chat \
  -d '{
    "model": "llama3.1:8b",
    "messages": [
      {"role": "user", "content": "解释什么是VaR"}
    ]
  }'

部署框架功能对比

LLM参数调优指南

开源模型选择（金融场景）

模型	参数量	中文能力	金融专长	硬件需求
Qwen2.5	7B-72B		通用强	7B: 8GB VRAM
LLaMA 3.1	8B-70B		英文强	8B: 8GB VRAM
Mistral	7B-8x22B		推理强	7B: 8GB VRAM
DeepSeek-Coder	6.7B-33B		代码强	6.7B: 8GB VRAM
FinMA	7B-30B		金融专用	7B: 8GB VRAM
BLOOM	7.1B-176B		多语言	7.1B: 8GB VRAM

量化级别：Q4_K_M (4bit) 可在8GB显存运行7B模型，Q8_0 (8bit) 需要16GB

金融专用模型：FinMA (金融领域预训练)、BloombergGPT (金融数据训练)

LangChain集成

# 使用本地Ollama模型构建金融RAG系统
from langchain_community.llms import Ollama
from langchain_community.embeddings import OllamaEmbeddings
from langchain_community.vectorstores import ChromaDB
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA

# 初始化本地LLM
llm = Ollama(
    model="qwen2.5:7b",
    temperature=0.1,
    top_p=0.9
)

# 初始化Embedding
embeddings = OllamaEmbeddings(
    model="nomic-embed-text"
)

# 文档处理
text_splitter = RecursiveCharacterTextSplitter(
    chunk_size=1000,
    chunk_overlap=200
)

# 构建金融RAG链
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",
    retriever=vector_store.as_retriever(
        search_kwargs={"k": 5}
    )
)

# 金融问题查询
response = qa_chain.run(
    "根据2024年年报，该公司的资产负债率变化趋势如何？"
)

LangChain核心组件

LangChain Chain类型与金融应用

from langchain.memory import ConversationSummaryMemory

memory = ConversationSummaryMemory(
    llm=llm,
    max_token_limit=500  # 金融对话信息密度高
)
# 保留"用户风险偏好R4、投资期限2年、关注新能源"等关键信息
# 而非保留完整对话历史 → 省token + 聚焦

实践1：环境搭建 (20min)

# 步骤1：安装Ollama
# 访问 https://ollama.ai 下载安装

# 步骤2：拉取模型
ollama pull qwen2.5:7b
ollama pull nomic-embed-text

# 步骤3：验证安装
ollama list

# 步骤4：安装Python依赖
pip install langchain langchain-community chromadb
pip install jupyter notebook

# 步骤5：测试API
curl http://localhost:11434/api/generate \
  -d '{
    "model": "qwen2.5:7b",
    "prompt": "什么是金融工程？用一句话回答"
  }'

实践2：基础LLM调用 (20min)

# Jupyter Notebook: 01_basic_llm_call.ipynb

from openai import OpenAI

# 连接本地Ollama（兼容OpenAI接口）
client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"  # Ollama不需要真实API key
)

# 基础对话
response = client.chat.completions.create(
    model="qwen2.5:7b",
    messages=[
        {"role": "system", "content": "你是一个金融工程助手"},
        {"role": "user", "content": "解释Black-Scholes公式的假设条件"}
    ],
    temperature=0.1
)
print(response.choices[0].message.content)

# 结构化输出
response = client.chat.completions.create(
    model="qwen2.5:7b",
    messages=[
        {"role": "user", "content": """
        分析以下股票的优缺点，输出JSON格式：
        - 代码：600519.SH
        - 名称：贵州茅台
        
        格式：{"ticker": str, "strengths": list[str], "risks": list[str]}
        """}
    ],
    temperature=0.1
)

实践3：金融信息检索Agent (40min)

# Jupyter Notebook: 02_finance_agent.ipynb

from langchain.agents import Tool, AgentExecutor, create_react_agent
from langchain_community.llms import Ollama
from langchain.prompts import PromptTemplate
from langchain_community.utilities import DuckDuckGoSearchAPIWrapper

# 1. 定义金融工具
tools = [
    Tool(
        name="金融计算器",
        func=lambda expr: f"计算结果: {eval(expr)}",
        description="执行数学计算，输入应为数学表达式"
    ),
    Tool(
        name="信息检索",
        func=DuckDuckGoSearchAPIWrapper().run,
        description="搜索金融相关信息"
    )
]

# 2. 创建ReAct Agent
prompt = PromptTemplate.from_template("""
你是一个金融工程研究助手。你有以下工具可用：
{tools}

请使用中文回答问题。

问题: {input}

{agent_scratchpad}
""")

# 3. Agent执行
llm = Ollama(model="qwen2.5:7b", temperature=0)
agent = create_react_agent(llm, tools, prompt)
agent_executor = AgentExecutor(
    agent=agent,
    tools=tools,
    verbose=True,
    handle_parsing_errors=True
)

# 4. 测试
result = agent_executor.invoke({
    "input": "计算贵州茅台(600519)如果PE从30倍变为25倍，股价变化百分比是多少？"
})
print(result["output"])

实践4：搭建Obsidian知识库入口 (10min)

---
tags: [W1, LLM, AI-Agent]
created: 2025-09-xx
---
# Week 1 学习笔记
## 核心概念
1. **Transformer注意力机制**：QKV三矩阵计算注意力权重
   - 关联：[[自注意力机制详解]]
2. **RAG技术**：检索增强生成解决幻觉问题
   - 关联：[[RAG架构]]
3. **Multi-Agent框架**：多智能体协作交易系统
   - 关联：[[TradingAgents]]
## 关键代码片段

## 疑问与思考
- [ ] Transformer的KV-Cache到底如何工作？
- [ ] RAG的分块策略对金融文档检索精度的影响？
- [ ] 多Agent框架的通信开销问题？
## 延伸阅读
- [[Attention Is All You Need]] 论文笔记
- [[TradingAgents框架分析]]

本周总结

AI伦理与负责任使用

金融工程领域AI伦理核心议题：

金融AI伦理红线：

1. 禁止利用AI进行市场操纵或内幕交易
2. 禁止完全依赖AI进行未经人工审核的投资决策
3. 禁止向第三方泄露客户数据给AI服务商
4. 禁止使用AI生成虚假金融信息误导投资者
5. 坚持 Human-in-the-Loop 原则进行关键决策

延伸阅读与参考资料

经典论文

• Vaswani et al. (2017): "Attention Is All You Need"
• Brown et al. (2020): "Language Models are Few-Shot Learners"
• Lewis et al. (2020): "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks"
• Wei et al. (2022): "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models"

金融LLM研究

• Wu et al. (2023): "BloombergGPT: A Large Language Model for Finance"
• Li et al. (2024): "TradingAgents: Multi-Agent LLM Framework for Stock Trading"

工具文档

• Ollama: https://ollama.ai
• LangChain: https://python.langchain.com
• Obsidian: https://obsidian.md
• Claude Code: https://docs.anthropic.com/claude-code