Fable 5 技能萃取器：在顶级模型退役前榨干其能力，为廉价模型赋能

一个通过特定Prompt引导顶级大模型（如Claude Opus）在退役前生成可复用的技能库，使低成本模型继承其能力的开源项目。

一、项目背景与痛点

在AI大模型领域，我们正面临一个尴尬的困境：

• 顶级模型昂贵且即将退役：如Claude Opus、GPT-4等顶级模型性能卓越，但API调用成本高昂，且OpenAI、Anthropic等公司会定期淘汰旧版本模型。一旦这些模型退役，其独特的推理能力和知识结构将永久消失。
• 廉价模型能力不足：小型开源模型（如Llama 3-8B、Mistral 7B）虽然运行成本低，但在复杂推理、代码生成、逻辑分析等任务上远不如顶级模型。
• 知识迁移困难：传统知识蒸馏需要大量标注数据和复杂训练流程，普通开发者难以操作。

Fable 5 技能萃取器 解决的核心问题是：如何在不进行模型微调的情况下，让顶级模型将其核心能力“封装”成可复用的技能指令，使低成本模型通过调用这些技能来接近顶级模型的性能。

二、项目原理与核心机制

该项目本质上是一个元提示工程（Meta-Prompt Engineering） 工具。它通过精心设计的系统提示词，引导顶级模型（如Claude Opus）在退役前完成以下过程：

1. 自我审视：模型分析自身的知识结构和推理模式
2. 技能提取：将复杂任务分解为可复用的技能模块（如“代码调试三步法”、“逻辑推理链”等）
3. 技能封装：将每个技能转化为清晰的、可被其他模型执行的指令集
4. 技能输出：生成可直接用于廉价模型推理的JSON格式技能库

工作流程示意图

用户输入任务描述
↓
[Fable 5 Prompt] → 调用Claude Opus
↓
Opus分析任务 → 提取技能 → 封装为技能库
↓
技能库 (JSON格式) → 廉价模型加载 → 执行任务

三、安装与使用

环境准备

该项目不依赖任何特定框架，只需一个支持API调用的Python环境。

bash

安装依赖

pip install openai anthropic httpx

步骤1：获取顶级模型的技能库

使用提供的Prompt模板调用Claude Opus：

python
import anthropic

client = anthropic.Client(api_key="your-anthropic-key")

加载Fable 5 Prompt（项目中的核心提示词）

with open("fable_5_prompt.txt", "r") as f:
system_prompt = f.read()

response = client.messages.create(
model="claude-3-opus-20240229",
max_tokens=4000,
system=system_prompt,
messages=[
{"role": "user", "content": "请为以下任务创建技能库：编写一个Python脚本来分析CSV文件中的异常值"}
]
)

保存技能库

with open("skills_library.json", "w") as f:
f.write(response.content[0].text)

步骤2：在廉价模型中使用技能库

python

加载技能库

import json
with open("skills_library.json", "r") as f:
skills = json.load(f)

使用廉价模型（如Llama 3）执行任务

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

将技能库注入到系统提示中

system_prompt = f"""你是一个AI助手，以下是你可以使用的技能库：
{json.dumps(skills, indent=2)}

请根据用户的问题，选择合适的技能进行回答。
"""

response = client.chat.completions.create(
model="llama3",
messages=[
{"role": "system", "content": system_prompt},
{"role": "user", "content": "分析这个CSV文件的异常值：data.csv"}
]
)

print(response.choices[0].message.content)

四、核心亮点深度分析

1. 零成本知识蒸馏

传统知识蒸馏需要：

• 大量标注数据
• 完整的训练流水线
• GPU资源（至少数万美元）

而Fable 5仅需一次API调用（成本约0.1美元），即可获得可复用的技能库。

2. 技能的可组合性

技能库中的每个技能都是独立的模块，可以组合使用。例如：

• "数据清洗技能" + "统计分析技能" = 完整的数据分析流程
• "代码调试技能" + "性能优化技能" = 代码质量提升方案

3. 模型无关性

生成的技能库是纯文本格式，可以被任何语言模型理解，包括：

• 开源模型：Llama 3, Mistral, Gemma
• 商业模型：GPT-3.5, Claude Haiku
• 本地模型：通过Ollama或llama.cpp运行

4. 持续进化

随着顶级模型的更新，可以不断生成新的技能库，形成技能积累。项目作者建议在每次模型退役前执行一次萃取操作。

五、实际案例与效果对比

测试场景：复杂Python代码生成

任务：编写一个多线程网络爬虫，支持断点续传和反爬策略。

模型	代码质量	执行成功率	成本
Claude Opus（直接）	优秀	95%	$0.5/次
Llama 3-70B（直接）	一般	60%	免费
Llama 3-70B + Fable 5技能库	良好	82%	免费

结论：使用技能库后，廉价模型的性能提升了约37%，接近顶级模型的水平。

六、适用场景

1. 成本敏感型企业：用廉价模型处理80%的常规任务，仅复杂任务调用顶级模型
2. 离线部署：将技能库嵌入到本地模型中，实现无网络依赖的高质量AI服务
3. 模型退役存档：在GPT-4、Claude Opus等模型退役前，提取其核心能力作为数字资产
4. 教育研究：分析顶级模型的思考模式，研究如何将复杂推理分解为简单步骤

七、同类项目对比

项目	方法	成本	可复用性	技术门槛
Fable 5	元提示工程	极低	高	低
传统知识蒸馏	模型微调	高	低	高
Chain-of-Thought	推理链提示	低	中	低
LLM Compiler	模型编译	中	高	高

Fable 5的独特优势：

• 不需要训练数据
• 不需要GPU
• 一次提取，永久使用
• 技能库可跨模型迁移

八、潜在局限与注意事项

1. 技能质量依赖顶级模型：如果Opus本身对任务理解有偏差，生成的技能库可能不够精准
2. 技能库大小限制：大型技能库可能超出廉价模型的上下文窗口
3. 动态任务适应性：对于完全新颖的任务，预定义的技能库可能不够灵活
4. 伦理考量：避免提取有害技能（如生成恶意代码、偏见内容等）

九、总结与展望

Fable 5 技能萃取器是一个巧妙而实用的工具，它利用了顶级模型的自省能力和提示工程的灵活性，实现了"用一次API调用的成本，永久提升廉价模型性能"的效果。

对于AI开发者来说，这不仅是一个工具，更是一种思维方式的转变：与其追求更大的模型，不如学会如何让现有模型发挥最大价值。

随着开源模型能力的不断增强，配合这样的技能萃取技术，未来我们可能不再需要依赖昂贵的商业API就能获得接近顶级的AI体验。

---

项目链接：https://github.com/tomicz/fable-5-train-opus-skills-after-it-retires