欢迎回来
登录你的知识库账户
忘记密码?
还没有账户?立即注册
创建账户
注册你的专属知识库
已有账户?去登录
找回密码
输入注册邮箱获取验证码
返回登录
请输入图片中的验证码以继续注册
加载中...
取消
新建收藏
手动添加你喜欢的内容
取消
编辑头像与昵称
上传新头像或修改你的显示昵称
支持 JPG/PNG,最大 2MB
取消

问题反馈

notebasewww.notebase.cn
控制台
内容库
动态
管理
账户
U
用户
--
在线
v0.8.7 · 知识库
笔记
KnowledgeBase
网络无边,知识有迹。
0笔记
0工具
30推荐

分类导航

按主题直达

编辑精选

站内用户贡献 · 真实笔记

最新收录

每日更新
继续浏览全部内容 →
>
笔记
0
加载中...
工具
0
此页用于记录用户反馈问题后的每一次改进
笔记用法

“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本,起稿或二次编辑时都能随时切换,同一篇笔记想用哪种形态来记,都由你说了算。

md、txt、csv、json 这类纯文本则原样载入,不做多余加工。拿一张现成的表倒进来、改几笔、再导出去,等于白用一台免费的格式转换器。

要带走就在右上角点“下载”,可导出 PDF、Word、Markdown、Excel、TXT 等格式;列表卡片“⋯”菜单里,也有同样的下载入口。

工具用法

在“工具”页点“+ 上传工具”即可发布:填好名称与链接,再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用,比堆介绍实在。

要分发安装包就一并上传压缩包(ZIP、RAR、7Z、TAR.GZ,最大 35MB),别人在详情页一键下载;只放链接不带附件也可以。

工具按大家的收藏热度排序,好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。

隐藏笔记

写笔记时勾上“隐藏”,这篇就只存在于你自己的账号里:不进列表、不进搜索、不上首页精选,也不会出现在任何公开的页面,链接发给别人同样打不开。

适合放密码、草稿、日记这类只给自己看的内容;想公开,去“发布”打开它,把“隐藏”的勾去掉再保存,之后编辑会默认保持原状态,不会悄悄变回公开。

数据安全

你的内容会同时保存在多个副本上,系统定期做备份与完整性校验,再配合异地容灾机制:就算某台机器出问题,数据也不会丢,可以长期放心存放;特别重要的资料,仍建议你另外再留一份备份。

技术

全站跑在容器化、模块化的现代架构上,更新、部署、回滚都很快,扩展性和稳定性都按长期运营的标准来设计(Built for reliability, designed to scale)。

理念

这个网站最早只是一个人的笔记仓库,后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法,只是干干净净地存放一些东西;既然做好了,就公开出来,万一有人用得上呢。

原则

不做大而全,不做平台梦,保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护:不会突然冒出付费墙,不会在角落塞广告位,也不会把你的数据卖给第三方。

更多

产品会持续迭代,站内日志页记录着每一次改动,改了什么都有迹可循;想了解这个站是怎么一步步走到今天的,翻翻日志就能看到来龙去脉。

举报

如果在这里看到涉嫌违规的内容,点对应卡片右侧的“举报”按钮就能提交,我们会尽快核实处理;也谢谢你花一点时间,一起把这里维护干净。

趋势
// 点击导航加载发现
归档
// 归档为空
最近浏览
// 暂无浏览记录
发布
// 加载中...
用户发布
// 加载中...
用户管理
// 加载中...
访问统计
// 加载中...
内容审核
// 加载中...
个人信息
// 加载中...
返回首页

Jacobian Lens:打开神经网络的黑箱——Anthropic 全局工作空间可解释性工具深度解析

2026/7/7技术杂谈

Jacobian Lens 是 Anthropic 推出的用于神经网络全局工作空间可解释性研究的配套代码库,通过雅可比矩阵可视化揭示模型内部表征的动态变化。

一、项目背景与痛点:为什么需要 Jacobian Lens?

随着大语言模型(LLM)在现实场景中的广泛应用,其内部工作机制仍是一个“黑箱”。传统的可解释性方法(如注意力可视化、激活最大化和探针分析)往往聚焦于局部神经元或注意力头,难以捕捉模型在处理复杂任务时全局表征的动态演化。具体痛点包括:

  • 局部性局限:注意力权重只能反映输入-输出的相关性,无法揭示中间层如何逐步构建语义。
  • 静态性缺陷:激活值可视化通常针对单个时间步或层,缺乏对跨层、跨时间步的信息流动追踪。
  • 缺乏因果视角:多数方法只能观察到“哪里活跃”,无法回答“哪个输入特征导致了输出变化”——这正是因果可解释性的核心。

Anthropic 的研究团队在“全局工作空间”(Global Workspace)理论框架下提出:模型在处理复杂任务时,会在某些关键时间步形成全局表征,这些表征通过跨层通信实现信息整合。Jacobian Lens 正是为了量化并可视化这种全局表征的形成过程而设计的工具。

二、安装与快速上手

2.1 环境要求

  • Python 3.9+
  • PyTorch 2.0+
  • 推荐使用 CUDA 11.8 以上版本

2.2 安装步骤

git clone https://github.com/anthropics/jacobian-lens.git
cd jacobian-lens
pip install -r requirements.txt

2.3 基本使用示例

以下代码演示如何加载一个预训练模型并计算其 Jacobian Lens:

import torch
from jacobian_lens import JacobianLens
from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载模型与分词器
model_name = 
编写使用方法
Markdown 格式 · Ctrl+Enter 确定
新建笔记
预览
数据表格
点击单元格编辑 · Tab 移动
A1fx
Sheet1
BIH1H2≡🔗</>
隐私提醒

取消
编辑工具
取消