“写笔记”支持四种格式——Word 文档、Excel 表格、Markdown、纯文本,起稿或二次编辑时都能随时切换,同一篇笔记想用哪种形态来记,都由你说了算。
md、txt、csv、json 这类纯文本则原样载入,不做多余加工。拿一张现成的表倒进来、改几笔、再导出去,等于白用一台免费的格式转换器。
要带走就在右上角点“下载”,可导出 PDF、Word、Markdown、Excel、TXT 等格式;列表卡片“⋯”菜单里,也有同样的下载入口。
在“工具”页点“+ 上传工具”即可发布:填好名称与链接,再用 Markdown 把使用方法写清楚——能解决什么问题、怎么装、怎么用,比堆介绍实在。
要分发安装包就一并上传压缩包(ZIP、RAR、7Z、TAR.GZ,最大 35MB),别人在详情页一键下载;只放链接不带附件也可以。
工具按大家的收藏热度排序,好用的自然会被顶上来。发布后可在详情页或卡片菜单里编辑、下架。
写笔记时勾上“隐藏”,这篇就只存在于你自己的账号里:不进列表、不进搜索、不上首页精选,也不会出现在任何公开的页面,链接发给别人同样打不开。
适合放密码、草稿、日记这类只给自己看的内容;想公开,去“发布”打开它,把“隐藏”的勾去掉再保存,之后编辑会默认保持原状态,不会悄悄变回公开。
你的内容会同时保存在多个副本上,系统定期做备份与完整性校验,再配合异地容灾机制:就算某台机器出问题,数据也不会丢,可以长期放心存放;特别重要的资料,仍建议你另外再留一份备份。
全站跑在容器化、模块化的现代架构上,更新、部署、回滚都很快,扩展性和稳定性都按长期运营的标准来设计(Built for reliability, designed to scale)。
这个网站最早只是一个人的笔记仓库,后来慢慢长成现在的知识中枢。设计上很克制——没有广告、没有追踪、没有推荐算法,只是干干净净地存放一些东西;既然做好了,就公开出来,万一有人用得上呢。
不做大而全,不做平台梦,保持简单、保持克制、保持好奇。所有内容都由用户贡献、由用户维护:不会突然冒出付费墙,不会在角落塞广告位,也不会把你的数据卖给第三方。
产品会持续迭代,站内日志页记录着每一次改动,改了什么都有迹可循;想了解这个站是怎么一步步走到今天的,翻翻日志就能看到来龙去脉。
如果在这里看到涉嫌违规的内容,点对应卡片右侧的“举报”按钮就能提交,我们会尽快核实处理;也谢谢你花一点时间,一起把这里维护干净。
小模型大用途:当AI从云端走向离线边缘
在缺乏稳定网络和数据中心基础设施的地区,小型AI模型正成为救命的关键技术。
一场演示引发的变革
2019年的一天,Adebayo Alonge 在南非开普敦的酒店房间里,准备向客户展示他创业公司的AI产品——一款解决非洲医疗保健中严重问题(假药)的设备。假药每年在非洲导致数千人死亡。
这款名为 RxScanner 的手持式光谱仪,利用红外光扫描药片,然后将药物的分子图谱发送给配备药品数据库的AI模型。几秒钟内,AI就能从分子图谱中识别出药物——或者报告这是假药。当时,该系统已在加纳、肯尼亚、缅甸以及 Alonge 的祖国尼日利亚等十多个国家的药店中使用。
但那天早上,在南非,它失灵了。
“我震惊了,”Alonge 说。光谱仪连接到了AI模型——但数据中心远在14000公里之外,带宽极其有限。“我们的服务器在美国,仅获取一次扫描结果就花了5分钟多。”
于是,Alonge 立即要求工程师将AI模型缩小成一个低功耗、无需联网的版本,能够完全运行在他的安卓手机上。两小时后,他们做出了这个版本,演示得以挽救。更重要的是,这次经历催生了设备的新版本——它可以在没有宽带、没有电脑甚至没有稳定电力的地方验证药片真伪。Alonge 也因此成了“小AI”的倡导者。
小AI:为全球医疗可及性而生
小AI 与富裕国家那些庞大的大语言模型(LLM)、超大规模数据中心、数十亿美元投资以及关于AI意识的争论相去甚远。但对于全球数百万人来说,唯一重要且通常唯一可用的AI,就是小AI。
(根据世界银行2024年11月发布的报告,在最贫穷国家中,只有0.7%的互联网用户使用过ChatGPT,而在最发达国家,这一比例为25%。)
世界银行行长 Ajay Banga 在2024年1月的达沃斯世界经济论坛上表示:“大多数人讨论AI都是从LLM/生成式AI的角度出发。但这需要大量的计算能力、电力、海量数据和熟练的管理人员。在发达国家之外,除了印度和中国,很少有国家同时具备这些条件。”
相比之下,Banga 指出,小AI 可以为那些什么都不缺的地区提供有用甚至拯救生命的服务。在印度,政府AI计划要求更多发展小AI,许多此类系统正在为农民服务。例如,印度 Vellore 理工学院 Bala Murugan 及其同事开发的无人机系统,可以拍摄腰果树照片,并快速识别出那些有斑点、表明病害的植株。所有处理都在无人机上完成,因此现场无需电脑,也无需连接中央服务器。
使用为特定问题训练的小语言模型,有时运行在廉价、低功耗设备上,其他小AI应用也已开发出来:识别乌拉圭葡萄园的蚂蚁侵扰、检测多个国家携带疟疾的蚊子、在巴西缺乏复杂设备的地区通过Arduino设备运行心电图。
“这是当今AI最重要的领域,”巴西伊塔茹巴联邦大学工程与信息系统研究所教授 Marcelo José Rovai 说(他参与了上述三个项目)。“它发展得非常快。”
低功耗设备上的小AI模型
小AI模型可以运行在各种低功耗设备上,包括 Arduino Nano 33 BLE Sense、Seeed Wio Terminal 和 Arduino Portenta 等。
对于 Alonge、Rovai 和其他倡导者来说,小AI 不仅仅是世界银行11月报告所说的“一个有前途的趋势”。从长远来看,它可能是将触及最多人生活、并在一些巨型模型因成本过高而让大多数用户无法承受之后仍然可持续的AI形式。
“我认为AI的未来不是像一个中心化的巨型模型。我认为是数百万个部署在边缘的、小而精准的模型,每个模型解决一个特定的问题。”
技术深度解析:小AI为何能在边缘生存?
1. 模型压缩技术
小AI 的核心在于模型压缩。常见技术包括:
- 量化(Quantization):将模型权重从32位浮点数降低到8位或4位整数,大幅减小模型体积和计算需求,同时保持精度损失在可接受范围内。
- 剪枝(Pruning):移除不重要的神经元连接,减少模型参数量。
- 知识蒸馏(Knowledge Distillation):用一个大型“教师”模型指导一个小型“学生”模型训练,使学生模型在更小体积下逼近教师性能。
- 轻量级架构设计:如 MobileNet、TinyBERT、DistilBERT 等专门为边缘设备设计的模型结构。
2. 硬件适配
小AI 运行在微控制器(MCU)上,如 Arduino 系列,这些设备通常只有几百KB的RAM和几MB的闪存。TensorFlow Lite Micro、ONNX Runtime 等推理框架专门针对这类资源受限环境优化。
3. 离线推理与隐私优势
无需联网意味着:
- 延迟从分钟级降至毫秒级(本地处理)
- 不依赖网络基础设施(适合偏远地区)
- 数据不出设备,增强隐私保护(如医疗数据)
- 功耗极低,电池供电可运行数月甚至数年
现实案例与数据
| 应用场景 | 地区 | 技术方案 | 关键数据 |
|---|---|---|---|
| 假药检测(RxScanner) | 非洲多国 | 手持光谱仪 + 离线小模型 | 扫描时间从5分钟降至秒级 |
| 腰果病害检测 | 印度 | 无人机 + 机载推理 | 无需现场电脑或网络 |
| 葡萄园蚂蚁侵扰识别 | 乌拉圭 | 低功耗传感器 + 小模型 | 实时监测 |
| 疟疾蚊虫检测 | 多国 | 边缘AI设备 | 即时识别 |
| 心电图生成 | 巴西 | Arduino + TinyML | 在缺乏复杂设备的地区运行 |
行业观点与未来展望
世界银行报告指出,小AI 是“有前途的趋势”,但倡导者认为其意义远不止于此。随着LLM的训练和推理成本持续攀升(单个GPT-4训练成本估计超1亿美元),小AI 提供了一条更可持续、更普惠的道路。
“我认为AI的未来不是像一个大模型在中心。我认为是数百万个在边缘部署的、小而精准的模型,每个解决一个具体问题。”—— Adebayo Alonge
原文链接
https://spectrum.ieee.org/small-language-models-ai-pharmaceuticals