<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Transfer Learning on 周先森的小站</title><link>https://332002.xyz/tags/transfer-learning/</link><description>Recent content in Transfer Learning on 周先森的小站</description><generator>Hugo -- gohugo.io</generator><language>zh</language><lastBuildDate>Fri, 08 May 2026 00:00:00 +0800</lastBuildDate><atom:link href="https://332002.xyz/tags/transfer-learning/index.xml" rel="self" type="application/rss+xml"/><item><title>铸剑师的传承</title><link>https://332002.xyz/p/zhu-jian-shi-de-chuan-cheng/</link><pubDate>Fri, 08 May 2026 00:00:00 +0800</pubDate><guid>https://332002.xyz/p/zhu-jian-shi-de-chuan-cheng/</guid><description>&lt;p&gt;春秋时期，天下铸剑之风盛行。各国皆有自己的铸剑坊，但真正能铸出名剑的，寥寥无几。&lt;/p&gt;
&lt;p&gt;楚国有一位铸剑大师，人称千锤翁。他年轻时周游列国，在越国学过淬火，在韩国学过选矿，在赵国学过锤锻，在燕国学过打磨。三十年游历，他把天下铸剑的核心技艺都学到了手。但有趣的是——他很少亲手铸剑。&lt;/p&gt;
&lt;h2 id="千锤翁的教学法"&gt;千锤翁的教学法
&lt;/h2&gt;&lt;p&gt;来找千锤翁拜师的人络绎不绝，但他从不从零开始教。&lt;/p&gt;
&lt;p&gt;他的教学方法很特别：每个新徒弟进门，千锤翁会先让他们在自己的工坊里住上三个月，什么都不用做，就是看——看炉火的颜色判断温度，看矿石的纹理判断成分，听锤击的声音判断硬度。千锤翁说：&amp;ldquo;先别急着铸你的剑。先把铸剑这回事儿的道理，从骨头里理解透。&amp;rdquo;&lt;/p&gt;
&lt;p&gt;三个月后，千锤翁会根据每个徒弟的来处和需求，给他们不同的训练。&lt;/p&gt;
&lt;p&gt;来自北方草原的徒弟，需要铸弯刀——千锤翁就教他如何调整锤打角度，让刀身自然弯曲。来自南方水乡的徒弟，需要铸短剑——千锤翁就教他如何在淬火时加入特殊的油脂，让剑身更防锈。来自战场前线的徒弟，需要铸重剑——千锤翁就教他如何选择更重的矿石，锻造出能劈开铠甲的厚刃。&lt;/p&gt;
&lt;p&gt;每个徒弟最终铸出的剑都不同，但每个人身上都有千锤翁三十年游历所积淀的&amp;quot;底子&amp;quot;。&lt;/p&gt;
&lt;h2 id="从零开始的代价"&gt;从零开始的代价
&lt;/h2&gt;&lt;p&gt;与千锤翁齐名的，还有一位铸剑师叫从零翁。他的教学方法截然相反——他相信真正的匠人应该从选矿石开始，一步步摸索出全部技艺。&lt;/p&gt;
&lt;p&gt;从零翁的徒弟入门后，要花两年学认矿石，两年学砌炉，两年学控火，两年学锤锻，两年学淬火……十年才能出师。而十年之中，大部分人中途就放弃了——不是因为不够聪明，而是因为时间太长、成本太高。&lt;/p&gt;
&lt;p&gt;更要命的是，从零翁的徒弟虽然也学到了一身本事，但他们在基础知识上花的时间太多，等到需要针对特定剑型做精细调整时，往往已经精疲力竭。&lt;/p&gt;
&lt;p&gt;而千锤翁的徒弟呢？三个月打好基础，再花两三个月专项训练，半年就能出师。而且铸出的剑，品质并不比从零翁十年教出来的差。&lt;/p&gt;
&lt;h2 id="千锤翁的秘密"&gt;千锤翁的秘密
&lt;/h2&gt;&lt;p&gt;有人问千锤翁：&amp;ldquo;您的徒弟为什么学得这么快？&amp;rdquo;&lt;/p&gt;
&lt;p&gt;千锤翁指着工坊墙上挂满的工具说：&amp;ldquo;铸剑的道理，说到底就那些——选材、加热、锤打、淬火、打磨。我花三十年把这些道理吃透了，变成了一套扎实的基本功。徒弟们不需要再花三十年去摸索这些，他们只需要站在我的肩膀上，学最后那一小段——他们各自需要的特殊手艺。&amp;rdquo;&lt;/p&gt;
&lt;p&gt;他顿了顿，又说：&amp;ldquo;从零学起不是不行，只是太慢、太贵了。站在前人的基础上，只学差异的部分，这才是正道。&amp;rdquo;&lt;/p&gt;
&lt;hr&gt;
&lt;p&gt;故事讲完了。&lt;/p&gt;
&lt;p&gt;千锤翁的教学之道，就是 AI 领域中 &lt;strong&gt;迁移学习（Transfer Learning）与微调（Fine-tuning）&lt;/strong&gt; 的核心思想。&lt;/p&gt;
&lt;p&gt;在现代 AI 中，训练一个大语言模型的成本极其高昂——GPT-3 的训练花费了数百万美元，动用数千块 GPU，耗时数月。这就像从零翁的教学法：从最基础的语言规律开始，让模型一点点学会语法、常识、推理……代价巨大。&lt;/p&gt;
&lt;p&gt;迁移学习的思路则像千锤翁：&lt;strong&gt;先花大代价训练一个&amp;quot;通才&amp;quot;模型（预训练），然后针对具体任务做少量额外训练（微调），就能得到优秀的专用模型。&lt;/strong&gt;&lt;/p&gt;
&lt;p&gt;具体来说：&lt;/p&gt;
&lt;ol&gt;
&lt;li&gt;&lt;strong&gt;预训练（Pre-training）&lt;/strong&gt;：对应千锤翁三十年游历和三个月的基础训练。在大规模数据上训练模型，让它学会语言的通用知识——语法、常识、推理能力。这一步成本极高，但只需做一次。&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;微调（Fine-tuning）&lt;/strong&gt;：对应千锤翁针对不同徒弟的专项训练。用特定领域的小规模数据对预训练模型做进一步训练——医疗、法律、编程、客服……每个领域只需少量数据和较少的计算资源。&lt;/li&gt;
&lt;/ol&gt;
&lt;p&gt;这种方法之所以有效，是因为不同任务之间共享大量底层知识。就像千锤翁所说——&amp;ldquo;铸剑的道理，说到底就那些。&amp;rdquo; 语言模型的底层能力（理解语义、遵循逻辑、组织表达）是通用的，真正需要针对任务调整的，只是最上面那一层。&lt;/p&gt;
&lt;p&gt;如今主流的做法更进一步：对于很多任务，甚至不需要微调——只需在提示词中给出几个示例（Few-shot Learning），或者直接用自然语言描述任务，预训练模型就能很好地完成。千锤翁那些&amp;quot;三个月看和悟&amp;quot;的徒弟，连专项训练都不需要，光靠基础功底就能应付不少活儿。&lt;/p&gt;
&lt;p&gt;下次当你用几行提示词就让 ChatGPT 变成一个法律顾问、代码助手或翻译官的时候，你就知道——你就是千锤翁，而模型已经替你走完了那三十年。&lt;/p&gt;</description></item></channel></rss>