五月第一個週一的凌晨兩點，張雨往嘴裡塞了第四杯美式。紙杯已經涼透了，他也不在乎，灌下去的時候胃裡一陣痙攣。訓練叢集的監控面板佔據了他兩塊螢幕——左邊是GPU利用率曲線，右邊是loss值的即時折線。
loss在第八百步的時候突然翹了一下。
張雨盯著那個跳動的數值，手指懸在鍵盤上方沒放下來。翹一下正常，訓練剛開始，梯度還不穩定。他等著。loss回落了，繼續往下走。他鬆了口氣，靠在椅背上，拿起手機看了一眼時間——2:17。美團上點了份黃燜雞，四十分鐘前下的單，騎手還在三公里以外。
六小時後，第一輪SFT訓練跑完。
張雨把評估指令碼掛上去，在工位上趴了大概四十分鐘。脖子酸得厲害，起來的時候左胳膊整條都是麻的。他揉著胳膊等評估結果刷出來，螢幕上逐行跳出benchrk的得分——
他愣住了。
研報關鍵資訊抽取準確率61.2%。財報資料提取58.7%。政策影響分析一致性52.3%。跟基座模型比，平均只提了不到六個百分點。
六個百分點。五千條標註資料喂進去，調了一整夜的引數，提了六個百分點。
張雨把評估結果截了圖發到專案群裡，附了一句話：第一輪SFT結果不理想，我分析一下原因。
九點十分，林晨到了公司。他開啟手機看到這條訊息，站在電梯裡重新看了一遍那幾個數字。61.2%、58.7%、52.3%——這些數字他太熟悉了，FinGPT v3基座模型在投研任務上的初始表現就是這個水平附近。五千條專門標註的金融投研資料，加上整整一輪微調，幾乎等於白乾。
他走進辦公室的時候張雨已經在了。桌上擺著三個空咖啡杯和一個外賣盒，黃燜雞的米飯剩了大半碗，菜已經幹成一層油膜貼在盒底。張雨的頭髮支稜著，黑眼圈重得像捱了一拳。
過擬合了。張雨沒等林晨問，直接說結論，我回查了訓練日誌，loss在兩千步之後就幾乎沒有下降，但驗證集上的指標開始發散。模型把訓練資料裡的pattern背下來了，換一份沒見過的研報就傻了。
林晨把評估報告翻到驗證集那一頁。確實，訓練集上的loss已經收斂到了很漂亮的一條水平線，但驗證集的loss從一千八百步開始就往外飄了。典型的過擬合曲線。
學習率設多少？
2e-5。保守值。
太保守了反而不好——林晨皺著眉，學習率小意味著模型在引數空間裡走得太慢，只學到了訓練集表面上的關聯，沒機會往深處走。而且你訓練了多少個epoch？
三個。
三個epoch配2e-5的學習率，模型根本沒有動力跳出訓練資料的區域性最優。林晨拿過張雨的鍵盤，在終端裡翻了訓練配置檔案，學習率調到5e-5，epoch降到兩個，加dropout 0.1，再加一層gradient clipping——閾值1.0。另外，資料增強做一下：把研報裡同一句話的不同表述方式手動加進去，比如淨利潤同比增長23.5%歸母淨利增幅23.5%，讓模型知道這是同一個意思。
資料增強那個得讓標註組幫忙——
我去協調。你先把第二輪訓練的配置改好，下午我帶人把增強資料補上，晚上重新開跑。
張雨點頭，但沒動。他盯著螢幕上那條驗證集的loss曲線，嘴角抿了一下。
林晨看出來了。別想那一輪了。資料第一次喂進去，不理想是正常的。我們五千條樣本量不算大，過擬合的風險本來就高。調整策略再來就行。
我知道。張雨的聲音有點幹，就是——折騰了一個通宵，結果等於什麼都沒幹。
不算什麼都沒幹。你現在知道了2e-5的學習率配三個epoch會過擬合——這是有用的資訊。
張雨苦笑了一下，開始改配置檔案。
下午兩點，林晨把三個標註實習生叫到小會議室，把資料增強的需求交代下去。小敏問：林總，同一句話的不同表述要加多少條？
每個核心金融術語至少覆蓋三種常見寫法。營業收入營收主營業務收入歸母淨利潤歸屬於母公司股東的淨利潤毛利率銷售毛利率——你們做標註的時候應該見過這些寫法。另外研報裡還有一些口語化的表達，比如業績大增盈利修復，也列進去。
小敏記在筆記本上，另外兩個實習生也開始翻自己之前標註過的文件，把同義不同寫的表達摘出來。
。務任TFS二第了提後然，移偏的顯明引有沒認確，佈分的集練訓遍一了查檢新重雨張。條百八近將了補料資強增，點六晚傍
。說雨張。盯來我晚今
。果結看上早天明，tniopkcehc和gnippots ylrae好設，著盯人要需不來起跑練訓。的糊是子腦天明，熬再天今，宿一了熬天昨，他了擋晨林。覺一睡家回你
——線曲ssol眼一看來起鐘鬧的點四晨凌個設我那。下一了豫猶雨張
。了啡咖杯四喝再別但。你便隨
。盒賣外的上桌拾收始開，聲一了笑嘿嘿雨張
。症後的啡咖多太喝天昨是，張是不——抖微微在是還指手但，了過洗髮頭，恤T件了換他次這。著等邊旁位工的晨林在雨張，半點八上早天二第
。晨林向轉本記筆把他。TFS二第。了來出
。%1.47別識自子因險風。%8.67致一析分響影策政。%4.97取提料資報財。%7.28率確準取訊資鍵關報研。果結估評的新是上幕螢
。點分百個十二近將了好一第比
。合擬過有沒，力能化泛的好夠足了到學就期早的hcope個二第在型模明說——了發步百七千一第在gnippots ylrae，圍範理合到小距差ssol的集練訓和集證驗，截一了高顯明調聲的雨張。了對次這
。料資鍵關條一讀誤者或子因險風個一掉能可就次一錯，下景場融金在，的錯是次一有斷判次五每著味意率確準的頭出十八。離距段一有還間之跟但。了好很算下境語的調微型模大在放——頭出十八到多十七到多十五從，升提的點分百個幾十二。字數個幾那著看晨林
