這項由MIT-IBM沃森AI實驗室、紅帽AI創新中心、愛荷華州立大學和IBM核心AI部門共同開展的研究發表於2026年3月，論文編號為arXiv:2603.25702v1。有興趣深入了解的讀者可以通過該編號查詢完整論文。
在人工智慧的世界裡，生成文本就像廚師做菜一樣，有兩種截然不同的方法。傳統的自回歸模型就像一個嚴格按照食譜一步步做菜的廚師，必須先準備第一道工序，完成後才能進行第二道，每一步都要等前一步完全結束。而擴散語言模型則像一個能同時處理多個工序的高效廚師，可以一邊炒菜一邊煮湯，大大提升了效率。
然而，就像再好的廚師也會遇到技術難題一樣，這些擴散模型在實際應用中面臨一個棘手的問題：當需要快速出菜時，質量往往會下降。研究人員發現了一個絕妙的解決方案，他們讓同一個AI模型扮演兩個角色：既當主廚負責快速烹飪，又當品鑑師負責質量把關。
**一、為什麼需要這種雙重身份的AI**
在AI生成文本的廚房裡，傳統方法就像一個只能按部就班工作的廚師。這種自回歸方法雖然能保證每道菜的質量穩定，但速度實在太慢了。每生成一個詞，都要等前面所有的詞都確定下來，就像做湯必須等水燒開，做菜必須等油熱好一樣，一切都是串聯進行的。
為了解決這個速度問題，研究人員開發了塊擴散模型，這就像給廚師配備了多個灶台，可以同時進行多個烹飪任務。在這種模式下，AI可以一次性生成多個詞語，大大提升了速度。但是，正如同時操作多個灶台容易出錯一樣，這種並行生成方式在追求速度時容易產生質量問題。
特別是在需要快速生成的場景下，傳統的置信度閾值方法就像一個過於嚴格或過於寬鬆的質檢員。如果質檢標準太嚴格，就會拒絕很多其實還不錯的結果，導致需要重新生成，浪費時間。如果標準太寬鬆，又會讓質量不佳的內容通過，影響最終效果。
研究團隊發現，關鍵在於需要一個更聰明的質檢機制。他們注意到，同一個塊擴散模型在不同的工作模式下表現出不同的特性。當塊大小設置為1時，這個模型實際上就變成了傳統的自回歸模型，具有嚴格的序列生成能力。
**二、S2D2框架的工作原理**
研究團隊開發的S2D2框架就像給AI廚師配備了一個內置的品鑑師。這個品鑑師實際上就是廚師本人，只是換了一個工作模式。當需要生成文本時，AI首先以塊擴散模式快速生成一批候選詞語，就像廚師快速準備一桌菜品的初版。然後，同樣的AI立刻切換到自回歸模式，變身為嚴格的品鑑師，逐一檢驗這些候選詞語的質量。
這種自我驗證的過程使用了一種叫做"推測解碼"的技術。簡單來說，就是品鑑師會計算每個候選詞語被接受的概率。如果一個詞語的質量足夠好，品鑑師就會點頭通過。如果質量不夠，品鑑師就會搖頭拒絕，並提供一個更好的替代詞語。
整個過程就像一個高效的質量控制流水線。主廚快速烹飪，品鑑師即時檢驗，合格的立即通過，不合格的當場改進。這樣既保證了速度，又維持了質量。
更巧妙的是，研究團隊還設計了智能的路由策略，就像給品鑑師配備了一個聰明的助手，能夠判斷什麼時候需要進行嚴格檢驗，什麼時候可以簡化流程。比如，當候選詞語明顯質量很高或很低時，就不需要複雜的檢驗過程。只有在質量模糊不清的情況下，才會啟動完整的驗證程序。
**三、三種路由策略的巧妙設計**
為了讓這個雙重身份的AI工作得更加高效，研究團隊設計了三種不同的路由策略，就像給品鑑師制定了三套不同的工作規則。
第一種是最小跨度策略，這就像給品鑑師設定一個基本工作量。只有當需要檢驗的候選詞語達到一定數量時，品鑑師才會正式上崗。比如設定至少要有2個或更多連續的候選詞語，品鑑師才開始工作。這樣可以避免為了檢驗一個詞語而啟動整套複雜程序，就像不會為了品嘗一口湯就動用整套品鑑設備。
第二種是評分閾值策略，這更像是給品鑑師配備了一個智能評估系統。系統會根據候選詞語的置信度、複雜度等因素計算出一個綜合評分。只有當評分達到一定標準時，才值得啟動嚴格的驗證程序。這種方法能夠更精確地判斷哪些情況真正需要品鑑師介入。
第三種是磁滯策略，這是最聰明的一種方法。就像一個有經驗的品鑑師，會根據當前的工作狀態來決定是否繼續嚴格檢驗。如果之前的檢驗都很順利，品鑑師可能會稍微放鬆標準。如果連續發現問題，品鑑師就會提高警惕，採用更嚴格的標準。這種策略避免了頻繁在嚴格和寬鬆之間切換，保持了工作節奏的穩定性。
**四、在五個不同模型上的驗證**
為了證明這種方法的通用性，研究團隊在五個不同的AI模型上進行了測試，這些模型來自三個主要的技術家族：SDAR、Fast-dLLM v2和LLaDA2.1。這就像在不同類型的廚房裡測試這套品鑑系統是否都能正常工作。
在數學推理任務GSM8K上，S2D2表現出了令人印象深刻的效果。以SDAR-1.7B模型為例，在速度優先的配置下，S2D2實現了4.7倍的加速，同時準確率還提升了4.5個百分點。這就像一個廚師不僅做菜速度提升了近5倍，菜品質量還變得更好了。
在代碼生成任務MBPP和HumanEval上，S2D2同樣顯示出了穩定的優勢。特別是在較大的塊大小設置下，傳統的擴散方法往往質量下降明顯，而S2D2能夠有效地維持質量水平。這證明了自我驗證機制確實能夠彌補快速生成帶來的質量損失。
更有趣的是，在LLaDA2.1模型上的測試顯示，S2D2與模型內置的自修正機制是互補的，而不是衝突的。在保守設置下，S2D2比靜態基準快4.4倍，準確率還略有提升。這說明這種方法具有很好的兼容性，可以與其他優化技術協同工作。
**五、深層原理和理論分析**
從理論角度來看，S2D2的工作原理可以用"殘餘能量修正"來解釋。在物理學中，系統總是趨向於能量最低的穩定狀態。類似地，在文本生成中，高質量的詞語序列對應於較低的"殘餘能量"，而低質量的序列則具有較高的能量。
傳統的擴散方法在快速生成時，就像一個急於下山的人，可能會選擇看起來不錯但實際上通向懸崖的路徑。而S2D2的自我驗證機制就像在每個關鍵路口都有一個經驗豐富的嚮導，能夠及時發現並糾正錯誤的選擇。
這種驗證過程不是簡單的接受或拒絕，而是一個概率性的選擇過程。品鑑師會根據候選詞語和理想詞語之間的"能量差距"來決定接受概率。能量差距越小的詞語越容易被接受，差距較大的詞語被接受的概率就較低。被拒絕的詞語不會被簡單丟棄，而是會被一個更好的替代詞語取代。
研究團隊還發現，這種方法與現有的EDLM等高級技術在理論上是相關的，但S2D2更注重實際應用中的速度優化，而不是通過額外的訓練來提升質量。這使得S2D2具有"即插即用"的特性，可以直接應用於現有的預訓練模型，無需重新訓練。
**六、實際應用價值和局限性**
S2D2的最大價值在於其實用性。對於需要快速生成大量文本的應用場景，比如智能客服、內容創作輔助、代碼自動補全等，這種技術可以顯著提升用戶體驗。用戶不再需要在速度和質量之間做痛苦的選擇，而是可以同時獲得兩者的優勢。
從成本角度來看，S2D2隻需要增加一次額外的前向傳播計算，相比於重新訓練模型或使用多個不同模型的方案，計算開銷相對較小。而且由於其訓練無關的特性，可以很容易地集成到現有的系統中。
不過，這種方法也有一些局限性。由於需要額外的驗證步驟，在某些簡單任務上可能會出現"殺雞用牛刀"的情況，反而增加了不必要的計算開銷。此外，驗證的效果在很大程度上依賴於模型本身在自回歸模式下的表現，如果基礎模型質量不夠好，驗證的幫助也會有限。
另一個需要注意的是，S2D2並不等同於純粹的自回歸生成。它是一種混合方法，在享受並行生成優勢的同時，通過局部驗證來彌補質量損失。因此，在某些需要嚴格保證生成質量的應用中，可能仍然需要更保守的方法。
說到底，S2D2為AI文本生成領域帶來了一個巧妙的平衡方案。它證明了有時候最好的創新不是發明全新的技術，而是聰明地重新組合現有的能力。就像一個優秀的廚師不需要全新的廚具，而是能夠巧妙地運用手中的工具創造出意想不到的美味。這種讓AI模型自己給自己把關的思路，或許會啟發更多類似的創新方法，讓AI系統變得既快又好。
Q&A
Q1：S2D2如何實現既提速又保質的效果？
A：S2D2讓同一個AI模型扮演兩個角色：先用塊擴散模式快速生成候選詞語，然後切換到自回歸模式對這些候選詞語進行質量檢驗。就像一個廚師快速做菜後立即品嘗檢驗，合格的通過，不合格的當場改進，這樣既保證速度又維持質量。
Q2：S2D2需要重新訓練AI模型嗎？
A：不需要重新訓練。S2D2是"即插即用"的技術，可以直接應用於現有的預訓練塊擴散模型。它只是巧妙地利用了這些模型在不同塊大小設置下的不同特性，讓模型在塊擴散和自回歸兩種模式之間智能切換。
Q3：哪些應用場景最適合使用S2D2？
A：S2D2特別適合需要快速生成大量文本且對質量有一定要求的場景，比如智能客服系統、內容創作輔助工具、代碼自動補全等。在這些應用中，S2D2能夠顯著提升響應速度，同時保持輸出質量，改善用戶體驗。
