The Elephant in the Room - Analyzing the Presence of Big Tech in Natural Language Processing Research
核心動機:
大型語言模型(LLM)雖具高準確率,但成本高、延遲大。小模型(SLM)在特定任務上更高效、易部署 → 問題:能否讓多個 SLM 協作以達到或超越大型模型表現?
現有的多模型協作假設模型具備強推理與辯論能力,但 SLM 缺乏此能力
→ 導致 groupthink 錯誤放大
SLM-MUX
以「自信度選擇」為核心,不進行語言互動的多模型推理架構,透過自一致性評估選擇最可靠的模型輸出。使多個小模型協作能在低成本下達到甚至超越大型模型的推理準確率。