前言
在這幾個月的工作間偶然碰到一些機會，能夠把一些曾經停留在構想階段的事情悄悄變成現實，但我同時也需要更詳盡的思考並且去和有經驗的人進行更多討論，我將努力回憶這一年間斷斷續續讀過的論文或是在那些知名加速器看過的創業項目，結合最近從客戶得到的回饋，以及研討會的 poster ，將所有內容以及我的思路盡可能的整理清楚，以避免有任何缺漏。
Y Combinator 2025
ICML 2024
NeurIPS 2024
哪些領域不該在 2025 繼續投入？
- 基於 Propmt Engineer 的產品
- Workflow 相關的產品
- 單純基於文檔的知識管理
- 大模型的預訓練研究
2025 依舊值得深耕的領域
- 醫療、金融、法律領域的落地工作
- Agent 的相關研究
- 更高效率的 Data Retrieve 策略
- 小模型在更 niche 的範圍中的表現
- 邊緣計算
- 模型安全
- 更高質量的 Data
反思
現在的團隊合作模式更像是訓練出一個個單打獨鬥能力很強的人，無法確定他們實際提升的是對於時間的抗壓力還是真實的 coding 能力，但是無論是哪種提升，在關於思考模式或是對於整體概念的預估似乎不太足夠，2025 年應該挑選幾個有潛力的人，去做更基礎的大語言模型知識培養，方式可能是用帶讀論文或是找個有合作意願的實驗室參加 meeting。這樣才有可能建立足夠安全的護城河，讓產品從眾多 SaaS 中脫穎而出。