把 BlockNote 的 AI 接上地端 Gemma:一場跟 Vercel AI SDK tool-calling 格式的硬仗
這篇文章記錄了作者將 BlockNote 官方 AI 套件整合至地端 Gemma 3 27B 模型的完整踩坑與除錯過程。作者在純離線的開發限制下,面對官方套件高度依賴雲端模型 Tool-calling 能力的阻礙,經歷了資料流撞牆與前端假流式的挫折,最終透過讓後端模擬結構化指令(Operation)並直接對接執行器,成功還原了流暢的就地對比體驗。同時,作者也巧妙利用輕量虛擬環境繞過了公司嚴格的 MAC 端點管控,解決了開發迭代受阻的基礎設施痛點。文章穿插了詳實的 Payload 數據排查與各類邊界條件(Edge Cases)的修補細節,展現了在底層原始碼與硬體限制中尋求突破的工程韌性。整體風格務實且邏輯嚴密,反映了開發者在看透框架隱藏假設與模型能力天花板後,依然能精準給出架構妥協與解法的硬派技術精神。
来自 宙と木作者主页
以上内容来自博客订阅源,版权归原作者。关注作者后可以在 关注列表 第一时间查看作者文章。
登录后,加入这场讨论。
登录参与