近日，AI領域迎來一項引人矚目的技術突破——DeepSeek團隊開源的DeepSeek-OCR模型憑借其獨特的視覺壓縮技術，在GitHub上迅速斬獲超過4000個Star，引發全球開發者與科研人員的熱烈討論。該模型通過將文本轉換為視覺token的方式，實現了對長文本的高效壓縮與處理，為解決大模型上下文效率問題提供了全新思路。
技術核心在于視覺token的壓縮效率革新。傳統多模態模型中，視覺token通常僅用于處理圖像或無法用文字描述的內容，因其空間占用遠高于文本token。例如，一萬英文單詞若轉換為文本token約需15000個，而視覺token可能達到3萬至6萬個。但DeepSeek的研究表明，通過特殊壓縮算法，視覺token的效率可提升10倍，使得原本需要10000個單詞的文本，理論上僅需約1500個壓縮視覺token即可完整表示。
這一突破引發了關于人類認知機制的聯想。研究指出，人類大腦在回憶文本內容時，往往依賴視覺記憶定位，如記住段落所在頁碼、位置等信息。這種生物機制與視覺token壓縮的思路不謀而合，但模型能否在壓縮視覺token的基礎上保持語言推理能力，仍是待解的疑問。有研究者提出，過度依賴視覺表征可能削弱模型的語言表達能力，但若能平衡效率與性能，該技術或將成為擴展模型上下文容量的關鍵路徑。
行業反響呈現兩極分化。支持者認為，結合DeepSeek此前發布的稀疏注意力機制，該技術有望使大模型上下文窗口擴展至千萬級token。例如，用戶可將整個代碼庫或企業文檔集作為提示詞前綴輸入模型，通過緩存機制實現快速查詢，無需依賴外部搜索工具。紐約大學助理教授謝賽寧對此表示認同，他曾在擴散Transformer研究中探索過視覺與文本的融合路徑。
批評聲音則聚焦于技術原創性。有研究者指出，哥本哈根大學2022年發表的《Language Modelling with Pixels》已提出類似概念，其開發的PIXEL架構通過將文本渲染為圖像，實現了跨語言的表征遷移。此后，CVPR 2023、NeurIPS 2024等會議陸續出現相關改進研究，包括僅用像素處理圖像與語言的CLIPPO模型，以及利用視覺token擴展文本上下文的多模態學習方案。
盡管存在爭議，DeepSeek-OCR的開源策略獲得廣泛認可。技術社區迅速展開實踐探索，Django框架聯合創始人Simon Willison僅用4個提示詞便在英偉達Spark硬件上運行該模型，耗時40分鐘；科技博主NiceKate AI則成功將其部署至Mac設備。這些案例顯示，該模型在工程實現上具有較高可行性。
值得關注的是，部分研究者認為谷歌Gemini模型可能已應用類似技術。其龐大的上下文窗口與優秀的OCR性能，或源于視覺token壓縮的隱藏能力。但DeepSeek的完全開源策略，使任何團隊均可驗證并改進這一技術，這種透明度在商業競爭中顯得尤為珍貴。
在Hacker News等平臺，討論延伸至模型認知能力的邊界。有用戶設想，若模型能像物理學家Hans Bethe般記憶海量數據，將極大提升知識調用效率。例如，將整個元素周期表或代碼庫存入上下文窗口，可能徹底改變科研與編程模式。然而，這種“工作記憶”擴展是否以犧牲語言表現為代價，仍需更多實證研究。
