2025年2月23日,深思考人工智能正式發布鴻蒙系統TinyDongni&deepseek超小端側多模態大模型及硬件模組,并宣布與國產頭部模組廠商廣和通、深開鴻達成合作,推出適配國產算力的硬件解決方案。此次合作標志著國產端側AI技術在低功耗、高性能領域實現重大突破,打破“國產算力性能不足”的固有認知。
核心優勢:輕量化大模型賦能國產硬件生態
TinyDongni作為端側輕量化大模型,以僅1.5B的極簡參數規模實現高效能運算,其創新量化方法顯著降低首Token延遲,支持32K超長上下文理解,并通過多芯片協同處理與內存優化技術,兼顧低功耗與高響應速度。技術亮點包括:
架構優化:DongniForCausalLM架構,支持1536/768隱藏層維度;
多語言支持:詞匯表擴展至183,542,覆蓋更廣泛的語言及專業領域表達;
靈活適配:兼容OpenHarmony、Linux、Windows、Android等主流操作系統。
deepseek系列則聚焦多模態能力,1B模型通過2048隱藏層維度與32注意力頭設計,強化復雜場景下的語義理解,適配智能硬件與邊緣計算場景。
國產模組合作:強強聯合,打造端側算力標桿
深思考聯合國產模組廠商推出兩大解決方案,驗證輕量化大模型與國產硬件的協同效能:
廣和通模組:集成5G與Wi-Fi 7通信技術,依托深思考算法優化,為車載、機器人等場景提供實時AI處理能力;
深開鴻模組:基于國產芯片與OpenHarmony系統,支持8K編解碼與多屏交互,賦能工業檢測、AI攝像頭等高精度場景。
技術突破意義:在國產算力硬件上跑通大模型,充分證明深思考技術的輕量化與高效能——模型體積小但功能完備,無需依賴高算力硬件即可實現復雜任務處理,為端側AI普惠化提供堅實基礎。
全場景應用:從生活到專業領域的AI革新
深思考端側大模型已落地多個領域:
1.存儲領域:利用深思考的輕量化大模型技術,對存儲設備的數據進行多模態搜索,通過自然語言來實現對存儲中的信息進行語義級別的搜索圖片、視頻、文件;
2. 智能終端:AI PC、AI手機、AI手表、AI眼鏡,AI攝像頭等;
3. 辦公助手:AI PC Suite提供本地文件模糊搜索、PPT自動生成及同聲翻譯,保障數據安全;
4. 醫療健康:AI顯微鏡通過加密分析與擴展模塊,提升病理檢測穩定性與效率;
5. 智能汽車:融合手勢、語音、圖像多模態交互,實時解析車內外環境;
6. 機器人生態:人形與萌寵機器人依托“Her”模式與情感交互,針對萌寵玩具場景提供端側模型與算力一站式解決方案,解決設備無法聯網、廠商技術能力不足的痛點。
技術賦能未來,深思考持續深耕AI創新
深思考創始人& CEO楊志明表示:“深思考鴻蒙系統TinyDongni&deepseek超小端側多模態大模型及硬件模組的發布,不僅是技術突破,更是端側AI普惠化的里程碑。未來,將持續優化多模態交互能力,推動AI在醫療、工業、消費等領域的深度應用。”
針對場景定制化與性能平衡,楊志明進一步強調:“端側模型通過量化技術確保功能指標不下降,同時利用本地小算力運行大模型,針對機器人、萌寵玩具等場景進行專項優化,實現性能與功耗的完美平衡。”
OpenHarmony助力,共筑端側AI生態
在此次發布活動中,華為OpenHarmony使能部AI技術專家劉小飛介紹了OpenHarmony在大模型領域的探索。OpenHarmony是開源項目,旨在構建智能設備運行平臺。其社區發展迅猛,生態伙伴眾多。
OpenHarmony旗下的Laval社區與深思考合作,借助大模型服務開發者。2024年4月上線的OpenHarmony專屬智能問答助手“小瓦AI答”,基于深思考Dongni多模態大模型技術,已服務9000多名開發者,回答3萬多個問題,極大提升了社區與用戶的互動體驗。
未來,OpenHarmony海量端側設備將為深思考技術提供廣闊應用空間,雙方攜手共進,共同拓展端側AI市場。
深思考此次發布的創新成果,結合OpenHarmony在大模型領域的探索實踐,有望吸引更多生態伙伴加入,共同推動端側AI技術的發展,讓AI更好地服務于人們的工作和生活。