鯤鵬×研揚科技：加速普惠AI應(yīng)用，激發(fā)千行萬業(yè)數(shù)字化潛能

人工智能技術(shù)的爆發(fā)式增長，推動了AI大模型向千行萬業(yè)滲透。在2025年政府工作報告中更是提出，持續(xù)推進“人工智能+”行動，將數(shù)字技術(shù)與制造優(yōu)勢、市場優(yōu)勢更好結(jié)合起來，支持大模型廣泛應(yīng)用。在宏觀政策導(dǎo)向與行業(yè)發(fā)展趨勢下，市場對于能夠支撐大模型高效運行的技術(shù)解決方案需求極為迫切。

然而，高昂的訓(xùn)練與推理成本一直是大模型應(yīng)用普及的瓶頸。一方面，大模型訓(xùn)練與推理的算力消耗巨大，傳統(tǒng)云端部署雖功能強大，卻面臨數(shù)據(jù)隱私泄漏風(fēng)險、網(wǎng)絡(luò)延遲及成本高昂等問題；另一方面，高敏感行業(yè)需要解決數(shù)據(jù)越權(quán)訪問、敏感信息泄露及xPU計算環(huán)境安全漏洞等挑戰(zhàn)。

站在人工智能發(fā)展的關(guān)鍵轉(zhuǎn)折點，DeepSeek的出現(xiàn)具有重要意義，它有力地證明了在邊緣端應(yīng)用場景中，完全能夠以更低的成本投入，依托更優(yōu)化的模型架構(gòu)實現(xiàn)高效運作。在DeepSeek問世之前，業(yè)界普遍將研發(fā)重點集中于數(shù)據(jù)中心基礎(chǔ)設(shè)施的規(guī)?；瘮U展，主要通過持續(xù)提升計算資源的部署規(guī)模以及增加模型參數(shù)量（如從百萬級到千億級）來驅(qū)動模型精度的優(yōu)化和訓(xùn)練迭代周期的壓縮。這種技術(shù)路徑本質(zhì)上遵循了"規(guī)模擴展法則（Scaling Law）"，即通過算力與數(shù)據(jù)規(guī)模的線性增長換取模型性能的指數(shù)級提升。

但隨著行業(yè)逐步向邊緣化、場景化方向演進，客戶需求結(jié)構(gòu)發(fā)生了顯著變化。他們不再滿足于傳統(tǒng)的計算服務(wù)模式，而是希望以更高效、更低總體擁有成本的方式實現(xiàn)業(yè)務(wù)場景的快速部署。這就要求企業(yè)能夠提供更加靈活、便捷、高效的解決方案，以滿足客戶在不同場景下的多樣化需求。

以鯤鵬模組為智能底座，打造大模型推理一體工作站

面對市場對于高效能計算平臺日益增長的需求，鯤鵬與全球工業(yè)嵌入式計算領(lǐng)域的領(lǐng)軍者研揚科技的合作順勢展開，雙方基于各自技術(shù)優(yōu)勢與資源儲備，針對上述行業(yè)難題開啟了一系列創(chuàng)新性實踐探索。

鯤鵬模組作為AI開放生態(tài)的智能算力基座，其特點鮮明：硬件方面，提供主板、模組、部件等創(chuàng)新產(chǎn)品，支持多種國產(chǎn)GPU和昇騰NPU的靈活適配。軟件方面，openEuler操作系統(tǒng)以其獨特的sysHAX加速能力，顯著提升系統(tǒng)性能，優(yōu)化資源利用效率；實現(xiàn)億級數(shù)據(jù)毫秒級檢索，為大數(shù)據(jù)分析和人工智能應(yīng)用提供高效支撐；openGauss的DataVec向量數(shù)據(jù)庫實現(xiàn)億級數(shù)據(jù)毫秒級檢索，為大數(shù)據(jù)分析和人工智能應(yīng)用提供高效支撐；鯤鵬BoostKit PCIPC安全能力則全方位保障AI大模型和RAG端到端的安全性，確保數(shù)據(jù)傳輸和存儲的可靠性，讓合作伙伴在開發(fā)和部署過程中無后顧之憂。

華為堅持硬件開放、軟件開源的戰(zhàn)略，鯤鵬模組能夠輕松融入廣泛的生態(tài)系統(tǒng)，支持合作伙伴快速推出自有品牌的產(chǎn)品，共同推動產(chǎn)業(yè)繁榮發(fā)展?；邛H鵬模組，研揚科技打造了AIWS系列大模型推理一體工作站。該工作站深度融合鯤鵬生態(tài)優(yōu)勢，助力企業(yè)靈活構(gòu)建智能化應(yīng)用場景。

AIWS大模型推理一體工作站為各行業(yè)提供了高效、經(jīng)濟的私有化模型部署方案，顯著提升了模型推理的性價比與部署靈活性，加速了AI普惠化的普及，助力了企業(yè)實現(xiàn)智能化轉(zhuǎn)型。采用單路Smart版鯤鵬模組，具備32核性能，搭配128G內(nèi)存，強大的多線程能力和內(nèi)存容量為客戶的應(yīng)用和加速推理性能提供有力的保障。

結(jié)合昇騰或其他國產(chǎn)算力卡，再配以openEuler操作系統(tǒng)，打造出全棧自主的工作站形態(tài)。該工作站具有以下三個特點：

大模型離線部署

避免私有數(shù)據(jù)接入云端，助力全國4000萬家中小微企業(yè)，以及政府、大型央國企部門、科室進行本地數(shù)據(jù)私有化部署。

靜音化與小體積設(shè)計

區(qū)別于大型服務(wù)器，工作站進行了大量靜音化設(shè)計，極致靜音體驗可選擇液冷款，體積小巧。

寬溫范圍

適應(yīng)復(fù)雜環(huán)境，溫度適應(yīng)范圍為0~55度，可放置在辦公室、雜物間、小型機柜等場所。

在DeepSeek出現(xiàn)后，研揚與鯤鵬產(chǎn)品線緊密合作，僅用7天便完成了DeepSeek蒸餾版模型（70B、32B、14B）在工作站的適配和性能優(yōu)化。在通義千問QwQ - 32B發(fā)布后，研揚科技更是第一時間將QwQ-32B進行了實測部署，僅用3 - 4天便全部部署到工作站上?；赒wQ-32B的測試結(jié)果顯示，AIWS工作站并發(fā)數(shù)達(dá)50路，系統(tǒng)吞吐量469 token/s，單路速度26token/s，推理效率顯著提升。基于鯤鵬+昇騰的推理工作站搭配QwQ-32B大模型底座這套黃金組合，使得用戶以經(jīng)濟高效的方式實現(xiàn)本地化AI部署。

以工廠安全生產(chǎn)場景為例，研揚推出的基于鯤鵬模組的推理工作站，部署DeepSeek R1 32B模型，將工廠安全生產(chǎn)操作手冊等資料做為本地知識庫掛載進大模型，打造專屬的AI安全助手，將產(chǎn)線工人安全培訓(xùn)的效率極大提高。以往，生產(chǎn)員培訓(xùn)需要研讀大篇幅的手冊文檔，且無法結(jié)合實際操作場景發(fā)現(xiàn)問題，借助AI專屬安全助手，生產(chǎn)員可以通過智能問答，全局搜索，場景化考題，自動糾錯等功能，快速熟悉安全生產(chǎn)的有關(guān)規(guī)定和操作指南。這一應(yīng)用不僅將新員工入職安全培訓(xùn)的效率大幅提升50%，也更好的滿足了企業(yè)生產(chǎn)安全的核心訴求，符合政策監(jiān)管要求。工作站采用鯤鵬模組與openEuler操作系統(tǒng)，可將整體系統(tǒng)吞吐量提升30%，滿足更多人同時使用，提供更快的響應(yīng)速度，充分展現(xiàn)了鯤鵬模組與大模型結(jié)合在實際場景中的優(yōu)勢。

為進一步提升大模型在真實場景中的應(yīng)用體驗，實現(xiàn)開箱即用的便捷性，研揚科技推出 AIOS系統(tǒng)。該系統(tǒng)集成了編碼助手、智能搜索、知識庫、寫作等模塊化、矩陣化的AI應(yīng)用。搭配AIOS系統(tǒng)，可實現(xiàn)一鍵開啟高效推理全流程服務(wù)。在客戶專業(yè)場景中，AI工作站應(yīng)作為專屬助手。例如，在安全生產(chǎn)領(lǐng)域，可搭載安全手冊等數(shù)據(jù)到數(shù)據(jù)庫，用RAG方式讓大模型輸出員工培訓(xùn)、考試等內(nèi)容；在政務(wù)領(lǐng)域，科室可借助其進行政策解讀、時間軸輸出、報告生成等；還可應(yīng)用于AI程序員、醫(yī)療、司法助手等面向用戶具體場景的嘗試。

此外，AIOS系統(tǒng)包括軟硬件安裝、調(diào)試和部署在內(nèi)的全方位專業(yè)服務(wù)，并支持私有化部署，用戶僅需簡單操作，即可實現(xiàn)與DeepSeek的無縫對接，一鍵啟動DeepSeek高效推理全流程服務(wù)。

攜手鯤鵬，驅(qū)動AI普惠新生態(tài)

通過鯤鵬與研揚科技的緊密合作，AIWS大模型推理一體工作站及AIOS系統(tǒng)，正為各行業(yè)的智能化轉(zhuǎn)型注入新動能，推動產(chǎn)業(yè)向高效率、高智能、高安全方向演進。

研揚科技與鯤鵬保持著緊密且深度的合作關(guān)系。2024年，研揚便加入了首批KPN伙伴計劃。依托鯤鵬在硬件產(chǎn)品、計算技術(shù)和生態(tài)建設(shè)方面的深厚積累，為研揚提供高性能的鯤鵬模組；研揚則發(fā)揮自身擅長定制化服務(wù)的專長，將邊緣AI快速落地到千行百業(yè)。在鯤鵬產(chǎn)品線的大力支持下，研揚科技研發(fā)周期縮短30%，人員投入減少20%，高效合作成果顯著。

隨著雙方合作的不斷深入，研揚科技將持續(xù)優(yōu)化和拓展AIWS大模型推理一體工作站的功能和應(yīng)用場景。在技術(shù)創(chuàng)新方面，基于鯤鵬系列模組，豐富AIWS系列產(chǎn)品線；借助openEuler操作系統(tǒng)提升系統(tǒng)吞吐量；持續(xù)升級大模型底座，提升AI專屬助手性能，更好地服務(wù)客戶。在應(yīng)用拓展上，探索更多行業(yè)的應(yīng)用可能性，推動人工智能技術(shù)在更多領(lǐng)域的深度融合，使客戶能以更低成本在本地運行大模型推理任務(wù)，高效快速地進行智能化升級，為AI下沉千行百業(yè)貢獻更多智慧與力量。