① 數據蒙眼狂奔,邊緣AI窮追不舍
隨著人工智慧從雲端向邊緣擴展,邊緣計算被視為下一個AI戰場。海量的應用場景、龐大的計算需求,不僅吸引了英特爾、英偉達這些巨頭加速完善雲邊端一體化的布局,更吸引了眾多AI晶元公司紛紛入局。
雲端AI已經造就了英偉達的巨大成功,如果邊緣AI是一次嶄新的機會,哪些公司有機會成為贏家?
業界對於通用、專用的計算路線討論已久,與這個話題伴生的其實是多樣、碎片的應用場景。場景是碎片的,產品是碎片的,那麼晶元呢?也只能是碎片的、專用的,不能是通用的嗎?通用計算老大哥CPU、GPU的地位會旁落嗎?未來通用計算和專用計算的關系如何發展?
時擎 科技 總裁於欣告訴,針對不同應用的架構設計,是一定需要的。領域專用架構(DSA)處理器和晶元,本質上就是要解決通用性和專用性平衡和取捨的問題。
「這里有兩個大前提,一是端側的應用比較碎片化,第二是對功耗和成本往往有比較高的要求。在這兩個前提下,如何既能保證相對於某個場景足夠的競爭力,以滿足成本和功耗的要求,同時又能兼顧足夠的市場空間——這是每一家公司都要面臨的挑戰,也是對產品定義能力的考驗」,他強調。
通用計算晶元固然能夠覆蓋邊緣計算程序所培茄則需要的所有運算操作,但在晶元架構伸縮性、性能方面,確實無法及時適應邊緣側需求的快速增長。通用計算和專用計算晶元已經呈現出融合發展的趨勢。並且,計算特性決定了邊緣晶元和雲端晶元的不同,架構設計需要進行優化定製。
靈汐 科技 副總經理華寶洪表示,二者要相輔相成,最好能融為一體。在專用計算晶元中會包括通用計算的核,比如Arm或RISC-V等IP內核。新型計算架構晶元比如類腦計算晶元中,除了包括神經擬態計算核、神經網路計算核,一般還有通用的Arm核。同時,通用計算晶元比如最新的Arm晶元,也會內置部分針對傳統神經網路加速的IP核。異構融合晶元架構是發展的必然。
伴隨這一趨勢,意味著需要把負責加速的專用計算單元移入通用編程模型中,且創建通用處理器的壓力始終存在。Imagination計算業務產品管理總監Rob Fisher表示,這主要是從通用處理器編程的易用性角度來考慮的。當任務的規模或所需性能遠遠超出通用解決方案所能容納的范圍時,這種模式將受到限制。
他指出,GPU就是一個很好的示例。在實際應用中,將圖形處理工作負載卸載到GPU上的優勢很明顯,從而推動了高效圖形處理器的獨立開發。矢量處理器正越來越多地與CPU架構緊密結合,從而允許對計算任務進行指令級加速。
雪湖 科技 副總裁趙小吾表示,針對不同場景下功能和性能的不同要求,邊緣的需求更復雜,很難用一個通用的架構或者平台來滿足大多數的需求,所以會針對不同應用場景進行專門的架構設計。性能要求不高,演算法變化快的部分可以使用通用計算晶元,比如CPU;性能要求高,演算法相對固化的部分可以使用專用計算晶元,比如ASIC;對性能和演算法靈活性配棚都有一定要求的部分可以納弊使用FPGA可編程晶元。
他以智慧交通領域的邊緣計算為例談到,由於基本都是室外場景,環境復雜且惡劣,既要滿足AI大算力和低延時,又要滿足可靠性和穩定運行,因此目前大部分邊緣計算機都無法滿足需求。而採用了室外基站同等級的晶元為這種場景定製了專用的大算力計算機,才滿足了這些特殊場景的需求。
隨著高性能計算和機器學習的興起,異構處理器必須處理的工作負載急劇增加,在整個半導體行業建立開放的生態合作至關重要。
不久前,英特爾、AMD、Arm、高通、台積電等已經聯合成立了Chiplet標准聯盟,推出了通用Chiplet的高速互聯標准UCIe。在UCIe的框架下,互聯介面標准得到統一,各類不同工藝、不同功能的Chiplet晶元,有望通過2D、2.5D、3D等各種封裝方式整合在一起,多種形態的處理引擎將共同組成超大規模的復雜晶元系統。
英偉達在上個月的GTC22上,一方面宣布了對UCIe規范的支持,另一方面,宣布為半定製晶元開放其NVLink-C2C互連技術,這是一種支持內存一致性的晶元到晶元、裸片到裸片的互連技術。這一路線已經明確展現了英偉達的異構決心,按照這一規劃,理論上甚至可以將英偉達的晶元與競爭對手的晶元放入同一個封裝中。
黃仁勛告訴,他第一喜歡PCIe,第二喜歡UCIe,並且預測五年內UCIe的好處會逐漸顯現。至於英偉達自身的NVlink互連技術,他強調優勢在於直連能力。UCIe不能直接接入晶元,仍然是一個外設介面;而NVlink的優勢在於可以直接連接,幾乎就像直接連接到大腦一樣。一定程度上,這可能會導致它的組裝比較復雜,合作夥伴和客戶必須非常了解NVlink。不過,一旦他們能做好這一點,就可以充分利用晶元內部的所有資源,就像這些資源都在同一個晶元上一樣。
這一解答既表明了英偉達並不打算自我排除在在UCIe聯盟之外,同時也展現出了對自身NVLink互連技術的絕對信心,推測該技術也將成為英偉達構建異構生態的關鍵。
邊緣計算市場的巨大潛力,自然也吸引著雲端晶元巨頭的競逐,他們正通過異構計算、先進製程、先進封裝等方式進行全面布局,加之高築的生態壁壘,國內AI晶元廠商是否有機會與之一搏?
「能造得了摩天大樓的,不一定擅長雕梁畫柱。當然相對於雲端目前高度壟斷和集中的格局來說,邊緣側還沒有確定的格局,大家都有機會,而具有更強技術能力和落地能力的廠家,會有更大的機會在競爭中脫穎而出」,時擎 科技 於欣表示,「雲邊端在某些場景融合協同是有道理的,但本身從晶元設計的角度來說,還是會有很大的區別。」
靈汐 科技 華寶洪則認為,異構計算、先進製程、先進封裝等均是手段,不能從根本上解決高能效比、小樣本學習、在線學習等問題。在行業導向和市場需求的雙重驅動下,馮·諾依曼架構和非馮·諾依曼架構的異構融合,將成為驅動邊緣計算技術創新與未來行業高質量發展的核心引擎。
一方面,馮·諾依曼架構的晶元依然在走「暴力計算」的美學方向,會考慮用最先進製程、最先進封裝來提升算力;另一方面,非馮·諾依曼架構優先通過架構創新來滿足在生物神經網路、類腦方向和新型混合神經網路等領域的規模化使用。以類腦計算為代表的新型計算架構將與傳統計算架構深度融合,引領新一輪的技術變革。
雪湖 科技 趙小吾表示,業界頭部廠商都開始用小晶元拼湊大晶元的方式來完成產品布局,以滿足不同場景的算力需求。例如蘋果和英偉達,都開始採用這種「拼積木」的方式,這是非常明確的趨勢。
國內這兩年市場很熱發展很快,但形成規模和有競爭力的廠商並不多。「晶元還是一個需要積累的產業,且產業鏈比較長」, 趙小吾表示,「目前國內小而多的形態不利於去和上下游爭奪話語權,預計未來1-2 年裡應該會迎來一波AI晶元廠商淘汰潮。」
愛芯元智創始人、董事長兼CEO仇肖莘也表達了類似觀點,她談到,現在對國產晶元產業是千載難逢的機會,由於市場需求和國家支持,涌現了許多創業型公司。而從大環境出發,我國的晶元行業還屬於初期階段,正呈現出一種百花齊放的態勢,但隨著產業的不斷發展壯大,隨之而來的行業整合也將是必經過程。
她強調,這符合晶元行業在過去幾十年發展的規律,經過這樣的整合,業內一定會出現頭部企業,這對於國家整體產業發展是非常重要的。只有這樣,中國企業和國際大廠才有同台競技的機會。
靈汐 科技 華寶洪表示,邊緣AI晶元市場仍處於開放狀態,沒有絕對的霸主。新興的、多樣化的應用場景為國產AI晶元帶來了巨大的市場機會,特別是在自動駕駛、智能安防、智能物聯網和可穿戴設備等越來越碎片化的市場,國產AI晶元廠商和國際巨頭晶元廠商是站在同一起跑線上的,甚至在某些領域更有優勢。
就像計算架構領域一位著名的科學家所說,現在正是晶元體系架構百花齊放的黃金時代,這一時代前所未有。盡管CPU、GPU會持續創新,且在某些計算任務上是不可或缺的,但是AI加速計算、數據爆炸等趨勢催生的新市場,一定是巨大且多樣的,這就給了AI晶元公司帶來了新的機會。
從CPU來看,x86架構統治PC和伺服器已有松動跡象,Arm一路從手機端和IoT逐漸向上,攻入PC和伺服器領域。RISC-V也從物聯網設備起步,向更大量的設備進行布局。馮·諾依曼架構和非馮·諾依曼架構的異構融合,正在通往規模化的道路上……
每一次技術浪潮,都會產生新的領導型公司。邊緣AI會嗎?
② 人工智慧的算力是什麼
人工智慧的算力是
A 物聯網
B 大數據
C 區塊鏈
D 雲計算
答案:D
知識拓展:算力是使用計算機技術完成給定目標導向任務的過程。算力可以包括軟體和硬體系統的設計和開發,用於廣泛的目的 – 通常構建,處理和管理任何類型的信息 – 以幫助追求科學研究,製作智能系統,以及創建和使用不同的媒體娛樂和交流。
③ 網路進步下的產物——邊緣雲計算
隨著虛擬人等應用不斷發展成熟,對於計算的容量和實時性的要求不斷提高。在這種趨勢下,我們認為,邊緣雲計算有望成為元宇宙的重要支撐。作為雲計算的延伸,邊緣雲計算被視為新一輪 科技 革命中必不可少的驅動因素。我們認為,元宇宙對網路傳輸提出了更大帶寬、更低時延、更廣覆蓋的要求,需要藉助邊緣計算技術,以保障所有用戶獲得同樣流暢的體驗。
1.全球數據增長迅速,集中式雲計算已無法全面應對,邊緣剛需場景涌現,目前中國物聯網連接量將從2019年的55億個增長至2023年的148億個,年復合增長率達到28.1%。物聯網感知數據量激增,數據類型愈發復雜多樣,IDC預測到2025年中國每年產生的數據量將增長48.6ZB。
2.晶元:FPGA同時滿足邊緣側對性能、能耗及延遲的要求與集中式雲計算不同,邊緣雲計算所處的物理環境復雜多樣,很多時候空間、溫度、電源系統都不是最佳的狀態。但同時,邊緣側又要求極高的實時性和計算性能,傳統CPU架構難以勝任邊緣雲的需求。英特爾、賽靈思等國際晶元巨頭持續加碼FPGA晶元,並推出支持CPU+FPGA異構計算的硬體平台,底層晶元產業的繁榮將支撐邊緣雲計算在各領域的應用,並不斷迸發出新的活力。
3.5G技術的升級加碼,Wi-Fi在室內場景形成互補,工信部數據顯示,截至2020年中國已開通5G基站超71.8萬個,實現地級以上城市及重點縣市的覆蓋。預計邊緣雲計算也會隨著5G行業應用的普及分階段落地。此外,Wi-Fi技術也在向著更高的吞吐量、更大的覆蓋面積和更低的時延發展,Wi-Fi在室內場景中的優勢使其成為5G的重要補充,兩者將共同助力邊緣雲應用。
4.雲計算:企業上雲常態化,雲原生下沉實現雲邊端一體化,近年來雲原生的熱度持續高漲,包括容器、微服務、DevOps等在內的雲原生技術和理念強調松耦合的架構和簡單便捷的擴展能力,旨在通過統一標准實現不同基礎設施上一致的雲計算體驗。相比於虛擬主機,雲原生更適合邊緣雲計算的場景,可以為雲邊端提供一體化的應用分發與協同管理,解決邊緣側大規模應用交付、運維、管控的問題。
5.「新基建」加碼,工業互聯網等標桿應用引領產業融合,「新基建」是十四五規劃的重點方向,通過優化算力資源結構,將高頻調用、低時延業務需求分配至邊緣數據中心,推動5G承載網路的邊緣組網建設,為將算力和網路下沉到邊緣創造條件。同時,工業互聯網、車聯網、遠程醫療等產業政策明確提及邊緣計算,推動關鍵技術研究、標准體系建設及軟硬體產品研發,促進邊緣雲在典型產業的融合應用。
應用場景
1.視頻加速及 AR/VR 渲染
基於移動邊緣計算的智能視頻加速可以改善移動內容分發效率低下的情況:於無線接入網移動邊緣計算伺服器部署無線分析應用(Radio Analyticsapplication),為視頻伺服器提供無線下行介面的實時吞吐量指標,以助力視頻伺服器做出更為科學的 TCP(傳輸控制協議)擁塞控制決策,並確保應用層編碼能與無線下行鏈路的預估容量相匹配。另外,由於 AR/VR 信息(用戶位置及攝像頭視角)是高度本地化的,對這些信息的實時處理最好是在本地(移動邊緣計算伺服器)進行而不是在雲端集中進行,以最大程度地減小 AR 延遲/時延、提高數據處理的精度。
2.車聯網(智能交通)
將移動邊緣計算技術應用於車聯網之後,可以把車聯網雲下沉至高度分布式部署的移動通信基站。移動邊緣計算應用直接從車載應用(APP)及道路感測器實時接收本地化的數據,然後進行分析,並將結論(危害報警信息)以極低延遲傳送給臨近區域內的其他聯網車輛,整個過程可在毫秒級別時間內完成,使駕駛員可以及時做出決策。
3.工業互聯網
邊緣計算一直與工業控制系統有密切的關系,具備工業互聯網介面的工業控制系統本質上就是一種邊緣計算設備,解決工業控制高實時性要求與互聯網服務質量的不確定性的矛盾。在基礎設施層,通過工業無線和有線網路將現場設備以扁平互聯的方式聯接到工業數據平台中;在數據平台中,根據產線的工藝和工序模型,通過服務組合對現場設備進行動態管理和組合,並與 MES等系統對接。工業 CPS系統能夠支撐生產計劃靈活適應產線資源的變化,舊的製造設備快速替換與新設備上線。
4.IoT(物聯網)網關服務
採取邊緣計算技術,邊緣計算匯聚節點將被部署於接近物聯網終端設備的位置,提供感測數據分析及低延遲響應。其中邊緣計算伺服器的計算能力和存儲能力可為以下5個方面提供服務:業務的匯聚及分發;設備消息的分析;基於上述分析結果的決策邏輯;資料庫登錄;對於終端設備的遠程式控制制和接入控制。
市場規模
預計2025年規模將超500億元,年復合增長率達43.3%,信通院2020年5月調研數據顯示,中國企業中僅有不足5%使用了邊緣計算,但計劃使用的比例高達44.2%。可以見得,雖然邊緣雲計算尚處在發展的萌芽期,但未來成長空間非常廣闊。根據艾瑞咨詢測算,2020年中國邊緣雲計算市場規模為91億元,其中區域、現場、IoT三類邊緣雲市場規模分別達到37億元、38億元及16億元。預計到2025年整體邊緣雲規模將以44.0%的年復合增長率增長至550億元,其中區域邊緣雲將憑借互動直播、vCDN、車聯網等率先成熟的場景實現增速領跑。2030年,中國邊緣雲計算市場規模預計達到接近2500億元,2025年至2030年的年復合增長率相比前五年有所下降,現場邊緣雲中工業互聯網、智慧園區、智慧物流等場景將在這一期間快速走向成熟。
相關上市公司
中興通訊
中興通訊面向運營商提供全場景MEC解決方案,打破傳統封閉的電信網路架構,將移動接入網與互聯網深度融合,在網路邊緣滿足客戶的個性化需求。中興通訊Common Edge邊緣計算解決方案包括MEP能力開放平台、輕量化邊緣雲及面向邊緣的全系列伺服器和邊緣加速硬體,提供通用硬體、專用集成硬體等多種硬體選擇,深度融合OpenStack與Kubernetes,為上層MEC應用提供統一的邊緣雲管理系統,方便運營商因地制宜部署MEC。
網宿 科技
公司的邊緣計算平台以雲主機、容器、函數計算和網路四大平台作為技術底座,在邊緣計算節點上部署邊緣雲主機、邊緣雲容器、邊緣雲函數、SD-WAN、邊緣雲安全等基礎服務,以及內外部的各類應用模塊,結合客戶的業務場景及需求,嘗試進行解決方案的整合和輸出。
初靈信息
公司在 5G、AI 技術高速發展的背景下,持續構建以固移智能連接(5G+Fixed)+數據處理(DPI)+AI 為代表的三大邊緣計算核心能力。公司多年深耕企業(行業)智能連接網路、垂直行業邊緣應用型 DPI(安全、物聯網類)、視頻及其他行業(企業)的智能應用等技術,初步構成「雲邊端」協同的邊緣計算生態。在市場端,公司除聚焦傳統運營商市場外,積極拓展政企行業和大中企業市場,中標多個項目。公司三季度顯示,公司與中國聯通就邊緣計算展開合作,開展了CUNOS在5G環境下的承載能力測試。
引用內容
1. 研報《中國邊緣雲計算行業展望報告》
2. 研報《邊緣計算:算力網路重要環節,產業方興未艾》
風險提示
1.底層相關技術發展緩慢,邊緣計算需求不及預期。
2.5G 進度不達預期。
④ 打贏AI爭奪戰,要靠一張算力網
AI算力是未來國家、城市、企業的核心競爭力。
文丨華商韜略 陳必章
在人工智慧時代,AI算力就是電,AI計算中心就是電廠。
電力時代,我們構建了一張「電網」,如今隨著國內各地人工智慧計算中心的相繼落地,我們正在編織一張AI算力網路。
目前,人工智慧的發展已提升到國家戰略層面,加快人工智慧產業發展,保障和提供充沛的AI算力,對於贏在AI時代的國家、城市和企業來說,已經是迫在眉睫的問題。
【沒有算力 就像沒有電】
最近這段時間,全國很多地方政府和企業領導最鬧心的事情什麼?
答案可能是兩個字:缺電。
但這個鬧心的事情還沒解決,在全球各國,乃至一國之內的不同地區,又開始面臨一個像電力一樣,決定國計民生的關鍵要素。
這個關鍵要素就是AI算力。
AI算力,顧名思義,就是支撐AI的計算能力。 此處的計算不是加減乘除,而是對世界萬物的計算,是萬物互聯、人工智慧之下的高度復雜、無所不在的計算。
不同於傳統算力,AI算力為了支撐AI模型的開發、訓練和推理,對並行處理能力的要求特別高,也因此需要專門的AI晶元和框架。
比如, 具備強大浮點運算能力的AI晶元,才能夠通過訓練、持續迭代優化提供滿足行業企業智能化轉型的高質量AI模型。 復雜模型訓練中,需對上千億個浮點參數進行微調數十萬步,需要精細的浮點表達能力。如果沒有強大的訓練晶元,則難以保障演算法模型產出的效率。千億級中文NLP(自然語言處理)大模型「鵬程·盤古」,面向生物醫學領域的「鵬程·神農」平台的發布,都離不開AI晶元的支撐。
再比如,被視為「AI領域操作系統」的AI框架,90%的AI應用是基於AI框架層來開發。在該領域國內 科技 企業已取得重大成果: 業界領先的AI計算框架升思MindSpore,是一款支持端、邊、雲全場景的深度學習訓練推理框架。 除具備自主可控的優勢之外,一套框架即可支持AI+科學計算等多樣性應用。當前升思MindSpore社區累計下載量超過60萬,有超過100家高校選擇升思MindSpore進行教學。
正是有了這些AI晶元和AI框架釋放出的AI算力,我們才能加速進入萬物互聯和人工智慧時代。
今天,從每個人手裡的手機,到企業的雲上平台,再到城市大腦……我們的生產和生活越來越依賴於AI,越來越深入向AI獲取力量。
對中國來說,AI是從製造大國向製造強國轉型升級的關鍵。 最近多年,眾多城市都在努力爭奪各種資源提升城市的發展力和競爭力,而AI算力就是未來發展最重要的「資源」。
在人工智慧的世界,沒有AI算力,就像沒有電。
AI算力已滲入到我們生活和生產的方方面面,以大家較為熟悉的醫院葯房取葯為例:
拿到處方葯單,在葯房前排隊等候,由醫務人員拿著處方照單分葯,這種漫長的等待和焦慮,很多人都有切身體會。現在,已經有企業開發出利用人工智慧技術進行全自動補發葯品的機器人,用到了3D視覺定位、機器人智能抓取、智能視覺復核技術,能夠確保100%補葯准確率,而且效率也更高,發葯速度可以達到每小時2500盒,8秒鍾就可以處理一個訂單。在葯品發放過程中,系統可以自主調度搬運葯品,不需要人工的干預。
它帶來的最直觀的改變,就是可以把葯品分揀的時間從原來的50秒縮短到3秒,患者只需要一分鍾就能取到葯品。
這個過程中,怎麼識別處方單,怎麼准確分揀並發放葯品?要實現這些功能就得看這個機器人使用的AI系統能算得有多快、多好、多准,這就是AI算力。
【要有電 就得有電廠和電網】
AI算力如此重要,但很多企業缺乏足夠的資金來搭建自己的AI算力。那AI算力需求該如何被滿足,國家、城市又該如何提供足夠的AI算力支持,推動AI產業發展並贏得AI時代的競爭力呢?答案是, 要讓AI算力成為公共資源,配套建立新型基礎設施。
這種新型的算力基礎設施就是人工智慧計算中心,用回電氣時代的比喻,那就是要建電廠和電網。
首先是,加快人工智慧計算中心的建設。
人工智慧計算中心,是以基於人工智慧晶元構建的人工智慧計算機集群為基礎,涵蓋了基建基礎設施、硬體基礎設施和軟體基礎設施的完整系統,其核心功能就是,提供從底層晶元算力釋放到頂層應用使能的人工智慧全棧能力,也就是輸出AI算力。
人工智慧計算中心除了是提供公共算力服務的平台,還同時應該是應用創新的孵化平台、產業聚合發展平台和科研創新人才培養平台。只有同時扮演好這些角色,才能打通「政產學研用」,集中最多的力量,形成產業匯聚力並提升AI競爭力。
目前,全世界都在加快人工智慧計算中心建設。尤其是美國,它一方面千方百計地打壓其它國家的發展,一方面則大手筆投入加強本國人工智慧的發展,拜登政府更一度公布了3000億美元的投資計劃,捍衛美國在人工智慧領域的領先地位,而其中很重要的投入,就是加強數據中心和智算中心的新基建。
中國當然不會輕易錯過人工智慧產業發展帶來的機遇。早在2017年,國務院就發布了《新一代人工智慧發展規劃》,並強調要「建設高效能的計算基礎設施」。去年疫情期間,中央進一步明確提出新基建戰略,而加強數據中心和人工智慧計算中心建設,則是整個新基建的重中之重。
因為,沒有強大的算力,以數字化為著眼點的新基建七大領域幾乎都無法實現其建設目標。
國家戰略指引,市場前景召喚,甚至經濟轉型升級的壓力下,諸多地方政府都已積極行動,牽頭人工智慧計算中心建設,並以此為基礎提升本地算力水平,構築數字時代的核心競爭力。
今年5月31日, 科技 部批復的15個國家人工智慧創新發展試驗區中,武漢的人工智慧計算中心已率先竣工並投入運營;西安未來人工智慧計算中心也已經上線,其它省市的人工智慧計算中心建設也陸續規劃中。
武漢人工智慧計算中心投運以後,為武漢乃至湖北地區的經濟發展、科研創新、企業轉型等提供了算力支撐。
比如,武漢大學基於武漢人工智慧計算中心打造了全球首個遙感專用框架武漢.LuojiaNet,針對「大幅面、多通道」遙感影像,在整圖分析和數據集極簡讀取處理等方面實現了重大突破。
再比如,中科院自動化所利用該中心的算力支持,研發了全球首個視頻生成多模態大模型——紫東.太初。作為業內首個千億級三模態大模型,紫東.太初的視頻理解與描述性能已做到全球第一,不僅具有多任務聯合學習能力,還能通過學習實現AI化的圖文搜索,以及音頻、短視頻、MV製作,極大縮短音視頻的創造時間。
9月份,西北地區第一個人工智慧計算中心落子西北重鎮西安市,一期規劃具備300P AI算力的西安未來人工智慧計算中心,基於升騰AI基礎軟硬體平台建設,將提供精準可靠的模型訓練及推理。
西安未來人工智慧計算中心,已經簽約了西安電子 科技 大學遙感項目、西北工業大學語音大模型項目、陝西師范大學「MindSpore研究室」多個項目,在支撐西安「6+5+6+1」現代產業體系發展的同時,也會強化西安乃至整個西北地區的人工智慧產業集群,為西北地區人工智慧產業的發展提供算力支持。
剛剛上線的西安未來人工智慧計算中心,算力使用率已快接近滿負荷狀態。當地各行業企業、科研機構、高校對於算力的渴求可見一斑。
其次,高效利用人工智慧計算中心的算力資源。
當越來越多人工智慧計算中心建成、投運,如何讓它們的算力更高效並服務到更多的行業和企業?如何避免各地算力分布不均衡、使用效率不一致的情況?如何讓沒有規劃建設人工智慧計算中心的地方,也能享受到AI算力的使能?人工智慧計算中心之間的互聯、協同、共享,成為需要各界考慮的一個問題。
這就需要人工智慧算力網路了,就像電網之於電廠和用電對象。
有了算力網路,我們就能將分布在各地的人工智慧計算中心節點連接起來,動態實時根據算力資源狀態和需求,實現統籌分配和調度計算任務,構成全國范圍內的感知、分配、調度人工智慧中心的算力網路,然後在此基礎上匯聚和共享算力、數據、演算法資源。
最重要的是,有了這張網,更多的行業和企業,就能像現在用電一樣使用AI算力了。
那麼,算力網路這張網還會給整個人工智慧行業有哪些作用呢?
首先是算力的匯聚, 就是把不同地區、不同城市的算力資源高速互聯,實現跨節點之間的算力合理調度,資源彈性分配,這有利於提升各個人工智慧計算中心的利用率,實現對於整體能耗的節省,後續可支持跨節點分布學習,為大模型的研究提供超級算力。
其次是數據的匯聚, 政府牽頭與各行業企業合作,在達成人工智慧領域的公共數據開放之後,可依託人工智慧計算中心匯聚高質量的開源、開放的人工智慧數據集,能夠促進人工智慧領域的演算法開發和行業落地。
最後是生態的匯聚, 各個人工智慧計算中心之間,統一互聯標准、應用介面標准,實現網路內大模型能力開放與應用創新成果共享,強化跨區域科研和產業協作,為全國范圍用戶進行人工智慧應用創新提供更多的資源選擇和更便捷的合作方式,加速產業聚合,激活產業共融共生。
簡單總結算力網路,就是匯聚大數據+大算力,使能大模型和重大科研創新,孵化新應用。進而實現算力網路化,降低算力成本,提升計算能效。
科技 部在三年行動規劃中指出,要「布局若幹人工智慧計算中心,形成廣域協同的人工智慧平台」。在這一規劃的指引下,人工智慧計算中心陸續在許多城市落地。就在剛剛結束的HC2021上,20多個人工智慧計算中心建設城市聯合點亮了「人工智慧算力網路」。
這張人工智慧行業的算力網路,已經開始編織構建。
【AI算力建設 不是從長計議而是迫在眉睫】
2020年,麻省理工學院計算機科學家、並行計算先驅Charles Leiserson在《科學》雜志上撰文指出:
深度學習正逼近現有晶元的算力極限。
事實上,過去十年,人類最好的AI演算法對算力的需求幾乎增長了100萬倍,平均每3.4個月翻一倍。
相比之下,全球AI算力的增長卻十分有限。
需求與供給之間的巨大鴻溝,促使各國政府,尤其是中、美、歐、日等AI技術領先的地區大力建設AI算力。
沒有強大AI算力,一個國家或地區必然在未來的 科技 競爭中處於劣勢。
從當前算力基礎設施建設進度來看,深圳、武漢、西安等城市均已建成人工智慧計算中心並投入運營,成都、河南等城市正在建設中,北京、南京、上海等地的人工智慧計算中心加速建設,也是蓄勢待發。
未來,一旦人工智慧計算中心全部建成,並組成人工智慧算力網路,不但將為 社會 提供跨地域、源源不斷的超級算力。而且,還能夠實現跨區域的科研和產業協作,使能大模型和重大科研創新,為千行百業孵化新應用。
最終,使得人工智慧賦能更多的行業和場景,讓我們在未來國家之間的產業和 科技 競爭中立於不敗之地。
——END——
版權所有,禁止私自轉載!
⑤ 邊緣智能真的是人工智慧的最後一公里嗎
小蟻科技創始人兼CEO達聲蔚,在AI WORLD 2018世界人工智慧峰會上,介紹了小蟻科技在過去幾年裡所取得的成果,並以此為切入點,深入分析了計算機視覺的未來發展。一、 邊緣智能,重構智能演算法引擎
什麼是邊緣智能?顧名思義就是互聯網和物聯網的邊緣,最邊緣是大量的感測器,攝像頭CMOS,是最重要的感測器之一。我們專注於圖像領域,所以計算機視覺的最後一公里應用就是小蟻科技專注的領域,這個領域的發展,必須採用邊緣智能端雲結合,也就是邊緣和雲端結合的處理方式,也就是邊緣智能架構。
二、 1300萬全球用戶,每日視頻數據超過100PB
過去四年中小蟻科技取得的國內和國際計算機視覺方面的專利和著作,獲得了大量的海外專利。小蟻科技下一步的發展將會在AI賦能的視頻硬體領域進一步發力,覆蓋168個國家和地區,並且在中國、美國和以色列三個地方有研發中心,每天產生大量的視頻數據。
三、 EI的三大核心競爭力:算力、演算法的自我成長模型和賦能商業
算力是一個人工智慧企業的「核能力」。雲+端的全球算力。小蟻科技已經出售了1300多台設備,未來會指數級增長,這些設備中的算力也是指數級增長。其次,小蟻科技的深度神經演算法,在雲端採用千層以上的深度學習神經網路,在終端更多的是採用嵌入式、小比特神經網路。小蟻科技在每Gflop等效算力達到最高,應該是業界非常領先的。
四、 重構的空間能夠給人解決什麼—實時主動決策
六、 小蟻邊緣智能賦能智慧零售
小蟻科技提供的是智能數字空間的解決方案,就是線下零售的可視化解決方案,這些解決方案當中包含智能新零售店的產品和智能貨架的產品,還有一系列和視頻相關的完整的系統,最後還包含提供軟體服務給智慧零售的現場管理和決策。
⑥ 什麼是算力
算力(也稱哈希率)是比特幣網路處理能力的度量單位。即為計算機(CPU)計算哈希函數輸出的速度。比特幣網路必須為了安全目的而進行密集的數學和加密相關操作。 例如,當網路達到10Th/s的哈希率時,意味著它可以每秒進行10萬億次計算。
在通過「挖礦」得到比特幣的過程中,我們需要找到其相應的解m,而對於任何一個六十四位的哈希值,要找到其解m,都沒有固定演算法,只能靠計算機隨機的hash碰撞,而一個挖礦機每秒鍾能做多少次hash碰撞,就是其「算力」的代表,單位寫成hash/s,這就是所謂工作量證明機制POW(Proof Of Work)。
日前,比特幣全網算力已經全面進入P算力時代(1P=1024T,1T=1024G,1G=1024M,1M=1024k),在不斷飆升的算力環境中,P時代的到來意味著比特幣進入了一個新的軍備競賽階段。
算力是衡量在一定的網路消耗下生成新塊的單位的總計算能力。每個硬幣的單個區塊鏈隨生成新的交易塊所需的時間而變化。