寒武紀發佈邊緣AI芯片思元220,性能優於英偉達XavierNX兩倍

| 機器之能

按照寒武紀公佈的參數,思元 220 參數性能比肩英偉達去年發佈的 Jetson 系統級模塊——AGX Xavier 和上週發佈 Jetson Xavier NX。

在功耗上勝出 AGX Xavier,在計算速度上優於 Xavier NX。


11 月 14 日機器之心消息,寒武紀副總裁劉道福在深圳發佈思元系列邊緣端 AI 芯片「思元 220」和思元 220-M.2 邊緣加速卡


思元 220 的問世, 標誌着寒武紀已經具備了從終端 (寒武紀 1A、1H、1M 處理器 IP)、邊緣端 (思元 220 芯片) 到雲端 (思元 100、思元 270 芯片) 完整的智能芯片產品線。

最新發布的思元 220 芯片採用了寒武紀在處理器架構領域的一系列創新性技術——寒武紀最新一代智能處理器 MLUv02,實現:

最大 32TOPS(INT4)算力,而功耗僅 10W

對比英偉達在去年發佈的 Jetson 系統級模塊——AGX Xavier 和上週發佈 Jetson Xavier NX。

AGX Xavier 有 10W/15W/30W 三種選擇,神經網絡運算輸出爲 32TOPS,可應付多達四路的 HEFC 4K 、60fps 視頻流。在功耗上有待進一步提升。

而就在上週,英偉達進一步推出 Jetson 的最新成員 Jetson Xavier NX,號稱「全球最小邊緣超算」。

可提供高達 14 TOPS(功耗爲 10W 時)或 21 TOPS(功耗爲 15W 時)的性能,能夠並行運行多個神經網絡,並在與 Nano 同樣尺寸(70x45mm)的小巧外形中同時處理來自多個高分辨率傳感器的數據。

Xavier NX 將於明年 3 月開始發售,價格 399 美元。雖主打邊緣超算,但這個價格有些讓人望而卻步。

說回思元 220,據介紹,它可提供 16/8/4 位可配置的定點運算,客戶可以根據實際應用靈活的選擇運算類型來獲得卓越的人工智能推理性能。

在軟件方面,通過端雲一體的軟件平臺,思元 220 繼續支持寒武紀 Neuware 軟件工具鏈,支持業內各主流編程框架,包括 Tensorflow,Caffe,mxnet,以及 pytorch 等。

思元 220 是一款專門用於深度學習的 SOC 邊緣加速芯片,採用 TSMC 16nm 工藝,它具有高算力,低功耗和豐富的 I/O 接口。

基於思元 220,寒武紀前期面向市場推出小尺寸的 M.2 加速卡,未來會推出更高算力的產品形態。

思元 220-M.2

思元 220-M.2 邊緣加速卡在尺寸爲 U 盤大小的卡片上實現了 16TOPS(INT4)或 8TOPS(INT8)的算力。客戶可以通過標準的 M.2 接口快速部署到已有的業務中實現業務的智能升級和邊緣加速解決方案。

寒武紀表示,面向未來,針對不同的場景,包括邊緣計算、自動駕駛車載計算、訓練等場景。寒武紀將持續投資,推出更多的 AI 處理器,面向全場景持續提供更先進靈活、快速高效、性能卓越 AI 算力產品及服務。

1

邊緣端爲何重要

活動現場,寒武紀副總裁劉道福認爲:相比數據中心計算或者說雲計算,邊緣計算有幾個優勢:

1)大幅降低傳輸成本。

在很多如電力、能源等工業領域,網絡條件並不好,並且通訊基礎設施的改造成本很高,因此數據直接在邊緣進行處理,處理完的數據直接用於邊緣決策,或者有效信息傳回雲端集中決策,這都可以減少傳輸成本。

2)大幅降低延時。

邊緣計算往往具有實時的要求,因爲要對各種設備進行實時決策,而傳統的雲計算,由於網絡延時,很難做到實時。

3)保護數據隱私和安全。

邊緣計算可以無需將數據或者原始數據傳回雲端,從而可以大大保護數據的安全和隱私,減少數據泄漏。

在昨天的報道《繼英偉達最小邊緣超算,英特爾再推 10 倍提升 VPU,終端 AI 芯片創業壓力加劇》裏,我們也談到,邊緣智能,作爲人工智能的最後一公里,很長一段時間裏被創業者視爲得以繞開巨頭打壓的藍海市場,但今年市場被催熟的趨勢明顯,英特爾Nervana、英偉達Jeston系列、以及谷歌Coral和華爲鯤鵬等頭逐步場收割,AI芯片創業生態競爭加劇。

2

雲邊終三端佈局

除了目前雲邊結合的思元系列,寒武紀在更早推出的是終端產品線:終端 IP 處理器系列。

從第一代產品,2016 年推出的首個商用深度學習處理器 Cambrion-1A,到 17 年面向計算機視覺領域專用的二代處理器 Cambricon-1H(Cambricon-1H8、Cambricon-1H16),再到延續了前兩代產品完備性優點的第三代最新產品,面向本地訓練的 Cambricon-1M。

採用 7nm 臺積電工藝的 Cambricon-1M,性能十倍超越於已被廣泛使用各大移動手機終端的 Cambricon-1A。可以實現 5TOPS/W 能效比,單個處理器核即可支持 CNN、RNN、SOM 等多樣化的深度學習模型,更進一步支持 SVM、k-NN、k-Means、決策樹等經典機器學習算法。

科大訊飛就曾在發佈會上披露,寒武紀處理器在語音智能處理的測試結果,顯示出了能耗效率上的優越性。其領先於競爭對手的雲端 GPU 方案至少 5 倍,語音本地識別準確率相對於傳統處理器也有 9.8% 的提升。

IP 處理器成名的寒武紀在終端產品不斷成熟之後,緊接着推出雲端芯片,本次思元系列的前兩款產品:思元 100 和思元 270。

回顧這兩款雲端芯片在實際運用中,均表現出如下幾點共同的優勢:

  • 1)作爲通用處理器,支持各類深度學習技術,支持多模態智能處理(視覺、語音和自然語言處理),應用領域廣泛;
  • 2)從指令集和架構角度來看,相比於 GPU,對於在深度學習和人工智能場景中表現出了更高的效能比;
  • 3)配套軟件開發環境完善,用戶體驗良好;
  • 4)爲「端雲一體「策略而開發的最佳執行者。

此次發佈的思元 220,更是旨在彌補市場內邊緣端加速方案的空白而存在,同時也徹底完善了寒武紀產品線中邊緣端芯片的空白。

寒武紀藉助由於人口因素帶來的數據優勢,更加擅長於訓練,因此多款芯片均可以看出技術優勢帶來的側重點在於訓練。

目前寒武紀無論是雲端,終端,還是邊緣芯片,都採用統一的處理器架構和指令集,以及統一的軟件棧。

這三個領域的生態可以相互促進,形成正循環。雲端提供了完整的開發,調試,調優的軟件,雲端開發好的程序,可以很方便快速的部署到終端和邊緣,解決終端和邊緣開發難,調試難,調優難的問題,而終端和邊緣,可以積累大量的客戶和開發者,反哺於雲端生態,最終實現雲,邊,端生態的繁榮。

機器之心Pro

追動態 | 查數據| 找資源|讀報告|做調研


機器之心Pro 是基於「機器之心團隊構建的百萬級規模人工智能知識圖譜及結構化數據庫」搭建的人工智能領域專業信息平臺。


目前已上線五個模塊:dashboard新聞數據庫行業數據庫、人工智能知識庫深度精選,覆蓋 38 個技術領域及 55 個智能應用領域。


點擊圖片,查看官方使用手冊



pro.jiqizhixin.com

盯動態、找資源、做調研












爲何雲原生在吞噬世界?

來源:雲頭條長話短說,本文的目的是幫助你瞭解雲原生的功能及帶來的業務效益,並探討準備遷移到這種新型計算模式的
| 人工智能學家






老父親的需求

六隻腳是一款易用的運動軌跡、戶外旅行線路追蹤應用,俗稱GPS軌跡追蹤。支持離線地圖,並且可無偏移直接使用
| 小衆軟件





聯通帶你走進進博

上海聯通從安全保障、AR智慧觀展、5G高清直播到5G媒體直播,給予觀展者前所未有的體驗。
| 中國聯通微學堂




【熱點聚焦】如何提升網約車安全水平?

網約車安全一直是人們關注的焦點,也是交通運輸新業態安全發展的組成部分。一方面是日益增長的市場需求,一方面是對安全的擔憂,那麼,如何提升網約車安全水平,推動行業健康發展?
| 安防展覽網





寒武紀發佈邊緣AI芯片思元220,性能優於英偉達XavierNX兩倍

| 機器之能

按照寒武紀公佈的參數,思元 220 參數性能比肩英偉達去年發佈的 Jetson 系統級模塊——AGX Xavier 和上週發佈 Jetson Xavier NX。

在功耗上勝出 AGX Xavier,在計算速度上優於 Xavier NX。


11 月 14 日機器之心消息,寒武紀副總裁劉道福在深圳發佈思元系列邊緣端 AI 芯片「思元 220」和思元 220-M.2 邊緣加速卡


思元 220 的問世, 標誌着寒武紀已經具備了從終端 (寒武紀 1A、1H、1M 處理器 IP)、邊緣端 (思元 220 芯片) 到雲端 (思元 100、思元 270 芯片) 完整的智能芯片產品線。

最新發布的思元 220 芯片採用了寒武紀在處理器架構領域的一系列創新性技術——寒武紀最新一代智能處理器 MLUv02,實現:

最大 32TOPS(INT4)算力,而功耗僅 10W

對比英偉達在去年發佈的 Jetson 系統級模塊——AGX Xavier 和上週發佈 Jetson Xavier NX。

AGX Xavier 有 10W/15W/30W 三種選擇,神經網絡運算輸出爲 32TOPS,可應付多達四路的 HEFC 4K 、60fps 視頻流。在功耗上有待進一步提升。

而就在上週,英偉達進一步推出 Jetson 的最新成員 Jetson Xavier NX,號稱「全球最小邊緣超算」。

可提供高達 14 TOPS(功耗爲 10W 時)或 21 TOPS(功耗爲 15W 時)的性能,能夠並行運行多個神經網絡,並在與 Nano 同樣尺寸(70x45mm)的小巧外形中同時處理來自多個高分辨率傳感器的數據。

Xavier NX 將於明年 3 月開始發售,價格 399 美元。雖主打邊緣超算,但這個價格有些讓人望而卻步。

說回思元 220,據介紹,它可提供 16/8/4 位可配置的定點運算,客戶可以根據實際應用靈活的選擇運算類型來獲得卓越的人工智能推理性能。

在軟件方面,通過端雲一體的軟件平臺,思元 220 繼續支持寒武紀 Neuware 軟件工具鏈,支持業內各主流編程框架,包括 Tensorflow,Caffe,mxnet,以及 pytorch 等。

思元 220 是一款專門用於深度學習的 SOC 邊緣加速芯片,採用 TSMC 16nm 工藝,它具有高算力,低功耗和豐富的 I/O 接口。

基於思元 220,寒武紀前期面向市場推出小尺寸的 M.2 加速卡,未來會推出更高算力的產品形態。

思元 220-M.2

思元 220-M.2 邊緣加速卡在尺寸爲 U 盤大小的卡片上實現了 16TOPS(INT4)或 8TOPS(INT8)的算力。客戶可以通過標準的 M.2 接口快速部署到已有的業務中實現業務的智能升級和邊緣加速解決方案。

寒武紀表示,面向未來,針對不同的場景,包括邊緣計算、自動駕駛車載計算、訓練等場景。寒武紀將持續投資,推出更多的 AI 處理器,面向全場景持續提供更先進靈活、快速高效、性能卓越 AI 算力產品及服務。

1

邊緣端爲何重要

活動現場,寒武紀副總裁劉道福認爲:相比數據中心計算或者說雲計算,邊緣計算有幾個優勢:

1)大幅降低傳輸成本。

在很多如電力、能源等工業領域,網絡條件並不好,並且通訊基礎設施的改造成本很高,因此數據直接在邊緣進行處理,處理完的數據直接用於邊緣決策,或者有效信息傳回雲端集中決策,這都可以減少傳輸成本。

2)大幅降低延時。

邊緣計算往往具有實時的要求,因爲要對各種設備進行實時決策,而傳統的雲計算,由於網絡延時,很難做到實時。

3)保護數據隱私和安全。

邊緣計算可以無需將數據或者原始數據傳回雲端,從而可以大大保護數據的安全和隱私,減少數據泄漏。

在昨天的報道《繼英偉達最小邊緣超算,英特爾再推 10 倍提升 VPU,終端 AI 芯片創業壓力加劇》裏,我們也談到,邊緣智能,作爲人工智能的最後一公里,很長一段時間裏被創業者視爲得以繞開巨頭打壓的藍海市場,但今年市場被催熟的趨勢明顯,英特爾Nervana、英偉達Jeston系列、以及谷歌Coral和華爲鯤鵬等頭逐步場收割,AI芯片創業生態競爭加劇。

2

雲邊終三端佈局

除了目前雲邊結合的思元系列,寒武紀在更早推出的是終端產品線:終端 IP 處理器系列。

從第一代產品,2016 年推出的首個商用深度學習處理器 Cambrion-1A,到 17 年面向計算機視覺領域專用的二代處理器 Cambricon-1H(Cambricon-1H8、Cambricon-1H16),再到延續了前兩代產品完備性優點的第三代最新產品,面向本地訓練的 Cambricon-1M。

採用 7nm 臺積電工藝的 Cambricon-1M,性能十倍超越於已被廣泛使用各大移動手機終端的 Cambricon-1A。可以實現 5TOPS/W 能效比,單個處理器核即可支持 CNN、RNN、SOM 等多樣化的深度學習模型,更進一步支持 SVM、k-NN、k-Means、決策樹等經典機器學習算法。

科大訊飛就曾在發佈會上披露,寒武紀處理器在語音智能處理的測試結果,顯示出了能耗效率上的優越性。其領先於競爭對手的雲端 GPU 方案至少 5 倍,語音本地識別準確率相對於傳統處理器也有 9.8% 的提升。

IP 處理器成名的寒武紀在終端產品不斷成熟之後,緊接着推出雲端芯片,本次思元系列的前兩款產品:思元 100 和思元 270。

回顧這兩款雲端芯片在實際運用中,均表現出如下幾點共同的優勢:

  • 1)作爲通用處理器,支持各類深度學習技術,支持多模態智能處理(視覺、語音和自然語言處理),應用領域廣泛;
  • 2)從指令集和架構角度來看,相比於 GPU,對於在深度學習和人工智能場景中表現出了更高的效能比;
  • 3)配套軟件開發環境完善,用戶體驗良好;
  • 4)爲「端雲一體「策略而開發的最佳執行者。

此次發佈的思元 220,更是旨在彌補市場內邊緣端加速方案的空白而存在,同時也徹底完善了寒武紀產品線中邊緣端芯片的空白。

寒武紀藉助由於人口因素帶來的數據優勢,更加擅長於訓練,因此多款芯片均可以看出技術優勢帶來的側重點在於訓練。

目前寒武紀無論是雲端,終端,還是邊緣芯片,都採用統一的處理器架構和指令集,以及統一的軟件棧。

這三個領域的生態可以相互促進,形成正循環。雲端提供了完整的開發,調試,調優的軟件,雲端開發好的程序,可以很方便快速的部署到終端和邊緣,解決終端和邊緣開發難,調試難,調優難的問題,而終端和邊緣,可以積累大量的客戶和開發者,反哺於雲端生態,最終實現雲,邊,端生態的繁榮。

機器之心Pro

追動態 | 查數據| 找資源|讀報告|做調研


機器之心Pro 是基於「機器之心團隊構建的百萬級規模人工智能知識圖譜及結構化數據庫」搭建的人工智能領域專業信息平臺。


目前已上線五個模塊:dashboard新聞數據庫行業數據庫、人工智能知識庫深度精選,覆蓋 38 個技術領域及 55 個智能應用領域。


點擊圖片,查看官方使用手冊



pro.jiqizhixin.com

盯動態、找資源、做調研