在AI浪潮推動下，大量新奇的AI應用迅猛而生。但這些應用非常場景化，既需要成熟的CPU和GPU，也需要全新的AI處理器。IPU（Intelligence Processing Unit）就是一種為AI計算而生的革命性架構，如今，IPU已經在金融、醫療、電信、機器人、云和互聯網等領域取得成效。

近日，英國初創公司Graphcore發布了第二代IPU以及用于大規模系統級產品IPU－Machine： M2000（IPU－M2000），新一代產品具有更強的處理能力、更多的內存和內置的可擴展性，可處理極其龐大的機器智能工作負載。據了解，IPU－M2000可構建成IPU－POD64這一Graphcore全新模塊化機架規模解決方案，可用于極大型機器智能橫向擴展，提供前所未有的AI計算可能性，以及完全的靈活性和易于部署的特性。它可以從一個機架式本地系統擴展到高度互連的超高性能AI計算設施中的1000多個IPU－POD64系統。

這款即插即用的機器智能刀片式計算單元能有出眾的性能，得益于Graphcore全新的7nm Colossus MK2（也叫IPU GC200），并由Poplar軟件棧提供全面支持。

可不要小看那這塊IPU，它是臺積電7nm工藝的成果，晶體管數量高達594億個，裸片面積達到823平方毫米。這比兩個月前英偉達最新發布的安培架構GPU A100的540億個晶體管增加了10％。

IPU是一種全新的大規模并行處理器，此前報道，他們已經推出了基于臺積電16nm工藝集成236億個晶體管的GC2 IPU，120瓦的功耗下有125TFlops的混合精度、300M的SRAM能夠把完整的模型放在片內。

據介紹，Graphcore最新的MK2對三大技術——計算、數據、通信進行了顛覆性突破：

1．計算

Mk2 GC200處理器是比較復雜的單一處理器，基于臺積電7nm技術，集成了將近600億個晶體管，擁有250TFlops AI－Float的算力和900MB的處理器內存儲。處理器內核從上一代1217提升到了1472個獨立處理器內核，從而達到有近9000個單獨的并行線程。相對于第一代產品，其系統級的性能提升了8倍以上。

說到處理內存，可大致分為兩部分：一部分是程序存儲（program Memory）；另一部分是模型存儲空間（Available Memory）；當時的MK1擁有300MB SRAM，算是單一芯片里面最大的存儲容量，在相同承訓存儲空間下，MK2擁有更大的Available Memory，相當于6倍以上的處理器內有效存儲，大大提高了運算效率。這也使得每個IPU  Memory的帶寬是47．5TB／s。同時還包含IPU－Exchange以及PCI Gen4跟主機交互接口；互聯速度（IPU－Links）也達到了320GB／s。

一個M2000的盒子里集成了4個GC200處理器，具有1PFlops16．16的算力，和近6000個處理器核心，以及超過35000個并行線程，In－Processor Memory達到3．6GB，450GB Exchange Memory。