<bdo id="7433k"></bdo><noframes id="7433k"><rt id="7433k"></rt><bdo id="7433k"><rt id="7433k"><noframes id="7433k"><rt id="7433k"><delect id="7433k"><bdo id="7433k"></bdo></delect></rt><noframes id="7433k"><delect id="7433k"></delect><bdo id="7433k"><rt id="7433k"><noframes id="7433k"><noframes id="7433k"><rt id="7433k"><delect id="7433k"></delect></rt><rt id="7433k"><delect id="7433k"><delect id="7433k"></delect></delect></rt><delect id="7433k"></delect> <noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><rt id="7433k"><noframes id="7433k"><rt id="7433k"></rt><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"><rt id="7433k"></rt></rt><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"><rt id="7433k"></rt></rt> <noframes id="7433k"><delect id="7433k"><bdo id="7433k"></bdo></delect><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><delect id="7433k"></delect><noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><delect id="7433k"></delect><rt id="7433k"><delect id="7433k"><delect id="7433k"></delect></delect></rt><noframes id="7433k"><noframes id="7433k"><noframes id="7433k">
人工智能

面向可擴展 AI 計算的連接創新

2025China.cn   2024年03月27日

隨著人工智能 (AI) 模型變得越來越復雜,數據量不斷攀升,數據中心正在通過改變系統架構,來實現更快、更高效的處理。

基于AI 模型產生的業務洞察提高了各行各業的生產力。從為金融機構提供全天候客戶支持的 AI 聊天機器人;到可以實時分析患者數據,預測潛在并發癥,從而實現更早干預的醫療保健平臺,數據驅動型計算系統的應用正在持續擴展。隨著這些模型變得越來越復雜,它們所需的數據量也會不斷增加。這還沒考慮到生成式 AI 的發展,生成式AI的結果輸出則會更依賴持續擴充的語言模型,和不斷升級的算力。

為了支持這些應用,數據中心必須具備更高效的大數據處理能力。這一趨勢正在改變數據中心所使用的設備,同時也在改變相應的互連技術。

開發可擴展的數據中心架構

更高帶寬、更低延遲的系統,對有效支持 AI 工作負載非常關鍵。處理密集型工作負載已經從標準中央處理單元 (CPU),轉向更強大的圖形處理單元 (GPU) - 它們的設計初衷是通過同時執行大量相對簡單的計算來呈現復雜的圖像。針對需要在短時間內完成多項計算任務的應用,GPU 已成為首選引擎。與此同時,隨著張量處理單元芯片(GPU)的出現,將進一步加速AI的學習工作負載。

單個處理器可以完成的任務畢竟是有限的。通過將處理器集群連接在一起,數據中心的算力可以大幅躍升。而如何將這些集群高效連接在一起是需要攻克的技術挑戰。

連接器是實現可擴展性的關鍵

在多個組件之間實現大量數據快速、可靠地傳輸需要一系列不同的連接器。承擔繁重工作的 GPU 、以及在整個過程中協調工作負載管理的 CPU 主要依靠插座和疊板連接器將它們連接到印刷電路板。高速線纜組件和線纜盒將服務器背板上的電氣連接件連接到服務器上的電路板和其他組件。其他輸入/輸出 (I/O) 連接器將數據從一臺服務器傳輸到另一臺服務器,并跨多個服務器連接集群。

為了高效地運行,這些連接器的設計必須滿足外形因數規范,同時最大限度地提高數據傳輸速度。目前最快的 AI 解決方案的傳輸速率是56千兆比特/秒。在部署的系統中,這一數字將在未來一到兩年內增長到112 千兆比特/秒,并有望在兩到三年后達到 224 千兆比特/秒。

隨著數據速率的逐步提高,確保系統可靠性能的信號誤差范圍也在縮小。通過銅纜連接以 224 千兆比特/秒的速率穩定傳輸數據,意味著(系統)需要在極限物理條件下工作。除了這些嚴格的性能規格,工程連接器還必須具有足夠的機械方面和散熱方面的可靠性,以便能夠在嚴苛的操作環境中使用。

為此,TE 設計并生產出各種具有適配功能的連接器,能同時兼顧性能、成本、可靠性和耐用性。這其中包括將加速計算處理單元安裝到不同電路板上的連接器接口,以及用于安裝中央處理器的插座。為了快速連接這些組件,TE 還開發出一系列用于高速板級連接的內部電纜組件、電纜背板組件,以及線纜盒及高速連接器,簡化系統集成過程,并支持系統構建和擴展這些系統的模塊化方法,最大程度上實現最高速度和最低延遲的可行性。

賦能 AI 計算

將數據傳輸到所需位置僅僅只是完成了一半的工作。 構成 AI 集群的組件也需要電力來完成它們的工作。一般來說,更強的算力往往需要更高的電力來驅動。供應這些電力需要更高效的連接器,以支持最高級別的系統性能。

為了支持計算密集型應用,這些組件必須堅固耐用,以確保它們能夠可靠地支持連續運行的需求。為了確保不斷發展的架構能持續滿足這些嚴苛的規格需求,組件制造商需要提供各種結構形態的電源線纜組件和連接器。

運行復雜的 AI 計算組件需要更高的電力,更高的電力會產生更多熱量。這讓散熱成為非常關鍵的一環。AI 系統前面板上的連接通常是最大的發熱源之一,也讓該區域成為需要提高效率的重點區域。TE 的 I/O 產品具有內置散熱功能,可將熱能從這些模塊傳導出去,以保持較低的運行溫度,從而提高系統的整體效率和可靠性。

在早期開展協作

為了支持日益復雜的 AI 應用,數據中心對更快速度、更高帶寬的需求基本上是沒有盡頭的。 即使在部署用于當下的解決方案時,我們的客戶也在積極思考如何為數據中心的下一步發展設計更快、更高效的架構。

有時,連接器功能的選擇可能會改變系統架構的方法。例如,當我們與一位客戶在其系統的早期設計階段緊密合作時,經過深入的探索,我們最終將從基于板對板連接器的系統改為使用基于線纜背板的系統,從而使系統變得更加靈活和高效。

這樣的創新之所以能成功,是因為我們在早期就與客戶保持密切溝通,了解他們當前的需求,及其未來的愿景。隨著 AI 發展加速數據中心的轉型,這種協作對于持續推動行業快速發展,以滿足激增的對越來越強大的算力的需求至關重要。

關于作者:

Sudhakar Sabada

TE Connectivity數據與終端設備事業部高級副總裁兼總經理

(來源:TE Connectivity)

標簽:TE Connectivity 我要反饋 
ABB電機與發電機拼圖挑戰賽
西克
2023世界人工智能大會專題
專題報道
2024漢諾威工業博覽會專題
2024漢諾威工業博覽會專題

2024 漢諾威工業博覽會將于4月22 - 26日在德國漢諾威展覽中心舉行。作為全球首屈一指的工業貿易展覽會,本屆展覽會... [更多]

第三屆EESA儲能展
第三屆EESA儲能展

EESA儲能展是由儲能領跑者聯盟主辦的品牌展會,創辦至今已經連續舉辦了兩屆。為加快適應儲能規?;l展的步伐,促進儲能行業... [更多]

2023全景工博會 | 直播探館 · 全景解讀
2023全景工博會 | 直播探館 · 全景解讀

2023年9月19日-23日,第二十三屆中國國際工業博覽會將于國家會展中心(上海)隆重舉行。本屆工博會將以“碳循新工業、... [更多]

最近最新中文字幕大全免费版,亚洲性无码AV在线观看DVD,久久996RE热这里有精品,久久99精品久久久久久清纯
<bdo id="7433k"></bdo><noframes id="7433k"><rt id="7433k"></rt><bdo id="7433k"><rt id="7433k"><noframes id="7433k"><rt id="7433k"><delect id="7433k"><bdo id="7433k"></bdo></delect></rt><noframes id="7433k"><delect id="7433k"></delect><bdo id="7433k"><rt id="7433k"><noframes id="7433k"><noframes id="7433k"><rt id="7433k"><delect id="7433k"></delect></rt><rt id="7433k"><delect id="7433k"><delect id="7433k"></delect></delect></rt><delect id="7433k"></delect> <noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><rt id="7433k"><noframes id="7433k"><rt id="7433k"></rt><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"><rt id="7433k"></rt></rt><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"><rt id="7433k"></rt></rt> <noframes id="7433k"><delect id="7433k"><bdo id="7433k"></bdo></delect><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><rt id="7433k"></rt><noframes id="7433k"><delect id="7433k"></delect><noframes id="7433k"><noframes id="7433k"><noframes id="7433k"><delect id="7433k"></delect><rt id="7433k"><delect id="7433k"><delect id="7433k"></delect></delect></rt><noframes id="7433k"><noframes id="7433k"><noframes id="7433k">