Category Archives: Server文章

你的系統持續在發熱，別被散熱風扇騙了！

隨著科技的成長，需要被存儲、計算、傳送等的資料會愈來愈多，因此，設置高密度的Data center / Server對於商業基礎設施和國家基礎建設來說也變得格外重要。在物聯網、雲端存儲、大數據運用、人工智能和5G等領域的加速發展下，數據中心的建置與需求也將越來越龐大，而數據中心在全年無休運行下會產生高密度的廢熱，這些廢熱主要是由每一櫃中數個伺服器所產生，若未能有效地進行散熱，將容易導致系統過熱無法正常運行，因此對數據中心的伺服器性能的穩定性來說，運用風扇或水冷來達到散熱這課題也相對重要。 伺服器風扇過熱會有哪些潛在風險？ 在高溫環境中長時間運作，伺服器風扇所使用的塑料材質，可能會因熱變質而變脆，進而造成破損，導致風扇有可能在持續運轉，但效能已經降低。風扇效能降低，會影響伺服器的散熱效率，使伺服器內部元件過熱，造成元件損壞。元件損壞後，可能會導致伺服器無法正常運作，甚至造成資料遺失或系統崩潰。這個結果將導致應用服務停擺，甚至是客戶資料的流失，進而引起消費者客訴等負面的使用者體驗。 實際案例分享 根據百佳泰多年實驗經驗，我們針對實際案例進行說明：客戶的產品在進行長時間的可靠度驗證時，我們發現在長時間運轉下，雖然風扇依舊持續旋轉，但其塑料材質已開始脆化進而出現裂紋。因此即使風扇雖仍舊在運轉，但我們已經將這類的現象判為問題件了。 百佳泰提供三大解決方案 百佳泰針對伺服器風扇的可靠度驗證有非常多豐富的專案經驗，同時也設計了一套解決方案來提供服務。百佳泰自行設計、開發了一套風扇專用的測試治具，此治具以模組化組成，最多可以支援15顆風扇同時測試。 另外，百佳泰也自行開發測試自動化軟體，能將治具支援的15顆風扇虛擬成三組，分別進行不同的測試項目，如：Full power mode 或是Power cycle [...]

伺服器散熱效能不佳？最完整的解決方案就在這！(三)

前篇文章『伺服器散熱效能不佳有解嗎？百佳泰專業團隊為您解 (二)』說明百佳泰如何協助客戶進行伺服器的散熱測試，提供數據以及後續的改善與評估。 本篇文章重點將延伸至散熱架構三個重點中的GPU導風罩，對伺服器散熱有何影響。 伺服器的散熱技術在當前階段主要採用氣冷和液冷兩大方案。 氣冷依賴空氣的對流進行散熱；而液冷則利用液體流動帶走熱量。在氣冷系統中，尤其需要謹慎設計導風罩，以確保有效引導風流，這對整體散熱效果至為關鍵。在伺服器開發過程中，客戶時常提供初版的導風罩進行散熱初步驗證，並根據測試數據對導風罩進行修改。 實際案例分享 從GPU進風口的冷卻風流分散不集中（預定路徑為紅箭頭，但部分風流可能從旁邊藍箭頭處流失），可能導致機台的散熱效率降低，進而使機箱內溫度升高，進而引起相關部件因高溫而運作不正常的問題。 透過在導風罩中添加檔片並進行驗證，藉由測試數據的分析，可確認此改進方案的可行性。一旦獲得驗證結果，客戶通常會將這項變更應用到後續的導風罩設計中，以進一步提升伺服器的散熱效能。這種有效的散熱技術優化不僅有助於維持穩定的運作狀態，且能夠提高伺服器的整體性能和可靠性。 百佳泰對於伺服器散熱架構的關注程度不僅體現在測試能提供長期穩定的環境，更在於及時反饋。當散熱架構遇到問題或狀況時，我們致力於立即將這些信息反饋給客戶，以協助他們解決可能存在的挑戰。 同時，我們積極參與改善的過程，透過多年累積的豐富經驗，致力於提供客戶實用的建議。這包括在短時間內完成各種散熱架構的驗證，以確保改進方案的實施不會影響產品的生產週期。我們期望透過迅速且有效的改進流程，為客戶提供高品質的散熱解決方案，同時不耽誤產品的製造進度，使客戶能夠更加信心滿滿地推出優秀的伺服器產品。這種積極的態度不僅體現在我們對技術創新的承諾，也是對客戶需求的快速響應的體現。 百佳泰除了有豐富的專案經驗，也有完整的設備與環境。我們有適合各種伺服器散熱要求的步入室溫箱，熱負載從13KW到65KW都有，能夠進行單機、多機和機櫃型態的散熱驗證服務。   若您對於伺服器散熱相關的顧問服務有進一步需求，歡迎與我們聯繫，百佳泰服務團隊將誠摯為您服務！ [...]

伺服器SSD工作負載：一文看懂企業級SSD效能評估與驗證解析

AI應用浪潮襲來，伺服器運算及儲存效能的需求高漲 隨著人工智慧（Artificial Intelligence, AI）和機器學習（Machine Learning, ML）的爆炸性應用如雨後春筍般出現，這無疑對AI伺服器的儲存容量和儲存性能迎來空前的需求高漲。數據中心與企業級伺服器叢集必須持續追求更高的運算效能，同時更低延遲的高速傳輸，才足以因應海量資料運算存取的龐大商機。 不論是數據中心還是企業級伺服器叢集，都是由一台一台的伺服器所組成，並可概分為運算、儲存與網路等三大主要部分。由於伺服器本身目前的技術架構限制，導致運算速度（CPU, RAM）仍普遍遠快於儲存速度，因此各種研究及應用皆不斷地投入在儲存裝置上，以期能夠提升企業用伺服器的整體效能。其中「固態硬碟」（SSD）由於其本質上具備電子訊號讀寫、多通道存取特性，以及無傳統硬碟（HDD）的機械讀取限制等特性，這也使得固態硬碟的讀寫速度不僅比傳統的HDD快上許多，在耗電性上的表現也要來得更加出色。此外，受惠於NAND Flash製程技術近年來的不斷提升，再加上各項控制器、韌體技術改進可靠性及使用壽命後，資料中心的固態硬碟的使用量也不斷地隨之成長。   SSD效能驗證眉角多，委託專業顧團隊的效益更高 在進行SSD效能的驗證時，除了考慮資料吞吐量（Throughput）外，讀寫效能（IOPS, I/O Per Second）也務必是需要評估的一大關鍵。雖然坊間有不少評測軟體可以量測SSD產品的讀寫效能，但是不同軟體有各自的專長領域，要如何正確地使用評測軟體來評量SSD效能，並且能快速地針對問題進行改善及排除，此時就必須仰賴具備豐富驗證經驗的顧問團隊，提供專業的技術支援。 [...]

伺服器散熱效能不佳有解嗎？百佳泰專業團隊為您解 (二)

前篇文章中『伺服器散熱效能不佳有解嗎？專家建議這麼做』提到氣冷式的伺服器其散熱效能對於系統穩定度是非常重要的關鍵因素，同時也說明了百佳泰對於散熱效能能提供的協助與服務。 本篇將為您延伸說明百佳泰如何進行評估，同時也會舉例在測試過程中發現的問題及改善後的數據。 AI伺服器的散熱架構三大重點： GPU導風罩：嘗試不同的GPU導風罩架構，用以集中伺服器進風量，加強對GPU的降溫效果。 GPU托盤：改動GPU托盤架構，驗證出風面積大小對GPU散熱的影想程度。 CPU導風罩：嘗試封閉CPU導風罩間隙，集中風流，驗證CPU降溫效果。 百佳泰專業技術團隊會先與您討論現況，並實際確認散熱架構後，將開始進行溫度監控的熱電偶佈點，完成佈點後，開始執行加壓程式及溫度數據的收集。加壓過程中會有不同部件的加壓(ex. GPU or CPU)及加壓的程度 (ex. 30%~100%)，同時也會嘗試對風扇的轉速控制或製造風扇的故障來模擬各種情境以收集相關的數據做分析，以確保伺服器在遇到突發狀況時仍能夠保持散熱的穩定性。 百佳泰針對此專案嘗試了兩個散熱架構的數據收集，經過分析後確認散熱架構1的表現較符合預期，測試結果如下圖： 在數據收集的過程中，我們也發現了一個異常的現象，在收集PSU佈點的電熱偶數據中發現：溫度的曲線並非是越靠近中心溫度越高，有兩個點呈現相反的狀態。經過分析、與客戶討論後找出其實際原因是因為熱風回流所導致，而發生的地方就是在PSU附近的機殼側面或縫隙。數據資料及過程如下： 改善前PSU溫度異常 [...]

伺服器散熱效能不佳有解嗎？專家建議這麼做

今年AI技術的話題不斷，隨著相關應用服務的陸續推出，AI的趨勢已經是一個明確的趨勢及方向，這也連帶使得AI伺服器的出貨量開始加速成長。AI伺服器因為有著極高的運算效能，伴隨而來的即是大量的熱能產生，因此散熱效能便成為一個格外重要的議題。其實不只AI伺服器有著散熱的問題，隨著Intel及AMD 的CPU規格也不斷地在提升，非AI應用的伺服器的散熱問題也是不容小覷的潛在問題。即便如此，由於目前的液冷技術仍有許多待克服的地方，舉凡像是建置成本昂貴，機殼、軌道、水路、資料中心等項目都得重新設計來過，維修人員也得需要時間重新訓練。因此目前市面上出貨的伺服器大多數還是以氣冷式為主。   一站式客製化顧問諮詢，有效改善伺服器散熱效能 氣冷式的散熱架構及散熱料件將決定伺服器的散熱效能。當散熱效能不夠好時，伺服器的溫度將會持續升高，若此時機房的冷氣無法有效地降低溫度時，將會導致伺服器因溫度過高而啟動保護措施，包括降速或強制關機。當保護措施啟動時，對外的影響就是應用服務效能降低，使用者感覺回應變慢，甚至是因強制關機而導致的服務中斷等等，這些都會造成使用者的負面體驗。 在伺服器散熱效能的評估上，百佳泰除了具備豐富的實務經驗及專業的技術團隊，可協助進行不同散熱架構的建置及數據收集，提供客戶不同散熱料件的全面性分析與評估。依據伺服器產品需求的不同，百佳泰能提供一站式的客製化顧問服務、，涵蓋了如機構、電性、並搭配高頻領域的環測項目。除此之外，在服務過程中對於產品的各種系統介面、指令操作、軟體更新、硬體更換等測試細節，百佳泰不僅擁有相關的技術能力與執行經驗，更可提供相關的測試建議與諮詢，進而滿足客戶的各項需求。   舉一個專案的例子來說，百佳泰協助該客戶更換不同的散熱料件，並將收集到的數據整理後提供給客戶，客戶即可透過百佳泰所提供的測試數據，選擇出最佳搭配的散熱模組。收集不同散熱材料的數據，CPU最高的溫差可達5度，客戶由此可得知不同料件，對散熱效能影響的差異。   或者像下圖這個專案，經過散熱架構的選定、微調以及散熱材料的選擇後，百佳泰成功將將整體伺服器的溫度下降約9.3°C，達到客戶要求的標準。   Faster, Easier, Better！值得您信賴的檢測技術顧問 百佳泰深耕IT領域，至今已累積超過30年的測試驗證經驗，透過全面性的智慧檢測建議與分析，百佳泰能替伺服器相關產品客戶帶來全方位的客製化解決方案，致力打造更快速、更高效，同時更加完善的一站式顧問諮詢服務，與客戶一同為產品品質進行嚴格把關。 [...]

極速訊號之爭：驚世科技浪潮的競技場

現今科技世代，高頻傳輸和高速運算的需求和應用正以驚人的速度增長。這個現象主要歸因於數位化轉型、物聯網、人工智慧、5G等新興技術的迅速普及。這些技術的蓬勃發展正在深刻改變著我們的生活習慣和商業模式。 然而，這些高速需求也帶來了許多挑戰，尤其是在確保訊號完整度和品質方面。在高頻傳輸與高速運算過程中，訊號可能面臨許多問題，這些問題不僅可能影響訊號的準確性，並在後續的數據分析和解讀階段同時也會造成困擾。 其中，不足的取樣頻率是一個關鍵問題。尼奎斯特(Nyquist)定律是數據訊號處理領域中的一個重要概念：在對連續訊號進行取樣時，取樣頻率應該至少是訊號最高頻率的兩倍，以確保能夠準確地重建原始信號。 若取樣頻率低於訊號最高頻率的兩倍，將會產生混疊效應，導致高頻部分被折疊到低頻區域，進而導致訊號的變形。此外，高頻成分被折疊後，能量分布將會偏移，訊號的能量特性分佈也將受到影響。這種能量偏移可能導致諧波失真，影響頻譜分析的準確性。同時，超過Nyquist頻率的訊號成分也會在取樣過程中沒有辦法被完整辨識，導致部分資料消失。 為了克服這樣的問題，以下方案被提出並廣泛應用。 首先，確保取樣頻率至少是訊號最高頻率的兩倍，以避免混疊效應。此外，在進入類比數位轉換器前，使用低通濾波器處理大於Nyquist頻率的訊號成分，有助於減少能量偏移和頻譜失真的問題。而在訊號擷取後，運用數位濾波演算法進一步去除混疊的訊號，以還原原始訊號特性。 然而，實際應用這些解決方案可能不如理論那麼簡單。確保取樣頻率要高於訊號頻率兩倍的這個要求，需要使用非常之昂貴的高頻儀器來完成。 其中包含示波器、頻譜分析儀、信號產生器、時域反射儀等。同樣地，設計有效的濾波器和運用數位濾波演算法也需要豐富的專業知識和經驗，往往是一項耗時的挑戰。   百佳泰作為高頻訊號完整性方面的專業支援者，透過多年的深耕，我們不僅具備各種高頻精密儀器、設備，也提供多種高頻訊號完整性測試方案，幫助客戶確保訊號的品質。此外，我們為不同介面和規範設計了一系列的高頻量測專用治具，以實現更有系統和效率的量測。其專業技術團隊也將提供濾波器設計的諮詢，並根據客戶需求提供多元的訊號量測方案，進一步協助專案的開發或是產品的驗證。確認訊號完整的同時，也預先排除可能的潛在風險。 我們卓越的專業知識和技術支援，是客戶在產品開發過程及驗證階段的強力後盾，確保時效Faster、設計Easier、品質Better，讓您在市場上更具競爭力並掌握先機。   若您對於高頻訊號完整性及高頻量測專用治具相關的顧問服務有進一步需求，歡迎填寫表單聯繫我們，百佳泰服務團隊將誠摯為您服務！ [...]

魔鬼藏在細節裡！使用者情境模擬幫你找出伺服器品質潛在風險！

伺服器多元化應用服務時代正式來臨！ 隨著數位化和數據需求不斷增長，伺服器產業也持續成長中，同時各種應用服務也不斷推出，包括雲運算、人工智慧、大數據分析、物聯網、區塊鏈和其他新興技術。在越來越多應用服務推出同時，伺服器的規格也不斷在演進以因應不同的應用服務，例如純運算的AI伺服器、儲存資料的儲存伺服器、運算及儲存兼顧的混合型伺服器，以及適合邊緣運算的邊緣伺服器等。 預先防範潛在風險，降低商譽營收損失 一般來說，應用服務供應商會選擇適合的伺服器規格，來佈署所提供的應用服務，但卻無法確定佈署後的運行效能或穩定度，是否能按照最初規劃的方式呈現。同時，在運行的過程中是否會因為外在的環境因素如溫度、震動等，導致可靠度的問題發生，這些都是無法預測的。而當真的發生運行效能不佳、應用服務平台不穩定或產生可靠度問題，導致伺服器硬體故障等潛在風險產生，都會使應用服務供應商遭受立即性的商譽及營收損失。 另一種情況是當佈署運行一段時間後發現問題，經檢查分析後確認是硬體相關的問題，此時要回頭找系統供應商時卻發現該專案已經結束，相關資源已經解散到其它新專案上。因此系統供應商需要花更多的時間來尋找資源解決問題，再加上硬體可能招回的rework，這些都會是應用服務供應商或採購方的巨大成本。 使用者情境完全模擬，全面防堵各式潛在風險 百佳泰提供使用者情境模擬解決方案能夠在伺服器出貨前先模擬並驗證之後的佈署是否會產生上述的潛在風險，能夠有效的降低佈署後實際發生問題的機率。下面提供幾種使用者情境模擬的例子，來確認伺服器的效能及穩定度: MySQL Database workload simulation MS SQL OLTP workload [...]

基板管理控制器（BMC）是什麼？主要功能及常見問題總整理

伺服器是現代企業運營的核心，它們存儲、處理和管理大量的數據，應對多樣的業務需求。然而，隨著伺服器規模和複雜度增加，有效管理和維護這些伺服器變得愈發困難。在這個挑戰日益增加的環境中，伺服器BMC(Baseboard Management Controller)的功能顯的更為重要。   基板管理控制器（BMC）是什麼？ 基板管理控制器（Baseboard Management Controller, BMC）是IPMI架構的智慧核心。它是嵌入在電腦主機板上的一個專用微控制器，BMC通常用於伺服器，負責系統管理軟體與平台硬體間的介面管理。BMC擁有自己的專用韌體和RAM。   BMC的主要功能 提供遠程管理伺服器的能力 不必身臨其境，管理員可以通過BMC訪問伺服器，無論伺服器是運行中還是處於關機狀態。這種遠程管理的能力對於節省時間和成本非常重要。管理員無需每次故障排除或升級時都親自前往伺服器機房，而可以通過BMC完成大部分工作。   監控伺服器的硬體健康狀況，包括：溫度、電源供應、風扇速度等。 [...]

AI應用一路狂飆，PCIe 5.0 SSD能否應對性能挑戰？

PCIe 5.0 SSD – 數據中心與雲端存儲新戰力 隨著人工智慧（Artificial Intelligence, AI）和機器學習（Machine Learning, ML）爆炸性的應用如雨後春筍般的出現，代表著數據中心與儲存伺服器需要更高效能、更低延遲的高速傳輸需求，以應付海量資料運算存取，對儲存容量、儲存性能的需求空前高漲。   在市場上，我們也可以觀察到PCIe 5.0介面逐漸在系統以及伺服器上實際搭載應用，就介面規範數據來看，可以發現到PCIe 5.0的傳輸速率是前代PCIe 4.0的兩倍，基於以上優點，市場上已經開始有廠商發表基於PCIe 5.0協定SSD，作為終端應用的廠商或伺服器製造商怎麼挑選可靠穩定高性能的SSD成為重大課題。   [...]

儲存伺服器效能不足，SSD相容性評估是關鍵！

雲端服務世代交替，主流儲存媒體更迭 隨著科技不斷的發展，儲存媒體也不斷的演化進步，固態硬碟(SSD)是儲存媒體一個新世代的代表。 在伺服器產業中，早期的SAS硬碟(HDD)是主流，但是當SSD開始發展尤其是近幾年來的NVMe SSD崛起後，儲存伺服器開始大量導入此類型的SSD。順應此潮流，業界紛紛制定了相關的Form factor來支援，伺服器產業中最具代表性的就是U.2/U.3及EDSFF E1/E3，而NVMe SSD最大的優勢就是採用PCIe的標準，其吞吐量可隨著PCIe規格提升而不斷的提高，目前伺服器產業的主流為PCIe 4.0 x4的標準，其吞吐量理論值可達7.88GB/s，而下一代的PCIe 5.0 x4更可達到15.75GBs，這是其它標準所無法企及的。 SSD規格採購關鍵：相容性/韌體/測試手法 雲端服務營運商在佈署儲存伺服器時，會考慮到其應用而選擇不同的SSD規格。比如說讀取密集型SSD適用於不需頻繁執行寫入操作，或主要因應大區塊與連續資料模式的工作負載、寫入密集型 SSD適用於寫入密集應用，涵蓋大數據分析、HPC (高效能運算) [...]