技術資源

這幾年 AI 應用發展很快，很多原本需要在雲端或伺服器上處理的工作，開始被搬到設備端、車端、機器人本體或產線現場。這也是為什麼 NVIDIA Jetson 系列會越來越常出現在工業電腦、機器視覺、AMR / AGV、無人車、智慧機器人與人形機器人的應用裡。

簡單來說，Jetson 是一種專門為「邊緣 AI」設計的運算平台。

它不像一般桌上型 GPU 電腦那樣追求最大功耗與最高效能，而是把 CPU、GPU、AI 加速器、影像處理、相機介面與軟體平台整合在一個小型模組裡。對設備商來說，這代表可以把 AI 推論直接放進機器裡，不一定要把影像或感測資料全部送回雲端。

目前 Jetson Orin 產品線已經相當完整，從低到高大致可以分成 Jetson Orin Nano、Jetson Orin NX、Jetson AGX Orin，以及新一代面向 Physical AI 與機器人的 Jetson Thor。

EAC-4000 Orin Nano / NX 小型化平台 EAC-6000 Orin NX 多相機邊緣 AI EAC-5000 AGX Orin 高階機器視覺 EAC-7000 Jetson Thor 旗艦平台

先看整體規格層級

如果用比較口語的方式來看，Orin Nano 適合入門與小型 AI 視覺，Orin NX 適合中階多相機與機器人應用，AGX Orin 適合高階多感測器與自主機器，Thor 則是面向人形機器人、Physical AI 與更大型 AI 模型的高階平台。

Orin Nano：適合小型 AI 視覺與入門邊緣應用

Orin Nano 可以把它想成 Jetson 系列裡面比較容易開始的選擇。它的體積小、功耗低，官方規格最高可到 67 TOPS，對很多基本 AI 視覺應用已經很夠用。

比較適合的應用像是單相機或少量相機的物件偵測、簡單瑕疵檢測、智慧門禁、人流偵測、小型機器人或教學開發平台，以及低功耗 AI 推論設備。

如果客戶的需求是「我想在設備端做 AI 判斷，但模型不大、相機數量不多、功耗與成本要控制」，Orin Nano 通常會是第一個可以評估的方向。

Orin NX：多數邊緣 AI 應用的甜蜜點

Orin NX 是很多工業應用裡很實用的一個等級。它的算力最高可到 157 TOPS，功耗仍然控制在相對合理的範圍，體積也很小。對很多機器視覺、AMR、AGV、智慧機器人與產線 AI 應用來說，Orin NX 往往是效能、功耗、體積與成本之間比較平衡的選擇。

比較適合的應用像是 2 到 4 路相機的 AI 視覺系統、AMR / AGV 的避障與影像辨識、產線 AOI 瑕疵檢測、小型機器手臂視覺導引、智慧交通邊緣影像分析，以及輕量化 VLM 或多模型推論。

例如一台 AMR 需要同時接收前方相機、深度相機、周邊感測器，並且執行物件辨識、路徑判斷與基本避障，Orin NX 的等級就比 Nano 更適合。

AGX Orin：適合高階自主機器與多感測器融合

AGX Orin 是 Orin 系列裡的高階平台，官方規格最高可到 275 TOPS，記憶體也可到 64GB 等級。這個層級比較適合需要高算力、多相機、多感測器與較複雜 AI pipeline 的應用。

比較適合的應用像是多路 GMSL / MIPI 相機影像處理、自主移動機器人、無人車或特種車輛感知系統、高階機器視覺檢測、多感測器融合，以及需要同時跑偵測、分割、追蹤、定位與路徑規劃的系統。

如果說 Orin NX 適合「中階多相機 AI 應用」，AGX Orin 更像是「完整自主機器」的核心大腦。像戶外巡檢機器人、智慧農機、特種車輛感知平台，或需要整合 GPS、IMU、LiDAR、深度相機與多路影像的系統，就比較適合從 AGX Orin 開始評估。

Jetson Thor：面向 Physical AI 與人形機器人的新世代平台

Thor 是更高一階的產品。NVIDIA 官方把 Jetson Thor 定位在 Physical AI、Agentic AI 與高階機器人應用，官方規格最高提供 2070 FP4 TFLOPS，記憶體最高 128GB，功耗範圍約 40W 到 130W。

這個等級已經不是單純「相機辨識」而已，而是更接近讓機器人可以理解環境、處理多種感測資料、執行更大型的 AI 模型，甚至支援 VLM、LLM、VLA 這類視覺語言或視覺語言動作模型。

市場上很熱門的方向，像是人形機器人、智慧工廠裡的自主移動設備、物流倉儲機器人、農業機器人、醫療輔助設備，以及各種需要即時理解現場狀況的 AI 機器，都是 Thor 這類平台想要支援的方向。

選型時不要只看 TOPS

很多人在看 Jetson 規格時，第一眼會先看 TOPS。TOPS 當然重要，但選型時不能只看這個數字。

比較實際的判斷方式，是先確認相機數量、解析度與 FPS、要跑幾個 AI 模型、模型是 YOLO 這類視覺模型，還是 VLM / LLM / VLA，再來看是否需要同時做影像擷取、推論、追蹤、定位與控制。

除此之外，也要一起確認功耗、溫度、體積、電源限制，以及是否需要 GMSL、PoE、MIPI CSI、CAN、序列埠或其他工業介面。Jetson 選型真正重要的是把「AI 模型、相機數量、現場環境、介面需求」一起看。

簡單整理：各系列適合怎麼選

• 如果是小型 AI 視覺、單相機辨識、入門開發，可以先看 Orin Nano。
• 如果是多相機視覺、AMR / AGV、一般工業 AI 應用，可以優先評估 Orin NX。
• 如果是高階機器人、多感測器融合、無人車或複雜 AI pipeline，AGX Orin 會更適合。
• 如果是人形機器人、Physical AI、大型 VLM / LLM / VLA、多感測器高速處理，則可以往 Jetson Thor 評估。

NVIDIA Jetson 系列的價值，不只是把 GPU 做小，而是把 AI 推論、影像處理、機器人開發工具與邊緣部署環境整合在一起。對設備商來說，選 Jetson 不只是選一顆模組，而是在選一個能不能長期支援產品開發、現場部署與後續維護的平台。

真正重要的不是只買到最高算力，而是選到適合你的相機數量、模型大小、功耗條件、安裝空間與應用場景的邊緣 AI 電腦。

如果您正在評估 NVIDIA Jetson 邊緣 AI 電腦，或不確定 Nano、NX、AGX、Thor 哪一個等級比較適合，也可以提供相機數量、模型類型、現場環境與應用需求，我們可以協助一起評估合適的平台方向。

資料參考：NVIDIA Jetson Orin 與 Jetson Thor 官方產品頁；Thor 的 FP4 TFLOPS 與 Orin TOPS 屬於不同精度與計算表示，本文以產品等級與應用定位做選型說明。

工業電腦其實早就不只存在於工廠裡。

從自動化設備、AOI 檢測、倉儲物流、醫療設備、娛樂系統、交通監控，到各種邊緣運算與 AI 視覺應用，都可以看到工業電腦的身影。只是多數時候它不會被放在桌面上讓大家看見，而是被裝在機台裡、控制箱裡、機櫃裡，或藏在設備後方默默運作。

也正因為工業電腦要面對很多不同的使用環境，所以它不像一般桌上型電腦那樣，只要看 CPU、記憶體、硬碟與顯示卡就好。工業電腦的型態非常多，從傳統機架式電腦、無風扇嵌入式電腦、可插擴充卡的強固型電腦，到連外殼都沒有的單板電腦，其實都算是工業電腦的一種。

這也是為什麼很多客戶一開始選型時會覺得複雜。

同樣都叫工業電腦，有些是 1U、2U、4U 機架式，有些是無風扇小電腦，有些可以插 PCIe 卡，有些完全不能擴充，有些適合鎖在機台內，有些適合放進標準機櫃。外觀看起來差很多，價格也差很多，但真正的差異通常不是外型，而是它要被安裝在哪裡、要接什麼設備、要不要擴充、要不要長時間穩定運作。

所以這篇文章想用比較簡單的方式，幫助你先抓到工業電腦選型的大方向。

第一步：先問，它要不要上機櫃？

如果你的設備會放在標準 19 吋機櫃裡，第一個方向通常就是機架型工業電腦。

機架型工業電腦常見有 1U、2U、4U 等高度。1U 的優點是省空間，適合機櫃空間有限、功能相對單純的應用。2U 會比 1U 有更多散熱與擴充彈性。4U 則比較接近傳統工業主機，通常有較好的擴充空間，可以搭配更多硬碟、介面卡或影像擷取卡。

如果你的應用需要放進控制室、伺服器機櫃、設備機房，或希望所有系統整齊集中管理，機架型會是比較直覺的方向。

但如果設備不是放進機櫃，而是要安裝在機台內部、產線旁邊、控制箱裡，或直接固定在設備上，那就可以往無風扇工業電腦或桌上型工業電腦去評估。

第二步：再問，需要插擴充卡嗎？

這是非常重要的一個問題。

很多工業應用不是只有一台電腦本體，還會搭配影像擷取卡、運動控制卡、DIO 卡、DAQ 卡、PoE 網卡、GMSL 影像卡或其他 PCIe 擴充卡。如果你的系統需要這些擴充卡，就不能只看電腦本體規格，還要確認有沒有 PCI / PCIe 插槽、可支援幾張卡、卡片長度夠不夠、功耗與散熱是否足夠。

如果需要插卡，常見方向會是傳統型可插卡工業電腦、4U 機架型工業電腦，或某些可支援擴充的無風扇工業電腦。

如果完全不需要插卡，只是接 USB、LAN、COM、HDMI、DI/O 或少量周邊，那就可以考慮更小型的無風扇電腦。這類產品通常體積小、安裝方便，也比較適合長時間放在現場運作。

第三步：現場環境適不適合風扇？

無風扇工業電腦是目前很常見的選擇。

它最大的優點不是安靜而已，而是少了一個容易吸灰塵、卡油污、累積異物的風扇。對工廠、機台、倉儲或半戶外環境來說，這會讓系統維護變簡單，也能降低長時間運轉的故障風險。

如果現場灰塵多、空氣流通不穩定、設備要長時間運作，通常會優先考慮無風扇設計。

不過無風扇也不是萬能。如果 CPU / GPU 效能需求很高，或需要多張擴充卡、大功耗顯卡、大量硬碟，那就要重新評估散熱條件。有些應用會需要機架型或有主動散熱設計的工業主機，才能維持長時間穩定。

第四步：如果空間非常小，可以考慮單板電腦

有些設備內部空間非常有限，甚至不需要完整外殼，只需要一片主機板整合進設備裡。這時候就會考慮單板電腦。

常見單板型態包含 2.5 吋、3.5 吋、5.25 吋、Mini-ITX 等。這類產品適合設備製造商、嵌入式系統、醫療設備、特殊機構整合，或需要把電腦直接設計進產品內部的應用。

單板電腦的優點是彈性高、體積小、容易整合，但也比較需要機構、供電、散熱與 I/O 配置的整體規劃。如果只是一般現場安裝，無風扇整機通常會比較省事；如果是要做成產品的一部分，單板電腦就很值得評估。

第五步：不要一開始就從 CPU 規格開始選

很多人在選電腦時，第一個問題會問：「這台是 i5 還是 i7？」但工業電腦選型通常不建議一開始就從 CPU 開始。

比較好的順序是：先確認安裝方式，再確認擴充需求，接著確認環境條件，最後才回到 CPU、記憶體、儲存、GPU 與作業系統。

這樣選型會比較不容易走錯方向。因為 CPU 可以升級，記憶體可以加大，SSD 可以更換，但機構型態、散熱方式、擴充槽數量與安裝方式，通常一開始選錯，後面就很難補救。

簡單整理：先用這幾個問題判斷方向

• 如果要放進標準機櫃，可以先看 1U、2U、4U 機架型工業電腦。
• 如果要放在設備旁邊或控制箱內，可以先看無風扇工業電腦。
• 如果需要插 PCIe 擴充卡，要確認可插卡型工業電腦或機架型平台。
• 如果空間非常小，或要整合進設備內部，可以看單板電腦。
• 如果只是一般資料收集、控制、通訊或小型視覺應用，無風扇小型電腦通常是最容易開始的選擇。

工業電腦選型看起來複雜，但其實可以先不要急著比較每一個型號。先把安裝方式、擴充需求、散熱環境與應用情境釐清，通常就可以把選擇範圍縮小很多。

真正重要的不是買到規格最高的電腦，而是選到一台能在你的現場穩定運作、方便安裝、後續好維護的工業電腦。

最近這一年，開源 AI 大模型非常熱門。從 Llama、Qwen、DeepSeek 到各種企業內部知識庫應用，越來越多人開始思考一件事：「我能不能不要把資料丟到雲端，而是在自己的辦公室，甚至家裡，直接跑一台 AI 主機？」

這個想法很合理。資料放在自己手上，延遲比較低，也不用擔心內部文件、客戶資料、研發資料上傳到外部服務。對企業來說，地端 AI 不只是流行，而是未來很多應用會走向的方向。

不過，真的開始挑硬體時，很多人第一個想到的方案通常是：買一台高階桌上型電腦，插一張 RTX 5090 32GB。

表面上看起來很直覺。RTX 5090 效能強，規格漂亮，網路討論也很多。但問題是，目前 RTX 5090 因為市場缺貨與需求過熱，價格已經被推到非常高。一台搭配 RTX 5090 的 AI 電腦，實際成交價大約可能來到 25 萬元上下，甚至有時候不是你願意買就一定買得到。

這時候就值得停下來想一下：我們買這台機器，真正要解決的是什麼問題？

如果只是要追求遊戲卡的最高跑分，那 RTX 5090 當然很有吸引力。但如果目標是長時間穩定運行開源大模型、企業知識庫、AI Agent、影像辨識或內部 AI 應用，那選型邏輯就不完全一樣了。

GPU 規格不是只看跑分，記憶體容量也很關鍵

以 RTX 5090 和 RTX 5000 PRO 48GB 來比較，RTX 5090 的 CUDA 核心數、Tensor Core、RT Core 數量都比較高，記憶體頻寬也更大。但 RTX 5000 PRO 48GB 有幾個在地端 AI 應用上很重要的優勢。

第一個差異是記憶體容量。RTX 5090 是 32GB GDDR7，而 RTX 5000 PRO 是 48GB GDDR7，甚至還有 72GB 的選項。跑大型語言模型時，很多時候瓶頸不是單純算力，而是 GPU 記憶體夠不夠。記憶體越大，可以容納的模型越大，也比較有機會保留較長的上下文、較完整的推論配置，或同時支援更多應用情境。

第二個差異是穩定性與資料可靠性。RTX 5000 PRO 支援 ECC 記憶體，RTX 5090 則沒有。對一般個人使用者來說，ECC 可能不是最優先考量；但對企業內部長時間運行的 AI 工作站或伺服器來說，穩定性其實很重要。尤其是這台設備如果要放在辦公室、實驗室或產線旁邊，不是跑一下 benchmark 就關機，而是每天長時間運作，那專業卡的可靠性會更有價值。

第三個差異是功耗。RTX 5090 顯卡功耗約 600W，而 RTX 5000 PRO 48GB 約 300W。也就是說，光顯卡本身就差了一倍。這不只是電費問題而已，還包含散熱、噪音、電源供應器、機箱風流，以及長時間使用的穩定度。

買一台 AI 主機，不只是看購買價格

很多人一開始只看購買價格，會覺得 RTX 5090 電腦大約 25 萬，而 XAI-748D 在相近 CPU、DRAM、SSD 配置下大約 32 萬，好像貴了一些。

但如果把整體使用情境放進來看，差異就不只是 7 萬元。

XAI-748D 採用更適合地端 AI 運行的專業 GPU 平台，具備更大的 GPU 記憶體、更低的功耗、更適合長時間運作的散熱與系統設計。對辦公室環境來說，低功耗也代表比較不需要用很吵的風扇把熱硬壓出去，整體使用體驗會比較接近一台可以長期放著運作的 AI 伺服器，而不是一台滿載時像高階遊戲主機一樣的工作站。

另外，RTX 5000 PRO 也支援 MIG 虛擬分割，這對未來多任務或多人共用會有幫助。例如一台機器可以切分不同 AI 工作負載，讓知識庫問答、影像辨識、測試模型或不同部門的 AI 應用更容易被管理。

地端 AI 伺服器該怎麼看？

這篇文章想傳達的重點不是 RTX 5090 不好。RTX 5090 確實是一張非常強的顯卡。

但如果你的需求是地端 AI 伺服器，尤其是企業要長時間運行開源模型，那選型時就不能只看單張顯卡的峰值效能。你還需要一起看：

• GPU 記憶體是否足夠
• 是否支援 ECC
• 長時間運行是否穩定
• 功耗與散熱是否合理
• 噪音是否能接受
• 未來是否需要多任務或多人共用
• 這台機器是否適合放在辦公室或企業環境中長期使用

如果只是短期測試、個人研究，RTX 5090 桌機也許是一個選擇。但如果你要的是一台可以放在公司內部，穩定服務團隊、支援企業資料與 AI 應用的地端 AI 伺服器，那 XAI-748D 這類專業平台會是更值得評估的方向。

很多時候，AI 硬體不是買最熱門的那張卡，而是買最適合你應用情境的系統。

對地端 AI 來說，真正重要的不是「跑分最高」，而是「模型跑得起來、資料留得住、系統撐得久」。如果您對地端 AI 伺服器有興趣進一步瞭解，歡迎加我們的官方 Line 進行對談，我們會盡力回答您的問題。