過去幾年，生成式人工智慧迅速席捲全球，以ChatGPT為代表的大型語言模型快速滲透消費與企業市場，掀起一場圍繞算力與GPU資源的競賽。然而，隨著AI應用逐步從實驗階段走向實際部署，產業焦點正從單純追求生成式AI模型能力，轉向更重視應用效率的「代理式AI（Agentic AI）」與「實體AI（Physical AI）」。業界逐漸認識到，真正的挑戰不再只是堆疊算力，而是如何將算力配置到最合適的任務與運算環境中。
AI運算模式分為兩大類
目前AI工作負載大致可分為兩類：集中式資料中心AI與分散式邊緣AI。資料中心AI通常涉及龐大的模型參數與高資料吞吐量，因此對運算性能與記憶體頻寬高度敏感。相較之下，邊緣AI則更重視即時運算與本地資料處理，能直接對接實際產業需求，並在智慧製造、智慧交通與智慧醫療等場景中快速落地。
在資料中心場景中，大規模AI訓練或推理通常使用NVIDIA B200 Tensor Core GPU或NVIDIA GB200 NVL72等高性能運算平台；主流推理任務則常採用NVIDIA L4 Tensor Core GPU，而多任務加速場景則可搭配NVIDIA L40S GPU。在研發驗證或工作站級應用方面，NVIDIA RTX PRO 6000 Blackwell Workstation Edition則是常見選擇。
至於邊緣運算場景，AI系統需要更靈活的部署方式。從入門級的NVIDIA Jetson Orin Nano到高階的NVIDIA Jetson Thor模組，都可依不同應用環境與效能需求進行配置。
隨著AI技術逐步進入實體世界，產業觀察指出，CES 2026已明確反映出邊緣AI與實體AI的重要性。實體AI使車輛、機器人與各類裝置能感知並理解真實環境，從而在現實場景中安全運作；而邊緣AI則將智慧運算推向更靠近使用者的位置，提供更即時、重視隱私且個人化的智慧體驗。（原文出處）
