/blog/tags/%E5%9F%BA%E7%A4%8E%E8%A8%AD%E6%96%BD/Recent content in 基礎設施 on SunOfficialHugozh-TW© 2025 SunOfficial. ⚡ Powered by SunFri, 24 Apr 2026 00:00:00 +0000/blog/google-nvidia-a5x-inference-cost/Fri, 24 Apr 2026 00:00:00 +0000/blog/google-nvidia-a5x-inference-cost/Google 與 NVIDIA 在 Cloud Next 大會發表新一代 AI 基礎設施，A5X 實例採用 Vera Rubin NVL72 系統，推論成本與能耗效率皆提升十倍。同時推出機密運算與托管訓練叢集，為金融、醫療等高度監管產業提供安全合規的 AI 部署方案。/blog/nvidia-google-inference-costs/Fri, 24 Apr 2026 00:00:00 +0000/blog/nvidia-google-inference-costs/<p>在 Google Cloud Next 大會上，Google 與 NVIDIA 公布了雙方的硬體路線圖，旨在大幅降低大規模 AI 推理的成本。</p> <h2 id="a5x-實例硬體與軟體協同設計">A5X 實例：硬體與軟體協同設計</h2> <p>雙方詳細介紹了運行在 NVIDIA Vera Rubin NVL72 機架級系統上的全新 A5X bare-metal 實例。透過硬體與軟體的协同設計，這個架構的目標是實現：</p>