/blog/tags/%E6%8E%A8%E7%90%86/Recent content in 推理 on SunOfficialHugozh-TW© 2025 SunOfficial. ⚡ Powered by SunFri, 24 Apr 2026 00:00:00 +0000/blog/nvidia-google-inference-costs/Fri, 24 Apr 2026 00:00:00 +0000/blog/nvidia-google-inference-costs/<p>在 Google Cloud Next 大會上，Google 與 NVIDIA 公布了雙方的硬體路線圖，旨在大幅降低大規模 AI 推理的成本。</p> <h2 id="a5x-實例硬體與軟體協同設計">A5X 實例：硬體與軟體協同設計</h2> <p>雙方詳細介紹了運行在 NVIDIA Vera Rubin NVL72 機架級系統上的全新 A5X bare-metal 實例。透過硬體與軟體的协同設計，這個架構的目標是實現：</p>