- 全国8拠点に分散したGPUを統合利用する環境です。
- 25GBを2秒で転送するネットワーク性能が紹介されています。
- 電力制約やデータ配置を意識したAIインフラ実証です。
Topic
GPUのAIニュース
GPUに関するAIニュースをカテゴリ横断でまとめます。
- HPEは、AIエージェント普及でトークン消費と推論コストが膨らむ問題を示した。
- 外部モデル依存による隠れたコストを避けるため、自社データセンター回帰を論じている。
- AMDの事例と合わせ、推論基盤をどこに置くかがインフラ戦略になっている。
- 企業の生成AI利用が拡大する中、複雑なトークン課金や従量制モデルによる予算超過リスクが企業を圧迫している。
- Gartnerが明かす、AI時代の新たなコスト管理問題への備え方とは。
- 推論、学習、クラウド基盤のコストと運用設計に関わる。
- AWS、SageMaker AIでNVIDIA Blackwell学習を最適化する方法を解説。
- Blackwell世代のGPUを学習ジョブで活かすための設定記事。
- AIインフラ運用者向けの実装価値があります。
- 富士通が、大規模言語モデル（LLM）を少ないGPUで動かせる新アーキテクチャ「PHOTON」（フォトン）を開発した。
- GPU当たりの処理性能（スループット）が、現在のLLMで主流のアーキテクチャ「Transformer」の最大475倍に達するという。
- LLMの運用に必要なGPUを抑え、大幅なコスト削減につなげられるとしている。
- ソフトバンクがAIデータセンター向けGPUクラウドを発表した。
- AIデータセンター向けソフトウェア群を搭載し、10月提供予定。
- 国内AI計算基盤とネオクラウド競争のニュースとして重要。
- vLLM、reranker、embeddingを単一GPUに同居させた構成の事例。
- 負荷テスト中に生成が進まなくなる問題を扱っている。
- 推論基盤のGPU共有と運用設計を考える材料になる。
- NVIDIAがデータセンター内の水利用を減らす冷却技術を発表した。
- 一方で発電側の水利用という大きな問題は残ると指摘している。
- AIインフラの環境負荷を見る材料になる。
- GoogleがTPU製造でIntelに大規模発注したという報道を扱う。
- TSMC逼迫や米国政策を背景に製造キャパ確保が焦点。
- AI半導体の投資回収と世代交代リスクを考える材料になる。
- Reflection AIがSpaceXと大規模な計算資源契約を結ぶ。
- GB300など最新NVIDIAチップへのアクセスが焦点。
- AIラボの競争力が計算資源契約に左右される動きとして重要。
- Schneider ElectricとFoxconnが次世代データセンター設計で提携した。
- AIインフラのボトルネックを解消する狙いがある。
- 電力、冷却、建設、サーバー供給を含むAI基盤の動きとして重要。
- Cloudflareの統合分析基盤Town Lakeと、その上で動く社内AIエージェントSkipperの構築記事です。
- 社内データ基盤とAIエージェントの接続例として有用です。
- 推論・学習コストとデータセンター投資の制約に関わる。
- Vercelがエージェント実行のトリガー、時間、トークン使用量をダッシュボードで追えるようにしました。
- エージェント運用監視の実装例です。
- 推論・学習コストとデータセンター投資の制約に関わる。
- databricks_blog発の話題で、GPU運用が焦点です。
- AIインフラ・GPUの観点で、発表内容や導入場面を整理できます。
- GPU運用の設計、導入順序、社内ルール作りに反映しやすい論点です。