ChatGPT、10億人規模のストレージ拡張
原題 Rapidly scaling online storage to serve over 1 billion ChatGPT users (Part II)
OpenAIは、ChatGPTの10億人超のユーザーを支えるオンラインストレージの大規模拡張について第2弾の技術記事を公開した。Habitatにマルチテナント対応とグローバルキャッシュを組み合わせ、Azure Cosmos DBも活用して読み出しを12倍高速化したと説明している。
論点
巨大サービスの裏側の基盤は、外部クラウドに深く依存してよいのか
- コメントを読み込み中…
議論のヒントを見る
賛成側の視点
12倍速くなったのは事実。ユーザーに届く速さが全て。Azureを使うのは合理的な判断で、自前主義にこだわる理由はない。反対側の視点
基盤を特定ベンダーに預けるほど交渉力を失う。12倍の数字より、依存先が変わった時のコストを先に問うべきだ。
みんなのコメント 0件
コメントを書く