生成AI、特に大規模言語モデル(LLM)の本番運用において、Kubernetesは不可欠な基盤となっています。本書は、インフラエンジニアやMLOps担当者に向け、クラウドネイティブ環境でLLMを効率的かつ安全にデプロイし、スケールさせるための実践的なガイドです。vLLMやTGIといったモデルサーバーを用いた推論ランタイムの構築から始まり、希少なGPUリソースの効率的なスケジューリング、LoRAなどを用いたモデルのカスタマイズ、さらには検索拡張生成(RAG)やエージェント型ワークフローを組み込んだAI駆動アプリケーションの構築までを網羅しています。リソースの最適化やコスト、セキュリティなどの運用上の課題を乗り越え、最新のAIシステムを実世界のプロダクション環境へスムーズに導入するための体系的なノウハウが学べます。
Kubernetesで動かす生成AI
―大規模言語モデルの本番運用
Roland Huß、Daniele Zonca 著、株式会社トップスタジオHR 編
- TOPICS
- System/Network , AI/LLM
- 発行年月日
- 2026年12月10日 発売予定
- PRINT LENGTH
- 408 (予定)
- ISBN
- 978-4-8144-0189-5
- 原書
- Generative AI on Kubernetes
- FORMAT