Kubernetesで動かす生成AI

―大規模言語モデルの本番運用

[cover photo]
TOPICS
System/Network , AI/LLM
発行年月日
PRINT LENGTH
408 (予定)
ISBN
978-4-8144-0189-5
原書
Generative AI on Kubernetes
FORMAT
Print
Print
5,720円

生成AI、特に大規模言語モデル(LLM)の本番運用において、Kubernetesは不可欠な基盤となっています。本書は、インフラエンジニアやMLOps担当者に向け、クラウドネイティブ環境でLLMを効率的かつ安全にデプロイし、スケールさせるための実践的なガイドです。vLLMやTGIといったモデルサーバーを用いた推論ランタイムの構築から始まり、希少なGPUリソースの効率的なスケジューリング、LoRAなどを用いたモデルのカスタマイズ、さらには検索拡張生成(RAG)やエージェント型ワークフローを組み込んだAI駆動アプリケーションの構築までを網羅しています。リソースの最適化やコスト、セキュリティなどの運用上の課題を乗り越え、最新のAIシステムを実世界のプロダクション環境へスムーズに導入するための体系的なノウハウが学べます。

目次