Kubernetesで動かす生成AI

大規模言語モデルの本番運用

5,720円

内容

生成AI、特に大規模言語モデル(LLM)の本番運用において、Kubernetesは不可欠な基盤となっています。本書は、インフラエンジニアやMLOps担当者に向け、クラウドネイティブ環境でLLMを効率的かつ安全にデプロイし、スケールさせるための実践的なガイドです。vLLMやTGIといったモデルサーバーを用いた推論ランタイムの構築から始まり、希少なGPUリソースの効率的なスケジューリング、LoRAなどを用いたモデルのカスタマイズ、さらには検索拡張生成(RAG)やエージェント型ワークフローを組み込んだAI駆動アプリケーションの構築までを網羅しています。リソースの最適化やコスト、セキュリティなどの運用上の課題を乗り越え、最新のAIシステムを実世界のプロダクション環境へスムーズに導入するための体系的なノウハウが学べます。

関連書籍

目次