LayerX｜AI エージェント基盤（"AIに賭ける"）— Bedrock × LiteLLM × Durable/Temporal¶

作成日: 2026-08-09 出典 / きっかけ: 星北斗（@kani_b / kanny、LayerX CISO）"Building an AI Agent Platform at LayerX"（AWS Summit Japan 2026, 2026年6月）関連: layerx_data_enabling_データが語りかけてくる_整理 / 社内mcp共通基盤_認証認可ログ_整理 / エアークローゼット_agentic_graph_rag_と社内mcp基盤_整理 / メルペイ_決済常駐aiエージェント_設計と5層防御_整理 / agent/ai_agent_9社_本番運用アーキテクチャ / agent/agentic_reference_architecture_評価ループ

0. 要点（3行）¶

思想は「AIに賭ける」= 中央統制より速度。顧客データに触る「絶対にまずい場所」だけ厳格に締め、社内ソースや開発実験は自由にさせる。締める線をデータ境界に引き、それ以外はアクセルを踏む割り切り。
基盤は AWS サーバーレス native の一枚岩（ECS/Fargate/Lambda/Lambda Durable Functions、Aurora/OpenSearch Serverless、S3 Vectors、GraphQL Gateway）。その上に用途別に4つのエージェント実行系（Bedrock AgentCore / Lambda Durable Functions / Temporal / n8n）を使い分ける。
コストと品質のガードレールが要: LiteLLM を LLM ゲートキーパーにして仮想キー＋ユーザー/プロジェクト別予算上限、Langfuse（self-host）でプロンプト管理・評価。エンジニア6名で全社 AI インフラを回し、むしろ非エンジニア（営業/人事/法務）の方が高頻度で使う。

1. 全体像 — 4事業に AI を敷く¶

LayerX のミッション「すべての経済活動を、デジタル化する」。事業は4本柱で、各々に AI エージェントを実装:

事業	中身
バクラク（Bakuraku）	バックオフィス向け AI エージェント群（経費・請求など）
ALTERNA	フィンテック（資産運用）
Ai Workforce	エンタープライズ向け AI プラットフォーム（AI-native の中核）
AgenticSec	自律ペネトレーションテスト

2. アーキテクチャ¶

2-1. 基盤インフラ（AWS サーバーレス native）¶

レイヤ	採用
コンピュート	ECS / Fargate / Lambda / Lambda Durable Functions
DB	Aurora Serverless / OpenSearch Serverless
ベクトル/ストレージ	S3 Vectors（ベクトル）、EFS（ファイル永続化）、S3
API 層	マイクロサービス＋ GraphQL Gateway で統一 API

※ Lambda Durable Functions は 2025年12月に発表された「長時間・多段ワークフロー / AI ワークフロー向け」の実機能（2026 に各言語 SDK が GA）。チェックポイント＆リプレイで長時間処理を耐障害化する。

2-2. LLM 基盤 — Bedrock をファーストチョイス¶

「モデルプロバイダとしては(ある場合)ファーストチョイスにしている」= Amazon Bedrock が第一候補。理由:
AWS IAM ネイティブ統合でユーザー別/プロダクト別のアクセス制御ができる
コスト優位
マルチモデル（Claude 主軸＋タスク特化で Kimi / Gemma / Cohere 等）
Bedrock に無い/必要なものは OpenAI Platform も併用。

2-3. LiteLLM — LLM ゲートキーパー（コスト統制の肝）¶

LiteLLM を統一プロキシにして Bedrock＋OpenAI のエンドポイントを束ねる。
仮想キー（virtual key）認証、ユーザー/プロジェクト別の予算制約とコスト計算、日次予算フィードバック。
→ 「暴走コスト」を構造的に止める予算ガードレール。

2-4. エージェント実行系を4つ使い分け¶

フレームワーク	位置づけ
Amazon Bedrock AgentCore	クラウドネイティブなエージェントオーケストレーション
AWS Lambda Durable Functions	長時間ワークフロー（チェックポイント/リプレイ）
Temporal Workflow	self-host 可能なコントロールプレーン（TypeScript SDK）
n8n	非エンジニア向けローコード・ワークフロー

2-5. 内製ツール¶

Shepherd — 自社製 Electron ベースの MCP クライアント。Slack / Notion / Google Workspace 連携を集約。
Langfuse — LLM エンジニアリング基盤（プロンプト管理・評価・テスト）。Fargate に self-host、バックエンドは ClickHouse。モデル更新をまたいだプロンプトのバージョン管理に使う。

3. スライド14 — 3軸で AI を効かせる（ユーザー指定）¶

LayerX は AI を3次元で展開している、というのがスライド14の骨子:

組織レベル: 開発環境、プロダクトマネジメント支援、業務（営業・サポート）、コーポレート（人事・法務・財務）
プロダクトレベル:
バクラク: 複数の AI エージェント（領収書の分割、経費レビュー、勤怠設定など）
フィンテック: エージェント支援オペレーション
Ai Workforce: AI-native プラットフォームの中核
AgenticSec: 自律ペネトレーションテスト
支える基盤: 横断的な少人数チーム（例: バクラクの SRE 4名、コーポレートエンジニア2名で 50以上の AWS サービスを管理）

4. セキュリティ・ガバナンス — 「賭ける」の線の引き方¶

2025年の方針「Bet AI（AIに賭ける）」= 中央集権的統制より market への速度を優先。
絶対にまずい場所（no-go）: 顧客データは API 経由のみ・管理された AWS アカウントに限定。
許容リスクゾーン: 社内ソースコード、開発者の実験は自由に。
予算ガードレール（LiteLLM）でコスト暴走を防ぐ。
→ 「全部を締める」のではなく、顧客データ境界だけ硬く、あとは緩めて速度を取る設計。cf. メルペイ_決済常駐aiエージェント_設計と5層防御_整理（あちらは金融ゆえ5層で硬く締める＝対照的）

5. 具体ユースケース（自社事例）¶

エージェント	中身	実装
Alex Mentor	Slack ヘルプデスク bot。Notion・営業資料・製品ドキュメントを Bedrock Knowledge Bases（S3 Vectors）で参照。営業が多用	n8n
Security Checklist Agent	Google Sheets のアップロードを解析、過去パターンから回答生成。精度70〜80%で人手補正は最小	Lambda Durable Functions
経費レビュー Agent	社員の申請を会社ポリシーに照らし自動レビュー、手戻りを削減	—
ヘルプデスク Agent	マルチテナントの B2B 向け。自動応答・チケットのルーティング・マニュアル更新	Temporal（強めのプロンプトチューニング）

精度70〜80% 等は登壇者の自社事例としての数値。

6. 組織・文化¶

エンジニア計6名で全社 AI インフラを運用（少人数）。
非エンジニア（営業・人事・法務）が、エンジニアより高頻度で Shepherd / n8n を採用。
コミュニティ活動: 2025年初頭に全社ハッカソン「AI Agent Festival」（社内ツールのコネクタを事前用意）→ 外向けに55日間の「AI Agent Blog Relay」へ発展。
プロンプトは Langfuse でバージョン管理し、モデル更新をまたいだ改善を追跡。

7. 核心の学び（スライド51）¶

生成 AI によって「つくる」ハードルが大幅に下がった。

焦点は「技術の目新しさ」から 組織のプロセス再設計とフィードバックループへ移る。結局は従来のプロダクト開発サイクルと同じ、というのが結論。
＝基盤（Bedrock/LiteLLM/Langfuse）は手段。勝負どころは「誰が・どの業務に・どう回すか」の組織設計。

8. まとめ — この事例から持ち帰る手（＋他社比較）¶

状況	借りる手
全社に AI を広げたいが統制で詰まる	顧客データ境界だけ硬く、社内実験は緩める（"賭ける"の線引き）
LLM コストが読めない/暴走が怖い	LiteLLM を単一ゲートキーパーにして仮想キー＋ユーザー/PJ別予算上限
ワークロードが多様（短命〜長時間）	AgentCore / Lambda Durable Functions / Temporal / n8n を用途別に使い分け
非エンジニアにも作らせたい	n8n（ローコード）＋ Shepherd（社内MCPクライアント）
プロンプト/評価が属人化	Langfuse を self-hostしてバージョン管理・評価を回す

他社比較: 「社内 MCP 共通基盤＋非エンジニア内製化」はエアークローゼット（エアークローゼット_agentic_graph_rag_と社内mcp基盤_整理 / エアークローゼット_非エンジニア内製化_sandbox_mcpと議事録rag_整理）と近い。9社横断の型は agent/ai_agent_9社_本番運用アーキテクチャ。LayerX の固有性は ① Bedrock を IAM 統合の軸に据えた AWS 一体設計、② LiteLLM を予算統制のゲートにした点、③ CISO 主導で「データ境界だけ硬く」割り切った速度志向。

一言で: 「全部を統制」ではなく 顧客データだけ硬く締め、あとは Bedrock＋LiteLLM＋用途別実行系で速度を取る。少人数（6名）で全社に広げる型として、AWS native 一体設計とコストゲートの組み合わせが勘所。

参考リンク¶

原典（SpeakerDeck, kanny/星北斗, LayerX, AWS Summit Japan 2026） — https://speakerdeck.com/kanny/building-an-ai-agent-platform-at-layerx
AWS Lambda durable functions（多段/AI ワークフロー向け・2025-12 発表） — https://aws.amazon.com/about-aws/whats-new/2025/12/lambda-durable-multi-step-applications-ai-workflows/
Amazon Bedrock AgentCore — https://aws.amazon.com/bedrock/agentcore/
LiteLLM（LLM プロキシ/ゲートウェイ） — https://www.litellm.ai/ / Langfuse — https://langfuse.com/ / n8n — https://n8n.io/ / Temporal — https://temporal.io/

作成: 2026-08-09 ／最終更新: 2026-08-09