Conexia — 太平洋地域向けマルチテナントRAGプラットフォーム

背景

Conexiaはタヒチを拠点とするエージェンシーで、太平洋地域の顧客（小売、保険、サービス業）向けにAIチャットボット事業を産業化したいというニーズを持っていました。課題は「LLMが質問に答えられること」を証明することではなく、マルチテナント製品をアトール環境から少人数チームで運用し、ヨーロッパのデータセンターまでの距離があっても妥当なレイテンシを保つことでした。

すべてを規定する制約は3つ。テナントを徹底的に分離すること（各クライアントが独自のデータ、ソース、シークレットを持つ）、新規クライアントのオンボーディングコストをスプリント単位ではなく時間単位に短縮すること、そして少人数チームで運用基準を維持できる設計にすることです。

担当した役割

CTOとして、プラットフォームのエンドツーエンド設計、インフラ選定、エージェントのコード、デリバリーパイプライン、可観測性、クライアントオンボーディング契約の定義までを所管しました。

構築したもの

• RAGエージェント：ベクトルデータベースに対するセマンティック検索、コストとリクエストの重要度に応じた複数LLM間のルーティング
• リッチな会話型UI（クライアント側）：単純なテキストストリームではなく、インタラクティブなコンポーネントを実装
• 並列Webスクレイピングパイプライン：各テナントの業務ソースからベクトルDBにデータを供給
• 100以上のワークフローのオーケストレーション：エージェントを支える収集、正規化、インデキシング、品質管理、業務トリガー
• オムニチャネルコネクタ：Web、Gmail、Messenger。すべて共通レイヤーの背後に抽象化
• Scalewayインフラ：Kubernetesクラスタ、デプロイ対象すべてをTerraformで管理、Helm + ArgoCDでGitOps、テナントごとに厳密に隔離されたシークレットを持つGitLab CI/CD
• 可観測性：長期保管にPrometheus + Thanos、クリティカルなSLOへのリアルタイムアラート
• 設定ファイル1つでクライアントオンボーディング完結：テナント追加にカスタムコード不要。これがエージェンシーの収益モデルを変える

最も難しかった点：プラットフォームをクライアントごとに複製することなく、すべての層（ベクトルDB、シークレット、可観測性、LLMクォータ）でマルチテナント分離を綺麗に維持すること。

成果

プラットフォームは本番稼働中で、現在もスケールアップを続けています。以前はカスタム開発が必要だったオンボーディングが設定ファイル1つで済むようになり、クライアントごとの粗利率が変わりました。GitOpsと可観測性スタックのおかげで、少人数チームでも運用が成り立っています。