金融機関向けプライベートLLM

言語モデルを銀行のデータセンターに導入します。置き場所は自社サーバーでも銀行が管理するクラウドアカウントでもよく、自社のインフラチームが運用するKubernetes上で動かします。社員はActive Directory経由で銀行のアカウントにログインし、文書の要約、規程の検索、メモの下書きを公開ツールと同じ感覚で使えます。すべては銀行のネットワークの中で完結します。

権限は組織構造に従います。融資チームが閲覧できるのは自分の担当ポートフォリオの顧客だけで、すべての質問が監査ログに残り、コンプライアンス部門が確認できます。納品時には、銀行のコンプライアンス部門とセキュリティ部門が定めた方針に沿って、ペネトレーションテストの結果と監査人向けの資料を添えます。

システムに任せるのは要約と下書きです。融資の承認、口座に関する顧客への回答など、お金に関わる判断はすべて規程上の権限を持つ社員が行い、システムが銀行の外に何かを送ることはありません。