三菱UFJインフォメーションテクノロジー株式会社 導入事例

当時の課題は、単に新しいLLMを追加することではなく、「今後さらにLLMが増えても対応できるアーキテクチャをどう設計するか」でした。AI-bowという最初の選択肢をつくるむずかしさと、その先で選択肢を10個に広げていくむずかしさはまったく別のものです。ひとつのLLMを利用する仕組みであれば、そのモデルの仕様だけを考えれば済みます。しかし、複数のLLMを前提にすると、モデルごとの仕様の違いやユースケース、非機能要件なども含めて検討しなければなりません。
将来的に当行としてLLMの選択肢を増やしていくためには、どのようなアーキテクチャにすべきか。その検討こそが、このプロジェクトの出発点でした。

そうやって手探りで検討を重ねた結果、複数のLLMや将来的なエージェント機能にも対応できる取り組みのひとつとして、Amazon Bedrockを活用した基盤構築プロジェクトがスタートしました。構成については、机上で比較するだけでは判断しきれない部分もありました。そのため、実際に自分で環境を構築しながら検証を行い、「この形であれば実現できる」という確信を得たうえで進めています。

そこは私自身も非常に印象に残っています。方針を判断される立場でありながら、ご自身でも手を動かして検証されたうえで議論に臨まれていたので、認識のずれが起きにくかったのです。こちらが提案をお伝えする際も、実際の検証結果を前提に会話ができるため、議論が抽象論になりませんでした。そのおかげで、前例の少ないテーマでありながらも、具体的な判断を積み重ねながらプロジェクトを前に進めることができたと思います。

そのため弊社としては、まずプロジェクトを推進する人選から始めました。当時は個人で生成AIを活用する人はいても、業務として開発経験のあるメンバーはまだまだ多くありませんでした。そこで重視したのは、金融業務の知識そのものよりも、技術への関心が高く、新しい領域でも自分で調べて追いつけることです。御社固有の手続きや品質基準は参画後に習得する前提で考え、宮城を推薦させていただきました。

伊東様にそういっていただけると、頑張ってきた甲斐があります。ただ、短期間で同じ言葉で話せるようになったのは、伊東様が行内の制約と技術の両方を理解されていて、こちらの疑問に的確に答えてくださったおかげだと思っています。

私自身は、Amazon BedrockのRAG基盤であるナレッジベース機能を扱う部分の開発を中心に担当しました。単純にモデルを呼び出すチャット機能とは異なり、データの取り込みや保持の仕組みが加わるため構成も複雑になります。また、テナント分離をどのように実現するかという重要な論点も、この領域に集約されていました。前例の少ない開発だったこともあり、実装だけでなく、単体テストの観点やコードの記述基準についても整理しながら進めていました。

あの領域は、今回の開発のなかで特に負荷と難易度が高かった部分だったと思います。加えて、伊東様がテスト観点やコードの基準まであらかじめ整理してくださっていたので、私たちも同じ基準に沿って開発を進めることができました。おかげでチーム全体として品質基準をそろえながら進めることができたと思います。

業務部門のみなさまからいただくご要望をもとに、何を実現したいのかを一緒に整理しながら要件へ落とし込んでいきました。その際は開発側の視点だけでなく、この基盤が利用者にとって本当に使いやすいものになっているか、行内のセキュリティ基準を満たす運用になっているか、といった点まで踏み込んで提案させていただきました。

結合テストに入る段階で、まずテスト計画を引き直しました。どのテストをどの順番で実施し、それぞれにどれだけの工数がかかるのかを整理してスケジュールに落としてみると、当時の体制では期間内に終わらないことがはっきりしました。当初想定していた体制が変わったこともあり、結合テスト初期の時点で不足工数を数字でお示ししました。そのうえで、体制の補強が必要だと問題提起させていただきました。その後は御社側で柔軟にご対応いただき、体制を組むことができました。

早い段階で数字を示してもらえたので助かりました。結果として、他のラインからの支援も受けて体制を組み直し、当行の品質基準を満たしたうえで、計画どおりリリースすることができました。

現在は本格運用とさらなる拡張のフェーズに入っています。既にいくつかの部署で利用が始まっており、なかでも脆弱性診断のようなホットな領域では新しいモデルの活用を含めて高い関心が寄せられています。一方で、「もっと新しいモデルを使いたい」という要望も増えてきています。当初からの目的は、特定のモデルを使うことではなく、「1を10に広げられるプラットフォーム」をつくることでした。その意味では、複数のLLMを取り込める基盤を整備できたことは大きな成果だと考えています。

最初は限られた打ち合わせのなかで関係性を築くところからのスタートでしたが、いまでは「どうすればもっとよいシステムになるか」と熱く議論できる関係になっていましたね。今回、当行の開発プロセスやシステム特性も理解していただけたので、今後は生成AI関連以外の領域についても、相談先のひとつとして期待しています。

現場としては、御社がやりたいと思われたことを止めずに、できるだけ早く形にすることを今以上にやっていきたいと思います。技術の選択肢がこれだけ速く増えていく領域ですので、新しくやってみたいことが出てきたときに、そのつど一緒に検討できる相手でありつづけたいと考えています。

技術に精通された方々とひとつのものをつくらせていただける環境で、非常にやりがいがあります。私も日々アンテナを張り、自発的な提案を行ってご期待に応えられるよう取り組んでいきたいと思います。

今後も新しいモデルやAIエージェントのような技術が次々と登場してくると思います。その変化を受け止めながら、銀行業務で安全かつ継続的に活用できる基盤を育てていくことが私たちの役割です。そのためには、業務ニーズと技術の進化の両方に向き合ってくれるパートナーが欠かせません。今回、SHIFTさんには当行のシステム特性や開発プロセスを深く理解していただきました。今後もさまざまなプロジェクトが控えていますが、どのような課題にも一緒に向き合いながら、行内の生成AI活用を支える基盤を育てていけることを期待しています。