■ プロジェクト概要

農林水産業者の協同組織を基盤とする全国金融機関の農林中央金庫（代表理事理事長︓北林太郎）に、シナモンAIの独自RAGシステム「Super RAG」の提供を開始しました。

農林中央金庫では業務効率化を推進する取り組みの一環で、社内にある図や表を含む複雑で膨大なデータをシナモンAIの「Super RAG」で高精度に取り込み、データ検索力の向上やLLM（大規模言語モデル）による信頼性の高い回答を生成可能にすることで、まずは以下業務において導入する方向で検討・機能実装を進めてまいります。

●　業務所管部と職員間におけるQA対応の効率化
●　投融資領域における業務効率化および生産性向上
●　本店・営業店間の情報連携強化によるサービス・企画開発力の向上

今回の取り組みを経てシナモンAIは、今後も農林中央金庫との連携を深め、「Super RAG」のAPIを活用したエージェントワークフローによるプロセス自動化やAIエージェントの導入検証を進めてまいります。また、生成AI技術を活用した業務効率化を推進することで、コア業務への人員集中が可能となり、競争力の強化や、サービスの向上に寄与してまいります。

※本インタビューは2025年4月に実施しました。

■「Super RAG」導入企業 ご担当者様

農林中央金庫
IT統括部 DX共創グループ 部長代理 田中 様（左から2番目）
IT統括部 DX共創グループ 羽賀 様（右から2番目）
IT統括部 DX共創グループ 小杉 様（右）
※左はシナモンAI Super RAG事業部 担当者 竹内

IT統括部 DX共創グループの役割
IT統括部DX共創グループは、農林中央金庫グループ全体のDXを推進するために、ITデジタル所管機能を一元化・再整理して設置されたグループです。DX戦略の実践には、基幹系システムとの連携やインフラの更改と同軌を取った取組みが必須である中、デジタル所管機能を集約することでグループ全体での横串を通した全体最適のとれた対応が可能となっており、リソースを集約することでこれまで以上にビジネス部門に出向き、ITとビジネスが一体となった金庫DXの推進を担っています。

農林中央金庫： https://www.nochubank.or.jp/　
シナモンAI「Super RAG」：https://cinnamon.ai/ai_model/super-rag/

農林中央金庫が語る「Super RAG」を選んだ理由

Ｑ１．「Super RAG」導入の背景ときっかけについて教えてください。

羽賀：日本でもそうですが、世の中的に生成AIがはやり始めた2023年11月頃のタイミングから本格的に検討し始めました。流行に乗るといいますか（笑）そのような経緯でプロジェクトチームが発足しました。当時はSeed AIという社内専用の生成AIツールを初期導入することになりました。

これを導入することで、汎用的な使い方としてアイデアの壁打ちでしたり、特定の1つのファイルに対して何らかのQAをしながら回答を生成するようなことはできるようになりました。導入の際に、全社的に「どのような業務で利用できそうか？」のようなPoCも実施しました。

その中で全社的に特にニーズがあったのは「複数ファイルを参照する必要がある負荷の高い業務」への利用でした。当時のRAGシステムでは回答精度が上がらず、頭を悩ませていました。そんな時に、もともと別の案件でお付き合いのあったシナモンAIさんから「Super RAG」を紹介して頂くことが出会いのきっかけですね。

Ｑ２．RAGシステムの選定基準について教えてください。

羽賀：選定基準で一番大事なのは「回答精度」です。やはり精度が低くなってしまうと、ユーザーの生成AIという技術に対する期待値・評価が下がってしまい、結果として「生成AIって（業務では）使えないじゃん」というマインドが生まれ利活用低下につながる、これは避けたいと考えていました。

次に重要なのが「運用コスト」です。RAGの導入は、各業務やドキュメントの性質に合わせて自前で一つ一つ構築していくアプローチもありますし、実際にそうやって運用されている企業もあると思いますが、これまでの検証を通じて、この手の開発やメンテナンスの人的な負担はものすごく大きいという実感がありました。さまざまな業務に展開していくことを想定した時に、拡張性を担保しながら進めていくことはリソース的にも難しいと考えていました。

また、参照するドキュメント自体も人が読みやすいように作られているのが多いので、AIが読みやすいドキュメントに作り変えることも負荷が高いです。こういった観点から運用コストの負担にならないというポイントも選定基準になりました。

Q３. 農林中央金庫が「Super RAG」を選んだ理由は何ですか？

羽賀：「回答精度」と「運用コスト」を基準にしながら、Super RAGは「汎用性が高い」、さらに「回答精度が高い」という観点で一つ目の基準は十分に満たしていました。

また、Super RAGを導入するまでの会話で、シナモンAIから「既存のドキュメントは（AI向けに）変更しない方がよい。むしろ人が読みやすい形式を維持した方がよい」というアドバイスもありました。

こういったポイントがSuper RAGを採用する決め手になりました。

また、導入に際して色々なユースケースで試しましたが、Super RAGのPoCで高い回答精度が出ることを確認できました。エンジアリングに関しては生成AIなのでどうしてもコストがかかる部分はありますが、それ以外の色々な開発や運用作業に関しては、基本的にメンテナンスにかかる負担がほぼないので、こういったところも選ばせてもらった理由です。

Q４. 「Super RAG」の導入プロセスで特に印象に残った点や課題はありましたか？

小杉：やはり一番印象に残っているのはSuper RAGの回答精度が高いというところですね。2023年末ころに検証開始したところ3割程度の回答精度だったので、RAG自体の導入を断念しかけたのですが、その後同じユースケースでSuper RAGの回答精度は8-9割という結果でした。

やはりシナモンAIは、もともとAI-OCRなど図表の読み取りに強いということは分かっていたので、ドキュメント解析技術もそうですが、独自技術によってRAGの精度向上につながっていると実感しました。

Q５. 「Super RAG」導入により、どのような課題が解決されると期待していますか？

小杉：現状において大きく3つの課題があると考えています。「実務担当者の業務効率化」、「所管部の照会応答業務時間の削減」、「社内情報検索の効率化」です。こういった幅広い業務領域の課題解決に期待しています。

例えば、育産休を取得する際に担当者はマニュアルや規定を確認しながら実務を行いますが、これが複数のファイルに分かれていたり、操作マニュアルも複数にまたがっていたりと、その結果どこに記載しているのかわかりづらいので、所管部への問い合わせが増えたりします。

Super RAGを導入することで、規定やマニュアルを探す時間がかなり省けるので、担当者の作業時間も削減されますし、そもそも問い合わせ件数自体も減ることが予想されます。

Q６.今後、「Super RAG」をどのように活用していきたいですか。

田中：まずは、育産休といった人事関連の照会応答などからPoCをはじめています。そのほか、部や支店の優良事例の検索、取引先の決算情報の集約など、個別業務に特化したソリューションとして取り入れていきたいと思っています。それ以外にも、総務業務の照会応答など声が上がっていますので、対応領域を少しずつ広げていきたいですね。

個別業務のRAG導入において、ユーザーが「どれを使うんだっけ？」のような手間になってくることも想定されるので、AIオーケストレーションのような機能を使いながら一つのUIの中にどのRAGを使うのかまでを自動化していきたいです。つまり、ユーザーからすると生成AIにどんなことを聞いても適切な回答がくるような仕組みを目指しています。さらに言うと、農林中央金庫は関連団体からの照会も多いので、そのような方々にも照会応答システムのようなサービスを展開して効率化を図っていきたいですね。

羽賀：すでに投資部門の方では、細かいデータが何百ページにもわたって書いてあるレポートやドキュメントにSuper RAGが使えないかという具体的な話が出てきています。ファンドごとにフォーマットが異なったり、また英語の書類だとどうしても人の手で処理するには時間がかかりますが、Super RAGにファイルをインプットするだけで必要な情報が自動で出てくる、というような運用ができないか検討しています。

Q7. ハルシネーション（いわゆるAIによる誤答）が考えられる中、回答精度について実務でどのように判断・運用されていますか。

小杉：事前に実施しているPoCでは、Super RAGの回答精度が高いことは分かっていますが、生成AIではどうしてもハルシネーションが起きてしまうことは認識しています。これを実務で利用するにあたってはその特性をきちんと理解した上で、最後に判断するのは人間であることを社内に周知していくことが大事だと考えています。

　（プロンプトによって回答精度に差が出たりしましたか？）

　今使っている感触ですと、結構フラットにSuper RAGに聞いても高い精度で回答が返ってきます。ハルシネーションを起こしにくいプロンプトのコツは確かにあると思いますが、そうした意識をしなくても直感的な聞き方でも問題なく利用できる状態を目指したいですね。そうしないと利活用も広まっていかないと思っています。

Ｑ8. 貴社のDX推進において「Super RAG」がどのように役立つと考えていますか？

田中：農林中央金庫は2023年に社内向けに自前の生成AIをリリースしました。ですが、使う人と使わない人の二極化みたいなことが起きてしまい、AIに対するリテラシーに差があることを実感しました。

今回のシナモンAIのSuper RAGを導入することで、直感的で簡単なプロンプトでもしっかりとした回答が出てくるので、そういったユーザー体験を広めていきたいですね。生成AIを使ってこなかった方たちにも「これは便利だね」と思ってもらえれば、全社的に利用が定着すると見込んでいます。

羽賀：Super RAGが汎用的に利用できるということが、逆に「とはいえ個別業務ではどう便利なの？」という反応もあるかと思います。究極的には”生成AIを使う”のような状態ではなく、普通に業務をしているけど実は裏ではSuper RAGが動いているというようなUXにすることで、本当の意味でのDX推進につながると考えています。

――本日は貴重なお話をありがとうございました。

「Super RAG」に関するお問い合わせ
https://contents.cinnamon.ai/contact/inquiry
「Super RAG」資料ダウンロード
https://contents.cinnamon.ai/download/wp_superrag_dl_lp