人とデータとAIをつなぐ

AIの民主化を加速する生成AIプラットフォーム「Dify」と
日本企業のニーズを満たすNTTデータの「つなぎAI」

　人の代わりにAIがプロセスを完結する「AIエージェント」への関心が高まる中で、日本企業のデジタル革命を支援してきたNTTグループが新たなAIサービスの提供を開始した。この新サービス「つなぎAI」は米国のAIテクノロジー企業LangGenius社の大規模言語モデル(LLM)アプリ開発プラットフォーム「Dify(ディフィ)」にNTTデータと日本電子計算が日本企業向けの機能を追加したもので、AIエージェントの活用をより身近なものにするという。

生成AIの弱点を補強してビジネスへの実装を促す

　AIエージェントが注目されている背景にあるのはSaaSの普及だ。話し言葉を理解して回答を作り出す生成AIとSaaSなどで提供されているアプリケーションを組み合わせることで、一連のビジネスプロセスを自動的に完結できる可能性がある。実現できれば業務の効率は画期的に高まるはずだ。そこに注目したのが「Dify」という製品だ。
　Difyを提供している日本の株式会社LangGeniusの取締役社長のキジ・マルダン氏は「ChatGPT3.5の登場は衝撃的でした。誰もがすごいと感じました。LLMは曖昧な人間の指示を受け止めることができます。ただ、それで何が解決できるのかというとまだ見えていない部分も多く、LLMの本当の価値を引き出せてはいません」と現状の課題を語る。
　DifyはLLMを使って生成した指示に対応して、アプリケーションやソリューションを操作したり、社内の資料を検索することができる。複数のLLMを同時に活用することができて、LLM同士を連携させることも可能だ。しかも専門的なプログラミングが不要で、ノーコードで誰もが活用できる。
　そこに注目したのが、日本電子計算の戸田邦昭氏だ。「昨年のゴールデンウィーク頃にエンジニアの間で話題になっていたので、触ってみて驚きました。Difyを使うとLLMが何をしているのかを全て見ることができるのです」とDifyとの出会いの衝撃を語る。
　人間のように振る舞うのがLLMの最大の魅力だが、それゆえの問題もある。答えが曖昧では壁打ちや要約などでは役に立つが、ビジネスプロセスを完遂するには不十分だ。LLMがもたらす曖昧な回答をそのままアプリケーションに引き渡すことはできないし、中身を検証しようとするとかえって手間が増えてしまう。
　「DifyはLLMのインプットとアウトプットのプロセスをひとつずつ検証するプロセスエージェントとしての機能を提供します。期待値を引き出せるようにチューニングやデバッグがしやすくなります」とマルダン氏は語る。戸田氏は「プロセスエージェントを組み合わせて、究極のパーソナルAIエージェントを作ることができるのです」と効果を指摘する。

日本企業向けの機能を備えた「つなぎAI」への取り組み

　LLMの曖昧性を吸収することができれば、確実にビジネスプロセスを完遂できるようになると考えた戸田氏は、すぐに親会社であり、RPAソリューション「WinActor」を扱っているNTTデータに新たなビジネスの商材としてDifyを提案した。話を受けた林氏は「AIの民主化というコンセプトはWinActorと通じるものがあると直感しました」と話す。
　WinActorはもともとテスト作業のための繰り返し入力業務を自動化することを目的に開発され、RPAとして多くの日本企業に導入されてきた。「一部のエンジニアにしかできなかったことを誰でもできるようにしてきたWinActorとDifyとの親和性が高く、お客様により高い価値を提供できると考えました」と林氏は語る。
　戸田氏からDifyを紹介された直後の2024年5月には具体的なテーマに基づいた実証実験を実施して、簡単に課題に対応したプロセスが作成できることを確認し、すぐにLangGeniusに提案して協業がスタートした。NTTデータグループが提供することで、日本における認知度を補完することもできるというまさにWin-Winの協業である。
　「一人ひとりに向けてAIエージェントが提供できる点で日本企業との相性が良いと思っています」とマルダン氏は強みを語り、戸田氏は「膨大な知識を必要とする医療の現場や弁護士や司法書士などの専門職の仕事、プログラミングの領域などで威力を発揮できると考えました」と想定される適用領域を語る。
　考慮したのはDifyを核に日本市場向けの付加価値機能を追加することだ。すでに8000社以上に導入されているWinActor、AI-OCRアプリケーションなどとのAPI連携を提供し、様々な業務に対応したテンプレートが用意された。この“つなぐ”というコンセプトを実現したのが「つなぎAI」である。
　特にこだわったのは安全性の部分だ。Dify自身は国際的なセキュリティ基準をクリアしているが日本企業が持つ個別のセキュリティポリシーに対応する必要がある。林氏は「日本ではグループポリシーのチェックリストへのマッチングが求められます。つなぎAIはそうした要望にも柔軟に対応できます」と話す。
　日本企業でのAIエージェントの普及を後押しする機能としてハルシネーションの問題を回避できることも挙げられる。戸田氏は「LLM同士を連携させるAI to AIという機能を使うことで、AIの回答をAIにモニタリングさせてハルシネーションの発生を減らすことができます」と話す。

米国スタートアップと巨大IT企業との化学反応

　NTTデータグループならではのきめ細かなサポート体制が確立されているのも大きな強みだ。これまで様々なコミュニティサイトを運営したノウハウも活かすことができる。「これらに寄せられた要望に対応することで、テンプレートを充実させていけることも大きな強みです」と戸田氏は語る。
　また林氏は「NTTデータグループとして国内の大企業と長期間にわたって強固な関係を構築してきたことに加えて、WinActorの特約店が約350社あります。RPAとDifyは共通する部分が多くクロスセルが可能だと考えています」と今後の展開を語る。AIエージェントサービス「LITRON」のラインナップとして位置付けられることでの相乗効果も想定される。
　戸田氏は「テンプレートもそうですが、何よりお客様の課題を解決するための提案が重要です。その意味でWinActorの特約店がシナリオを作る能力に長けていて、多くのシナリオから解決策を選択できるのも強みです」と話す。日本電子計算や地域会社、特約店などにつなぎAIのデリバリーセンターとしての役割が期待されている。
　昨年からお客様向けのPoCを展開してきているが反応は概ね好評だという。「特約店様からもこれは売りたいという声が多く、引き合いも多数寄せられています」と林氏。すでにいくつかのケースで実践的な活用が始まっているようだ。
　マルダン氏は「AIという性質上公表できないケースも多くありますが、できるだけ多くのユースケースをお客様にお伝えしていきたい。もともと日本はエンドユーザも多く、ミートアップやイベントでも情報を共有しているので、是非参考にしていただきたいですね」と積極的な参加を促す。
　米国のAIの先進的なスタートアップと日本最大のシステムインテグレーション企業グループとの協業が化学反応を引き起こし、日本におけるAIエージェントの普及に向けた強力なトリガーになっていくことを期待したい。