生成AIでもっと働きやすく！～Azureで生成AIアプリ開発～

はじめに

こんにちは。NRIの津村です。社内外のお客様に「働く環境」をシステムで提供する、デジタルワークプレイス事業に携わっています。
生成AIが一般的にも広く使われるようになってきていますが、まだ自分の仕事にうまく活用できていないという方も多いのではないでしょうか。また、仕事で使いたいけれどセキュリティや統制上、気軽に使えないという悩みもあると思います。
今回は私が所属する部署の生成AI活用事例として、Azure環境で構築した業務支援生成AIアプリを紹介します。生成AIをどう業務に活かしていくかを考える参考となれば幸いです。

生成AIアプリの機能

今回作成した生成AIアプリは、ユーザー向けに4つの機能を実装しています。

AIチャット機能：ユーザーが送ったチャットやファイルに対し、プロンプトに従って文章生成をして回答します。
文書検索機能：ユーザーが送ったチャットに対し、事前に格納したドキュメント内から検索し回答します。
議事録作成機能：ユーザーが入力した音声データに対し、議事録の文字起こしや内容の要約などを実行します。
コードインタープリター機能：ユーザーが送ったチャットやファイルに対し、Pythonコードの生成や実行をすることで、自動でデータ分析を行うことができます。

さらに、管理者向けにも6つの機能を実装しています。

ダッシュボード機能：ユーザーが利用しているAzure OpenAIのトークン数・利用料金を表示します。
プロンプト履歴確認機能：ユーザーのチャットへの入力やAIが返した回答に、不適切なやり取りが含まれないかを確認するために、各ユーザーの過去のプロンプト履歴を表示します。
文書検索用のドキュメント管理機能：文書検索の対象としたいドキュメントのアップロード・削除・Microsoft Entra IDと連携したアクセス権管理などを行うことができます。
プロンプトのテンプレート作成機能：よく使うプロンプトをテンプレートとして登録し、ユーザーが利用する際に自動で入力できるようにします。
利用者向けアナウンス機能：管理者からユーザー向けにアナウンスを発報することができます。
個人情報（PII）制御機能：チャットにマイナンバーやクレジットカード番号などの個人情報が入力された場合に、AIへのチャットの送信をブロックするように制御することができます。

コードインタープリター機能

本アプリで提供しているユーザー向けの機能で特徴的なものは、コードインタープリター機能です。チャットで指示をすることで、目的に応じたPythonコードの作成・実行を行うことができます。データファイルをアップロードすることでそのデータに対して分析をさせたり、指示した図を作成させたりすることができます。
この機能はAzure OpenAIで提供されているCode Interpreterとコンテナー実行環境を組み合わせて実現しています。
この機能を用いれば、システムログや会計データのような様々なExcel・CSVデータの分析や、グラフの作成などに役に立ちます。今までExcel処理を手作業で行うことが多かった方々にとって、画期的な機能ではないかと思います。

管理者向け機能

本アプリを統制要件の厳しい金融会社向けにも提供できるように、プロンプト履歴確認機能、ドキュメントのアクセス権管理機能、個人情報（PII）入力制御機能などを管理者向けに実装しています。

さらに、トークンを大量に使いすぎていたり、不適切な利用をしていたりするユーザーを可視化することで、コスト管理もできるようにしています。

AIを活用するだけでなく、より効果的・安全に利用できるように工夫しています。

実装に向けて

本アプリはマイクロソフト社のリファレンスアーキテクチャで公開されているサンプルアプリを参考にして、UIや機能を開発しています。
セキュリティ面で安心して使えるように、プライベートネットワーク内で実装し、Microsoft Entra IDと連携したユーザー認証機能も実装しています。

おわりに

今回は、生成AIの業務活用に向けて、弊社の事例を紹介しました。
生成AIを活用するだけでなく、効果的・安全に利用することについても検討してみることも重要な観点かと思います。
ご興味のある方はぜひ生成AIの利用を検討してみてください。
また、ご不明点やNRIにご相談などありましたらぜひお気軽にお問合せください。