日本テレビ、Geminiの社内チャット「FACTly-Mate」を構築。公開約半年でユニークブラウザ数は約2,000に

データ分析基盤「FACTly」やBIは導入済みでしたが、それだけでは業務改善の行動につながりにくいという課題がありました。以前から、アイデア出しの「壁打ち」に生成AIを使いたいという声がありましたが、一般向けの生成AIサービスはセキュリティリスクがあるため利用が禁止されていました。

2023年夏にプロジェクトを始め、第1フェーズでは、全社員が情報漏えいの不安なく使える生成AIチャット「FACTly-Mate」を用意しました。契約書の翻訳や文書の要約など、業務で多用する用途には、適切な回答を引き出せるプロンプトをあらかじめ設定しています。生成AIは当初PaLM 2を選び、現在はGeminiに移行済みです。プロンプトの設計には、Vertex AI Studioが役立ちました。

第2フェーズでは、Vertex AI Searchを使った社内ドキュメント検索（RAG）を実装しました。当初は精度を出すのに苦労しましたが、プロンプトの設定に加え、検索の前後でGeminiを呼び出して分類させる処理を作ることで、期待した精度を得ました。開発には、Google CloudのTech Acceleration Program（TAP）を使っています。

チャット機能の最初のリリースから約半年が経った2024年5月時点で、ユニークブラウザ（UB）数は2,000前後でした。社員数約1,400名の日本テレビにとって大成功と言える数字だとしています。ネット局のスタッフからも使いたいという声が上がっています。ローンチ前のオンライン勉強会には150名が参加しました。今後は、Geminiのマルチモーダルの強みを活かした動画データの活用も視野に入れています。