お使いのWebブラウザでは、当サイトの内容の一部が表示されない、リンクが機能しないなどの問題が発生することがあります。

お使いのWebブラウザではJavaScriptが無効になっています。当サイトの内容の一部が表示されない、リンクが機能しないなどの問題が発生することがあります。

奈良先端科学技術大学院大学 連携講座 データ駆動知識処理研究室
----
奈良先端科学技術大学院大学 情報科学領域の連携研究室である、データ駆動知識処理研究室(客員教授:鳥澤健太郎、客員准教授:飯田龍)のウェブサイトです。連携母体は、国立研究開発法人 情報通信研究機構 ユニバーサルコミュニケーション研究所 データ駆動知能システム研究センターです。

お知らせ

  • 連携母体のNICTデータ駆動知能システム研究センターがCEATEC 2020 ONLINEに防災チャットボットSOCDAとマルチモーダル音声対話システムMICSUSを出展しました。こちらからご覧ください。 (2020年10月20日)
  • データ駆動知識処理研究室に所属を希望の方はこちらの研究室紹介スライドをご参照ください。
  • 2019年4月に研究室が発足しました。

主な研究内容

本研究室とその母体であるデータ駆動知能システム研究センターでは、Web数百億ページといったビッグデータや深層学習などを活用して、様々なシステムを開発して試験公開しています。これまでの発表論文は、こちらをご覧ください。

1. 大規模言語モデルNICT LLM

NICT LLMは、WISDOM XMICSUSなどの開発で培った高精度な言語処理・深層学習技術と、構築済みの350GBもしくは888GBの高品質な独自の日本語Webテキストを用いて開発した、NICT独自の生成系大規模言語モデルです。 これまでに、130億パラメータから1,790億パラメータ(OpenAI社のGPT-3と同等規模)、さらには日本語特化型では世界最大の大規模言語モデルとなる3,110億パラメータまで、パラメータ数を変えたさまざまなモデルの事前学習を完了し、特にファインチューニング等を行わなくても、事前学習のみで一定の精度で質問応答、創作、議論等が可能なことを確認し、また、モデルの大規模化と学習用テキストの大規模化に伴う性能向上を確認しています。

このNICT LLMの開発に関して2023年7月にプレスリリース「日本語に特化した大規模言語モデル(生成AI)を試作」を実施、多くの新聞やネットメディアで報道されています。 NHKニュース7でも当研究センターの活動が紹介されました。

現在、偽情報を生成するハルシネーション等の生成系大規模言語モデルの副作用の抑制を目指して、WISDOM Xを活用した情報を確認する機構や、複数のLLM同志が議論を行って最終的な情報を生成するシステムの検討にも着手しています。また、NICT LLMおよび関連技術の社会実装に向け、MICSUSなどの対話システムへの導入を計画するとともに、NICTで収集・開発した言語資源や言語モデル、研究知見などを共同研究等を通して民間等に提供する準備も進めています。

Preview for figure NICT LLMの動作例(質問応答、創作、要約等)
NICT LLMの動作例(質問応答、創作、要約等)
Preview for figure NICT LLMの動作例(LLMとユーザとの議論)
NICT LLMの動作例(LLMとユーザとの議論)

2. 高齢者介護支援マルチモーダル音声対話システムMICSUS

MICSUSは、異次元の高齢化が進み介護人材の逼迫が喫緊の課題となる中、現在は人間の介護者(ケアマネジャー)が月一回程度面談で行なっている、 介護モニタリングと言われる高齢者の健康状態や生活習慣のチェックの一部を音声対話を通じて代替し、介護者の作業負担を軽減するための対話システムです。 また、Web情報を用いた雑談も行い、高齢者のコミュニケーション不足の抑制も狙っています。 内閣府戦略的イノベーション創造プログラム(SIP)第2期の支援により、KDDI株式会社、 NECソリューションイノベータ株式会社、株式会社日本総合研究所と共同で開発しました。

音声認識誤りに頑健な独自開発のHBERTを300万件のオリジナル学習データでファインチューニングしたモデルを活用し、遠まわしな言い回しなどを含む様々な発話に対して高精度な意味解釈を実現し、 高齢者との対話から健康状態や生活習慣の情報を適切に抽出します。 2022年度に全国各地の高齢者179名を対象に実証実験(総対話時間95.3時間、26,704ターン)を実施して評価を行いました。 実施後のアンケートで5段階中4.2と高評価をいただくとともに、言語処理の部分ではYES/NO疑問文への回答を93.5%の高精度で正しく意味解釈できています。 雑談的応答に関しても、91.8%が雑談として適切、25.4%に対して高齢者が笑顔を見せるなど、51.9%に対して高齢者が好意的反応を示し、雑談のクオリティは良好と言えます。

また、CEATEC2022、HANAZONO EXPO、けいはんなR&Dフェア2023など、 様々なイベントに出展して多くの家族づれや介護関係者にMICSUSとの対話を体験していただいています。

今後も、多数の民間企業と連携して本技術の社会実装に向けた強化を進めるとともに、さまざまな社会課題の解決、回避に向け、言語、音声の高度かつ高精度な意味的処理の実現を目指して研究開発を行います。 研究開発成果を、要素技術単位でKDDIをはじめとするさまざまな企業、組織にライセンス等を通して提供し、技術の社会実装に取り組んでいきます。 また、大規模言語モデルなどの最新の言語処理技術の応用も図っていきます。

Preview for figure 高齢者介護支援マルチモーダル音声対話システムMICSUS
高齢者介護支援マルチモーダル音声対話システムMICSUS

高知県日高村での実証実験の様子(KDDI提供)

MICSUSの詳しい紹介は、以下のサイトや動画をご覧ください。

研究紹介ムービー『NICTステーション ~MICSUS~』(NA上白石萌音)

マルチモーダル音声対話システムMICSUS紹介動画

3. 大規模Web情報分析システムWISDOM X 深層学習版

2021年3月31日より、Web60億ページの情報を基に様々な質問に回答することができる大規模Web情報分析システムWISDOM X(ウィズダムエックス)「深層学習版」の試験公開を開始しました。 2015年3月31日より試験公開しておりましたバージョンでは、Web40億ページの情報を基に「なに」「なぜ」「どうなる」といったタイプの様々な質問に回答することが出来ましたが、「深層学習版」では、新たに「どうやって」(How-to)型の質問にも対応しました。 これらの様々な質問応答を通して関連情報の全体像を迅速かつ容易に把握できるようにし、価値ある想定外の発見も容易にします。 WISDOM Xは、近年、重要性を増しているイノベーションやリスク管理といった不確実性に対処する作業において価値ある考えるヒントを提供できると考えています。

2023年6月12日にニアリアルタイム解析を導入し、収集したWebページを即時に解析し、WISDOM Xの分析対象とするようにしました。 これにより一部の最新の情報に対しても質問の回答が行えるようになっています。 (ただし、収集した時点で最新情報かどうかはわかりませんので、最新情報がすべて検索可能になっているわけではありません。)

2023年12月18日に深層学習モデルを更新しました(分析対象はWeb176億ページ以上)。「なぜ?」、「どうやって?」タイプの質問において実験では精度が5%以上向上しています。

深層学習版の詳細につきましては以下のリンクをご覧ください。

Preview for figure 質問「AIが解決できそうな高齢化の問題は何がある?」への回答
質問「AIが解決できそうな高齢化の問題は何がある?」への回答
Preview for figure 質問「チーズとネギがあるけど、つまみになにをつくったらいいかな?」への回答
質問「チーズとネギがあるけど、つまみになにをつくったらいいかな?」への回答