\documentclass[japanese,other]{jnlp_3.5}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{hangcaption_jnlp}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul
\allowdisplaybreaks


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
%%%%\usepackage{latexsym}
%%%%\usepackage{enumitem}
%%%%\usepackage{multirow}
%%%%\newcommand{\Sec}[1]{{\ref{sec:#1}~節}}
%%%%\newcommand{\Tab}[1]{{表~\ref{tab:#1}}}
%%%%\newcommand{\Fig}[1]{{図~\ref{fig:#1}}}
\newcommand{\citep}[1]{{\shortcite{#1}}}
%%%%\newcommand{\citet}[1]{{\shortciteA{#1}}}
%%%%\newcommand{\FIXME}[1]{{\fbox{$\star$}} #1}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\Volume{29}
\Number{2}
\Month{June}
\Year{2022}
%%%%\Issuetitle{「　　　　」特集号}


\setcounter{page}{748}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{賛助会員記事}
\jtitle{情報通信研究機構ユニバーサルコミュニケーション研究所の紹介}
\jauthor{隅田英一郎\affiref{NICT} \and 大竹　清敬\affiref{NICT} \and 内元　清貴\affiref{NICT}}

\etitle{National Institute of Information and Communications Technology}
\eauthor{Eiichiro Sumita\affiref{NICT} \and Kiyonori Ohtake\affiref{NICT} \and Kiyotaka Uchimoto\affiref{NICT}}

\headauthor{隅田，大竹，内元}
\headtitle{情報通信研究機構ユニバーサルコミュニケーション研究所の紹介}

\affilabel{NICT}{国立研究開発法人情報通信研究機構(NICT)}{National Institute of Information and Communications Technology (NICT), Japan}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{ユニバーサルコミュニケーション研究所の紹介}

国立研究開発法人情報通信研究機構 (NICT) ユニバーサルコミュニケーション研究所 (UCRI) では，誰もが分かり合えるユニバーサルコミュニケーションの実現を目指して，日本語を中心として分野に特化した高品質・大規模データベースを構築し，その基盤を活用した，「多言語」，「対話」，「行動支援」に関する3つのコア技術，及び，コミュニケーションの質を向上させる技術の研究開発とそれらの技術の社会実装に取り組んでいます．その際，重視しているのは「研普両道」すなわち「研究」と「普及」の両立です．研究開発においては，前例にとらわれないオンリーワン／ナンバーワンのコア技術を創出し，その技術を，広く使っていただける普遍の技術として研ぎ澄ませます．そして，それらの技術を活用した実証／実用システムを産学官の力を結集して開発・展開し，社会実装に繋げるとともに，社会で生み出された知識源を研究開発へフィードバックします．この研究開発と社会実装を循環するポジティブスパイラルを実現することにより，コア技術を世の中で普通に使われる技術とすることを目指します．そして，これにより，国際ビジネス，高齢者ケア，環境リスク低減等における言葉の壁・知識の壁・データ利活用の壁をなくし，社会課題の解決や新たな価値創造等に貢献します．

本稿では，UCRIにおいて，「対話（自然言語処理全般）」と「多言語（機械翻訳）」に関する技術の研究開発を担うセンター，研究室の取り組みを紹介します．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{データ駆動知能システム研究センターの紹介}

本節では，
NICT-UCRI
データ駆動知能システム研究センター (DIRECT) とその成果について
紹介します．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【DIRECTの概要】}
DIRECTは研究者が10名ほどの比較的小さな組織ですが，研究開発を支援する
技術員，プログラマが15名ほど，そして，近年の自然言語処理には必要不可欠な
学習データ作成のための作業員が常時数十名在籍していることが特徴の組織です．
2021年度から，東京都小金井市にあるNICTの本部に支所を開設し，在宅勤務が標
準となりつつありますが，東京とけいはんなの2拠点体制で研究開発を実施して
います．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【DIRECTの研究開発の特徴】}
DIRECTでは，基礎研究から応用まで一気通貫で実施できる研究開発体制で，
実際に社会課題解決に貢献可能な技術・システムの研究開発に取り組んでいます．
そういった技術・システムの研究開発には，対象課題の専門家，しかも自然
言語処理やAIに関するビジョンを共有できる専門家の協力が必要不可欠ですが，
このような専門家と密にコミュニケーションをとりながら研究開発を推進します．
社会課題解決に注力すると，論文が書けないのではないかと心配されるかもしれませんが，
NICTでは，研究者の論文執筆以外のアクティビティを積極的に認める柔軟な評価
制度があり，社会課題解決に貢献できる技術・システムを創りたいと考える研究者・技
術者にとって非常に活動しやすい場となっています．
なお，最近は社会課題解決に集中しているため，論文発表は少なめではあります
が，過去15年ほどでACL，AAAI等のトップカンファレンスで30本ほどのロング
ペーパーを発表し，日本オープンイノベーション大賞，日本学術振興会賞，文部
科学大臣表彰，Twitter Data Grants，PyTorch Annual Hackathon第一位等の名
だたる賞を多数受賞しています．また，過去10年でNHKスペシャルや一般紙1面を含め362
件の報道がなされています．
研究環境としては，独自に収集した400億件以上のWebページや，NVIDIAの最新の
A100を含め，多数のGPGPUなど，日本の公的機関では最大規模の言語データ，計算資源
を有しています．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【初期の成果】}
DIRECTの初期の成果としては，大規模Web情報分析システム
WISDOM Xと対災害SNS情報分析シス
テムDISAANAがあります．いずれのシステムも2015年から，ネット上で試験公
開しています．
WISDOM Xは，通常の検索エンジンとは異なり，入力の質問に対する端的な回
答の候補をWeb 40億ページの情報に基づいて提示します．「AIってどんな社会問題の解決に使えるか
な？」といった，回答が名詞となるいわゆる「ファクトイド」型質問に対してだ
けでなく，「なぜギリシャで哲学が始まった？」「地球温暖化が進むとどうなる」
のように文で答えるタイプの「ノンファクトイド」型質問にも，回答の候補を場
合によっては数百件，瞬時に提示し，ロングテールも含めて関連情
報のより網羅的な把握を容易にします．DISAANAはWISDOM Xの技術を減
災という目的にチューニングする形で開発され，大規模災害時に
Twitter上に発信される膨大な被災報告を分析し，
WISDOM Xと同様に質問応答するとともに地図上に回答を可視化するシステ
ムです．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【成果の進化と社会実装】}
これらのシステムはその後，大量のWebテキストを用いて事前学習したBERT等を
用いたWISDOM X深層学習版\footnote{2021年に試験公開開始．
\url{https://www.wisdom-nict.jp/}}，質問を入力しなくてもTwitterに発信された情
報から災害の被害状況を整理，要約した形で提供する，災害状況要約システム
D-SUMM\footnote{内閣府SIP第一期の支援で開発．2016年に試験公開開始．
\url{https://disaana.jp/d-summ/}}，LINEの上で被災者とチャットし，
被災情報の収集や避難支援を行う防災チャットボットSOCDA\footnote{内閣府SIP第二期の支援で
（国研）防災科学技術研究所，株式会社ウェザーニューズと共同開発．YouTubeで``SOCDA''と検
索していただくと紹介動画をご覧いただけます．LINE ID: @socda}に進化しています．DISAANA，D-SUMM，
SOCDAに関しては民間企業へのライセンスを実施し，商用サービスが開始され，
実災害でも自治体等において活用されています．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【MICSUSの研究開発】}
また，近年では内閣府SIP第二期の支援のもと，
人材が逼迫していると言われる介護職の負担を軽減するために，要
支援等の高齢者の健康状態チェックをAIによる対話を介して行うマルチモーダル音声対話シ
ステムMICSUS\footnote{この概要はYouTubeで``MICSUS''と
検索いただくと紹介動画がご覧いただけます．}をKDDI株式会社，NECソリューションイノベータ株式会社，株式会
社日本総合研究所と共同で研究開発しています．
MICSUSは，健康状態チェックのための対話に加えてWISDOM Xの技術を使い，Webの情報を用
いた雑談も行う他，
カメラで撮影したユーザの表情等から感情やジェスチャーを認識して対話で活用します．
最新のシステムは250万件の人手作成の学習データを用い，43件の異なるタスクを
実行するBERTで様々な意味解釈を行いつつ，対話を進めます．
介護の専門家と密接に連携しつつ開発を進め，高齢者と長期にわたり対話を行う
実験でも良好な結果を得ています．
また，高齢者を対象とした10年間の追跡調査\citep{Saito2015}によれば，
コミュニケーション頻度が認知症の発症，要介護度の進展，
さらには死亡の可能性と有意に相関していることがわかっています．
MICSUSとの対話は，
こうしたコミュニケーション不足，さらには近年注目を浴びている孤独の問題の解消とまで
はいかないもののその抑制にも貢献できる可能性があるのではないかと考えています．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【研究開発を支えるミドルウエアの開発】}
これまでに紹介してきたシステムを開発する際の苦労話については，別稿\citep{Torisawa2021ipsj}で
述べられているので，ご興味のある方はご覧ください．また，
DIRECTでは，こういった大規模システムの開発をローコストで行うためのソフトウエア群
も開発しています．まず，東京大学と共同で並列分散処理ミドルウェ
アRaSC\footnote{\url{https://alaginrc.nict.go.jp/rasc/ja/}}
を開発しました．これはOS，並列処理等に詳しくないAIの研究者が各自の好
みの環境で作成したプログラム群をストリーム接続してパイプラインを構成し，
死活管理等も含めて数百台規模の計算機で並列に安定稼働させます．上
記のいずれのシステムもこれなしでは開発できませんでした．
同じく東京大学と共同で開発した自動並列化深層学習ミドルウェア
RaNNC\footnote{\url{https://github.com/nict-wisdom/rannc}}
は，PyTorchで記述されたニューラルネットワー
クを自動で分割し，複数のGPUを用いた並列処理によってGPT-3のような
超大規模なニューラルネットワークを高速に学習するためのミドルウェアです．
RaNNCは，
Transformerに限らず，画像処理用の大規模なCNN等，様々な
ニューラルネットワークに関しGPT-3と同じレベルの2,000億パ
ラメータまで対応できます．
DIRECTでは，
Transformer，CNN，敵対的学習を組み合わせた
BERTAC\footnote{\url{https://github.com/nict-wisdom/bertac}にてソフトウエアを公開中．
詳細な内容については，Ohら\citep{Oh2021}を参照ください．}等，
Transformerを超えるアーキテクチャの検討も進めています．
なお，RaNNCは，ニューラルネットを記述するためのソフ
トウエアであるPyTorchの開発元であるFacebookが主催する，PyTorch Annual
Hackathon 2021において，First Place（第1位，PyTorch Developer Tools \&
Libraries部門）を受賞しました．RaSC，RaNNCのいずれのソフトウェアも脚注に示したURLで
公開していますので興味のある方はお試しください．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【まとめ】}
以上に述べた通り，DIRECTでは，自然言語処理における基礎的な研究開発から，社会課題の解決に
直結する具体的な応用研究，開発まで小さな所帯で効率的に実施しています．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{先進的翻訳技術研究室の紹介}

本節では，NICT-UCRI先進的音声翻訳研究開発推進センター (ASTREC) 先進的翻訳技術研究室の紹介をします．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【先進的翻訳技術研究室の概要】}
当研究室では，世界の「言葉の壁」を解消し，グローバルで自由な交流を実現することをミッションとした多言語機械翻訳技術の研究開発と社会実装に取り組んでいます．当研究室には，20人程度の研究員・技術員が在籍しており，日本人研究員・技術員だけでなく，今までに，英国，フランス，ドイツ，インド，中国，ベトナム，カンボジア，ミャンマー等からも外国人研究員・技術員・インターンが来ています．
また，当室在籍中に博士課程に通ったり，博士課程在学中に半年以上の当室イ
ンターンを経験し，最先端の研究開発を担いつつ，博士号を取得した人はこれ
まで10人以上に上ります．
当研究室の研究成果の一覧は論文リスト\footnote{\url{https://www2.nict.go.jp/astrec-att/result/}}をご参照ください．代表例としては，ACL-IJCNLP 2021でOutstanding Paper Awardを受賞した論文\citep{marie-etal-2021-scientific}や2020年言語処理学会論文賞を受賞した論文\citep{ma:20:a,higashiyama:20,ma:20:b}があります．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【言語資源】}
当研究室では，対訳コーパス等の言語資源も公開しています\footnote{\url{https://www2.nict.go.jp/astrec-att/product/}}．特に，Asian Language Treebank (ALT) Project\footnote{\url{https://www2.nict.go.jp/astrec-att/member/mutiyama/ALT/}}では，English Wikinewsから抽出した約2万文の英文を13言語に翻訳した対訳コーパスを一般に公開しています．ALT対訳コーパスは，Workshop on Asian Translation (WAT)など，低言語資源機械翻訳の研究に広く活用されています．また，遡って，2007年には，180万文規模の世界初の大規模特許日英対訳コーパスを研究開発し\citep{utiyama-isahara-2007-japanese}，さらに，近年の日英機械翻訳研究で広く使われているASPEC (Asian Scientific Paper Excerpt Corpus)\citep{nakazawa-etal-2016-aspec}の開発にも参加しています．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【VoiceTra/TexTraの開発】}
当研究室では，機械翻訳について，基礎研究から実用化までのスペクトラムで研究を進めています．機械翻訳は，高精度ならドンドン使いたくなるし精度がまあまあでも役に立つ場面が多く，専門家以外（言い換えると研究の受益者あるいはスポンサー）に有用性が分かりやすく，自然言語処理技術の応用の中でもキラー・アプリと言えます．
より具体的には，当室には，音声翻訳のスマホ・アプリである「VoiceTra」\footnote{\url{https://voicetra.nict.go.jp/}}やテキスト翻訳のWEB上のトライアウトである「みんなの自動翻訳@TexTra」\footnote{\url{https://mt-auto-minhon-mlt.ucri.jgn-x.jp/}}があって，利用者と研究者のタッチポイントとして機能しています．様々な基礎技術を一般に届けることができますし，逆に，利用者から様々な形で基礎技術へのフィードバックも得られ，新たなテーマの発見につながることもあります．自分の作ったアルゴリズムが実社会で使ってもらえ役立っていることを実感できるのも，万人がスマホやPCを持ちネットワークが高速である21世紀において自然言語処理の研究をする醍醐味の一つでしょう．例えば，TexTraはオープンソースソフトウェア (OSS) のコミュニティで，OSSのドキュメントの日本語化に役立てていただいています．その過程で新たに作られた対訳はNICTが運営する対訳データの集積庫である翻訳バンク\footnote{\url{https://h-bank.nict.go.jp/}}にご提供いただいています．翻訳バンクに基づいて高精度化した機械翻訳を再度，OSSコミュニティに使っていただきます．このようにTexTraと翻訳バンクで対訳データのエコ・システムを形成しています．
さらに，最近は機械翻訳の精度が高くなったので，研究室内で日常的に活用しています．日本人の研究者は英文の論文をTexTraで母語である日本語に変換して効率的に読むメリットを享受していますし，研究室内の事務的な告知はSlackに日本語で投げておくと外国人研究者はTexTraで手軽に読めるので，日本語中心の日本の組織の中でも情報を取得できます．Slackアプリ\footnote{\url{https://github.com/ideuchi/trans}}はとても便利なので，ぜひお試しください．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\paragraph*{【まとめ】}
本研究室は，機械翻訳という一つのテーマに特化したユニークな研究室です．世界各国からの研究員が在籍し，基礎研究から実用システムの提供まで続けています．大学とも企業とも違う国立研究開発法人の研究室の一例をご紹介しました．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.6}
\begingroup
\addtolength{\baselineskip}{-1.5pt}
\input{30refs_bbl.tex}
\endgroup


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}

\bioauthor{隅田英一郎}{京都大学博士（工学）．日本アイ・ビー・エム
  （株），（株）国際電気通信基礎技術研究所を経て，（国研）情報通信研究
  機構に勤務．（一社）アジア太平洋機械翻訳協会会長を兼務．}

\bioauthor{大竹　清敬}{豊橋技術科学大学博士（工学）．（株）国際電気通信
  基礎技術研究所を経て，（国研）情報通信研究機構に勤務．現在，NICT
  UCRI DIRECT研究センター長．Twitter Data Grants，日本オープンイノベー
  ション大賞総務大臣賞等受賞．}

\bioauthor{内元　清貴}{京都大学博士（情報学）．郵政省通信総合研究所（現
    NICT）入所後，内閣府出向を経て，（国研）情報通信研究機構 (NICT) に
  勤務．現在，NICTユニバーサルコミュニケーション研究所研究所長．}

\end{biography}


\end{document}



