\documentclass[japanese,other]{jnlp_3.5}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{hangcaption_jnlp}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul
\allowdisplaybreaks


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
%%%%\usepackage{bxpapersize}
%%%%\usepackage{booktabs}
%%%%\usepackage{subfigure}
%%%%% \usepackage{subcaption}
%%%%\newcommand\header[1]{\multicolumn{1}{c}{{\textbf{#1}}}}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\Volume{29}
\Number{2}
\Month{June}
\Year{2022}
%%%%\Issuetitle{「　　　　」特集号}


\setcounter{page}{705}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{学会記事}
\jtitle{「数値気象予報からの天気予報コメントの自動生成」の研究過程}
\jauthor{村上聡一朗\affiref{tokyotech}\affiref{cyberagent}}

\etitle{Generating Weather Comments from Numerical Weather Prediction: Research Process}
\eauthor{Soichiro Murakami\affiref{tokyotech}\affiref{cyberagent}} 

\headauthor{村上}
\headtitle{「数値気象予報からの天気予報コメントの自動生成」の研究過程}

\affilabel{tokyotech}{東京工業大学}{Tokyo Institute of Technology}
\affilabel{cyberagent}{株式会社サイバーエージェント}{CyberAgent, Inc.}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{はじめに}

本稿では，言語処理学会2021年度論文賞をいただいた「数値気象予報からの天気予報コメントの自動生成」 \cite{murakami2021jnlp}（以降，原論文と呼称する）について，論文では語られなかった研究の着想から原論文の採択に至るまでの経緯を交えて解説する．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{着想から採択に至るまでの経緯}

本研究は，著者が大学院の修士課程2年であった約6年前に取り組み始めた研究である．
また原論文は，NLP2017で発表した研究 \cite{murakami2017nlp}を発展させて，その後EACL2021に採択された論文 \cite{murakami-etal-2021-weather}を基にしている．
そこで本節では，著者が約6年前に本研究に着手した当時から，EACL2021および原論文の採択に至るまでの経緯を振り返りたい．

当時，著者は人間が物事を理解し，それを言葉で説明できるように，計算機でも同様の処理を実現できないかと考え，自然言語生成の研究に取り組んでいた．
その中でも特に修士課程1年目に取り組んでいた野球の試合速報を生成する研究 \cite{murakami2016baseball}を通して，データを言語で記述する研究課題である，すなわちData-to-Text生成課題に対して関心が高まっていた．
野球の試合速報が試合状況やそれを表すデータを理解している制作者によって書かれるように，どのようにすれば世の中のあらゆるデータを計算機が理解し，それを記述するテキストが生成できるかという問題に面白さを感じたためである．
またそれと同時に，ドメインや扱うデータが異なれば，データを記述する際に着目すべき点や直面する課題も異なるはずであり，研究対象のドメインを広げていきたいとも考えていた．

天気予報コメントの自動生成はこのような流れで始まった研究の1つである．
天気予報コメントは，気象予報モデルを大規模コンピュータでシミュレーションして得られる数値気象予報を基に人手で記述されている．
著者は天気予報に関して素人であったため，研究を始めるにあたりまずは調査から始めたが，こうした実際の天気予報コメントの制作過程を知り，まずはその過程を計算機で再現してみることから着手した．
このようにしてNLP2017の研究 \cite{murakami2017nlp}では，実際の天気予報コメントの制作過程に着想を得て，数値気象予報を用いた天気予報コメントの自動生成に取り組んだ．

その後，研究の方向性を検討するにあたり従来の手法では解決できていないくつかの課題を検討した．
その中の1つが生成テキストの忠実性の課題である．
Data-to-Text生成課題において主流な手法であるニューラルネットワークに基づく言語生成モデルは，その生成テキストの流暢性の高さが注目されているが，生成時の制御が難しく入力データに対して忠実ではないテキストが生成される課題が多く指摘されていた \cite{wang-etal-2020-towards}．
これは特に天気予報コメントなどの生成内容の正確さが求められる応用先においては重要な課題といえる．
この課題に着想を得て，天気予報コメントでは特に「晴れ」「曇り」「雨」「雪」に関する情報が重要視されることに着目し，これらを適切に言及するための内容選択モデルを導入する手法を考案した．
これは，EACL2021に採択された論文，またその後の原論文におけるアイデアへ繋がっている．

論文誌に向けては，EACL2021の査読で頂いたコメントなどを基に追加実験を行った．
その中の1つが比較手法の追加であり，原論文では事例ベース推論による実験を実施した．
これは先行研究\cite{adeyanju2012weathercbr}でも言及されているように，天気予報コメントでは類似した数値気象予報や気象観測値等に対して同様のコメントが記述されるため，有用な比較手法であると考えたためである．
また原論文は主著として2本目の論文誌であるが，原論文の執筆にあたっては1本目の論文誌を執筆した際に得られた経験が活きている．
例えば論文誌では提案手法の有用性を示すための多面的な評価実験に加え，それを読者に向けて分かりやすく提示することが求められる．
1本目の論文誌の査読を通して査読者より様々な視点から指摘や助言をいただけたことで，2本目である原論文の執筆時にはそれらを考慮しながら必要な実験や提示すべき情報などを洗い出し，計画的に執筆に取り組むことができた．

2022年1月の「論文賞」の吉報は著者にとって想像もしていなかった出来事であったが，このように評価をいただけたのはひとえに原論文に限らずこれまでの著者の研究に対して指摘や助言を頂いた査読者および共著者，指導者の皆様のおかげである．
こうした経験を経たことで，研究や論文執筆を着実に進めることができ，今回の受賞へ繋がったと考えている．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 1
\begin{figure}[t]
\begin{center}
\includegraphics{29-2ia24f1.pdf}
\end{center}
\caption{数値気象予報のシミュレーション結果と天気予報コメントの例}
\label{fig:example_comment_tokyo}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{論文の概要}

本研究では，天気予報コメントの自動生成タスクにおける 3 つの課題に焦点を当てている．
ここで，図\ref{fig:example_comment_tokyo}を用いて具体的にそれぞれの課題を説明する．
1つ目は，コメントを記述する際に数値気象予報のシミュレーション結果に含まれる降水量や気圧などの複数の物理量とその時間変化を考慮しなければならない点である．
例えば，図\ref{fig:example_comment_tokyo}で雲や降水量のそれぞれの時間変化に言及されているように，天気予報コメントを記述する際には複数の物理量の変化を考慮しなければならない．
2つ目は，天気予報コメントでは，対象エリアやコメントの配信時刻，日付などのメタ情報に基づいて記述されている点である．
例えば，午前中に配信される天気予報コメントは，日中から夕方にかけた天気に言及することが多く，夕方以降に配信される天気予報コメントでは，夜から翌日の日中までの天気に言及する傾向がある．
また，海辺のエリアを対象とした天気予報コメントでは，波の高さなどに言及されることが多い．
3つ目は，天気予報サイトのユーザーは天気予報コメントの情報の有用性（以降では，情報性と呼称する）を重要視している点である．
特に「晴れ」「雨」「曇り」「雪」といった気象情報について適切に言及されているかはユーザーにとって重要といえる．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 2
\begin{figure}[t]
\begin{center}
\includegraphics{29-2ia24f2.pdf}
\end{center}
\caption{提案モデルの概要
\label{fig:model_overview}}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

これらの課題に対して，本研究では数値気象予報のシミュレーション結果や気象観測値から天気予報コメントを生成するためのData-to-Textモデルを提案している．
図\ref{fig:model_overview}に提案モデルの概要を示す．
1つ目の課題に対しては，数値気象予報における様々な物理量を捉えるために多層パーセプトロンまたは畳み込みニューラルネットワークをエンコーダとして用い，さらにその時間変化を考慮するために双方向リカレントニューラルネットワークを導入した．
2つ目の課題については，天気予報コメントの対象となるエリア情報や配信時刻などのメタ情報をモデルへ導入し，生成時にこれらの情報を考慮するように工夫した．
3つ目の課題について，本研究では「晴れ」「雨」「曇り」「雪」の気象情報をユーザーにとって重要な情報と定義し，これらを適切に言及するために内容選択モデルを導入した．
内容選択モデルでは，数値気象予報のシミュレーション結果から言及すべき重要な情報である「晴れ」「雨」「曇り」「雪」の気象情報を予測する．
提案モデルでは，それらの予測結果をテキスト生成時に考慮することで，生成テキストの情報性の向上を図っている．

実験では，数値気象予報のシミュレーション結果，AMeDASにより収集された気象観測データおよびウェザーニュース\footnote{\url{https://weathernews.jp/}}で配信された天気予報コメントを用いて提案モデルの評価を実施した．
自動評価では，生成テキストと参照テキストの$n$-gramの一致に基づく評価指標であるBLEUおよびROUGEを用い，生成テキストの品質を評価した．
また，これらの評価指標では，生成テキストにおいて「晴れ」「雨」「曇り」「雪」の気象情報を適切に言及できているか評価が難しいため，手がかり語に基づく生成テキストの内容の評価も合わせて実施した．
これらの自動評価により，提案モデルがベースラインモデルに比べて性能が改善することを確認した．
さらに，人手評価では，提案モデルはベースラインモデルと比べて天気予報コメントの情報性が向上していることが示された．
詳細の実験設定，結果については原論文を参照していただきたい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}

本記事では，本研究の着想から採択に至るまでの経緯を交えて，原論文の概要を解説した．
あらためて本研究に着手した経緯を振り返ると，その動機は当初著者が抱いていた興味関心から駆り立てられたものであり，
これは現在の研究活動にも繋がっている．
今回の受賞を励みに，今後も探究心を大切にしながら研究に取り組んでいきたい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\acknowledgment

本研究に関して，論文の査読や審査，助言をしていただいた査読者，編集委員会，関係者の皆様に感謝申し上げます．
また，本記事の執筆機会を与えていただいた編集委員会の皆様に感謝申し上げます．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.6}
\bibliography{24refs}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}

\bioauthor{村上聡一朗}{
    2015年熊本高等専門学校専攻科電子情報システム工学専攻修了. 
    2017年東京工業大学大学院博士前期課程修了. 
    2019年より, 東京工業大学工学院博士後期課程に在籍. 
    株式会社サイバーエージェント AI Lab リサーチサイエンティスト.
    自然言語処理，特に自然言語生成に関する研究開発に従事. 
    言語処理学会会員.
}
\end{biography}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\biodate

\end{document}


