    \documentclass[japanese]{jnlp_2.2}
\usepackage{jnlpbbl_1.3}
\usepackage[dvipdfm]{graphicx}
\usepackage{amsmath}
\usepackage{hangcaption_jnlp}
\usepackage{array}

\usepackage{lingmacros}


\Volume{26}
\Number{1}
\Month{March}
\Year{2019}

\received{2018}{8}{1}
\revised{2018}{11}{1}
\accepted{2018}{12}{12}

\setcounter{page}{179}

\jsubject{論文}
\jtitle{事象に対する網羅的な時間情報アノテーションとその分析}
\jauthor{坂口　智洋\affiref{Author_1} \and 河原　大輔\affiref{Author_1} \and 黒橋　禎夫\affiref{Author_1}}
\jabstract{
テキスト中には過去・現在・未来における様々な事象が記述されており，その内容を理解するためにはテキスト中の時間情報を正確に解釈する必要がある．これまで，事象情報と時間情報を関連付けたコーパスが構築されてきたが，これらは開始と終了が比較的明確な事象に着目したものであった．本研究では，網羅的かつ表現力豊かな時間情報アノテーション基準を導入し，京都大学テキストコーパス中の113文書に対するアノテーションとその分析を行った．同コーパスには既に述語項関係や共参照関係のアノテーションガなされており，本アノテーションと合わせてテキスト中の事象・エンティティ・時間を対象とした統合的な時間情報解析に活用することが可能となった．
}
\jkeywords{時間情報，時間軸，アノテーション}

\etitle{Comprehensive Annotation and Analysis of \\ Temporal Information of Events}

\eauthor{Tomohiro Sakaguchi\affiref{Author_1} \and Daisuke Kawahara\affiref{Author_1} \and Sadao Kurohashi\affiref{Author_1} } 
\eabstract{
Various past, present, and future events are described in text. To understand such text, correct interpretation of temporal information is essential. For this purpose, many corpora associating events with temporal information have been constructed. Although these corpora focus on expressions with strong temporality, many expressions have weak temporality, but are still clues to understanding temporal information. In this article, we propose an annotation scheme that comprehensively anchors textual expressions to the time axis. Using this scheme, we annotated 113 documents in the Kyoto University Text Corpus. Because the corpus has already been annotated with predicate-argument structures and coreference relations, it can now be utilized for integrated information analysis of events, entities, and time.
}
\ekeywords{Temporal Information Annotation, Temporal Anchoring}

\headauthor{坂口，河原，黒橋}
\headtitle{事象に対する網羅的な時間情報アノテーションとその分析}

\affilabel{Author_1}{京都大学大学院情報学研究科}{Graduate School of Informatics, Kyoto University}



\begin{document}
\maketitle


\section{はじめに}

Web上では日々多くのテキスト情報が発信されており，
これまでに膨大な量のテキストが蓄積されている．
この大量のテキストから，あるトピックについての知識を抽出するためには，
関連するテキストの統合・要約・比較を行う情報分析技術が必要である．
異なる時期に書かれたテキストや異なる時期について言及しているテキストを
対象として分析を行うためには，
テキストに含意されている時間情報を正しく解釈する必要があり，
これまでに事象情報と時間情報の関係性という観点から
多くの研究やタスクが行われてきた．
例えばTempEval 1, 2, 3 
では，事象−事象表現間，事象−時間表現間の時間的順序関係の推定が行われた
\cite{TempEval-1,TempEval-2,TempEval-3}．
また，SemEval 15 では
複数のテキストから事象表現を抽出し，
時系列に配置するタイムライン生成タスクが扱われた
\cite{SemEval15-4}．

このようなタスクにおいて
モデルの学習やシステムの評価を行うため，
テキスト中の事象情報と時間情報を関連付けたコーパスが作られてきた
\cite{pustejovsky:TimeBankCorpus:03,cassidy:TimeBankDenseCorpus:2014,reimers:EventTimeCorpus:2016}．
これらのコーパスでは開始・終了時が比較的明確な事象表現を
対象にアノテーションが行われたが，
テキストの時間情報理解のための手がかりはこれにとどまらない．
本研究では，時間性が曖昧な表現を含めた，テキスト中の様々な表現がもつ時間情報を
表現力豊かにアノテーションするための基準を提案する．

先行研究における時間情報アノテーションのアプローチは2つに大別される．
1つは事象間の時間的順序関係を付与する{\bf 相対的なアノテーション方法}である．
もう1つは各事象を時間軸に対応させる{\bf 絶対的なアノテーション方法}である．
前者は小説など時間情報の少ないテキストであっても情報量の多いアノテーションが可能である．
後者は新聞などの時間情報の多いテキストにおいて少ないアノテーション量で正確に時間情報を表現できる．
本研究は後者のアプローチを発展させるものであり，
構築するコーパスはタイムライン生成など時間軸を用いてテキストの比較・統合を行うタスクにおいて
学習／評価データとして使用することが可能である．

本アノテーション基準の特徴は次の2つである．
1つは，時間性をもち得る幅広い表現をアノテーション対象とすることである．
多くの先行研究は，
TimeML \cite{Sauri06timemlannotation} のガイドラインに従い，
何か起きたことやその状態を表す一時性の強い表現である{\sl ``event''}に対してアノテーションを行っている．
そのため次の例の「出現しており」のような一時性の弱い表現にはアノテーションが行われない．
\vspace{0.5\Cvs}
\enumsentence{
インターネット上では様々な事業が急速に{\itshape\bfseries 出現しており}，
政府でさえ把握できていない．}
\vspace{0.5\Cvs}

しかし，一時性の弱い表現がもつ時間情報もテキスト解釈の手がかりとなり得る．
この例の場合，「出現しており」が数年前から現在にかけての事象であるという時間情報を
アノテーションすることも重要である．
そこで本研究では先行研究より対象を広げ，
テキスト中で時間性をもち得る全ての事象表現，
すなわちテキスト中の述語または事態性名詞（サ変名詞，動詞連用形の名詞化，形容動詞語幹）を含む
基本句全て（以降，対象表現と呼ぶ）をアノテーション対象とする．
ここで基本句とは，京都大学テキストコーパスで定義されている単位で，
自立語とそれに続く付属語のことである．

本アノテーション基準のもう1つの特徴は，頻度や期間などの多様な時間情報を扱えることである．
\cite{reimers:EventTimeCorpus:2016}は事象の起きる期間を開始点と終了点を用いて時間軸に対応付けたが，
次の例で太字で示す「飛び飛びな時間」や「大きな区間の中のある一部の期間」に起きる事象を
正確に時間軸に対応付けることはできなかった．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:baseball}
毎週日曜は球場で野球を{\itshape\bfseries 見る}。}
\enumsentence{\label{ex:trip}
来週は3日間京都に{\itshape\bfseries 出張する}。}
\enumsentence{
昔はよく一緒に{\itshape\bfseries 遊んでいた}。}
\vspace{0.5\Cvs}
本研究では，テキスト中に含まれる多様な時間情報を
より正確に時間軸に対応付けられる時間タグを導入する．


多様な表現に対して表現力豊かにタグ付けすることで，
個人のテキスト解釈や常識がタグの揺れとして現れる．
本研究ではこのような揺れも
時間がどのように解釈されているかを知る上で重要だと考えているため，
最終的に複数のアノテータの付与した時間タグを1つに統合することはしない．
代わりに，解釈の違いを尊重しつつ
明らかなアノテーションミスのみを修正するアノテーション方法を導入する．


本アノテーション基準を用いて，京都大学テキストコーパス中の
113文書4,534対象表現に対してアノテーションを行った．
その結果，対象表現の76\%に時間性が認められ，
そのうち35\% （全体の26\%）で本稿で新たに提案する
記法が用いられた．
同コーパスには，既に述語項関係や共参照関係の
アノテーションがなされているため，
本アノテーションと合わせてテキスト中の
事象・エンティティ・時間を対象とした統合的な
時間情報解析に活用することが可能となる．


\section{関連研究}

事象情報と時間情報を関連付けたコーパスは，これまでにも多く
作られており，これらのアノテーション方法は大きく2つのアプローチに分けられる．
1つは，事象間の時間的順序関係を付与する方法である．
事象情報や時間情報を扱う多くのタスクで利用されている
TimeBank Corpus \cite{pustejovsky:TimeBankCorpus:03}には，
TimeMLの基準に基づいて事象・時間表現情報がアノテーションされており，
さらに時間的順序関係を表すTLINK，
事象間の関係を表すSLINK，
相動詞と事象の関係を表すALINKの3つの関係が付与されている．
当初はアノテータが重要と判断した
表現間にのみアノテーションがなされていたためスパースであったが，
後のTempEvalタスクはこれを発展させ，
同一文中と隣接文間の関係に対してアノテーションを行った．
BCCWJ-TimeBank \cite{BCCWJ-TimeBank:14}は，
現代日本語書き言葉均衡コーパス(BCCWJ)の新聞記事に対して
TimeBank Corpusに準拠した基準でアノテーションを行ったものである．

このような時間的順序関係をより密にアノテーションしたコーパスも存在する．
\cite{kolomiyets12} は子ども向けの物語コーパス中の各事象表現に対して
その最も近い事象表現との時間的順序関係をアノテーションした．
またTimeBank Dense Corpus \cite{cassidy:TimeBankDenseCorpus:2014} は，
同一文内・隣接文間の全ての事象−時間表現間，事象−事象表現間
に対してアノテーションを行っている．

もう1つのアプローチは，事象を時間軸に対応させる方法である．
EventStatus Corpus \cite{huang:EventStatusCorpus:16} は，
社会不安に関する新聞記事中の事象表現に対して
{\sl Past, On-going, Future Planned, Future Alert, Future Possible}
の5つのラベルをアノテーションした．
\cite{asakura-hangyo-komachi:2016:WNUT} は，
ソーシャルメディアに投稿された洪水に関するテキストに含まれる
事象表現に対して{\sl PAST, PRESENT, FUTURE}のラベルと
事実性に関する3つの値({\sl high probability, low probability, unmentioned})を
アノテーションした．

より細かい粒度で時間軸に対応付けたコーパスも存在する．
\cite{reimers:EventTimeCorpus:2016} は，
TimeBank Corpus中の事象表現に対して時間値を付与した．
時間値は日にちの粒度で付与されており，
事象が1日内で終わるものか，
複数日に跨るものかでタグが異なる．
前者にはその事象が起きた日付を，
後者にはその事象の開始日と終了日を付与する．
次の例文の「出発した」は1日内の
事象であり，この方法でアノテーションする場合は{1980-05-26}を付与する．
「過ごした」は複数日に跨る事象であるため，
{\sl beginPoint=1980-05-26 endPoint=1980-06-01}
のように開始日と終了日を付与する．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:ETC1}
1980年5月26日、彼は宇宙に向けて{\itshape\bfseries 出発した}。
サリュート6号で6日間を{\itshape\bfseries 過ごした}。}
\vspace{0.5\Cvs}

事象の正確な日付が分からない場合は，{\sl after}と{\sl before}を用いて記述する．
次の例文の
「滞在した」には
{\sl beginPoint=after 1984-10-01 before 1984-10-31 
endPoint=after 1984-10-01 before 1984-10-31}，
「選ばれた」には
{\sl after 2014-01-01 before 2014-12-31}
が付与される．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:ETC2}
サリバンは1984年10月、チャレンジャー号のメンバーとして
宇宙に{\itshape\bfseries 滞在した}。
2014年にはタイム100に{\itshape\bfseries 選ばれた}。}
\vspace{0.5\Cvs}

また，時間性をもたない事象に対しては，{\sl n/a}を付与した．

彼らのアノテーションでは，
全事象の約6割が1日内の事象，約4割が複数日に跨る事象である．
前者のうち日付が明確なものは56\%，
後者のうち開始日が明確なものは20\%，
終了日が明確なものは16\%であり，
全事象の64\%が{\sl after}または{\sl before}を用いて表されている．
時間性をもたない事象は全体の0.7\%であった．

本稿ではこの事象を時間軸に対応させるアプローチを発展させ，
テキスト中の多様な時間情報に対応できる
タグ付け基準を提案する．


\section{アノテーション基準}

1章で述べたように，本研究ではテキスト中の述語または事態性名詞（サ変名詞，動詞連用形の名詞化，形容動詞語幹）
を含む基本句全てを対象表現として，それらに時間タグを付与する．
ここで基本句とは，自立語とそれに続く付属語のことである．
基本句を基本単位とすることにより，「行くつもりだ」や「勝てたかもしれない」のような
助詞や接尾辞を含む動詞句をひとかたまりとして時間性を考えることができる．
英語を対象とした先行研究の多くが，開始と終了が比較的明瞭で一時性の強い事象である，
TimeMLにおける{\sl ``event''}をアノテーション対象とするのに対し，
本研究では時間性をもち得るより幅広いこれらの表現をアノテーション対象とする．
対象表現の例を次に示す．例(\ref{ex:go_kyoto})
の「行くつもりだ」は動詞を含む基本句であるため，
また例(\ref{ex:rengo})の「所属」は事態性名詞であるため対象表現である．
例(\ref{ex:marry})には，事態性名詞の基本句である「結婚を」と，動詞を含む基本句である
「考えたい」の2つの対象表現が存在する．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:go_kyoto} 明日京都に{\itshape\bfseries 行くつもりだ}。}
\enumsentence{\label{ex:rengo} 連合{\itshape\bfseries 所属}議員}
\enumsentence{\label{ex:marry} そろそろ {\itshape\bfseries 結婚を} {\itshape\bfseries 考えたい}。}
\vspace{0.5\Cvs}

アノテータには，本章で述べるアノテーション基準に従って，
対象表現に対するアノテーションを依頼した．
アノテータは，まず対象表現が時間性をもつかどうかを判定する．
時間性をもつ場合はテキストの作成日(Document Creation Time, DCT)
と文脈を考慮して対応する時間タグを付与する．
時間性を持たない場合は{\sl t:n/a (not applicable)}という時間タグを記す．

時間性をもつ場合，
時間タグは時間基本単位(Time Base Unit, TBU)またはその組み合わせとして表す（表\ref{table:tag_list}）．
時間基本単位とは，特定の時点や期間を表すもので，5種類のタグを定義する．
さらに，時間基本単位中の一部の期間や繰り返しを表す3通りの方法を導入し，
多様な時間情報を表現する．
\cite{reimers:EventTimeCorpus:2016}が扱った時間情報は，表\ref{table:tag_list}中の
1，3，b，{\sl t:n/a}である．

時間タグは，先行研究と同様，日にちを最小粒度とする．
これは，情報分析において着目したい粒度が
数日から数年であることが多いことによる．
例えば次の文のように，2017年4月29日に書かれたテキストでは，
「帰った」はその日の18時のことであるが，
日にち以下の粒度の情報は捨てて2017年4月29日という情報をタグ付けする．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:time}
{[DCT: 2017-04-29]}
今日は夜6時に{\itshape\bfseries 帰った}。}

\begin{table}[t]
\caption{時間タグの一覧}
\label{table:tag_list}
\input{07table01.tex}
\end{table}


\subsection{対象表現の時間性判定}

対象表現が時間性をもつかどうかは，
過去から未来の間において表現の表す動作や状態に
変化があるか否かで判断する．
文脈によって変化の有無や度合いの解釈は変わり得るため，
次のような事例を共通認識としつつ，
具体的な判断基準は各アノテータに委ねた．

時間性をもつ例をいくつか挙げる．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:kyoto}
明日京都に{\itshape\bfseries 行く}。}
\enumsentence{\label{ex:nlp}
言語処理研究が{\itshape\bfseries 盛んだ}。}
\enumsentence{\label{ex:tall}
あの子は背が{\itshape\bfseries 低かった}。}
\vspace{0.5\Cvs}

例(\ref{ex:kyoto})の 「行く」は，
明日という特定の日に起きるものであるため，時間性をもつ．
例(\ref{ex:nlp})の 「盛んだ」は，
いつからいつまでかは分からないが
ある限られた時期のことであるため時間性をもつと考える．
例(\ref{ex:tall})の 「低かった」も，
現在はそうではないことを示唆しているため，時間性をもつと考える．
これらの例において，先行研究がアノテーション対象としているのは，例(\ref{ex:kyoto})のみである．


次に時間性をもたない例を示す．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:rabbit}
ウサギは草を{\itshape\bfseries 食べる} {\itshape\bfseries 動物だ}。}
\enumsentence{\label{ex:eye}
彼の目は{\itshape\bfseries 黒い}。}
\vspace{0.5\Cvs}

例(\ref{ex:rabbit})の 「食べる」と「動物だ」は，
昔から変わらない一般的な事柄であるため時間性をもたないと考える．
例(\ref{ex:eye})の 「黒い」も同様である．
ただし，次の文のように現在は異なることを示唆する表現の場合は
時間性をもつと解釈する．

\vspace{0.5\Cvs}
\enumsentence{
以前は目の色が{\itshape\bfseries 黒かった}。}
\vspace{0.5\Cvs}


\subsection{時間基本単位}

\subsubsection{日付・期間を表すタグ}

日付の時間情報は，{\sl t}タグにその時間の表す値を記すことで表現する．
{\sl t:YYYY}や{\sl t:YYYY-MM-DD}など，
BCCWJ-TimeBankで定義されている時間表現の時間値の記法で記す．
次の例の「到着した」は2017年4月28日の出来事であるため，
時間値{\sl t:2017-04-28}を付与する．

\vspace{0.5\Cvs}
\enumsentence{
{[DCT: 2017-04-29]}
昨日大統領がニューヨークに{\itshape\bfseries 到着した}。\\
~ ~ ~ → {\sl t:2017-04-28}}
\vspace{0.5\Cvs}

本研究では先行研究とは異なり，日にちより大きな粒度の時間タグを許す．
例えば次の例の「暑かった」には，{\sl t:2016-08}を付与する．
このタグは，必ずしも厳密に2016年8月1日から31日までの期間を表すわけではない．
「8月」という表現は「8月1日から31日まで」という表現と比べ，
その表す期間は漠然と捉えられる．
本研究におけるタグの粒度はこのような漠然性を含意する．

\vspace{0.5\Cvs}
\enumsentence{
{[DCT: 2017-04-29]}
昨年の8月は{\itshape\bfseries 暑かった}。\\
~ ~ ~ → {\sl t:2016-08}}
\vspace{0.5\Cvs}


アノテータの負担軽減のため，
次のような省略表記を導入する．
\begin{itemize}
\item 文書作成日時の日付は{\sl t:DCT}と記すことができる．
\item ある日から一定期間前／後の日を引き算／足し算で記すことができる．
この際，期間はBCCWJ-TimeBankで定義された期間表現の
時間値の記法を用いる．例えば，1年間は{\sl P1Y}，1ヶ月は{\sl P1M}，
1週間は{\sl P1W}，1日間は{\sl P1D}と表す．
次の例の「行く」の時間値は{\sl t:DCT+P1W}，「行った」の時間値は
{\sl t:DCT--P1W}と表せる．

\vspace{0.5\Cvs}
\enumsentence{
私も来週そこに{\itshape\bfseries 行く}。\\
~ ~ ~ → {\sl t:DCT+P1W}}
\enumsentence{
私も先週そこに{\itshape\bfseries 行った}。\\
~ ~ ~ → {\sl t:DCT--P1W}}
\end{itemize}
\vspace{0.5\Cvs}


\subsubsection{漠然とした時間を表すタグ}

テキスト中には漠然とした時間情報を表す表現も多く存在する．
例えば次の文では，「住んでいた」が過去のいつ，どのくらいの期間の
ことであるのか具体的には分からない．

\vspace{0.5\Cvs}
\enumsentence{
昔広島に{\itshape\bfseries 住んでいた}。}
\vspace{0.5\Cvs}

\cite{reimers:EventTimeCorpus:2016}はこれを
「今日までのある日から，今日までのある日まで」と捉え，
{\sl beginPoint=before DCT endPoint=before DCT}とタグ付けした．
本研究では，このような漠然とした時間情報をより正確に表現するため，
新たなタグを導入する．

文書作成日を基準として，漠然とした過去，現在，未来は，それぞれ
{\sl t:PAST, t:PRESENT, t:FUTURE}と記す．
ここで，「現在」は文書作成日の少し前から少し後までを表す．
例えば次の文の「持ち込める」は，文書作成日
だけでなく，文書作成日から少し前や後でも成り立つことだと考えられるので，
{\sl t:PRESENT}を付与する．

\vspace{0.5\Cvs}
\enumsentence{
国内線では飲み物を{\itshape\bfseries 持ち込める}。\\
~ ~ ~ → {\sl t:PRESENT}}
\vspace{0.5\Cvs}

過去と未来については，それぞれ時間的距離に応じて
{\sl t:PAST-M}と{\sl t:PAST-Y}，{\sl t:FUTURE-M}と{\sl t:FUTURE-Y}という表記を導入する．
{\sl t:PAST-M}は数ヶ月前を，{\sl t:PAST-Y}は数年前を表す\footnote{数週間前までの過去は，\ref{chap:nyoro}節の$\sim$を用いて{\sl t:$\sim$DCT}と表す．}．
数年以上前，あるいはどのくらい昔なのかが不明な場合は{\sl t:PAST}を用いる．
未来についても同様である．

漠然とした時間表現はこれ以外にもある．
「1980年頃」や「約3年間」など数値の曖昧性が明示されている表現の場合，
その曖昧な数値の直後に{\sl ap (approximately)}と記す．
次の例の「建てられた」には
{\sl t:1980ap}を付与する．

\vspace{0.5\Cvs}
\enumsentence{
1980年頃に{\itshape\bfseries 建てられた}建物 \\
~ ~ ~ → {\sl t:1980ap}}


\subsubsection{開始・終了時を用いて期間を表す方法 \label{chap:nyoro}}

期間の時間値は，開始時と終了時を$\sim$で結ぶことで表す．
これは\cite{reimers:EventTimeCorpus:2016}の{\sl beginPoint, endPoint}に対応する．
例(\ref{ex:ETC1})の「過ごした」には{\sl t:1980-05-26$\sim$1980-06-01}を付与する．

\vspace{0.5\Cvs}
\enumsentence[(\ref{ex:ETC1})]{
1980年5月26日，彼は宇宙に向けて出発した。
サリュート6号で6日間を{\itshape\bfseries 過ごした}。\\
~ ~ ~ → {\sl t:1980-05-26$\sim$1980-06-01}}
\vspace{0.5\Cvs}

事象の開始時，終了時のいずれかが不明かつ近い過去／未来である場合はこれを書かない．
次の例文の「忙しかった」の
時間タグは{\sl t:$\sim$2017-04-28}となる．

\vspace{0.5\Cvs}
\enumsentence{
{[DCT: 2017-04-29]}
昨日まで{\itshape\bfseries 忙しかった}。\\
~ ~ ~ → {\sl t:$\sim$2017-04-28}}
\vspace{0.5\Cvs}

事象の開始時，終了時が遠い過去や未来である場合は，{\sl PAST}や{\sl FUTURE}を用いる．


\subsubsection{相対的な時間を表すタグ}

事象を時間軸に対応付けるアプローチの弱点の1つは，
小説など時間表現が少ないテキストでは多くの事象が時間軸と
対応付けられない可能性があることである．
このような場合，事象表現間の相対的な時間関係をタグ付けする
アプローチの方が情報量の多いアノテーションが可能である．
そこで本研究では，絶対的な時間値が分からない場合は
相対的な時間値を付与する．


対象表現の具体的な日付が分からないが，
同一文中の他の基本句との時間関係が分かる場合，
これを時間値として記す（時間共参照と呼ぶ）．
例えば次の文の「起きた」は，
具体的な日付は分からないが基本句「選挙の」の表す日の翌日であることは分かる．
この場合，{\sl t:選挙の+P1D}と記す．

\vspace{0.5\Cvs}
\enumsentence{
選挙の翌日、大規模なデモが{\itshape\bfseries 起きた}。\\
~ ~ ~ → {\sl t:選挙の+P1D}}
\vspace{0.5\Cvs}

参照できる基本句が複数ある場合は，
1. 絶対的な時間値が付与されている基本句，
2. 距離が近い基本句
の順で優先順位を付け，最も優先順位の高いもの1つを選択する．


\subsubsection{発話日時を表すタグ}

会話文やインタビューなどでは，その発話日時が不明なことが多い．
文脈から具体的な日付が分かる場合はそれを利用してタグ付けを行うが，
分からない場合は発話日を{\sl t:UD (Utterance Day)}として記述する．
例えば次の文の「頑張るしかない」には{\sl t:UD+P1D}を付与する．

\vspace{0.5\Cvs}
\enumsentence{
「明日{\itshape\bfseries 頑張るしかない}」と監督は言った。\\
~ ~ ~ → {\sl t:UD+P1D}}
\vspace{0.5\Cvs}

ただし，上の文の「言った」のように，発話の外の表現には{\sl UD}は用いず，
絶対的な時間値を記す．


\subsection{時間基本単位(TBU)の一部分の表現}

\subsubsection{TBU内の一部の期間を表す方法}
\label{chap:span}

ある大きなTBUの中の一部の期間は，
大きい期間を表す{\sl t}タグと小さい期間を表す{\sl span}タグを組み合わせることで表現する．
{\sl span}タグは，期間の長さが分かる場合はBCCWJ-TimeBankで定義された
期間表現の時間値の記法を用いて記す．
例えば3日間は{\sl span:P3D}，3週間は{\sl span:P3W}，3年間は{\sl span:P3Y}と表す．
期間の長さが分からない場合は{\sl span:part}と記す．
例(\ref{ex:ETC2})の場合，
「滞在した」は1984年10月のある期間なので{\sl t:1984-10,span:part}を，
「選ばれた」は2014年のある日のことなので{\sl t:2014,span:P1D}を付与する．

\vspace{0.5\Cvs}
\enumsentence[(\ref{ex:ETC2})]{
サリバンは1984年10月、チャレンジャー号のメンバーとして
宇宙に{\itshape\bfseries 滞在した}。
2014年にはタイム100に{\itshape\bfseries 選ばれた}。\\
~ ~ ~ → 「滞在した」{\sl t:1984-10,span:part}\\
~ ~ ~ ~ ~ 「選ばれた」{\sl t:2014,span:P1D}}
\vspace{0.5\Cvs}

\cite{reimers:EventTimeCorpus:2016}と比較すると，
{\sl span:part}は彼らの{\sl before, after}を用いた記法に対応する．


\subsubsection{TBU中の繰り返しを表す方法}

対象表現は常に連続した期間として表せるわけではない．
「毎週日曜日」に行う事象や「3日に1回」行う事象もある．
このように飛び飛びで複数日に渡って起きる事象は，
{\sl t}タグや{\sl span}タグに加えて繰り返し規則を表す
{\sl freq}タグを用いて表す．


繰り返しに関するアノテーション方法は次の3つがある．
\begin{itemize}
\item 「週に2回」や「3日に1度」のように，
繰り返し規則が一定の期間中に起きた回数として表される場合，
回数／期間を{\sl freq}タグに記す．
次の例文の「通っている」には{\sl t:2016-07$\sim$DCT,freq:2/P1W}
とタグ付けする．

\vspace{0.5\Cvs}
\enumsentence{
{[DCT: 2017-04-29]}
昨年7月から週に2回プールに{\itshape\bfseries 通っている}。\\
~ ~ ~ → {\sl t:2016-07$\sim$DCT,freq:2/P1W}}
\vspace{0.5\Cvs}

\item 「毎月25日」や「毎週日曜日」のように，
繰り返し規則が特定の日付や曜日として表される場合，
その日付や曜日を{\sl freq}タグに記す．
このとき，BCCWJ-TimeBankのタグ付け基準を拡張し，
いかなる数字も入るという意味で{\sl YYYY-MM-DD}の各部分に@を
入れることを許す．
例えば{\sl freq:@@@@-@@-25}は毎月25日を表す．
次に例を挙げる．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:every_25}
骨董市は毎月25日に{\itshape\bfseries 開催される}。\\
~ ~ ~ → {\sl t:PRESENT,freq:@@@@-@@-25}}
\enumsentence{\label{ex:every_sunday}
毎週日曜はプールに{\itshape\bfseries 行く}。\\
~ ~ ~ → {\sl t:PRESENT,freq:@@@@-@@-Sun}}
\vspace{0.5\Cvs}

\item 具体的な回数や頻度が文脈から分からない場合，
頻度を抽象的に表した4つの値，
{\sl usually, often, sometimes, rarely}の
いずれかを用いる．
次の例文の「行く」には
{\sl t:PRESENT, freq:sometimes}を付与する．

\vspace{0.5\Cvs}
\enumsentence{\label{ex:often}
{[DCT: 2017-04-29]}
スターバックスに時々{\itshape\bfseries 行く}。\\
~ ~ ~ → {\sl t:PRESENT,freq:sometimes}}
\end{itemize}


\section{アノテーション結果}

\subsection{アノテーション対象}

上述のアノテーション基準を用いて，
京都大学テキストコーパス\cite{kawahara:KUCorpus:02}中の
一部の記事に対してアノテーションを行った．
同コーパスは，1995年1月1日から17日までの毎日新聞の記事に
各種言語情報を人手で付与したものである．
この中から当時話題になっていたトピックを11個選定し，
トピックに関連する113記事856文，4,534表現にアノテーションを行った
（表\ref{table:annot_topic}）．
4,534表現のうち，述語は3,072表現，事態性名詞は1,462表現であった．

\begin{table}[b]
\caption{アノテーションを行った記事数の分布}
\label{table:annot_topic}
\input{07table02.tex}
\end{table}


\subsection{アノテーション方法}

3名のアノテータにアノテーションを依頼した．
本研究では個人の感覚や常識によって解釈が変わるような表現も対象としているため，
アノテータの付与したタグを最終的に1つに統合することはしない．
代わりに，他のアノテータの解釈を尊重しつつ，
明らかなアノテーションミスは修正する
2段階のアノテーションを行う．
まず対象となる文書群全体を3つに分割し，各アノテータは
第1段階でそのうちの2つ，第2段階で残りの1つを担当する（図\ref{fig:rotation}）．
これにより，最終的に全員が各文書に1度ずつアノテーションを行う．
第1段階では各アノテータが独立にアノテーションを行うのに対し，
第2段階では他の2人が第1段階で付与したタグを見た上で
同じタグもしくは独自のタグを付与する．
第2段階では，もし既に付けられたタグに明らかな誤りがある場合は印をつける．
印を付けられたタグは全体の2\%であり，本稿における分析では欠損値として扱う．


\subsection{時間タグの分布}

アノテーションされた全時間タグの分布を表\ref{table:tag_dist}に示す．
約25\%の対象表現が時間性をもたないと判定された．
日付タグが全体の約25\%，期間を表すタグが約15\%を占める一方で，
漠然とした時間タグは約10\%，時間共参照を含むタグは数\%と少ない．
新聞を対象にタグ付けを行ったため，
表現の多くが時間軸に対応付けられたと考えられる．
また，繰り返しを表す{\sl freq}タグは全体の1\%とほとんど表れなかった．
本稿で新たに提案したタグは，全体の約25\%を占めた．

\begin{figure}[t]
\begin{center}
\includegraphics{26-1ia7f1.eps}
\end{center}
\hangcaption{3名のアノテータによるアノテーション方法．データを3分割し，各アノテータは第1段階でそのうちの2つ，第2段階で残りの1つを担当する．第2段階では他の2人が第1段階で付与したタグを見ることができる．}
\label{fig:rotation}
\end{figure}


表\ref{table:tag_dist2}は，アノテーションの第2段階における，
述語と事態性名詞それぞれに付与された時間タグの分布を示したものである．
述語に付与されたタグの27\%を日付タグが占めるのに対し，
事態性名詞では約半分の12\%である．
一方，事態性名詞では時間性なしと判定された表現が多く，
述語の約2倍の割合に当たる35\%を占める．
これは，
「全欧安保{\itshape\bfseries 協力}機構」「地方{\itshape\bfseries 旅行の}自由化」など，
事態性名詞が組織や一般的な事象などを表すことも多いためである．

\begin{table}[p]
\caption{第1，第2段階でアノテーションされた全ての時間タグの分布}
\label{table:tag_dist}
\input{07table03.tex}
\par\vspace{4pt}\small
インデントされた項目は内訳を表す．また，*は本研究で新たに導入したタグを表す．
\vspace{1\Cvs}
\end{table}
\begin{table}[p]
\caption{第2段階でアノテーションされた，述語と事態性名詞に対する時間タグの分布}
\label{table:tag_dist2}
\input{07table04.tex}
\end{table}


\subsection{アノテータ間一致率}

Krippendorff's $\alpha$ 
\cite{krippendorff04,hayes:Krippendorffalpha:07} を
用いてアノテータ間一致率を算出した．
\cite{reimers:EventTimeCorpus:2016}と同様の
2つの基準を用いた．
1つはタグの一致度を厳格に測る基準（Strict基準）で，
時間タグが完全に一致するか否かを判定する．
例えば{\sl t:1994-12-31}は{\sl t:1994-12-31}と一致するが，
{\sl t:$\sim$1994-12-31}とは一致しない．
もう1つは時間タグの部分一致を認める緩やかな基準（Relax基準）である．
アノテータ間の時間タグが1日でも重なっていたら一致とし，
全く重なっていなかったら不一致とする．
例えば{\sl t:1994-12-31}と{\sl t:$\sim$1994-12-31}は，
両者の範囲が重なっているため一致と判定する．
一方，{\sl t:$\sim$1994-12-31}と{\sl t:1995-01-01}のように，
1日も重なっていない場合は不一致と判定する．
このとき，{\sl t:n/a}と時間共参照については
部分一致を認めず，完全に同じでない場合は不一致として扱う．
各段階終了時の一致率を表\ref{table:krippendorff}に記す．
表の括弧内の2つの数値はそれぞれ述語，事態性名詞のみを対象とした場合の一致率である．
最終時とは，第2段階までのアノテーションを終えた，最終的なタグを表す．
「{\sl t:n/a}を除く」は，各段階で1人でも{\sl t:n/a}を付けた
表現（第1段階終了時，最終時ともに約1,300個）を除いたものである．
第1段階終了時では2名の，最終時では3名のアノテータ間一致率を算出した．

\begin{table}[b]
\caption{Krippendorff's $\alpha$ を用いて算出したアノテータ間一致率}
\label{table:krippendorff}
\input{07table05.tex}
\end{table}

第1段階終了時と最終時の一致率を比較すると，後者が大幅に上がっている．
これは，前者は独立に付与されたタグであるのに対し，
後者は他のアノテータのタグを見て付与された
第2段階のタグが含まれていることが影響していると考えられる．
また，{\sl t:n/a}が付与された表現を除いて評価すると，
Strict基準において大幅な一致率向上が見られた．
このことから，Relax基準での一致率が低い原因の1つが，
時間性判定の難しさにあることが分かる．

述語と事態性名詞の一致率を比較すると，両基準ともに事態性名詞の一致率が低い．
事態性名詞は述語に比べて時間性のない表現の占める割合が多いため，
時間性判定の難しさの影響をより大きく受けていると考えられる．
{\sl t:n/a}が付与された表現を除いてもStrict基準では事態性名詞の一致率が低く，
時間が明確な表現は少ないことが分かる．
ただし，これらの値はRelax基準では大幅に上がり，また述語との
差もほぼなくなるため，タグは完全には一致しないものの
アノテータ間の認識に大きな隔たりはないと考えられる．

\cite{reimers:EventTimeCorpus:2016}の一致率と比較すると，
特にStrict基準において低いものとなっている．
これは時間タグのバリエーションを増やしたことにより
個人の解釈の揺れが多く反映されたことを表している．

両基準におけるアノテータ間のタグの一致／不一致について，次章でより詳細に述べる．


\section{アノテータ間でのタグの揺れ分析}

本研究で提案した時間タグは，先行研究と比べ
時間情報をより正確に表現できるようになった一方で
アノテータの解釈に敏感である．
本章では，アノテータ間でどのように
時間タグが揺れたかを分析する．

具体的な時間値にとらわれずに時間タグの特徴を扱うため，
時間タグを粒度の面から抽象化する．
例えば，{\sl t:1994-12-31}や{\sl t:DCT}などの日付を表す
時間タグは{\sl DAY}，
{\sl t:$\sim$1994-12-31}は{\sl $\sim$DAY}，
{\sl t:1994}は{\sl YEAR}とする．
また，{\sl span}タグや{\sl freq}タグはその値を省略して表記する．
例えば{\sl t:$\sim$1994-12-31,span:P1D}や
{\sl t:$\sim$1994-12-31,span:part}は{\sl $\sim$DAY,span}とする．

本章では，アノテータが独立にアノテーションを行った，
第1段階のアノテーション結果を対象として分析する．
表\ref{table:strict-tag-cooccur}，表\ref{table:relax-tag-cooccur}は，
それぞれStrict基準とRelax基準において，アノテータ間でどのように時間タグが
揺れたかをまとめたものである．
ここで，アノテーションの一致の判定は元の時間値を用いて行い，
集計のみ抽象化を行った値を使用した．

表\ref{table:strict-tag-cooccur}を見ると，
Strict基準ではアノテータ間で一致したタグの約7割が{\sl DAY}と{\sl n/a}であり，
不一致の多くは{\sl n/a}か否かの判定，あるいは{\sl DAY}と{\sl $\sim$DAY}などの
日付と期間の解釈の違いに起因するもので
あることが分かる．
表\ref{table:relax-tag-cooccur}を見ると，
Relax基準における不一致のほとんどは{\sl n/a}か否かの判定である．
Strict基準で見られた日付と期間の解釈の違いのほとんどは
この基準では一致しており，領域が重なっていたことが分かる．

\begin{table}[b]
\hangcaption{第1段階のアノテーション結果に対する，『Strict基準』におけるアノテータ間の時間タグの一致／不一致頻度}
\label{table:strict-tag-cooccur}
\input{07table06.tex}
\end{table}

このような，アノテータ間の時間性判定と日付・期間の解釈の揺れについて
次節以降，具体例を通して分析する．

\begin{table}[t]
\hangcaption{第1段階のアノテーション結果に対する，『Relax基準』におけるアノテータ間の時間タグの一\mbox{致／}不一致頻度}
\label{table:relax-tag-cooccur}
\input{07table07.tex}
\end{table}


\subsection{時間性の判定}

Relax基準において，アノテータ間でタグが一致しない最大の原因は，
アノテータによって時間性の判断が揺れることにある．
{\sl n/a}タグと共起しやすいタグは，頻度順に
{\sl n/a} (76.6\%)，{\sl DAY} (5.3\%)，
{\sl PRESENT} (5.0\%)，{\sl $\sim$DAY,span} (1.7\%)
となっており，8割近くの割合でアノテータ間で{\sl n/a}が一致し，
そうでない場合の約4割は片方のアノテータが{\sl DAY}か{\sl PRESENT}を付与している．
このような表現には状態や役職，組織を表すものが多く，ある程度普遍的なものと見るか，
期間としては長くても一時的なものと見るかで判断が分かれている．

次の例では，アノテータのタグが{\sl t:PRESENT}と{\sl t:n/a}で揺れた．

\vspace{0.5\Cvs}
\enumsentence{
{大統領官邸の{\itshape\bfseries ある}中心部}\\
~ ~ ~ → {\sl t:PRESENT} vs {\sl t:n/a}}
\vspace{0.5\Cvs}

時間性を認めたアノテータは，記事の執筆時前後では大統領官邸が中心部にあるものの，
過去，あるいは未来にはそれが変わる可能性があると解釈したのに対し，
時間性を認めなかったアノテータは，変わる可能性はほとんどない，
半永続的なことと解釈したと考えられる．


\subsection{日付と期間の解釈}

\cite{reimers:EventTimeCorpus:2016} も指摘しているとおり，
ある事象がある日一日内のことなのか，
複数日に跨ることなのかをテキストから判断するのは難しい．
また，ある事象の開始時や終了時を明確化することも容易ではない．
このような曖昧性は，本アノテーションにおいては
{\sl DAY}，{\sl $\sim$DAY}，{\sl $\sim$DAY,span}，
{\sl DAY$\sim$}，{\sl DAY$\sim$,span}，{\sl PRESENT}の揺れとして現れる．
中でも多いのは{\sl DAY}と{\sl $\sim$DAY,span}の間の揺れである．
特にDAYがDCTの場合が多く，文書作成日に起きたのか，
それまでに起きたのかの解釈が難しいことを表している．

これはアノテーション対象が新聞記事であることが要因の1つであると考えられる．
次の例では，アノテータのタグが{\sl t:DCT}と{\sl t:$\sim$DCT,span:part}で揺れた．
前者はこの表現を文書作成日のことと解釈したのに対し，
後者はより長い期間であると解釈したと考えられる．

\vspace{0.5\Cvs}
\enumsentence{
しかしデュダエフ政権部隊は頑強に{\itshape\bfseries 抵抗}，双方の死者は数百人に達する見込みだ。\\
~ ~ ~ → {\sl t:DCT} vs {\sl t:$\sim$DCT,span:part}}
\vspace{0.5\Cvs}

次の例では，アノテータのタグが{\sl t:DCT}と{\sl t:$\sim$DCT,span:P1D}で揺れた．
前者は新聞の速報性から，その日のことを記事にしたと解釈したのに対し，
後者はそうとは限らないと解釈したと考えられる．

\vspace{0.5\Cvs}
\enumsentence{
外相は，「非民営化・再国営化」の基本方針を{\itshape\bfseries 打ち出した}。\\
~ ~ ~ → {\sl t:DCT} vs {\sl t:$\sim$DCT,span:P1D}}
\vspace{0.5\Cvs}

こうした新聞ならではの書き方やテーマ，性質が，
解釈をより難しくしていると考えられる．

このように，テキストに明示的に書かれていないことに対する解釈は
読者によって少しずつ異なり，しかもいずれも誤りとは言えない．
人がどのようにテキスト理解をしているのかをデータとして表現する方法の1つが，
本研究のように，複数のアノテータの解釈を反映させたタグを全て記載することだと考える．


\section{時間情報推定}

本研究で付与したタグを推定する簡単なモデルを作成し，
そのエラー分析を通して，推定に必要な知識や技術について議論する．


\subsection{問題設定}

本稿で提案した時間タグは多様な時間情報を扱える一方で，作成したコーパスの分量が大きくないため，
機械学習を用いて直接推定するにはタグがスパースだという問題がある．
そこでタグを下記の3つの要素へと簡略化し，各々を多クラス分類問題として推定する（図\ref{fig:predict_concept}）．

\vspace{0.5\Cvs}
\begin{description}
\item [~ ~a.] 時間性：事象が時間性をもつか否か（2クラス）
\item [~ ~b.] 事象の時間的長さ：事象の発生期間（4クラス）
\item [~ ~c.] 事象の発生時期：文書作成日を基準とした事象の発生時期（5クラス）
\end{description}
\vspace{0.5\Cvs}


以下に各タスクの詳細を述べる．

\begin{figure}[t]
\begin{center}
\includegraphics{26-1ia7f2.eps}
\end{center}
\caption{推定を行う3つのタスク}
\label{fig:predict_concept}
\end{figure}


\subsubsection{(a) 時間性判定タスク}

対象表現が時間性をもつか否か，すなわち対応する時間タグが {\sl t:n/a} か否かを判定する．
全対象表現4,534個のうち，76\%の3,438個が時間性をもつ．


\subsubsection{(b) 事象の時間的長さ分類タスク}

時間性をもつ事象において，事象の時間的な長さを時間粒度に応じて4つのクラスに大別し，
4クラス分類問題として考える．
具体的には，期間を1日以内，1ヶ月未満，1年未満，1年以上，の4つに分類する．
時間共参照や span:part が付与された表現など時間の長さが分からないものはデータから取り除
き、全4,534対象表現のうち2,752個を用いた．
以下に例を示す．
\begin{itemize}
\item 1日以内:~ ~ ~{\sl t:1994-12-31, t:1994,span:P1D}
\item 1ヶ月未満:~ ~ ~{\sl t:1994-12-25$\sim$1994-12-31, t:1994-12,span:P3D}
\item 1年未満:~ ~ ~{\sl t:1994-12}
\item 1年以上:~ ~ ~{\sl t:1994, t:PAST}
\end{itemize}

全体に占めるクラスの割合は，
1日以内（1,545個, 56\%），1ヶ月以内（640個, 23\%），1年以内（135個, 5\%），1年以上（432個, 16\%）である．


\subsubsection{(c) 事象の発生時期分類タスク}

時間性をもつ事象における，文書作成日から事象を代表する日にち（以降，事象代表日と呼ぶ）までの日数を
時間の粒度に応じて5つのクラスに大別し，5クラス分類問題として考える．
ここで，事象代表日とは事象の開始日と終了日の中間に位置する日を指す．
spanタグを用いて表されるような開始日や終了日が不明な事象の場合，
より広い範囲を表すtタグの中間に位置する日を用いる．
例えば {\sl t:1994-12,span:P3D} では，1994年12月の中間の日である1994年12月16日を
事象代表日とする．

具体的には，3年以上前，3年前から3日前，3日前から3日後，3日後から3年後，3年以上後 
の5つである（図\ref{fig:predictor3-concept}）．
時間共参照など事象の発生時期が明確に分からないものはデータから取り除
き，全4,534対象表現のうち3,276個を用いた．

\begin{figure}[t]
\begin{center}
\includegraphics{26-1ia7f3.eps}
\end{center}
\caption{事象の発生時期の5クラス分類（タスクc）}
\label{fig:predictor3-concept}
\end{figure}

以下に文書作成日を1995年1月1日とした場合の例を示す．
\begin{itemize}
\item 3年以上前:~ ~ ~{\sl t:1990， t:PAST}
\item 3年前から3日前:~ ~ ~{\sl t:1994-06-01, t:1994,span:P1D}
\item 3日前から3日後:~ ~ ~{\sl t:DCT, t:1994-12-29$\sim$1994-12-31}
\item 3日後から3年後:~ ~ ~{\sl t:1995-03,span:part, t:FUTURE-M}
\item 3年以上後:~ ~ ~{\sl t:2000, t:FUTURE}
\end{itemize}

全体に占めるクラスの割合は，
3年以上前（284個, 9\%），3年前から3日前（879個, 27\%），3日前から3日後（1,331個, 41\%），3日後から3年後（571個, 17\%），3年以上後（211個, 6\%）である．


\subsection{モデル}

事象が時間性をもつかどうかは，対象表現中の語彙情報が大きな手がかりとなると考えられる．
例えば「出勤する」は多くの場合時間性をもつのに対し，「装甲」などのサ変名詞は
時間性をもたないことが多い．
一方で，事象の時間的長さや発生時期は文脈に大きく依存すると考えられる．
例えば，対象表現「滞在した」の前に「3日間」という表現があるのか「1年間」という表現があるのかで
事象の時間的長さは全く異なる．
同様に，対象表現「昇段した」の前の表現が「昨日」なのか「昨年」なのかで発生時期は異なる．
そこで本研究では2つのモデルを用意し，時間性判定タスクでは対象表現に着目したモデルを，
事象の時間的長さ分類タスクと発生時期分類タスクでは文脈にも着目したモデルを用いる．
コーパス中の対象表現が多様でスパースであること，また対象表現自体が重要な手がかりであり
word2vecで事前学習した単語分散表現が有効であると考え，これを活かしたニューラルネットワークモデルを構築する．
モデルの全体図を図\ref{fig:predictor}に示す．

\begin{figure}[t]
\begin{center}
\includegraphics{26-1ia7f4.eps}
\end{center}
\hangcaption{対象表現「空爆を」の時間情報を推定する2つのニューラルネットワークモデル．対象表現中の語彙情報のみを用いる(a)時間性判定モデル（左）と，文脈を使用する(b,c)事象の時間的長さ・発生時期推定モデル（右）．}
\label{fig:predictor}
\end{figure}

両モデルの違いは対象表現を表すベクトルである．
時間性判定のモデルでは，対象表現中の各単語ベクトルを足し合わせたものを用いる．
例えば，図\ref{fig:predictor}
の例（左）では，対象表現「空爆を」を構成する「空爆」と「を」の2つの単語ベクトルを足し合わせる．
文脈を用いるモデルでは，まず文全体に対して双方向GRU (Gated Recurrent Unit) \cite{GRU2014} を適用した後，
対象表現中の自立語の単語ベクトルを用いる．
図\ref{fig:predictor}
の例（右）では，対象表現「空爆を」の中の自立語である「空爆」の単語ベクトルを用いる．
両モデルとも，この対象表現ベクトルに，
同一文／直近の時間表現情報を表すベクトルと，
時間表現との共起スコアベクトルを結合し，
パーセプトロンを用いてクラス分類を行う．
以下に両ベクトルの詳細を述べる．

\begin{itemize}
\item 同一文・直近の時間表現情報ベクトル：\\
文に含まれる時間表現の時間的粒度を表す4次元のバイナリベクトルである．
文中の時間表現をルールベースで検出し，検出された時間表現が（日，週，月，年）の
各粒度に当てはまるか否かの2クラスでベクトルを構成する．
例えば図\ref{fig:predictor}の例の場合，文中には「昨日」という時間表現が存在するため，
「日」の粒度に該当する次元のみ1でその他は0の4次元ベクトル (1,0,0,0) となる．
「同一文中の時間表現情報ベクトル」は，対象表現の文の時間情報ベクトルであり，
「直近の時間表現情報ベクトル」は，対象文以前で時間表現を含む文の時間表現情報ベクトルである．
全4,534対象表現のうち，35\%にあたる1,601表現で同一文中に時間表現が検出され，
また87\%にあたる3,940表現ではその文以前に時間表現が検出された．

\item 共起スコアベクトル: \\
対象表現と時間表現粒度の共起度を表す4次元の実数値ベクトルである．
まず前処理として，前項と同様にテキスト中の時間表現をルールベースで検出し，これを（日，週，月，年）の
いずれかの粒度に変換する．
その後，対象表現と各粒度との同一文中での共起スコアを算出する．
共起スコアには自己相互情報量(Pointwise Mutual Information, PMI)を，
データには1984年から2005年までの朝日新聞1,300万文を用いた．
\end{itemize}


\subsection{実験}

各タスクにおけるクラス分類には，コーパス構築時において第2段階でアノテーションされたタグを利用し，
5分割交差検定を用いて学習・評価を行った．
2クラス分類である時間性判定タスクの評価にはF1値，
多クラス分類である事象の時間的長さ分類・事象発生時期分類タスクの評価には
Micro-F1値を用いた．


パーセプトロンには，50次元の1つの隠れ層を持つ
2層フィードフォワードニューラルネットワークを使用した．
損失関数には交差エントロピー誤差関数を，パラメータの最適化にはAdadeltaを使用した．
GRUの隠れ層は100次元である．

単語の分散表現には98億文のWebテキストにより事前学習された200次元のベクトルを，
品詞の分散表現にはランダムに初期化された10次元のベクトルを用いた．
これらは誤差逆伝播時に値が更新される．

\begin{table}[b]
\hangcaption{(a)時間性判定タスク，(b)事象の時間的長さ分類タスク，(c)事象の発生時期分類タスクにおける実験結果}
\label{table:result}
\input{07table08.tex}
\vspace{4pt}\small
2クラス分類である時間性判定タスクではF1値を用い，他の2つのタスクではMicro-F1値を用いて評価した．
\end{table}

各タスクの実験結果を表\ref{table:result}に示す．
いずれのタスクも各クラスのデータ量に大きな偏りがあることから，
マジョリティのクラスのみを出力した場合のスコアをベースラインとして記載した．
時間性判定タスクでは約9割のスコアが得られた一方，
事象の時間的長さ分類タスクは約6割，事象発生時期分類タスクは約5割にとどまった．

また，各タスクで最もスコアが良かった条件におけるConfusion Matrixを表
\ref{table:confusion_matrix}
に示す．時間性判定タスクでは，誤りの約7割が時間性のないものをあると判定したものであった．
事象の時間的長さ分類タスクでは，「1ヶ月未満」クラスを「1日以内」クラスと誤答することが多かった．
事象の発生時期分類タスクでは，「3年前から3日前」クラスと「3日前から3日後」クラスの区別で
多くの誤りが存在する．

\begin{table}[t]
\hangcaption{(a)時間性判定タスク，(b)事象の時間的長さ分類タスク，(c)事象の発生時期分類タスクにおけるConfusion Matrix}
\label{table:confusion_matrix}
\input{07table09.tex}
\end{table}


\subsection{議論}

\subsubsection{時間性判定タスク}

本タスクでは，単語分散表現の情報のみでベースラインを3ポイント以上上回った．
これは，対象表現自体が時間性の有無に大きく関係していること示唆している．
また，品詞分散表現を利用することでスコアの向上が見られた．
「対して」や「総当たり」などのサ変動詞／名詞からなる時間性をもたない対象表現
検出に役立ったと考えられる．

本モデルでは対象表現のみに着目したが，このアプローチでは次の例の「開発」を正しく解くことができない．

\vspace{0.5\Cvs}
\enumsentence{国連の支援で，総合{\itshape\bfseries 開発の}立案などの成果をあげた（時間性あり） \label{ex:dev1}}
\enumsentence{{\itshape\bfseries 開発の}ゆがみを知る人たち（(時間性なし） \label{ex:dev2}}
\enumsentence{経済{\itshape\bfseries 開発}区（時間性なし）\label{ex:dev3}}
\vspace{0.5\Cvs}

例(\ref{ex:dev1})は特定の開発事業であるため時間性をもつが，例(\ref{ex:dev2})や
例(\ref{ex:dev3})は不特定あるいは一般的な事象であるため時間性をもたない．
このような例に対処するためには，対象表現の前後の表現や，対応する述語や項の性質などの
情報を考慮する必要がある．


\subsubsection{事象の時間的長さ分類タスク}

本タスクでは共起スコアベクトルの導入によりスコアが向上した．
例えば次の例の「宿泊」は，単語と品詞情報のみのモデルでは誤答したが，
「宿泊」と日にち粒度の時間表現の共起スコアが高いという情報を与えることで正答した．

\vspace{0.5\Cvs}
\enumsentence{ホテルの{\itshape\bfseries 宿泊}者が目撃した}
\vspace{0.5\Cvs}

一方，表\ref{table:confusion_matrix}からも分かるように，多くの例で誤って「1日以内」クラスを出力した．
次の例は全て「1日以内」クラスを出力し誤答したものである．

\vspace{0.5\Cvs}
\enumsentence{兵士が首都から南に{\itshape\bfseries 脱出している} \label{ex:wid1}}
\enumsentence{見逃せないのは労組の{\itshape\bfseries 圧力だ} \label{ex:wid2}}
\enumsentence{出稼ぎ世帯の大半は、テレビやバイクを{\itshape\bfseries 買う} \label{ex:wid3}}
\enumsentence{啓蒙に力を{\itshape\bfseries 入れている} \label{ex:wid4}}
\vspace{0.5\Cvs}

例(\ref{ex:wid1})，例(\ref{ex:wid2})，例(\ref{ex:wid3})はいずれも，
対象表現自体は1日以内の事象とも捉えることができるものであるが，この文脈ではそうではない．
本モデルは文脈を考慮するものであるが，より大規模なデータで学習する必要があると考えられる．
例(\ref{ex:wid4})では，対象表現は軽動詞であり，「啓蒙」が時間を考える上での手がかりである．
このような単語の含意する時間情報知識を大規模に獲得し，モデルに取り入れる必要がある．


\subsubsection{事象の発生時期分類タスク}

本タスクでは，時間表現情報ベクトルがスコア向上に貢献している．
これは例えば「四日発生した雪崩」のように，時間表現が重要な手がかりを与える
場合が多く存在するためだと考えられる．
本モデルでは「昨日」や「1995年」などの明示的な時間表現のみを対象としたが，
テキスト中には「ベトナム戦争」や「前回のワールドカップ」など暗黙的に時間情報を表す表現も多く存在し，
誤答の原因となっている．
Wikipediaなどの外部知識を用いて，より広範な時間情報を考慮する必要がある．

本モデルでは時間表現情報を4つの粒度で表したが，テキスト中には「昼過ぎ」など
より細かい粒度の情報も多く存在する．
これらの情報を利用することでスコア向上が期待される．
また，本モデルでは時間の粒度のみに着目したが，時間表現が日付を表すのか期間を
表すのかで大きく意味が変わる．
例えば「3日」という時間表現を「1月3日」のことと解釈するのか
「3日間」のことと解釈するのかは，事象の時間的長さ・発生時期の推定タスクにおいて非常に重要であり，
さらなるスコア向上のためには高度な時間表現解析器の導入が必要である．


\section{本アノテーションの応用}

本アノテーションには様々な応用先が考えられる．
例えば，ニュース記事からのタイムラインやサマリーの生成である．
ニュースには事件や出来事に関する新しい情報は記載されるが，
それを取り巻く出来事やこれまでの経緯は記載されないことも多いため，
出来事の全体像を知るためには複数の記事を読み情報を統合する必要がある．
またニュースには，その時の情報に基づいた予想や解釈も記載されるため，
異なる時期に書かれた別の記事と比較することは情報の信頼性を担保する上で有益である．

本稿で述べたアノテーション基準やデータ，時間情報推定モデルは，
このような記載時期の異なる情報の統合や比較に利用することができる．
図\ref{fig:timeline}は，1995年1月に行われたサッカー大会に関する事象を時間軸上に
配置したものである．文章作成日を区別して事象を配置するため2つの時間軸を導入しており，
横軸は文章作成日，縦軸は事象の起きた日を表す．
例えば右上の「デンマークが優勝した」は，1月15日に記述された事象で，
これに対応する時間値は1月13日({\sl t:1995-01-13})である．
本研究で作成したデータは，このようにアプリケーションを構築するための
モデルの学習や評価に用いることができる．
本研究でアノテーションを行った京都大学テキストコーパスには，
既に述語項構造や共参照関係のアノテーションがなされているため，
「ラモス」など特定のエンティティに着目した学習や評価にも用いることが可能である．

\begin{figure}[b]
\begin{center}
\includegraphics{26-1ia7f5.eps}
\end{center}
\hangcaption{1995年1月に行われた、サッカーのインタコンチネンタル選手権に関する事象の時間軸への配置．横軸は文章作成日，縦軸は事象の起きた日を表す．例えば右上の「デンマークが優勝した」は文章作成日が1月15日で，これに対応する時間値は1月13日である．}
\label{fig:timeline}
\end{figure}

また，本アノテーション基準や時間情報推定モデルを利用することにより，
事象に関する時間情報知識を大量のテキストから収集することが可能となる．
出来事や状態の発生日や継続日数，頻度などの情報は，
情報検索，要約，対話，文生成など多くのアプリケーションで利用することができる．
本稿で述べたアノテーション基準は，これらの時間情報を詳細に記述する手段として
用いることができ，また時間情報推定モデルは事象に関する
時間情報をテキストから自動獲得する技術に応用することが可能である．


\section{おわりに}

本稿では，テキスト中の時間情報を網羅的にアノテーションするための
新しいタグ付け基準について述べた．
従来研究よりも広範な表現をアノテーション対象とし，
また表現力豊かな時間タグを導入した．
京都大学テキストコーパス中の113文書に対してアノテーションを行った結果，
76\%の表現が時間性をもつと判断され，
そのうちの35\%（全体の26\%）に本稿で新たに提案された時間タグが付与された．
本研究で付与した時間情報を，時間性・事象の時間的長さ・
事象の発生時期の3つの観点から推定するモデルを構築した．
各精度はF値において90\%，61\%，49\%であった．


本研究では，新聞記事を対象にアノテーションを行ったが，
新聞特有の書き方や性質がアノテーションの揺れの原因
の1つになっていると考えられる．
今後は，Webなど新聞以外のコーパスでの
アノテーションを試みたい．

また，本研究では時間表現に対するアノテーションは行っていない．
これは，日本語時間表現に対するアノテーションにおける
アノテータ間一致度は高いことが\cite{konishi:13}により報告されており，
時間表現に対する解釈が揺れて事象に対するアノテーションに影響を
及ぼすことは少ないと考えたからである．
しかし，時間情報解析器を構築する上では有益な情報になると考えられるため，
今後は時間表現にもアノテーションを行い，より充実した時間情報コーパスにしていきたい．


\acknowledgment
本研究の一部はJST CREST JPMJCR1301，AIPチャレンジ
の助成によるものです．
また本論文の内容の一部は，
11th edition of the Language Resources and Evaluation Conference
    で発表したものです\cite{Sakaguchi2018}．

アノテーションにご協力いただいた
石川真奈見氏，堀内マリ香氏，二階堂奈月氏に感謝いたします．
また，時間情報推定モデルに関して有益なコメントをくださった
柴田知秀氏に感謝いたします．



\bibliographystyle{jnlpbbl_1.5}
\begin{thebibliography}{}

\bibitem[\protect\BCAY{Asahara, Kato, Konishi, Imada, \BBA\ Maekawa}{Asahara
  et~al.}{2014}]{BCCWJ-TimeBank:14}
Asahara, M., Kato, S., Konishi, H., Imada, M., \BBA\ Maekawa, K. \BBOP
  2014\BBCP.
\newblock \BBOQ BCCWJ-TimeBank: Temporal and Event Information Annotation on
  Japanese Text.\BBCQ\
\newblock {\Bem International Journal of Computational Linguistics \& Chinese
  Language Processing}, {\Bbf 19}  (3), \mbox{\BPGS\ 1--24}.

\bibitem[\protect\BCAY{Asakura, Hangyo, \BBA\ Komachi}{Asakura
  et~al.}{2016}]{asakura-hangyo-komachi:2016:WNUT}
Asakura, Y., Hangyo, M., \BBA\ Komachi, M. \BBOP 2016\BBCP.
\newblock \BBOQ Disaster Analysis using User-Generated Weather Report.\BBCQ\
\newblock In {\Bem Proceedings of the 2nd Workshop on Noisy User-generated Text
  (WNUT)}, \mbox{\BPGS\ 24--32}, Osaka, Japan. The COLING 2016 Organizing
  Committee.

\bibitem[\protect\BCAY{Cassidy, McDowell, Chambers, \BBA\ Bethard}{Cassidy
  et~al.}{2014}]{cassidy:TimeBankDenseCorpus:2014}
Cassidy, T., McDowell, B., Chambers, N., \BBA\ Bethard, S. \BBOP 2014\BBCP.
\newblock \BBOQ An Annotation Framework for Dense Event Ordering.\BBCQ\
\newblock In {\Bem Proceedings of the 52nd Annual Meeting of the Association
  for Computational Linguistics (Volume 2: Short Papers)}, \mbox{\BPGS\
  501--506}, Baltimore, Maryland. Association for Computational Linguistics.

\bibitem[\protect\BCAY{Chung, Gulcehre, Cho, \BBA\ Bengio}{Chung
  et~al.}{2014}]{GRU2014}
Chung, J., Gulcehre, C., Cho, K., \BBA\ Bengio, Y. \BBOP 2014\BBCP.
\newblock {\Bem Empirical Evaluation of Gated Recurrent Neural Networks on
  Sequence Modeling}.

\bibitem[\protect\BCAY{Hayes \BBA\ Krippendorff}{Hayes \BBA\
  Krippendorff}{2007}]{hayes:Krippendorffalpha:07}
Hayes, A.~F.\BBACOMMA\ \BBA\ Krippendorff, K. \BBOP 2007\BBCP.
\newblock \BBOQ Answering the Call for a Standard Reliability Measure for
  Coding Data.\BBCQ\
\newblock {\Bem Communication Methods and Measures}, {\Bbf 1}  (1),
  \mbox{\BPGS\ 77--89}.

\bibitem[\protect\BCAY{Huang, Cases, Jurafsky, Condoravdi, \BBA\ Riloff}{Huang
  et~al.}{2016}]{huang:EventStatusCorpus:16}
Huang, R., Cases, I., Jurafsky, D., Condoravdi, C., \BBA\ Riloff, E. \BBOP
  2016\BBCP.
\newblock \BBOQ Distinguishing Past, On-going, and Future Events: The
  EventStatus Corpus.\BBCQ\
\newblock In {\Bem Proceedings of the 2016 Conference on Empirical Methods in
  Natural Language Processing}, \mbox{\BPGS\ 44--54}. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Kawahara, Kurohashi, \BBA\ Hasida}{Kawahara
  et~al.}{2002}]{kawahara:KUCorpus:02}
Kawahara, D., Kurohashi, S., \BBA\ Hasida, K. \BBOP 2002\BBCP.
\newblock \BBOQ Construction of a Japanese Relevance-tagged Corpus.\BBCQ\
\newblock In {\Bem Proceedings of the 3rd International Conference on Language
  Resources and Evaluation (LREC-2002)}, Las Palmas, Canary Islands---Spain.
  European Language Resources Association (ELRA).

\bibitem[\protect\BCAY{Kolomiyets, Bethard, \BBA\ Moens}{Kolomiyets
  et~al.}{2012}]{kolomiyets12}
Kolomiyets, O., Bethard, S., \BBA\ Moens, M.-F. \BBOP 2012\BBCP.
\newblock \BBOQ Extracting Narrative Timelines as Temporal Dependency
  Structures.\BBCQ\
\newblock In {\Bem Proceedings of the 50th Annual Meeting of the Association
  for Computational Linguistics, Jeju, Republic of Korea, 8-14 July 2012},
  \mbox{\BPGS\ 88--97}. ACL.

\bibitem[\protect\BCAY{小西\JBA 浅原\JBA 前川}{小西 \Jetal }{2013}]{konishi:13}
小西光\JBA 浅原正幸\JBA 前川喜久雄 \BBOP 2013\BBCP.
\newblock 『現代日本語書き言葉均衡コーパス』に対する時間情報アノテーション.\
\newblock \Jem{自然言語処理}, {\Bbf 20}  (2), \mbox{\BPGS\ 201--221}.

\bibitem[\protect\BCAY{Krippendorff}{Krippendorff}{2004}]{krippendorff04}
Krippendorff, K. \BBOP 2004\BBCP.
\newblock {\Bem Content Analysis: An Introduction to Its Methodology (second
  edition)}.
\newblock Sage Publications.

\bibitem[\protect\BCAY{Minard, Speranza, Agirre, Aldabe, van Erp, Magnini,
  Rigau, \BBA\ Urizar}{Minard et~al.}{2015}]{SemEval15-4}
Minard, A.-L., Speranza, M., Agirre, E., Aldabe, I., van Erp, M., Magnini, B.,
  Rigau, G., \BBA\ Urizar, R. \BBOP 2015\BBCP.
\newblock \BBOQ SemEval-2015 Task 4: TimeLine: Cross-Document Event
  Ordering.\BBCQ\
\newblock In {\Bem Proceedings of the 9th International Workshop on Semantic
  Evaluation (SemEval 2015)}, \mbox{\BPGS\ 778--786}, Denver, Colorado.
  Association for Computational Linguistics.

\bibitem[\protect\BCAY{Pustejovsky, Hanks, Saur{\'i}, See, Gaizauskas, Setzer,
  Radev, Beth~Sundheim, Ferro, \BBA\ Lazo}{Pustejovsky
  et~al.}{2003}]{pustejovsky:TimeBankCorpus:03}
Pustejovsky, J., Hanks, P., Saur{\'i}, R., See, A., Gaizauskas, R., Setzer, A.,
  Radev, D., Beth~Sundheim, D.~D., Ferro, L., \BBA\ Lazo, M. \BBOP 2003\BBCP.
\newblock \BBOQ The TIMEBANK Corpus.\BBCQ\
\newblock In {\Bem Proceeding Corpus Linguistics 2003}, \mbox{\BPGS\ 647--656}.

\bibitem[\protect\BCAY{Reimers, Dehghani, \BBA\ Gurevych}{Reimers
  et~al.}{2016}]{reimers:EventTimeCorpus:2016}
Reimers, N., Dehghani, N., \BBA\ Gurevych, I. \BBOP 2016\BBCP.
\newblock \BBOQ Temporal Anchoring of Events for the TimeBank Corpus.\BBCQ\
\newblock In {\Bem Proceedings of the 54th Annual Meeting of the Association
  for Computational Linguistics (Volume 1: Long Papers)}, \mbox{\BPGS\
  2195--2204}, Berlin, Germany. Association for Computational Linguistics.

\bibitem[\protect\BCAY{Sakaguchi, Kawahara, \BBA\ Kurohashi}{Sakaguchi
  et~al.}{2018}]{Sakaguchi2018}
Sakaguchi, T., Kawahara, D., \BBA\ Kurohashi, S. \BBOP 2018\BBCP.
\newblock \BBOQ Comprehensive Annotation of Various Types of Temporal
  Information on the Time Axis.\BBCQ\
\newblock In {\Bem Proceedings of the 11th Edition of its Language Resources
  and Evaluation Conference}, \mbox{\BPGS\ 332--338}, Miyazaki, Japan.

\bibitem[\protect\BCAY{Sauri, Littman, Gaizauskas, Setzer, \BBA\
  Pustejovsky}{Sauri et~al.}{2006}]{Sauri06timemlannotation}
Sauri, R., Littman, J., Gaizauskas, R., Setzer, A., \BBA\ Pustejovsky, J. \BBOP
  2006\BBCP.
\newblock \BBOQ TimeML Annotation Guidelines, Version 1.2.1.\BBCQ.

\bibitem[\protect\BCAY{UzZaman, Llorens, Derczynski, Allen, Verhagen, \BBA\
  Pustejovsky}{UzZaman et~al.}{2013}]{TempEval-3}
UzZaman, N., Llorens, H., Derczynski, L., Allen, J., Verhagen, M., \BBA\
  Pustejovsky, J. \BBOP 2013\BBCP.
\newblock \BBOQ SemEval-2013 Task 1: TempEval-3: Evaluating Time Expressions,
  Events, and Temporal Relations.\BBCQ\
\newblock In {\Bem 2nd Joint Conference on Lexical and Computational Semantics
  (*SEM), Volume 2: Proceedings of the Seventh International Workshop on
  Semantic Evaluation \mbox{(SemEval 2013)}}, \mbox{\BPGS\ 1--9}. Association
  for Computational Linguistics.

\bibitem[\protect\BCAY{Verhagen, Gaizauskas, Schilder, Hepple, Katz, \BBA\
  Pustejovsky}{Verhagen et~al.}{2007}]{TempEval-1}
Verhagen, M., Gaizauskas, R., Schilder, F., Hepple, M., Katz, G., \BBA\
  Pustejovsky, J. \BBOP 2007\BBCP.
\newblock \BBOQ SemEval-2007 Task 15: TempEval Temporal Relation
  Identification.\BBCQ\
\newblock In {\Bem Proceedings of the 4th International Workshop on Semantic
  Evaluations (SemEval-2007)}, \mbox{\BPGS\ 75--80}. Association for
  Computational Linguistics.

\bibitem[\protect\BCAY{Verhagen, Sauri, Caselli, \BBA\ Pustejovsky}{Verhagen
  et~al.}{2010}]{TempEval-2}
Verhagen, M., Sauri, R., Caselli, T., \BBA\ Pustejovsky, J. \BBOP 2010\BBCP.
\newblock \BBOQ SemEval-2010 Task 13: TempEval-2.\BBCQ\
\newblock In {\Bem Proceedings of the 5th International Workshop on Semantic
  Evaluation}, \mbox{\BPGS\ 57--62}. Association for Computational Linguistics.

\end{thebibliography}


\begin{biography}
\bioauthor{坂口　智洋}{
2013年東京大学理学部生物情報科学科卒業．
2015年京都大学大学院情報学研究科修士課程修了．
同大学院博士課程在学中．修士（情報学）．
自然言語処理の研究に従事．
}
\bioauthor{河原　大輔}{
1997年京都大学工学部電気工学第二学科卒業．1999年同大学院修士課程修了．
2002年同大学院博士課程単位取得認定退学．東京大学大学院情報理工学系研究
科学術研究支援員，独立行政法人情報通信研究機構研究員，同主任研究員を経
て，2010年より京都大学大学院情報学研究科准教授．自然言語処理，知識処理
の研究に従事．博士（情報学）．情報処理学会，言語処理学会，人工知能学会，
電子情報通信学会，ACL，各会員．
}
\bioauthor{黒橋　禎夫}{
1994年京都大学大学院工学研究科電気工学第二専攻博士課程修了．博士（工
学）．2006年4月より京都大学大学院情報学研究科教授．自然言語処理，知識情
報処理の研究に従事．言語処理学会10周年記念論文賞，同20周年記念論文賞，
第8回船井情報科学振興賞，2009 IBM Faculty Award等を受賞．
2014年より日本学術会議連携会員．
}

\end{biography}


\biodate



\end{document}
