\documentclass[japanese,other]{jnlp_3.3}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{hangcaption_jnlp}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul
\allowdisplaybreaks

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition
%%%%\usepackage{multirow}
%%%%\usepackage{tikz}
%%%%\usetikzlibrary{shapes.geometric, positioning, shapes, fit, arrows, backgrounds}
\renewcommand\UrlFont{\rmfamily}
\newcommand{\event}{event semantics}
\newcommand{\degree}{degree semantics}
\newcommand{\PredicateFont}[1]{\mathsf{#1}}
\newcommand{\LF}[1]{\ensuremath{\PredicateFont{#1}}}
\newcommand{\fun}[2]{\ensuremath{\PredicateFont{#1}({#2})}}
\newcommand{\funt}[3]{\ensuremath{\PredicateFont{#1}({#2},{#3})}}
\newcommand{\subj}[2]{\ensuremath{\PredicateFont{subj}(#1) = {#2}}}
\newcommand{\acc}[2]{\ensuremath{\PredicateFont{obj}(#1) = {#2}}}
\newcommand{\posth}[1]{\ensuremath{\theta_{\LF{#1}}}}
\newcommand{\LabelYes}{\textit{yes}}
\newcommand{\LabelUnk}{\textit{unknown}}
\newcommand{\LabelNo}{\textit{no}}
\usepackage{gb4e}
\noautomath
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\Volume{28}
\Number{2}
\Month{June}
\Year{2021}
%%%%\Issuetitle{「　　　　」特集号}


\setcounter{page}{726}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{学会記事}
\jtitle{Combining Event Semantics and Degree Semantics \\for Natural Language Inference}
\jauthor{春田　和泉\affiref{Author_1}}
\etitle{Combining Event Semantics and Degree semantics for Natural Language Inference}
\eauthor{Izumi Haruta\affiref{Author_1}} 

\headauthor{春田}
\headtitle{Combining Event Semantics and Degree Semantics}

\affilabel{Author_1}{お茶の水女子大学}{Affiliation-1 Ochanomizu university}



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{はじめに}

2020年4月，私は修士2年に進級した．
その頃，
新型コロナウイルスの影響により東京に緊急事態宣言が発令された．
表題の論文\cite{haruta-etal-2020-combining}は，
そのような状況下で打ち込んだ研究の一つである．

本研究の大きな目標は，
理論言語学（特に形式意味論）と計算言語学を接合する枠組みを提供することである．
周知の通り，この二つの分野は近いようで遠く，
現在では両方を組み合わせた研究はあまり見られない．
幸い私が所属する戸次研究室では，
この二つを融合させた研究が盛んに行われている．
その中で，私は主に英語の数量・比較表現という意味論的に複雑な言語現象に焦点を当てた研究に取り組んだ．
具体的には，形式意味論に基づく理論を拡張・実装し，
自然言語推論 (Natural Language Inference; NLI)
を用いて理論の正当性の検証を行う．
NLIとは，ある前提がある仮説を含意するかどうかを判定するタスクのことである．
本研究では，
前提文と仮説文を組合せ範疇文法(CCG)に基づくパーサ\cite{yoshikawa-etal-2017-ccg}を介して論理式に変換し，
定理証明を行うことで含意関係を判定する．

しかし，今回対象にしている数量・比較表現は量化子，数詞，反意語など，他の言語現象と相互作用するという点で構造的に複雑であり，実装や評価はそう簡単ではなかった．
そこで，はじめは
前提文と仮説文の構文解析をパーサで行わず，
人手で作成した理想的な構文木を入力とした
推論システムを構築した \cite{haruta2019:paclic}．
その後，
構文木の変換ツールを用いて，パーサの出力を形式意味論が仮定する統語構造に合った構文木に変換させることで，
パーサと接合した推論システムに拡張した\cite{haruta-etal-2020-logical}．
このシステムは
\degree という
枠組みに基づき，
従来システム\cite{mineshima2015higher}で扱える基本的な言語現象に加えて，
数量表現 (e.g., 4 feet) や
比較表現 (e.g., John is taller than Bob) などの多様な表現を扱える．

ただ，
\degree は形容詞や比較表現を対象にしており，
副詞や時制などといった他の言語現象を扱うためには別の理論
が必要となる．
特に，形式意味論・計算言語学では副詞などの現象を扱うために\event が中心的に研究されているが，この理論を\degree と
どう結びつけるのかはそれほど自明ではない．
従来の形式意味論では，
それぞれの理論が得意とする個々の現象については深い考察がされてきたが，複数の理論が必要となる現象についてはあまり研究されてこなかったという経緯がある．
では，\event と\degree という二つの意味論的枠組みの相互作用に着目し，
副詞の比較表現(e.g., Ann ran faster than Emi)について分析してみるのはどうだろうか．
このようにして，本論文における着想を得た．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{\event と\degree の組み合わせ}

形式意味論において，\event はイベントという概念を用いて，
動詞や副詞を分析するための理論として発展してきた．
一方で，\degree は程度 (degree)という概念が用いられる．
\event と\degree を組み合わせるということは，
この二つの概念を組み合わせた意味表示を考えるということである．
ここでは，その方法について簡単に述べる．

通常，tallやshortのような段階的形容詞はentityのみを引数にとる一項述語として扱われるが，
\degree では，(\ref{ex:adj}b)
のようにentityとdegreeの二つを引数にとる二項述語として扱われる． 例えば，(\ref{ex:adj}b)は「Johnの背の高さはある閾値\posth{tall} と同じくらいである」ということを意味する．

\vspace{0.5\Cvs}
\begin{minipage}{.6\textwidth}
\begin{exe}
\ex \label{ex:adj}
\begin{xlist}
\ex John is tall.
\ex $\funt{tall}{\LF{john}}{\posth{tall}}$
\end{xlist}
\end{exe}
\end{minipage}
\hfill
\begin{minipage}{147pt}
\includegraphics{28-2ia30f2-1.pdf}
\end{minipage}
\vspace{0.5\Cvs}

一方，event semanticsでは, (\ref{ex:adv}a)は
(\ref{ex:adv}b)として分析される．
ここでは，副詞が動詞と同じイベント$e$を共有することで，
「Johnが走ったというイベント$e$が存在し，
$e$の主語はJohnで，$e$はslowという属性である
」ということを意味する．

\vspace{0.5\Cvs}
\begin{minipage}{.6\textwidth}
\begin{exe}
\ex \label{ex:adv}
\begin{xlist}
\ex John ran slowly.
\ex $\exists e (\fun{run}{e} \wedge (\subj{e}{\LF{john}}) \wedge \fun{slowly}{e})$
\ex $\exists e (\fun{run}{e} \wedge (\subj{e}{\LF{john}}) \wedge \underline{\funt{slowly}{e}{\posth{slow}}})$
\end{xlist}
\end{exe}
\end{minipage}
\hfill
\begin{minipage}{147pt}
\includegraphics{28-2ia30f2-2.pdf}
\end{minipage}
\vspace{0.5\Cvs}

\noindent
この二つを統一的に扱うために，
副詞の述語の引数をeventとdegreeの二つに拡張し，
degreeという概念を導入した．
すると，閾値\posth{slow}
を用いて，
(\ref{ex:adv}b)
は
(\ref{ex:adv}c)
に書き換えられる．

では，副詞の比較表現はどう分析されるのか．
\degree
では，A-not-A分析\cite{klein1982interpretation}と呼ばれる比較表現のための分析を用いて，(\ref{ex:adjcom}a)には(\ref{ex:adjcom}b)が割り当てられる．
ここでは，(\ref{ex:adjcom}a)は「Annは満たすが，Bobは満たさないような二者の間にある高さの程度$\delta$が存在する」という意味として分析される．
A-not-A分析を用いると，
多様な比較表現の意味を一階述語論理の範囲内で簡単に表現できる（詳細は\citeA{haruta2019:paclic}を参照）．

\vspace{0.5\Cvs}
\begin{minipage}{.45\textwidth}
\begin{exe}
\ex \label{ex:adjcom}
\begin{xlist}
\ex Ann is taller than Bob.
\ex $\exists \delta(\funt{tall}{\LF{ann}}{\delta} \wedge \neg \funt{tall}{\LF{bob}}{\delta})$
\end{xlist}
\end{exe}
\end{minipage}
\hfill
\begin{minipage}{210pt}
\includegraphics{28-2ia30f2-3.pdf}
\end{minipage}
\vspace{0.5\Cvs}

一方，\event では，
(\ref{ex:advcom}a)のような
副詞fastの比較級fasterが含まれる文にどのような論理式を割り当てるべきか自明ではない．
そこで，原級の場合と同様に副詞の述語fastを二項述語として扱い，(\ref{ex:advcom}a)にもA-not-A分析を適用させた．
すると(\ref{ex:advcom}a)には(\ref{ex:advcom}b)が割り当てられ，「イベント $e_1$は満たすが，$e_2$は満たさないような速さの程度$\delta$が存在する」という意味として分析される．
ここでは，AnnとBobが走ったというイベント$e_1$と$e_2$に関して，副詞fastが伴う程度の差についてA-not-A分析で表現されている．
\begin{exe}
    \ex \label{ex:advcom}
    \begin{xlist}
        \ex Ann ran faster than Bob.
        \ex \small $\exists e_1 \exists e_2(\fun{run}{e_1} \wedge (\subj{e_1}{\LF{ann}}) \wedge \fun{run}{e_2} \wedge (\subj{e_2}{\LF{bob}}) \wedge \exists \delta(\funt{fast}{e_1}{\delta} \wedge \neg\funt{fast}{e_2}{\delta}))$
    \end{xlist} 
\end{exe}
このようにして，
\event におけるイベントと\degree における程度という二つの概念を組み合わせた理論を新たに構築することで，
形容詞や副詞を伴う様々な構文に統一的に適切な論理式を割り当てた．
また，文から論理式へのマッピングは，
形容詞の比較構文のための理論と同じように扱うことができる．
以上の分析を用いて，例えば，
二つの前提``John ran faster than 25 MPH''と
``Ken ran more slowly than 15 MPH''が
仮説``John ran less fast than Ken''と矛盾するといった複雑な推論を正しく導出できる．
さらに本論文では，
monotonicityという特性を伴う一般化量化子の分析や 
語彙知識の挿入による公理補完の実装も行い，
より頑健な推論システムに拡張させた．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{組み合わせた理論の評価・検証}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% fig. 1
\begin{figure}[t]
\begin{center}
\includegraphics{28-2ia30f1.pdf}
\end{center}
\hangcaption{%
FraCaS, MED, SICK, HANS, CAD+による本システムと既存システムの精度．FraCaSは，Generalized Quantifiers (\textsl{GQ}), Adjectives (\textsl{Adj}), Comparatives (\textsl{Com}), Attitudes (\textsl{Att})の4つのセクションを使用．MEDは，一般化量化子(\textsl{gq})と語彙知識が必要な推論(\textsl{gqlex})に分割して精度を算出した．CAD+は追加した問題を\textsl{MA}とする．各グラフの点線は，データセットのラベル分布で最頻ラベルの割合を表す．}
\label{fig:results}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

この理論を\citeA{haruta-etal-2020-logical}による推論システムと組み合わせて，NLIの多様なデータセットによって
(i)論理推論と(ii)語彙知識との相互作用を扱う能力を評価した． 
(i)については，
形容詞や数量・比較表現などの複雑な推論を含むFraCaS \cite{cooper1994fracas}とCAD \cite{haruta-etal-2020-logical}を用いた．
さらに，
CADには副詞の表現を用いた論理推論105問を追加し，評価に使用した．
(ii)については，
monotonicity推論や語彙知識の問題を含むMED \cite{yanaka-etal-2019-neural}やSICK \cite{marelli-etal-2014-sick}を用いた．
さらに，深層学習に基づくNLIモデルの能力を探るために構築された
HANS \cite{mccoy-etal-2019-right}も使用した．

これら5つのデータセットによる精度を図\ref{fig:results}に示す．
ここでは，深層学習に基づくシステムとして，
MultiNLI \cite{N18-1101}で訓練された最新モデルRoBERTa \cite{Liu2019RoBERTaAR} (\texttt{RB})と，
論理に基づく既存システムとして，
\citeA{mineshima2015higher} (\texttt{MN})による精度をそれぞれ示す．
また，HANSは
深層学習に基づくシステムが誤って{\LabelYes}を出力しやすい推論が多く含まれているため \cite{mccoy-etal-2019-right}，
二値の正解ラベル{\LabelYes}, {\LabelUnk}ごとに
精度を比較し，両手法を用いたシステムがどのように機能するかを確認した．
本システムは，
両手法に基づく既存システムと比較しても
同等か，もしくはそれ以上の精度を達成することができた（詳細は論文3節を参照）．
さらに，数量・比較表現だけでなく，他の複雑な言語現象を含むSICKやHANSにおいても高い正答率を達成でき，
組み合わせた理論が数量・比較表現以外の表現とも互換性があることを確認できた．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}

2020年7月，COLING2020への投稿を終えても
新型コロナウイルスは世界的に広まっていた．
ただ，この自粛期間で研究は驚くほど進み，
学生最後の1年間は研究に注いだといっても過言ではない気がする．
残念に思うことは，現地で登壇発表
する機会が失われてしまったことである．
当日は日本時間の早朝3時（！）に自宅のPCの前で，3分間のプレゼン発表を行うだけで終わってしまった．
ただ，その代わりに，
発表は事前録画で何度も撮り直しができたことや
チャットを使って専門の方々と落ち着いて議論を交わすことができたことは良かったかもしれない．
スペインでパエリアを食べられなかったため，
代わりに東京で秋刀魚のパエリアを食べた．
いつかまた海外に行けるようになった頃に，
より人間の推論能力を模倣する頑強なシステムを提案してリベンジしたい．そして本場のパエリアをたらふく堪能したい．


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.6}
\begingroup
\addtolength{\baselineskip}{-0.5pt}
\bibliography{30refs}
\endgroup

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}

\bioauthor{春田　和泉}{%
2019年お茶の水女子大学理学部情報科学科卒業．
2021年お茶の水女子大学人間文化創成科学研究科理学専攻情報科学コース博士前期課程修了．現在，株式会社 NTT ドコモに所属．
}

\end{biography}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%%\biodate



\end{document}



