\documentclass[japanese,other]{jnlp_3.8}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{array}
\allowdisplaybreaks

\usepackage{hangcaption_jnlp}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
%%%% author's definition

\usepackage{pxrubrica}
%%%%%\graphicspath{ {./images/} }
%%%%%\usepackage{caption}
%%%%%\usepackage{subcaption}
%%%%%\usepackage{forest}
%%%%%\usepackage{booktabs}
\usepackage{mathtools}
\usepackage{enumitem}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%

\Volume{32}
\Number{1}
\Month{March}
\Year{2025}
%%%%\Issuetitle{「　　　　」特集号}



\setcounter{page}{372}



%%%%   タイトル部分                                      %%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\jsubject{学会記事}
\jtitle{計算心理言語学の新地平開拓の試み：\\効率的なコミュニケーション仮説の検証}
\jauthor{梶川　康平\affiref{Author_1}\affiref{Author_2}} 


\etitle{Exploring New Frontiers in Computational Psycholinguistics: Testing the Efficient Communication Hypothesis}
\eauthor{Kohei Kajikawa\affiref{Author_1}\affiref{Author_2}}
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\headauthor{梶川}
\headtitle{計算心理言語学の新地平開拓の試み：効率的なコミュニケーション仮説の検証}



%%%% 所属を指定して下さい．
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\affilabel{Author_1}{東京大学}{The University of Tokyo}
\affilabel{Author_2}{国立国語研究所}{NINJAL}




%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\maketitle



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
本稿では，CoNLL 2024にてBest Paper Awardを受賞した研究``Is Structure Dependence Shaped for Efficient Communication?: A Case Study on Coordination'' \fullcite{kajikawa-etal-2024-structure}について，解説する．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S1
\section{言語の普遍性の起源はコミュニケーションか？}
自然言語には数多くの普遍的な現象が存在するが，それらが\kenten{なぜ}存在するのか解明することは言語学・認知科学の主題の1つである．
これまでに様々な提案・議論がなされてきているが，そのうちの1つの説明として，「普遍性は\emph{効率的なコミュニケーション}の実現の結果である」というものがある \cite{jaeger-tily-2011,kemp-etal-2018,gibson-etal-2019,fedorenko-etal-2024}．
効率的なコミュニケーションとは，たとえば，人間の認知制約のもと，「伝わる意図・情報が最大化されている一方，使用コストが最小化されている状況」のことを指す．
情報伝達性 (informativeness) と単純性 (simplicity) にはトレードオフがあり\footnote{ここでの\emph{informativeness}とは「ある言語表現の入力に対して，それが意味・意図しているところがどれだけ伝わるのか」というものなので，専門用語としては\emph{informativeness}が定着してきているが，\citeA{piantadosi-etal-2012}の\emph{clarity}の方が正確な表現かもしれない．同様に，\emph{simplicity}についても，何についての単純さなのか不明瞭なので，これもまた\citeauthor{piantadosi-etal-2012}の\emph{ease}のほうが良いかもしれない．が，残念ながら，いまの私には定着しつつある用語に逆らうほどの力はないので，本稿では引き続き\emph{simplicity/informativeness}を使う．}，こうしたトレードオフのもとで，我々の言語はその（ほとんど）最適解として形作られているのだ，という仮説である．
要は，言語を領域一般の認知能力に帰して説明しようとしているのである．

この\emph{効率的なコミュニケーション仮説} (Efficient Communication hypothesis) は，(i) 単純性・情報伝達性の定量化を可能にする（心理言語学研究における）情報理論の進展，(ii) 大規模言語資源の整備，(iii) 汎用的で高性能な言語処理モデルの登場，を踏まえ，その計算機上での定量的な仮説検証という方法論が確立されつつある．
そして，言語の普遍性を\kenten{どこまで}説明できるのか，現在も研究の対象領域が拡大中である．
もちろん，これまでも言語構造とコミュニケーションの関係については主に機能主義の言語学者による定性的な説明は多くあったが，定量的な分析について，ようやく計算（心理）言語学者の出番が回ってきた状況である．
これまでの研究では，単語のレベルでは様々な領域での説明に成功しており \cite[among others]{kemp-regier-2012,piantadosi-etal-2012,zaslavsky-etal-2018,steinert-threlkeld-2021}，
文法のレベルでも，同仮説から合成性 \cite{kirby-etal-2015}や（一部の）語順普遍 \cite{hahn-etal-2020}の説明はなされている．
では，要素の結合や線形順序に関する知識を超えた，もう一歩「深い」構造に関する文法知識についても，使用のしやすさの観点から説明できるのであろうか．



%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S2
\section{研究の概要：言語の構造依存性は効率性から来るのか？}
言語の文法は単に階層的な構造をなすだけではなく，その階層構造を直接変形する操作を備えているということは，現代の理論言語学の創始以来主張されている \cite{chomsky-1957}．
文法内には単語の線形順序ではなく構造に依存した操作がある．
こういった性質を\emph{構造依存性} (structure dependence) と呼び，かねてより「人間言語の本質かつ，\emph{領域固有}の言語能力によって説明されるべきで，コミュニケーション（言語使用）には還元され得ない」とも主張されてきた \cite{everaert-etal-2015,berwick-chomsky-2016}．
この立場において，統語的性質は，言語使用とは分離された理想化された言語知識における，構造の導出過程での\emph{効率的な計算} (efficient computation) によって規定されているとされる \cite{hauser-etal-2002}．
では，構造依存性のような「深い」言語構造に関する知識は，本当に，コミュニケーション，すなわち，\emph{領域一般}の認知能力に還元できないものなのであろうか．

構造依存性の例として，等位接続構造がある．
例えば英語の\textit{and}は，同じ品詞の単語・句同士ならどの品詞でも接続することができる．
これは，図\ref{fig:coordinate_reduction}に示すように，文レベルの等位接続から，構造依存な縮約操作によって導出されると伝統的に説明されてきた \cite{chomsky-1957}．
文全体のうちどの部分が省略されるかは，その線形順序ではなく\kenten{構造上の位置}によって決まる．



%%%%%%%%%%%%%%%%%%%%%%%%%F1
\begin{figure}[b]
\begin{center}
\includegraphics{32-1ia37f1.eps}
\end{center}
    \hangcaption{等位接続 (b) は，構造依存な縮約操作である等位接続縮約 (Conjunction Reduction) が文レベルの等位接続文 (a) に適用されて導出される．}
    \label{fig:coordinate_reduction}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%%



構造依存性と言語のコミュニケーションの効率性の関係を調べるため，我々は，構造依存な縮約操作が存在する言語と\kenten{存在しない}反事実的 (counterfactual) な言語を設計し，それらの効率性を測った．
具体的に，以下の3種類の人工言語を設計した（以下，``\_'' は単語が省略されたことを示す．）：
%%%%%
\begin{enumerate}[label=(\roman*)]
    \item \texttt{no-reduction}言語：縮約操作がなく，文レベルの等位接続のみ可能．例：\textit{Mary called John and Mary praised John.}
    \item \texttt{structure-reduction}言語：構造依存な縮約操作があり，自然言語と同じ構造を持つ．例：\textit{Mary called \_ and \_ praised John.}
    \item \texttt{linear-reduction}言語：構造依存ではなく\kenten{線形}な縮約操作を持つ．等位接続内で，繰り返し使われた表現を削除する．例：\textit{Mary called John and \_ praised \_.}
\end{enumerate}
%%%%%


コミュニケーションの効率性は単純性と情報伝達性の重み付き和で考える．
単純性・情報伝達性については，\citeA{hahn-etal-2020}に倣い，それぞれ文字列（発話）の負のエントロピー（次単語の平均的な予測のしやすさ；predictability）と，文字列に対してその統語構造の負の条件付きエントロピー（平均的な統語構造の復元のしやすさ；parsability）とした：
%%%%%
\begin{align}
    \text{predictability} &\coloneqq -H(\mathcal{U}) = \sum_{u\in\mathcal{U}} p(u)\log p(u) \\
    \text{parsability} &\coloneqq -H(\mathcal{T}|\mathcal{U}) = \sum_{t\in\mathcal{T},u\in\mathcal{U}}p(t,u)\log p(t|u) \\
    \text{communicative efficiency} &\coloneqq \lambda\text{predictability} + (1-\lambda)\text{parsability}\quad (\lambda\in [0,1])
\end{align}
%%%%%

結果は，図\ref{fig:communicative_efficiency}に示す通りである．
トレードオフ項 \( \lambda \) の変化に対して，ほとんどの場合，構造依存的な縮約操作をもつ\texttt{structure-reduction}言語が，最も効率的であることがわかった．
\( \lambda \) が極めて小さい，または極めて大きいときは\texttt{structure-reduction}言語以外の言語が最も効率的だが，predictabilityかparsabilityの片方のみが過度に重要視されている状況を合理的に想定するのは難しいだろう．
なぜこのような分布になるかについては，\citeA{kajikawa-etal-2024-structure}での議論を参照されたい．
この結果は，言語の構造依存性の存在が，コミュニケーションの効率性の観点から説明できることを示唆している．



%%%%%%%%%%%%%%%%%%%%%%%F2
\begin{figure}[t]
\begin{center}
\includegraphics{32-1ia37f2.eps}
\end{center}
\hangcaption{3つの言語のコミュニケーションの効率性の分布．\textit{x}軸と\textit{y}軸はそれぞれトレードオフ項 \( \lambda \) とコミュニケーションの効率性を表す．\( \lambda \) の変化に対して，ほとんどの場合，\texttt{structure-reduction}言語が最も効率的である．図は \protect\citeA{kajikawa-etal-2024-structure} のFigure 3より．}
    \label{fig:communicative_efficiency}
\end{figure}
%%%%%%%%%%%%%%%%%%%%%%%%%%


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S3
\section{執筆までの経緯，そして向かう先は}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S3.1
\subsection{この問題に行き着くまで}
私は学部の卒業論文のころから，文理解の研究を行ってきた．
文の意味がわかるには，その背後にある統語構造を把握しないといけない．
そして，人間は文の意味を逐次的に理解しているので，統語構造も逐次的に構築されているはずである．
では，どのような形の統語構造がどのような手順で構築されているのか．
この問題に取り組むのに，\emph{組合せ範疇文法} (CCG) \cite{steedman-2000}は大変魅力的な文法理論であった．
というのも，言語現象の記述を（多くの場合）適切にできる上，逐次的な構文解析も計算機で実装できるレベルの厳密性で実現できる．
CCGでの文理解の研究を進めるにつれ \cite{kajikawa-etal-2024-cogsci}，人間言語の文法は，なんだか逐次的な文処理がしやすいように「設計」されているのだと感じるようになった\footnote{たとえば，CCGの関数合成や型繰り上げは，非構成素等位接続や長距離依存といった統語現象を導出するために提案された文法操作である．そしてこれら操作は，幸いにも逐次的な構造構築を可能にするので，CCGは特段の仮定を設けることなく文処理の理論として用いることができる．では逆に，実は言語は逐次性がその本質であり，それを実現する文法操作を導入すると必然的に現象の記述もできると考えたらどうか．すなわち，言語の文法は，人間の記憶制約のもとで逐次性によって形作られ，関数合成や型繰り上げが捉えている性質を備え，その結果として導出可能な範囲内の構文が形成されたのではないか．と，考えている．}．逐次的な処理が言語構造を形作っているのだ，という主張はこれまでにも存在したものの \cite<e.g.,>{hawkins-1994,christiansen-chater-2016}，「使用の効率性」の評価指標，そして計算機上での実験手法がいままさに揃って検証可能であることに気がつき，手をつけることにした．

CCGを用いた研究から発展した最初の問いは，「なぜ自然言語の文法は\emph{弱文脈依存} (mildly context-sensitive) クラスに収まるのか？」というものだった．
弱文脈依存文法とは，生成力が文脈自由文法以上，文脈依存文法以下であるクラスを指す \cite{joshi-1985}．
この概念は，言語現象の記述や構文解析において非常に有用であるが，90年代以降，研究は下火になっている．
特に，心理言語学の観点からの分析があまりないが，その理由は，人間の文処理における「複雑さ」と形式言語学における「複雑さ」が必ずしも一致しないためと考えられる．
このため，心理言語学の観点からの再評価が必要だと感じており，具体的には，形式言語で「最悪のケース」に焦点を当てるのではなく，逐次的な文処理における「平均的なコスト」と言語表現の幅が広がる「報酬」のトレードオフを考慮すべきだと考えている．
現時点ではこれを具体的な検証手法に落とし込むことができていないが，代わりに，形式的な厳密性は若干欠けるものの，50年代から提案されている「人間言語は文脈自由文法よりも複雑である」という直感を具体化した概念である\emph{統語変形} (syntactic transformation) に注目した．
その結果，本研究では統語変形がもたらす構造依存性に焦点を当て，研究をまとめるに至った．

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%S3.2
\subsection{次にやるべきこと}


%%%%%
\paragraph{ほかの構文・自然言語データへの拡張}
本研究について話すと，必ず聞かれるのが「等位接続以外の構文はどうなのか」である．
本研究は，効率的なコミュニケーション仮説を構造依存性という観点での議論に持ち込んだはじめての研究であり，最初の一歩として必要十分をやったと自負しているが，今後，調査対象は拡大していかないとならない．
これまでの理論・心理言語学研究を参照して，wh移動，cleft，agreementからかき混ぜなど，様々な現象への展開，また，ツリーバンクを用いた自然言語データでの検証が求められる．

%%%%%
\paragraph{定量化指標の改善}
本研究で用いた単純性と情報伝達性の指標には，改善の余地がある．
たとえば，単純性の指標は，心理言語学において予測のしにくさが人間の文処理コストの要因であることは広く知られているので，「次単語の平均的な予測のしやすさ」とした．
ただ，人間の文処理は短期記憶の影響も受けるが，これは十分に考慮できていない．
また，情報伝達性についても，統語構造という中間表現での定量化をしたが，さらにその上の，意味論・語用論レベルの概念を捉えた定量化が必要であるし，そもそもparsabilityは，その心理的な妥当性の検証が不十分である．

%%%%%
\paragraph{学習可能性との関係}
言語を形作る要因として，コミュニケーションの効率性以外にしばしば言及されるものとして，学習可能性 (learnability) がある．
学習可能性は，言語を形作る圧力として働くのか，それとも単に不可能言語を排除するものか．
もし圧力として働くとして，使用における単純性と情報伝達性の2軸に加えた第3の軸となるのか．
学習可能性の定量化は，現時点では，ベイジアンモデリングを通して，また，コネクショニストとして深層学習モデルの訓練過程を人間の言語獲得のアナロジーとして捉えると方法があるが，今後，心理的に妥当な学習可能性の指標が確立されれば，考慮に入れたいものである．


以上，非常に真面目に我々の研究及び背景について紹介した．
我々の研究において，否定的な結果 (null results) は出版が難しくなるものではあるが，個人的には，「効率的なコミュニケーション」でどうやっても\kenten{説明できない}ところを見つけることが今後の言語学・認知科学研究において極めて重要であると考えているので，今後そのような探索ができればと思っている．



%%% Acknowledgement %%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\acknowledgment
研究のアイディア発案から執筆・発表まで議論に応じてくださいました共著者の窪田悠介先生と大関洋平先生に心よりお礼申し上げます．
また，本稿の執筆機会を与えてくださいました『自然言語処理』編集委員の皆様に感謝申し上げます．



%%% Bibliography %%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\bibliographystyle{jnlpbbl_1.7}
\bibliography{37refs}



%%% Biography %%%
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{biography}
\bioauthor{梶川　康平}{%
2019年 東京大学 教養学部 教養学科卒業．
同大学院 総合文化研究科 言語情報科学専攻 修士課程所属．
国立国語研究所 技術補佐員．
}

\end{biography}


\end{document}





