\documentclass[japanese]{jnlp_3.8}
\usepackage{jnlpbbl_2.2}
\usepackage[dvipdfmx]{graphicx}
\usepackage{amsmath}
\usepackage{amssymb}
\usepackage{url}
\usepackage{hangcaption_jnlp}
%%%%\usepackage{udline}
%%%%\setulminsep{1.2ex}{0.2ex}
%%%%\let\underline=\ul
\allowdisplaybreaks



\Volume{32}
\Number{3}
\Month{September}
\Year{2025}

%%%%\received{2005}{1}{2}
%%%%\revised{2006}{3}{4}
%%%%\rerevised{2006}{5}{6}
%%%%\accepted{2006}{7}{8}

\setcounter{page}{768}

%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
%%%%\maketitle

\begin{center}
\large{AIに言葉を与える私たちの責任}
\end{center}
\vspace{1\baselineskip}


%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
私は自然言語処理の研究者としてキャリアをスタートし，その後ソフトウェア開発の現場を経て，いまは保険会社を中心とする会社のチーフデータオフィサーという立場で実社会におけるAIの活用に関わっています．そして現在はそれに加えて，国のAI安全性を担う組織である「AIセーフティーインスティテュート (AISI)」の所長として，政策と技術のはざまで安全なAIのあり方を模索する日々です．

このように立場を変えながらAIに長く関わってきた中で強く感じているのは「AIに関わるものはAIに責任を持って向き合わなければならない」ということです．2010年代，私は実業の現場でAIを社会に実装する仕事に携わっていましたが，そのとき耳にしたのは女性の差別による採用不利益などの結果が正解データとして使われ，AIが過去の差別構造を再生産するという話でした．自分が関わるAIがそのような「不正義」に加担するのは絶対に避けたい---その想いが，私にとってのAI安全性への出発点でした．もちろん，AIのリスクはデータのバイアスだけではありません．誤情報や偽情報，プライバシー侵害，セキュリティ上の脆弱性など，私たちが直面するリスクは日々多様化しています．とりわけ，2023年以降の生成AIの急速な普及は，これまで想定されていなかった新しいリスクを次々と顕在化させました．

2024年，広島で開催されたG7サミットでは，AIの安全性に関する国際的な行動規範が各国首脳によって合意されました．そこからわずか1年あまりの間に，各国でAI安全性を担う組織が立ち上がりつつあり，AIの安全性は一気に注目されるようになりました．そのAI安全性の世界の議論を日本がリードしてきたことに，私は誇りを感じています．

一方で，AISI所長としてこの1年余りを過ごし，痛感していることがあります．それは「法律を作る人」「AIを開発する人」「リスクを分析する研究者」，それぞれにギャップがあり，同じ方向を向けていないということです．AI技術は驚くべきスピードで進化しており，すべての関係者が同じスピードで技術をキャッチアップすることは困難です．また技術・法律・倫理それぞれの専門家同士での対話も，お互いの専門性の高さがそれを阻害しているというのもあると思われます．

だからこそ，研究者の皆さんに期待したいのです．言語処理に携わる皆さんこそが，現場と社会，技術と制度をつなぐ存在になりうる．AIの安全性を確保することは，決して「ブレーキをかけること」ではありません．それはイノベーションを持続可能なものとし，社会全体に信頼される技術として育てていくための「土台」です．その土台づくりを，AIに関わる私たちは絶対におろそかにしてはならないのです．

最後に，いま世界で起きている変化について少しだけ触れさせてください．AIは，国の力を左右する重要な技術となっています．ある国がAI技術を政治的に敵対する国に提供するのを止めたり，逆に，AIインフラが整っていない国に対して「支援」の名のもとに偏った情報を流し，影響力を行使するといったことも，すでに現実になりつつあります．武力を使わずに影響を広げる，新しいかたちの``見えない戦争''です．

AIの根幹にあるのは「言語」です．そして，私たちはその言語を研究している者たちです．だからこそ，AIが誰かを操作したり傷つけたりするための道具になってしまう未来を，全力で防がなければなりません．AIを，戦争の道具ではなく，人間の自由と尊厳を守るための技術として育てていく．その責任が，私たち一人ひとりにあるのだと思います．


\bigskip
\begin{flushright}
村上明子（SOMPOホールディングス 執行役員常務グループチーフデータオフィサー，損害保険ジャパン 執行役員チーフデータオフィサー／AIセーフティーインスティテュート 所長）
\end{flushright}


\end{document}








