コンピュータを用いて自然言語を処理し，役に立つ（工学的に有用である）ことを実現するための技術

人間が言語を理解し，使用する仕組みをアルゴリズムやデータ構造という情報科学の道具立てでモデル化しようという科学的取り組み

文字コードの基本はアメリカで使われる文字を中心として1963年に制定された

日本語で普通に用いられる文字は、ひらがな、カタカナ、漢字など合わせて数千以上ある

全世界で使われる文字の統一的な文字コードとして作られた

可変長の文字コード

言語的知識、意味的知識、世界知識を体系的に整理して収録したもの

言語規範に関する知識 文法的約束、意味的約束

言語表現が使われた場に関する知識 文脈情報、状況に関する知識

対象、事実、法則に関する知識、常識的知識

専門分野に関する知識

自然言語処理システムとしてあらかじめ提供される辞書 システム開発者が準備

専門分野ごとに必要な情報は、それぞれの専門分野において固有のため必要なもののみを用いる 専門家によって作成

利用者が独自に使用する言葉や表現を登録 利用者によって作成

辞書利用の順序

国語辞典に収録されているような語（普通名詞、代名詞、形式名詞、動詞、形容詞、助詞、助動詞、副詞、接続詞など）

人名（姓、名、有名人名、愛称名など）、地名（地域名、自然名、施設名など）、組織名（会社名、機関名、団体名、学校名など）、その他（歴史名、民族名など）

数学、化学、生物、地質、天文、情報処理、など

単語や概念を木構造の階層に体系的に分類した辞書

書かれた言葉や話された言葉を電子的に大量に蓄積したもの

収集したままの状態で何も情報を付与していないコーパス

何らかの情報を付与したコーパス 品詞、構文情報、語義、テキスト構造などを付与

複数の言語の間の対訳データを収集 機械翻訳システムの開発に利用される

対象言語をいかによく捉えた言語データになっているか

生コーパスから抽出できる知識として最も基本的で重要なもの

簡単な例として、天気を予測する問題

マルコフモデルの考え方を言語の並びに対して適用したもの

bigram言語モデル P(練習|の) 1. 昨日テニスの練習をしました． 2. テニスの練習は大変ですか？ 3. 思ったよりも大変でした． 4. 練習のときはコーチはいるんですか？ 5. テニスの球出しは先輩がしてくれます

n-gramを用いた文の出現確率 P(私は本を買った)=（????）P(は|私)P(本|は)P(を|本)P(買った|を)

n-gram言語モデルにおいてnの値の設定 長い履歴を見るほうが言語モデルの値はより正確になる nの値を大きくしすぎるとコーパスにおいてデータが存在しなくなり確率を計算できなくなるといった問題がある

統計的言語モデルによる英語品詞推定 φNV()()N

コーパス中で数単語程度の近さで共起する2つの単語x, yの間の相互情報量I(x, y)から、2単語の組の類似性を計算 xとyが強く共起し、正の相関関係を示す場合

単語間の類似度の測定

単語の候補を列挙したグラフ構造

文字の並び（である文）を形態素あるいは語に分割する

入力文字列の語の並びへの分割とそれらの語への品詞の割り当てをラティスと呼ばれる構造によって表現する

ラティスからもっともらしいパスを得る

ヴィタビ・アルゴリズム ()した計算をしていない 累積最小コストの計算は制約処理と()に行う パスを得る処理は()的

形態素を構成素とする語構造

↓

制約処理の流れ

代名詞等，文内ではその意味が明らかでないものを それがおかれたテキストに照らして明らかにする

テキスト中で繰り返し言及されている事物の同一性 を判定する

文間の修辞関係を通じてテキストの構造を明らかに し、テキストの目的とそれへの各文の関係を理解す る

事物を指し示すための表現

参照表現によって指し示される事物

ふたつの参照表現が同じ参照物を指し示しているという関係

テキスト中の参照表現の参照物を明らかにし，そ れを通じて，共参照の関係にある参照表現の集 まりを明らかにする – テキスト中で参照されている参照物を明らかにし， それがどこで参照されているかを追いかける

参照解決の一種 – 照応表現の先行詞や参照物を明らかにする

清水市の 「ワイ・アンド・ティー」 社長 、 山田太郎さん （３８）はこのほど、新薬開発時のデータ処理を簡素化 する コンピュータソフト を開発した。高校時代から独立 を目指していた 山田さん は昨年、 同社 を設立。２０年 来の 自分 の夢をかなえた。 会社 は従業員７人と小さ いが、 新ソフト を携えて、医療業界で飛躍を目指す

照応の制約

照応の選好

照応解決の基本的な流れ

参照表現全般について、照応表現だけでなく、共参照関 係にあるかの判定する

比較的狭い範囲 での（局所的な）テキストの一貫性に関する理論。テキストのそれぞれの位置で中心となるものがただひ とつ存在し、その移り変わりのパターンがテキストの 一貫性や照応表現の利用に影響する。

述べられている内容の間の修辞関係に着目し、文の 内容の間の関係、テキスト全体の主張や目的への寄 与を明らかにする。 

tf*idf値の計算 「ワクチントーク日本」（花輪和彦代表）など三つの 市民団体は２６日、「インフルエンザの予防接種の効 果には疑問がある」として、子供への予防接種をやめ、 老人への接種も推奨しないように厚生省に要望した． 子供への接種はインフルエンザの発病を阻止する効果 がないことはすでに明らかで、老人への接種も効果が あるとする研究がほとんどないと指摘． 接種 3 226 12.81  予防接種 2 165 8.81

一般的なWeb検索手法

ベクトル空間モデル

文書1 = 〈2.0, 1.0, 3.0, 0.0〉 – 文書2 = 〈0.0, 3.0, 1.0, 2.0〉 – 文書3 = 〈2.0, 0.0, 1.0, 3.0〉 – 文書4 = 〈0.0, 0.0, 3.0, 3.0〉 – 質問 = 〈4.0, 3.0, 0.0, 5.0〉

精度（適合率，precision） 再現率（recall） F値

学術論文13,000件からなる文書集合からB型インフルエンザ に関する文献を検索したところ、70件の文書が得られた．そ れらを読んでみると56件が確かにB型インフルエンザに関す るものであった．その後、人手で13,000件すべてを確認した ところ、B型インフルエンザに関する論文は80件含まれてい た． 

直接翻訳方式(direct translation) トランスファ方式(transfer approach) 中間言語方式(pivot translation)

指示的(Indicative)な要約 報知的(Informative)な要約 

テキスト自動要約の手順

自然言語で記述さ れた任意の質問に対して大量の組織化されていない 情報から答えを得る技術

質問応答の処理手順

構文構造の一つの表現である依存構造を得る ための解析

依存関係が存在する確率

語（自立語）等の意味

意味の表現 意味関係

意味処理

出来事に何（誰）がどのような役割（立場）で関与して いるか。この意味的な関係

文の構成要素のこのような意味役割を明らかにして いくのが意味処理の仕事であり、これを

それぞれの動詞が、表層格（格要素）に 対してどのような種類の種類の要素を取ることができ るかが決まっている意味的な制約

必須格（取らなければならない格）と任意格（とることができ る格）が存在 階層的シソーラス（語彙的オントロジ）とあわせて利用

W1 = [2,3,1], W2 = [1,4,2], W3 = [2,1,4] Cosine尺度 Jaccard尺度 Dice尺度

語義の間の関係

語彙的オントロジーの代表例

適合性フィードバック Qi+1 = Qi + αΣDj – βΣDj j ∈ R j ∈ N R N Q D

変換元の言語 変 換先の言語