G検定(ジェネラリスト検定) 人工知能とその動向 練習問題 第47問: 統計的自然言語処理のバイグラム(bigram)モデルでは、直前の語がvのときに次の語がwになる確率P(w|v)を、コーパスでの出現回数から最尤推定で求める。次の
統計的自然言語処理のバイグラム(bigram)モデルでは、直前の語がvのときに次の語がwになる確率P(w|v)を、コーパスでの出現回数から最尤推定で求める。次の4つの文から成るコーパスで、P(花|赤い)の最尤推定値として、最も適切なものはどれか。なお、語は空白で区切られたものとし、文頭・文末を表す記号は使わず、文をまたぐ2語の並びは数えない。 文1 私 は 赤い 花 を 買う 文2 母 は 白い 花 を 見る 文3 母 は 赤い 車 を 買う 文4 私 は 赤い 花 と 白い 花 を 見る
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 3. 2/3
2/3が適切です。Jurafsky・Martin『Speech and Language Processing』第3章は、バイグラムの確率の最尤推定を、2語の並びの出現回数C(v w)を直前の語の出現回数C(v)で割った相対頻度として示しています。
式はP(w|v)=C(v w)÷C(v)です。「赤い」は文1・文3・文4に計3回、「赤い 花」の並びは文1・文4に計2回現れるので、P(花|赤い)=2÷3=2/3です。
2/27は、並びの回数2をコーパス全体の語数27で割った値で、条件付き確率ではなく全体に占める並びの割合を求めています。1/2は、並びの回数2を「花」の出現回数4で割った値で、条件の向きが逆です。
4/27は「花」単独の出現率で、直前の語を使っていません。分母は直前の語vの出現回数になる点を押さえましょう。
関連キーワード: 統計的自然言語処理・n-gram・条件付き確率・最尤法
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック