Top Highlights

• 現在のところ、機械翻訳は多くの場合、外国語で書かれた文章を自分の理解できる言語へと翻訳し、その大意を確認する（ ジスティング：gisting と呼ばれる）ためによく使われています。
• 実はこの「もともと理解できる言語で書かれているものが、途中の雑音などの影響で異なる言語（外国語）に変わってしまった」という仮説的な考え方は、 雑音のある通信路モデル（noisy channel model） と呼ばれ、現代の 統計的機械翻訳 や、音声認識、かな漢字変換など数多くの 統計的言語処理タスク の基礎的な考え方となっています。
• 鳥とジェット機の例えについては、以下のブログより転載。 http://www.ai-gakkai.or.jp/whatsai/PDF/article-chess.
• Brown Corpusについては http://www.essex.ac.uk/linguistics/external/clmt/w3c/corpus_ling/content/corpora/list/ private/brown/brown.html を参照。
• 人間の脳の情報処理メカニズムを模したアルゴリズムであるニューラルネットワークを使って、ある単語のベクトル表現からその文脈を推定するというSkip-gram モデルは、そのモデルの単純さと、学習のスピード、学習された後のベクトル表現の質の高さなどから高い人気を博し、そのオープンソース実装（word2vec）（ 注2） はその手軽さもあって自然言語処理タスクに幅広く応用されてきました。