自然な翻訳をはじめとする自然言語処理の技術はここ数年で飛躍的に進歩してします。その進歩の立役者が深層学習です。
本講座では、深層学習による自然言語処理の基礎と最近の発展について、手を動かしながら学びます。
また、自然言語処理で培われた技術を他の様々なデータにも適用する方法についても紹介します。
・AI開発の担当社員およびその実務管理者
・WEBサイトやWEBアプリ、スマホアプリにAI機能を実装する開発担当者
・家電や自動車等各種機器にAI機能を実装する開発担当者
・新しいテクノロジーの習得を通じてキャリア形成を加速させたい中堅社員
・AIが役立つ可能性のあるビジネスインテリジェンスまたはデータ分析の業務に携わるデータサイエンティスト・アナリスト
・ビジネスにおけるAI活用の進展を目の当たりにして、キャリアアップを真剣に考える方
自然言語処理技術の概要と、他分野との関係について紹介します。また、最新の技術である GPT-2 を実際に動かしてみて、近年の自然言語処理の発展についての理解を深めます。
本講義では、非常に柔軟で応用範囲の広い系列変換モデルについて学びます。また、応用例の1つとして、英語から日本語への翻訳モデルの構築にもチャレンジします。
自然言語処理を語る上で、日本語特有の処理は欠かせません。次講以降で本格的に自然言語処理を学んでいくのに先立ち、日本語の取り扱い方や取り扱う際の注意ポイントを紹介します。
注意機構とTransformerとよばれるアーキテクチャについて学びます。 Transformer は、近年の自然言語処理の発展のきっかけとなった技術です。
Word2Vec は、近年の自然言語処理の発展の先駆けとなった技術で、深層学習で自然言語を取り扱う上で必須の技術となっています。本講では、Word2Vec と、その関連概念である分散表現について学びます。
Transformerがどのように使われているのか、具体的に紹介します。また、公開されている日本語 BERT と呼ばれるモデルの利用方法についても学びます。
本講では、深層学習による自然言語処理の基礎技術であるRNNについて学び、応用例の1つとして、文章の生成にチャレンジします。
自然言語処理で利用されている技術は、自然言語処理以外の時系列データにも利用できます。本講では、時系列データについての基礎事項と、典型的なタスクである時系列予測について学びます。
本講では、RNNの課題とその解消法について学びます。また、より発展的なモデルであるLSTMやGRUについても紹介します。
時系列予測以外にも様々な場面で時系列データは活用されています。本講では、時系列データに関する時系列予測以外のタスクについて学びます。