【1-4: Transformerの概要】BERTによる自然言語処理を学ぼう! 我妻幸長 2020年11月13日 09:57 自然言語処理の様々なタスクで高い性能を発揮する、「BERT」を学ぶUdemyコースです。https://www.udemy.com/course/nlp-bert/?referralCode=276BD5473E099ACEAFCDYouTubeでコースの一部を無料で公開しています。BERT(Bidirectional Encoder Representations from Transformers )は2018年10月にGoogleが公開して以来、世界中のAI関係者の注目を集めています。BERTは「Transformer」と呼ばれるモデルを利用することで、離れた単語間の関係、すなわち「文脈」を考慮した自然言語処理を実現します。タスクによっては人間並みの精度を発揮する可能性もあり、「応答文の生成」や「文書の要約」といった様々なタスクでの活用が期待されています。本コースで学ぶことにより、BERTの仕組み、実装方法を理解し、BERTによる日本語文章の処理ができるようになります。新しい時代の、有用な自然言語処理技術を身に付けましょう。注: 本コースに先立ちYouTubeでのライブ講義【Live人工知能】がありました。本コースの動画はこのライブ講義をUdemy用に再構成したものになります。コースの内容は以下の通りです。Section1. 講座とBERTの概要→ 自然言語処理、Transformer、BERTについて概要を学びます。Section2. シンプルなBERTの実装→ 最小限のPythonのコードでBERTを実装します。Section3. BERTの仕組み→ Transformer、BERTなどについて仕組みを詳しく学びます。Section4. ファインチューニングの活用→ ファインチューニングの概要、そしてBERTにおける活用について解説します。Section5. BERTの応用→ BERTを使って、自然言語処理のタスクに取り組みます。なお、今回の講座でプログラミング言語Pythonの解説は最小限となりますが、Pythonの基礎を解説するノートブックがダウンロード可能です。本コースはディープラーニング用フレームワークとしてPyTorchを使用します。PyTorchはオープンソースの機械学習ライブラリで、簡潔さ、柔軟性、速度のバランスに優れているため人気が急上昇中です。また、簡潔な記述が可能なため、最新の研究成果の実装によく使われています。開発環境にはGoogle Colaboratoryを使用します。講師: 我妻幸長(@yuky_az)「ヒトとAIの共生」がミッションの会社、SAI-Lab株式会社の代表取締役。AI関連の教育と研究開発に従事。東北大学大学院理学研究科修了。理学博士(物理学)。興味の対象は、人工知能(AI)、脳科学、シンギュラリティなど。オンライン教育プラットフォームUdemyで、数万人にAIを教える人気講師。様々な有名企業でAI研修を担当。著書に、「はじめてのディープラーニング」「はじめてのディープラーニング2」(SBクリエイティブ)、「Pythonで動かして学ぶ!あたらしい数学の教科書 機械学習・深層学習に必要な基礎知識」(翔泳社)。共著に「No.1スクール講師陣による 世界一受けたいiPhoneアプリ開発の授業」(技術評論社)。 よろしければサポートお願いします! いただいたサポートはクリエイターとしての活動費に使わせていただきます! サポート