Dataflow コースシリーズの 2 回目である今回は、Beam SDK を使用したパイプラインの開発について詳しく説明します。まず、Apache Beam のコンセプトについて復習します。次に、ウィンドウ、ウォーターマーク、トリガーを使用したストリーミング データの処理について説明します。さらに、パイプラインのソースとシンクのオプション、構造化データを表現するためのスキーマ、State API と Timer API を使用してステートフル変換を行う方法について説明します。続いて、パイプラインのパフォーマンスを最大化するためのベスト プラクティスを再確認します。コースの終盤では、Beam でビジネス ロジックを表現するための SQL と DataFrame、および Beam ノートブックを使用してパイプラインを反復的に開発する方法を説明します。
Serverless Data Processing with Dataflow: Pipelines - 日本語版
Serverless Data Processing with Dataflow: Pipelines - 日本語版
Instructor: Google Cloud Training
Access provided by Abu Dhabi National Oil Company
Gain insight into a topic and learn the fundamentals.
Advanced level
Designed for those already in the industry
2 weeks to complete
at 10 hours a week
Flexible schedule
Learn at your own pace
What you'll learn
Beam SDK を使用したパイプラインの開発
Skills you'll gain
Details to know
Shareable certificate
Add to your LinkedIn profile
Assessments
8 assignments
Taught in Japanese
See how employees at top companies are mastering in-demand skills
There are 10 modules in this course
このモジュールでは、コースとその概要を紹介します
What's included
2 videos
Apache Beam の主なコンセプトと、それを独自のデータ処理パイプラインを作成するために適用する方法を復習します。
What's included
3 videos1 reading1 assignment2 app items
このモジュールでは、Dataflow を使用してストリーミングでデータを処理する方法を学びます。そのためには、3 つの主要なコンセプトを知っておく必要があります。1 つ目はウィンドウでデータをグループ化する方法、2 つ目はウィンドウに結果を表示する準備ができたことを知らせるウォーターマークの重要性、3 つ目はウィンドウ出力のタイミングと回数を制御する方法です。
What's included
3 videos1 reading1 assignment4 app items
このモジュールでは、Google Cloud Dataflow でソースとシンクの役割を果たすシステムについて学びます。Text IO、File IO、BigQuery IO、PubSub IO、KafKa IO、BigTable IO、Avro IO、Splittable DoFn の例を紹介していきます。また、各 IO に関連する便利な機能についても説明します。
What's included
8 videos1 reading1 assignment
このモジュールでは、Beam パイプラインで構造化データを表現する方法を開発者に提供するスキーマを紹介します。
What's included
2 videos1 reading1 assignment2 app items
このモジュールでは、State と Timer について説明します。どちらも、ステートフル変換を実装するために DoFn で使用できる優れた機能です。
What's included
3 videos1 reading1 assignment
このモジュールでは、ベスト プラクティスについて説明し、Dataflow パイプラインのパフォーマンスを最大化する一般的なパターンについて復習します。
What's included
7 videos1 reading1 assignment2 app items
このモジュールでは、Beam でビジネス ロジックを表現するための 2 つの新しい API、SQL と DataFrame を紹介します。
What's included
3 videos1 reading1 assignment1 app item
このモジュールでは、Beam ノートブックについて説明します。これは、Python 開発者が Beam SDK にオンボードし、Jupyter ノートブック環境でパイプラインの反復的な開発を行うためのインターフェースです。
What's included
1 video1 reading1 assignment
このモジュールでは、本コースで取り上げた内容を振り返ります
What's included
1 video
Instructor
Offered by
Why people choose Coursera for their career
Felipe M.
Learner since 2018
"To be able to take courses at my own pace and rhythm has been an amazing experience. I can learn whenever it fits my schedule and mood."
Jennifer J.
Learner since 2020
"I directly applied the concepts and skills I learned from my courses to an exciting new project at work."
Larry W.
Learner since 2021
"When I need courses on topics that my university doesn't offer, Coursera is one of the best places to go."
Chaitanya A.
"Learning isn't just about being better at your job: it's so much more than that. Coursera allows me to learn without limits."
