PD-Dデータ分析・データ利活用 · データ基盤
ストリーム処理
Stream Processing
すとりーむしょり
センサデータ、ログ、クリックなど絶え間なく発生するデータを、到着するたびに逐次処理する方式。低い遅延で集計や異常検知を行えるが、データの到着順の乱れや重複、障害時の再処理に配慮が要り、ウィンドウ処理や配信保証の設計が重要になる。Apache Kafka、Apache Flinkなどが使われる。
共有:
Related
他の資格での定義
Related
関連キーワードの用語
SMジョブスケジューラ
バッチ処理やデータ転送などの定型業務(ジョブ)を、指定した日時や条件に基づいて自動的に実行・管理するソフトウェア。ジョブの実行順序、依存関係、異常時の処理を制御する。
PD-Sエッジコンピューティング
データが発生する端末やその近くに置いたサーバでデータを処理する方式。すべてのデータをクラウドに送らずに現場側で処理することで、通信の遅延を減らしてリアルタイムの制御に対応でき、通信量やクラウドの負荷も抑えられる。機密データを外部に出さずに済む利点もあり、クラウドと処理を分担して使う。
PD-Sジョブスケジューラー
ジョブの実行の日時、順序、前後の依存関係、異常時の扱いなどを定義し、それに従ってジョブを自動的に起動・監視するプログラムやソフトウェア。OSのジョブ管理の機能のほか、複数のサーバにまたがる夜間のバッチ処理などを一元的に制御する製品がある。
A-1バッチ処理
一定期間に発生したデータや処理要求をためておき、決まった時刻にまとめて一括で処理する方式。データの収集では、業務システムから1日分の取引データを夜間に一括で取り込むといった形で使い、大量のデータを効率よく処理できるが、データの反映に遅れが生じる。発生の都度処理するリアルタイム処理やストリーム処理と対比される。
