データ関連
Dataform × BigQuery のトランザクションでアトミックなテーブル更新を実現
この記事では、BigQueryのトランザクション機能を活用し、Dataformと組み合わせることで、データ更新時の欠損を防ぎ、アトミックなテーブル更新を実現する方法について詳しく解説しています。
中村卓矢
3件の記事
この記事では、BigQueryのトランザクション機能を活用し、Dataformと組み合わせることで、データ更新時の欠損を防ぎ、アトミックなテーブル更新を実現する方法について詳しく解説しています。
データ基盤を管理するときに出てくる選択肢はdbtかDataformか…といったところかと思いますが、今回はそのDataformでまず最初に行うであろうリポジトリとの繋ぎ込みのSSHによる方法でのハマりポイントについて解説します。
Google Cloudにて提供されているデータ変換パイプライン用サービスDataformを用いてデータ基盤にガバナンスを効かせていくことを目指して技術検証を進めた結果について、まずはその概要からまとめています。