FLINTERS Engineer's Blog

FLINTERSのエンジニアによる技術ブログ

トライコーンとの合同勉強会でSepDBについて紹介しました

こんにちは、津布久です。先日「新卒入社社員によるプロダクト紹介LT会(最近導入・気になる技術を添えて)」を題材とした、トライコーン × FLINTERS合同勉強会に参加しました。私からはSepDBというプロダクトについて紹介しましたので、その内容を簡単にですがまとめようと思います。

SepDBは「デジタルマーケターが様々なデータを簡単に活用できる様にする」というコンセプトのもと開発したビッグデータ基盤です。2017年から開発され、現在では様々なプロジェクトで利用される重要なプロダクトとなっています。

SepDBの概要

媒体や3rd Party Toolのデータに加え、社員情報など様々なデータを保存しています。データが一元化されていることで、利用者が活用しやすい状態となっています。

SepDBのデータフロー

SepDBは信頼できるデータを提供するために、いくつかの観点をチェックし品質劣化を防止しています。基のSepDBのデータに不備があれば、後続のプロダクト全てに影響が出てしまうので、大切な取り組みとなっております。

品質チェックの取り組み

気になる技術としてはdbtを紹介しました。ELT処理のTransformに特化したツールになっています。DWH上のデータを用いて、モデルの構築やテストが可能です。

気になる技術

利点としてはSELECT文が書ければ、モデルの構築が容易にできる点です。また、jinjaも扱うことができるので、DWHだけでは難しかった記述をより柔軟に作成することが可能です。機会があれば、より深く触ってみたいと思います。

dbtの利点

総括

現状抱える課題などについて質問いただいたりしたので、よりSepDBについて知ってもらえたのではないかと思います。今後もデータの品質向上やメタデータの整備を行い、利用者がより一層データ活用しやすい環境を提供していきたいです。