リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介

リクルートのビッグデータ活用基盤と
ビッグデータ活用のための
メタデータ管理Webのご紹介
リクルートテクノロジーズ
池田

本日の内容
• リクルートにおけるビッグデータの取り組みの紹介
とビッグデータの活用を支える基盤をご紹介します
• アプリのPUSH配信を支える基盤（Pusna-RS）を
例に、リクルートにおけるビッグデータ活用基盤・
周辺技術進化の取り組みをお伝えします
• ビッグデータ活用を促進する「メタデータ管理
Webシステム」ご紹介を通じ、メタデータを管理
する意味・運用のコツをお伝えします
2(C) Recruit Technologies Co.,Ltd. All rights reserved.

本日のアジェンダ
1. 自己紹介
2. リクルートの紹介
3. リクルートのビッグデータへの取り組み
4. メタデータ管理Web
5. まとめ

1. 自己紹介
5. まとめ

自己紹介
池田英哲（いけだひであき）
株式会社リクルートテクノロジーズ
ビッグデータ部
IDポイントビッグデータインフラグループ
2003年～2006年某SIer
Flashを用いたWebアプリケーション開発等を担当
2006年～2013年某コンサル会社
インフォメーションマネジメント（BI・DWH）関連部署に配属
Analytics部隊の設立に携わる
2014年1月～リクルートテクノロジーズ
入社後一貫して、リクルートIDプロジェクトのDWH構築・運用を担当
職歴

1. 自己紹介
5. まとめ

7
企業概要（リクルート全体）
創立１９６０年３月３１日「大学新聞広告社」としてスタート
グループ
従業員数
３１,８４１名
連結売上高約１兆２９９９億円 ※２０１５年３月末
連結経常利益約１,２５６億円 ※２０１５年３月末
関連企業数１６２社（国内＋海外）
目指す世界観「あなた」を支える存在でありたい

リクルートテクノロジーズの位置づけ
8
リクルートキャリア
リクルートジョブズ
リクルートスタッフィング
リクルート住まいカンパニー
リクルートライフスタイル
リクルートマーケティングパートナーズ
スタッフサービス・ホールディングス
リクルートアドミニストレーション
リクルートコミュニケーションズ
事業会社
機能会社
ネットインフラ
大規模プロジェクト推進
UXD/SEO
ビッグデータ機能
テクノロジーR&D
事業・社内IT推進
リクルート
ホールディングス
リクルートとは、
主要７事業会社＋３機能会社
で構成されるグループ企業群
私が所属する会社は
リクルートテクノロジーズ
セキュリティAP基盤・オフショア開発

リクルートのビジネスモデル～リボンモデル
マッチング
カスタマー
（一般ユーザー）
クライアント
（サービス提供企業）
世界中の生活者と産業界に
「まだ、ここにない、出会い。」を提供します

リクルートの展開しているサービス
ライフイベント領域
進学
就職
結婚
転職
住宅購入
車購入
出産/育児
旅行
IT/トレンド
生活/地域情報
グルメ・美容
ライフスタイル領域
選択・意思決定を支援する情報サービスの提供
「まだ、ここにない、出会い。」を実現する

リクルートID
一人ひとりにあった最適な情報を提供し、皆様の選択や行動を支える存在
となることを目指す
リクルートID

リクルートIDの使えるサービス①

リクルートIDの使えるサービス②

リクルートIDの使えるサービス③

リクルートIDの使えるサービス④

1. 自己紹介
5. まとめ

ビッグデータとは？
ビッグデータ＝大量データ
Volume
量
Variety
多様性
Velocity
速度
Volume
行動履歴・ソーシャル・センサ(GPS)等
Variety
構造化データだけでなく、
文書・画像・動画・音声などの非構造データ
Velocity
リアルタイムに発生するCSの嗜好データ
スマホ/アプリデータ
利用者・利用パターンの増加

ビッグデータ活用事例① 経験知をモデル化
豊富な経験値を持つCAが創りだした過去データ・ロジックをレコメンド作成に利用
求人検索システム
求職者 CA(キャリアアドバイザー)
応募
求人紹介
検索
レコメンドリスト
求人紹介(メール送付・管理画面表示)
レコメンドロジック
求職者求人確信度
001 O社 0.5
001 X社 0.3
001 Y社 0.2 求職者
A社 O社 P社 Q社・・・
B社 X社 Y社 Z社・・・

ビッグデータ活用事例② パーソナライズPUSH
Pusna（プッシュアプローチ）によるアクション増を実現する
今週のあなたにオススメ
会場一覧ができました
通知を受け取るオススメ一覧閲覧個社閲覧フェア予約
ブライダルフェア予約

Big DataのTrend
ビッグデータ利用者の広がり
技術の進化や「ビッグデータ」の広がりでデータ利用者が拡大している
IT部門
BIレポート開発者
DB管理者
データに興味のない層
ビジネスインサイト
マーケター
事業企画
技術進歩
(Hadoop/セルフBI etc.)
データ活用の
一般化
レポート/モニタリング
営業/経営層
数字は見るけど操作は覚えたくない
自分でデータをいじりたい
ITスキルはあまりない
データサイエンティスト
研究者
エンジニア自分でデータを解析する

ビッグデータ基盤
ビッグデータ（データの量/種類/頻度の増加）への対応と、利用者の増加
に合わせ、基盤は常に進化
データソースデータ格納プレゼンテーション利用者
外部データ
Hadoop
エコシステム
高度分析やモデル作成
（マーケター）
機械学習やモデル実装
エンドユーザー
(エグゼ／営業
／マネージャ)
(プロデューサ／事業
企画)
データ
サイエンティスト
（高度分析者）
データ
（エンジニア）
行動ログ
事業DB
事業Hadoop
全社DWH
中央Hadoop
• モニタリング
• レポート
• モデル作成
• データ収集
• 整形・加工
• データストレージ
• 高速分析処理
Webアクセスログ
アプリログ
PUSH通知ログ
ビーコンログ

PUSH

PUSH通知とは
スマートデバイスを起動していなくても通知を送ることが出来る仕組み
Push! Push!

PUSH通知とは
メールと同様に重要な集客ツール。
Push! Push!
メリット
 リアルタイムな情報配信
 ユーザのアクティブ率向上
 休眠ユーザの再起
デメリット
 過剰なプッシュによるユーザ離れのリスク
 実装の工数がかかる

PUSH通知基盤（Pusna RS）の全体構成
PUSH通知のメリットを最大限活かすための基盤（Pusna-RS）を構築。
1,000万配信/12分を実現
デバイス管理
プッシュ配信
APNs
GCM
カスタマーリクルート
DynamoDB elasticsearch
登録API 登録WorkerSQS
配信worker
操作用Web UI
管理API
SQS
配信担当者
データ基盤
事業サーバ
※ atmarkit
http://www.atmarkit.co.jp/ait/articles/1412/18/news022.html

デバイス管理
プッシュ配信
APNs
GCM
カスタマーリクルート
DynamoDB elasticsearch
登録API 登録WorkerSQS
配信worker
操作用Web UI
管理API
SQS
配信担当者
データ基盤
事業サーバ
ビッグデータ基盤との連携
PUSH配信基盤からビッグデータ基盤にリアルタイムに連携。既存のアプリ
ケーション改修・影響なく連携を実現。
ビッグデータ基盤
ビッグデータ基盤用キュー

1. 自己紹介
5. まとめ

データソースデータ格納プレゼンテーション利用者
外部データ
Hadoop
エコシステム
高度分析やモデル作成
（マーケター）
機械学習やモデル実装
エンドユーザー
(エグゼ／営業
／マネージャ)
(プロデューサ／事業
企画)
データ
（高度分析者）
データ
（エンジニア）
行動ログ
事業DB
事業Hadoop
全社DWH
中央Hadoop
• モニタリング
• レポート
• モデル作成
• データ収集
• 整形・加工
• データストレージ
• 高速分析処理
Webアクセスログ
アプリログ
PUSH通知ログ
ビーコンログ
ビッグデータ活用に伴い…
(C) Recruit Technologies Co.,Ltd. All rights reserved.
データの質・量の増加利用者の増加

メタデータ管理Web構築の背景
データ意味情報（メタデータ）の問い合わせに忙殺される。
最新の会員情報はどこに！？
XXの意味を教えてください！
利用者
テーブル定義書（ファイル）
DWH
Select * from XX limit 100
Select * from YY limit 100
Select * from ZZ limit 100
・・・
開発者
システム管理者
分からないです…
いつの間にか変更された
引用元）気がつくと机がぐちゃぐちゃになっているあなたへ
ISBN 978-4-7942-1146-0
“平均的なビジネスマンは、探し物をするためだけ
に、１年間で約１５０時間を費やしている”
利用者がわかる形で回答
×
データの質・量の増加
利用者の増加

メタデータ管理Webの紹介

メタデータを管理する意味
データ活用はどの企業でも一般化しているが、メタデータの整備が不十分
であるため意思決定の事故が起きている。
データ定義が不十分
データの誤った解釈
必要な情報が見つからない
誤ったデータ解析結果
意思決定の事故
メタデータの整備が不十分
データの誤った解釈・
必要な情報が見つからない
誤ったデータ解析結果
意思決定の事故
メタデータを正確に
一元管理・公開
データの正しい意味を把握できる
・必要な情報がすぐ見つかる
正しいデータ解析結果
効果のある意思決定
例：マーズ・クライメイト・オービターの事故
⇒単位系の間違いによる火星探査機の爆破

ココに来れば必要な情報があるという状態を作り出し、分析担当者のデータ
特定に至る時間やシステム担当者の負担を軽減させる。
メタデータ管理Webで実現した世界
 探す手間が省ける
 ナレッジが共有される
利用者
探す
メタデータ管理Web
DWH
 問合せが減る！
 潜在的なニーズを拾える！
 問合せが減る！
 自分のDBの最新情報が把握できる！
開発者
自動
自動
自動

メタデータ管理Web実現のポイント
メタデータを一元管理するだけでなく、利便性や運用を考慮して機能開発
常に最新
検索機能
知見の収集
・共有
全てのメタデータを
一元管理

メタデータ管理Web
全社DWH
自動で最新化される仕組み
データ元DBから日次で物理情報を取得。論理情報やコード値定義情報、
さらには権限情報も日次・自動で収集。
34(C) Recruit Co.,Ltd. All rights reserved.
データ元DB/
アクセス解析ツール
RDBMS
DWH
メタデータリポジトリ
設計書
共有フォルダ等
開発者
設計情報更新
日次
日次
日次
権限管理システム
利用者
参照・
コメント登録
<物理情報>
<論理情報>
<権限情報>
常に最新
検索機能
知見の収集
・共有
一元管理

最新情報を常に反映

全文検索
常に最新
検索機能
知見の収集
・共有
一元管理

コメント登録・共有機能
常に最新
検索機能
知見の収集
・共有
一元管理

迅速な機能改善
要望機能を素早く提供することで、継続的に利用される仕組みを実現。
絞り込んだ機能の
リリース
動かし/使い、
フィードバックを
得る
フィードバックか
ら機能を見極め
常に最新
検索機能
知見の収集
・共有
一元管理

利用状況
平日は500回/日以上の利用。月間で計10,000回（300UU）を超えている
0
100
200
300
400
500
600
700
800
900
01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30
2015年6月
年間50人月超の工数削減効果！
（5分/回の工数削減効果）
＋
問合せを受けるシステム管理者の工数削減！

ご清聴ありがとうございました。

こういった取組でデータ活用を進めています
データの収集・整形・提供にも大きく苦労されると
思いますが、
実際に利用する際に活用できる基盤を提供できたと
自負してます

メタデータWebの開発の進め方
①課題認識
③要件定義・
設計・開発
②F/S検証・
効果算出
④運用・継続
改善
F/S…

①課題認識背景にあった課題[再掲]
データ定義の問い合わせに忙殺される時間を減らしたい！
どこかにまとまっていれば
いいのに！！
データ利用者
DWH
実データの表示結果
Select * from XX limit 100
Select * from YY limit 100
Select * from ZZ limit 100
・・・
開発者
分からないです…
×
これって自分だけ？？
利用者がわかる形で回答

②F/S検証・効果算出 → 起案
簡単な仕組み（ MVP minimum viable product:実用最小限の製品）を
開発、公開。
簡易システム構築・公開
convert
効果ありそう！検索機能の充実等、
利用者が求めている機能もわかった！
DB管理者
データ利用者 DB開発者/システム開発者
検索が便利！
意味説明が
分かりやすい！
統一の定義書が
すぐ手に入る！
メモを残したい最新情報がない履歴が見たい

③要件定義・設計・開発
利用者コメントや要望ヒアリングで肥大化かつ相反する要件に対し、
キーワードを決め、絞り込み。
利用者目線で「シンプルに使えること」をキーワードに
機能をあきらめ取捨選択
多機能 ≠使いやすい
Standish Group Study Reported at XP2002 by Jim Johnson,
1, 45%
2, 19%
3, 16%
4, 13%
5, 7%
65%の機能が
使われない

1. 自己紹介
5. まとめ

まとめ
システム管理者だからできることはもっとあるはず。

リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

En vedette

En vedette (8)

Similaire à リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介

Similaire à リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介 (20)

Plus de Recruit Technologies

Plus de Recruit Technologies (20)

Dernier

Dernier (10)

リクルートのビッグデータ活用基盤とビッグデータ活用のためのメタデータ管理Webのご紹介