2012年3月22日木曜日

DataModel_JP - Cassandra Wiki


Cassandraは4次元または5次元ハッシュなデータモデルを持っています。

基本コンセプトとしては:

  • Cluster: 論理的なCassandraインスタンスの事。クラスタは複数のキースペースを持つことが出来る。
  • Keyspace: ColumnFamilies用のネームスペース。一般的には1アプリケーションに1キースペース。

  • ColumnFamilyは複数のカラム(カラムは名前、値、タイムスタンプを持つ)を持ち、行キーで参照可能。

  • SuperColumnsは サブカラムを持つカラムのこと。

まずはボトムアップで一番小さい粒度のデータ構造であるカラムから順にみていきましょう。

カラムはCassandraにおける最小限のデータ構造です。その実体はタプル(triplet)で、名前、値、タイムスタンプを持ちます。

Thriftインタフェースのカラムの定義は以下のようになります。

struct Column {   1: binary                        name,   2: binary                        value,   3: i64                           timestamp, }

JSONぽい書き方をしたカラムは以下のようになります。


ここで、iは、赤ちゃんのものを販売している人を見つけることができますか?
{   "name": "emailAddress",   "value": "fo,   "timestamp": 123456789 }

タイムスタンプを含むカラムの全ての値はクライアントから渡されます。これはどういう事かというと、クライアントのクロックはCassandraサーバ環境間で同期が取れていなければいけないということです(カラムのタイムスタンプは衝突の解決に便利です)。ほとんどのケースでは、タイムスタンプはクライアントアプリケーションでは使われないので、カラムは名前と値のペアと考えると比較的楽に思い浮かびます。このドキュメントの以降の説明では、タイムスタンプを読みやすさのため明示的に載せないようにしています。また、実際保存されるカラムの名前と値はバイナリ値ですが、ほとんどのアプリケーションではUTF8でシリアライズされた文字列なのでこのドキュメントでもそうします。

タイムスタンプは何でもいいのですが、便宜上マイクロ秒記載としておいてください。どのように使っても良いですが、アプリケーション間では一貫している必要があります。そうでない場合、新らしい書き込みで上書きされてしまう可能性があります。

カラムファミリはカラムのコンテナといえます。リレーショナルモデルでいうところのテーブルにあたります。カラムファミリはstorage-conf.xmlで定義され、Cassandraが再起動されるまでは修正や新規カラムファミリの追加は出来ません(注:0.6以降で変更の可能性アリ)。カラムファミリはカラムネーム順でソートされたカラムのリストを持ちます。

カラムファミリは各行ごとのカラム順序を設定可能になっていて、その設定はThriftのAPI経由でget_sliceメソッドを呼んだ場合の挙動に影響を与えます。 順序の維持の実装は、ASCII、UTF8、Long、レキシカルUUID、TimeUUIDの中からデフォルトでは選択できます(注:自前でも実装可能)。

Cassandraでは、各カラムファミリは別個のファイルにて管理され、行ごと(例えばキー)にソートされています。あなたが一緒にアクセスするであろう、関連したカラムは同じカラムファミリ内に保存されているはずです。


爆発のターゲットを作る方法

行キーはどんなマシンでデータを永続化するかを決定します(The row key is what determines what machine data is stored on.)。それゆえ、複数のカラムファミリから取得したデータの各キーは関連している必要があります。 しかしながらそれらは論理的に分離されているので、Thriftインタフェースでは一回のアクセスで1つのカラムファミリのキーしか取れないようになっています。

JSON表現では、キー -> カラムファミリ -> カラムの構造は以下のようになります:

{    "mccv":{       "Users":{          "emailAddress":{"name":"emailAddress", "value":"fo},          "webSite":{"name":"webSite", "value":"http://bar.com"}       },       "Stats":{          "visits":{"name":"visits", "value":"243"}       }    },    "user2":{       "Users":{          "emailAddress":{"name":"emailAddress", "value":"user},          "twitter":{"name":"twitter", "value":"user2"}       }    } }

上記のサンプルで、"mccv"キーが2つの異なるカラムファミリ、"Users"と"Stats"、を識別します。これはカラムファミリ間でデータの関連性があるということを示しているわけではない点に注意です。1つのキーで異なるカラムファミリを取得できるという事に関してどういう意味があるかは、アプリケーションにゆだねられています。また、"Users"カラムファミリをみると、"mccv"と"user2"というキーで別々のカラム名が定義されている点に注目してください。Cassandraではこのような定義は全く問題ありません。事実として、Cassandraではカラム名のセットを無限に作成することがおそらく出来るので、カラム名を実行時に増加させたりする使い方も一般的だということです。これは永続化システムではあまり一般的ではないことです。(特� �RDBMSの世界から凝られた開発者の方には)


どのように無料のオークションサイトを作成する

キースペースはカラムファミリのコンテナです。Cassandraハッシュの1次元目に位置します。キースペースはRDBMSワールドでいうところのスキーマまたはデータベース、論理的なテーブルの集合を扱う概念、と大体同じ粒度のものです。キースペースはカラムファミリに対しての設定と管理ポイントを設けており、バッチインサートが適用される構造でもあります。

ここまでで通常のカラムと行はおおまかにカバーしました。それに加え、Cassandraはスーパーカラムをサポートしています。スーパーカラムとは、ソート済みのカラムの連想配列のことです。

そのため、カラムとスーパーカラムの関係はマップとして考えることも出来ます。一般的なカラムファミリの1つの行はカラム名と値のソート済みマップで、スーパーカラムファミリの1つの行は、スーパーカラム名をキーとして、値がカラム名と値のマップのソート済みマップといえます。

JSON記述ではこのようなデータ構造になります:

{   "mccv": {     "Tags": {       "cassandra": {         "incubator": {"incubator": "http://incubator.apache.org/cassandra/"},         "jira": {"jira": "http://issues.apache.org/jira/browse/CASSANDRA"}       },       "thrift": {         "jira": {"jira": "http://issues.apache.org/jira/browse/THRIFT"}       }     }     } }

この例ではカラムファミリは"Tags"で、"cassandra"と"thrift"という2つのスーパーカラムを持ちます。またカラムとして、名前付きのブックマークを持ちます。

普通のカラムと同じように、スーパーカラムは互いに疎な関係で、各行はそれぞれ大小に関わらず別個のカラムを持つことが出来ます。Cassandraはそこに制約はありません。


Cassandraは比較的小さなコードで、プラガブルなスキーマパーティショニングをサポートします。デフォルトでは、CassandraはハッシュベースのRandomPartitionerとOrderPreservingPartitionerを持っています。RandomPartitionerは追加で何もせずとも、よいロードバランスするパーティションを提供します。一方、OrderPreservingPartitionerはストアされたキーでレンジクエリを実行できるようにしますが、ノードトークンを慎重に選択するか積極的なロードバランシングが必須になります。ハッシュベースのパーティショニングしかサポートしないシステムにおいては、レンジクエリは有効な手段とはならないでしょう。

クエリをを流すために、エンティティやリレーションを作ったり、インデックスを追加したりする事が必須な手段であるリレーショナルモデルベースのシステムと異なり、Cassandraではあなたがどのようなクエリが自分のシステムにとって効果的を考えて実施し、モデルを適切に作る必要があります。Cassandraでは自動的にインデックスがはられたりはしないので、1つのクエリに対し1カラムファミリという点を重点的にみていく必要があります。これは関係モデルでいうところのテーブルとクエリの関係に似ています。Cassandraはリレーショナルシステムより圧倒的に早いので、非正規化を恐れる必要はありません。

DiggのArin SarkissianさんがCassandraのデータモデルに関して、素晴らしいエントリを書いていますのでそちらも参考にしてください。

モデルを作成する際に注意しなくてはいけない点はCassandraの制約にまとめてあるのでそちらも参考にしてください。


例:検索アプリのためのスーパーカラム

検索アプリにおいては、各スーパーカラムの名前は用語として、カラムはdocidとランク、その他属性を持つと考えることが出来ます。 ユーザIDをキーにもつとすると、各ユーザごとのインデックスをこの形式の中に押し込めることが出来ます。このようにすると、用語検索における各ユーザ毎のインデックスがFacebookのInboxサーチのように考えることが可能になります。更に、時間別にディスクにデータを書いておけば、"最新10個のメッセージをください"といったクエリにも用意に対応できるシステムを作ることが出来ます。これらについてもっと図解つきの説明はSIGMOD 2008のCassandra資料を参照してみてください。

例: ブログアプリケーション

TODO

APIに移動しました。

Thanks to phatduckk and asenchi for coming up with examples, text, and reviewing concepts.



These are our most popular posts:

ASCIIcasts - "Episode 276 - 時刻とWebリクエストをテストする"

多くの場合、今回もそうですが、タイムスタンプの値が存在することをテストするだけで 十分でしょう。ここで時刻を設定する1行のコードにバグがあるという可能性はほとんど ないでしょう。しかしときには現在の時刻をテスト ... このgemを使えば、現在の時刻を いろいろな方法で操作でき、時刻を凍結することもできます。つまりspecを実行している 間現在 ... read more

DataModel JP - Cassandra Wiki

2011年3月11日 ... このドキュメントの以降の説明では、タイムスタンプを読みやすさのため明示的に載せ ないようにしています。また、実際保存され ... 順序の維持の実装は、ASCII、UTF8、 Long、レキシカルUUID、TimeUUIDの中からデフォルトでは選択できます(注:自前でも 実装可能)。 ... ここまでで通常のカラムと行はおおまかにカバーしました。 read more

スタンプ(ニコニコ動画)とは (スタンプとは) [単語記事] - ニコニコ大百科

2010年10月29日... リンク; 関連項目; 脚注; 掲示板. スタンプとは、ニコニコ動画上で決められた行動や 経験をすることで獲得できる活動の証である。 ..... スタンプQA. ここでは掲示板に何度 も寄せられる疑問、質問を簡単に紹介します。 掲示板で質問する前 ... read more

Reactive Extensions再入門 その22「単一の値を取得するメソッド ...

2012年1月3日 ... このように、Firstメソッドでは、IObservableから最初に発行された値を取得できます 。ここで注目したいのは、Firstメソッドの呼び出しの前後に入れているタイムスタンプを 表示するメソッドの表示内容です。18:25:45から18:25:50となって ... read more

Related Posts



0 コメント:

コメントを投稿