couchdb 视图操作_couchDB视图

news/2024/9/20 16:50:31

视图函数

map函数

Map方法的参数只有一个,就是当前的文档对象。Map方法的实现需要根据文档对象的内容,确定是否要输出结果。 如果需要输出的话,可以通过emit来完成。 emit方法有两个参数,分别是key和value,分别表示输出结果的键和值。 使用什么样的键和值应该根据视图的实际需要来确定。 emit函数可以在map函数里被调用多次,创建一个文档的多个记录。

当希望对文档的某个字段进行排序和过滤操作的时候,应该把该字段作为键(key)或是键的一部分; value的值可以提供给 Reduce 方法使用,也可能会出现在最终的结果中。 可以作为键的不仅是简单数据类型,也可以是任意的 JSON 对象。比如emit([doc.title, doc.price], doc)中,使用数组作为键。

map函数示例(javascript代码):

function(doc) {

emit(doc._id, doc);

}

reduce函数

Reduce方法的参数有三个:key、values和rereduce,分别表示键、值和是否是rereduce 。 由于rereduce情况的存在,Reduce 方法一般需要处理两种情况:

传入的参数rereduce的值为false

这表明Reduce方法的输入是 Map方法输出的中间结果。

参数key的值是一个数组,对应于中间结果中的每条记录。 该数组的每个元素都是一个包含两个元素的数组,第一个元素是在Map方法中通过emit输出的键(key),第二个元素是记录所在的文档 ID 。

参数values的值是一个数组,对应于 Map 方法中通过emit输出的值(value)。

传入的参数rereduce的值为true

这表明Reduce方法的输入是上次Reduce方法的输出。

参数key的值为null。

参数values的值是一个数组,对应于上次Reduce方法的输出结果。

reduce函数示例(javascript代码):

function (key, values, rereduce) {

return sum(values);

}

实例解析

1、创建数据库testdb2,添加如下文档 :

{

"_id": "ef3c0dddfd988a9fa5dd77452a46a5e6",

"phoneNumber": "1001",

"billSeconds": 180,

"timestamp": "201408251705"

}

{

"_id": "ef3c0dddfd988a9fa5dd77452a482dd0",

"phoneNumber": "1001",

"billSeconds": 100,

"timestamp": "201408251715"

}

上述是分机1001的两条CDR,记录了两次通话的billSeconds,如果要计算通话时长,需要将 phoneNumber作为key,billSeconds作为value进行map和reduce操作。

2、用map操作过滤数据

function(doc) {

emit(doc.phoneNumber, doc.billSeconds);

}

map函数以phoneNumber参数作为key,以billSeconds作为value对数据库执行过滤操作。

3、用reduce计算结果

function (key, values, rereduce)

{

return sum(values);

}

reduce函数执行聚合操作,将key相同的value进行求和。

完整view创建代码如下:

{

"_id": "_design/jsTest",

"language": "javascript",

"views": {

"all": {

"map": "function(doc) {  emit(doc.phoneNumber, doc.billSeconds); }",

"reduce": "function (key, values, rereduce) {   return sum(values); }"

}

}

}

查询结果

单独执行map的结果:

curl http://127.0.0.1:5984/testdb2/_design/jsTest/_view/all?reduce=false

{"total_rows":2,"offset":0,"rows":[

{"id":"ef3c0dddfd988a9fa5dd77452a46a5e6","key":"1001","value":180},

{"id":"ef3c0dddfd988a9fa5dd77452a482dd0","key":"1001","value":100}

]}

map-reduce结果:

curl http://127.0.0.1:5984/testdb2/_design/jsTest/_view/all?group=true

{"rows":[

{"key":"1001","value":280}

]}

视图类别

临时视图

python示例:

import couchdb

server = couchdb.Server("http://192.168.131.121:5984")

db = server.create('python-tests')

db['johndoe'] = dict(type='Person', name='John Doe')

db['maryjane'] = dict(type='Person', name='Mary Jane')

db['gotham'] = dict(type='City', name='Gotham City')

map_fun = '''function(doc) {

if (doc.type == 'Person')

emit(doc.name, null);

}'''

for row in db.query(map_fun):

print(row.key)

del server['python-tests']

BigCouch不支持临时视图

永久视图

python示例:

import couchdb

server = couchdb.Server("http://192.168.131.121:5984")

db = server.create('python-tests')

db['johndoe'] = dict(type='Person', name='John Doe')

db['maryjane'] = dict(type='Person', name='Mary Jane')

db['gotham'] = dict(type='City', name='Gotham City')

viewData = {

"getdata":{

"map":"function(doc){ if (doc.type == 'Person') emit(doc.name, null);}"

}

}

db['_design/example'] = dict(language='javascript', views=viewData)

for row in db.view('example/getdata'):

print(row.key)

del server['python-tests']

视图实现语言

javascript实现

couchDB默认的查询语言是javascript,不需要进行配置即可使用js创建视图。

示例代码:

{

"_id": "_design/jsTest",

"language": "javascript",

"views": {

"all": {

"map": "function(doc) {  emit(doc._id, doc); }",

"reduce": "function (key, values, rereduce) {   return values.length; }"

}

}

}

erlang实现

编辑local.ini文件,添加如下配置:

[native_query_servers]

erlang = {couch_native_process, start_link, []}

配置后需要重启couchDB服务器。

示例代码:

{

"_id": "_design/erlangTest",

"language": "erlang",

"views": {

"all": {

"map": "%% Map Function\nfun({Doc}) ->\n  V = proplists:get_value(<>, Doc, null),\n  Emit(V,{Doc})\nend.\n\n",

"reduce": "%% Reduce Function\nfun(Keys, Values, ReReduce) -> length(Values) end."

}

}

}

python实现

安装couchdb-python包:

pip install pycouchdb

or

pip install -i http://simple.crate.io/ pycouchdb

or

git clone git://github.com/niwibe/py-couchdb.git

cd py-couchdb

python setup.py install

编辑local.ini文件,添加如下配置:

[query_servers]

python=/usr/bin/couchpy

配置后需要重启couchDB服务器。

示例代码:

{

"_id": "_design/pythonTest",

"language": "python",

"views": {

"all": {

"map": "def fun(doc):\n    yield doc['_id'],doc\n",

"reduce": "def fun(key, values, rereduce):\n    return len(values)\n"

}

}

}

视图的使用

运行视图的可选参数

key         限定结果中只包含键为该参数值的记录。

startkey    限定结果中只包含键大于或等于该参数值的记录。

endkey      限定结果中只包含键小于或等于该参数值的记录。

limit       限定结果中包含的记录的数目。

descending  指定结果中记录是否按照降序排列。

skip        指定结果中需要跳过的记录数目。

group       指定是否对键进行分组。

reduce      指定reduce=false可以只返回 Map 方法的运行结果。

示例数据:

{

"_id": "ef3c0dddfd988a9fa5dd77452a46a5e6",

"phoneNumber": "1001",

"billSeconds": 180,

"timestamp": "201408251705"

}

{

"_id": "ef3c0dddfd988a9fa5dd77452a482dd0",

"phoneNumber": "1001",

"billSeconds": 100,

"timestamp": "201408251715"

}

{

"_id": "ef3c0dddfd988a9fa5dd77452a63a9e3",

"phoneNumber": "1002",

"billSeconds": 180,

"timestamp": "201408251735"

}

{

"_id": "5fecc0d7fe5acac6b46359b5eec4f3ff",

"phoneNumber": "1003",

"billSeconds": 190,

"timestamp": "201408261035"

}

{

"_id": "_design/jsTest",

"language": "javascript",

"views": {

"all": {

"map": "function(doc) {  emit(doc.phoneNumber, doc.billSeconds); }",

"reduce": "function (key, values, rereduce) {return sum(values); }"

}

}

}

查找单个文档

语法:

/database/_design/designdocname/_view/viewname?key="${key}"

示例:

curl "http://192.168.131.121:5984/testdb2/_design/jsTest/_view/all?group=true&key=\"1001\""

{"rows":[

{"key":"1001","value":280}

]}

查找多个文档

语法:

/database/_design/designdocname/_view/viewname?startkey="${startkey}"&endkey="${endkey}"

示例:

curl "http://192.168.131.121:5984/testdb2/_design/jsTest/_view/all?group=true&startkey=\"1001\"&endkey=\"1002\""

{"rows":[

{"key":"1001","value":280},

{"key":"1002","value":180}

]}

curl "http://192.168.131.121:5984/testdb2/_design/jsTest/_view/all?group=true&startkey=\"1001\""

{"rows":[

{"key":"1001","value":280},

{"key":"1002","value":180},

{"key":"1003","value":190}

]}

curl "http://192.168.131.121:5984/testdb2/_design/jsTest/_view/all?group=true&endkey=\"1002\""

{"rows":[

{"key":"1001","value":280},

{"key":"1002","value":180}

]}

一般的关系数据库只要数据的结构是正确的,就允许运行任何的查询操作,同样的,CouchDB使用事先定义好的Map和Reduce函数以Map/Reduce的方式来进行查询。这些函数为用户提供了极大的灵活性,由于每一个文档都可以单独、并行地进行计算,所以它们可以适应不同的文档结构和索引[2]。CouchDB将一个Map函数和一个Reduce函数结合在一起称之为视图。

CouchDB中的视图是用来获得开发者或当前程序想要的数据集的方式,而且是一种静态的数据查询方式[3]。视图很有用,在筛选数据库中的文档,为某个特殊的程序找到相关的文档;按照一定的顺序从数据库的文档中提取数据;按照某种需要的值为文档建立相应的索引等情况下都可以使用。总之,CouchDB中的视图所做的事情与关系数据库中的SQL查询所做的事情有许多类似之处,是开发应用程序,浏览数据库中的文档必不可少的工具。

在CouchDB中一般将视图称为MapReduce视图,一个MapReduce视图由两个JavaScript函数组成,一个是Map函数,这个函数必须定义;另一个是Reduce函数,这个是可选的,根据程序的需要可以进行选择性定义[3]。

详细介绍CouchDB的Map和Reduce执行过程之前,先了解一下Futon为我们提供的临时视图(Temporary View)。临时视图是Futon中的一个可以对视图进行调试的界面(见图),没有问题的函数可以保存在Design文档中形成固定的视图。为了了解Map和Reduce的过程,我们以建立一个数据库groups为例来进行讲解,如图所示。

在groups中我们添加三个文档作为示例,文档的内容分别如下:

{   "_id": "4c1168fca1d0ad9f69a1267b86000ed5",

"_rev": "1-283727dba699785809c18abc7eaedfcc",

"名称": "A小组",

"成员": [

"李刚",

"刘伟",

"赵小云"

],

"平均年龄": 23,

"所获荣誉": [

"卫生先进小组",

"文体先进小组",

"学习先进小组"

]

}

{   "_id": "4c1168fca1d0ad9f69a1267b86001c23",

"_rev": "2-42b7064413f6667f3c3cfc77dc0dd0de",

"名称": "B小组",

"成员": [

"张力",

"刘明"

],

"平均年龄": 22.5,

"所获荣誉": [

"学习先进小组",

"文体先进小组",

"卫生先进小组"

]

}

{   "_id": "4c1168fca1d0ad9f69a1267b86002695",

"_rev": "1-2d7bd5cff3806e3227fc9b48fa3b8cc8",

"名称": "C小组",

"成员": [

"刘明",

"杨丽",

"马晓雯",

"朱慧"

],

"平均年龄": 21,

"所获荣誉": [

"文体先进小组",

"学习先进小组"

]

}

在Map的步骤中,输入的文档会从原始的结构转换或者映射为新的key/value对。现在我们通过一个Map函数来完成对小组名称的查询。在临时视图中输入以下函数:

function(doc) {

if(doc.名称)

{

emit(doc.名称);

}

}

运行后得到如图11-9所示的结果。

可以看到我们查询到了所有小组的名称,同时也可以看到小组的名称的下面还有该文档的ID。还可以查询出所有小组中的所有人的姓名。

Map函数如下:

function(doc) {

if(doc.成员)

{

for(var i in doc.成员)

{

emit(doc.成员[i]);

}

}

}

该函数的运行结果如图11-10所示。

单击图11-10所示界面左上角的“key”按钮可以执行改变成员的姓名称的排序等操作。

现在来看看Reduce函数的执行过程。Reduce就是将执行Map函数后得到的key/value对削减为一个单个的值或一个数据集合,这个过程是可选择的,而Map函数的执行过程是一个视图所必需的。前面提到一个Map函数执行的过程会产生包含文档ID和key以及value的行,Reduce的输入则是这些由Map得到的key/value的值,而不是文档ID。执行Reduce函数过后,将会产生一个单独的对所有value的化简结果或一个基于key的所有分组的计算。分组(Grouping)的操作无法在Reduce函数中控制,它只能通过传递到视图中的参数来控制。

CouchDB本身包含了三个内嵌的Reduce函数,分别是:_count,_sum和_stats,它们的功能分别如表11-2所示。在大多数情况下,对于我们开发CouchDB的应用程序来说,它们基本上够用了。在这三个函数中,_sum和_stats仅仅会对数据的值进行化简,而_count函数可以对任何类型的值计数,当然也包括null类型的值。

表11-2  内嵌Reduce函数

函    数    输    出

_count    返回Map结果集中值的个数

_sum    返回Map结果集中数值的求和结果

_stats    返回Map结果集中数值的统计结果

内嵌的_count函数是开发程序的时候最常用的Reduce函数,由于该函数可以用来统计任何值的个数,包括null值,所以当Map函数中emit的value值略去不写的时候,也可以使用该函数。下面是一个示例。

Map函数:

function(doc) {

if(doc.成员)

{

for(var i in doc.成员)

{

emit(doc.成员[i]);

}

}

}

Reduce函数:

_count

程序运行的结果如图11-11所示。

内嵌函数_sum会返回一个Map函数输出的值的和,所以该函数要求所有求和的值均为数值类型。

Map函数:

function(doc) {

if(doc.成员)

{

for(var i in doc.成员)

{

emit(doc.成员[i] ,doc.平均年龄);

}

}

}

Reduce函数:

_sum

在“Grouping”下拉框中选择“exact”,则返回每个人对应的平均年龄。运行的结果如图11-12所示。

内嵌函数_stats返回一个JSON数据对象,该对象中包含sum、count、min、max、sumsqr的值,分别表示求和、计数、求最小值、求最大值、求和的平方。和_sum一样,该函数同样要求所有的参与运算的值均为数值类型。

Map函数:

function(doc) {

if(doc.成员)

{

for(var i in doc.成员)

{

emit(doc.成员[i] ,doc.平均年龄);

}

}

}

Reduce函数:

_stats

执行后的结果如图11-13所示。

在执行Map/Reduce的过程中,数据库中的每一个文档为Map函数的参数,该函数可以将所有的文档都忽略,或者通过emit()返回一行或者多行key/value对。除了文档之外Map函数几乎不依靠任何信息,正是这种执行的独立性,使得CouchDB视图可以大量、并行地产生。

CouchDB的视图按照键(key)的顺序进行排序并以行组(rows)的形式进行存储,因此即使按照多个键值在成百万、上千万的数据中进行检索也会具有很高的执行效率。所以,当编写Map函数的时候,首要的目标就是建立一个按照相似的键值来存储相关数据的索引。

虽然MapReduce的功能很强大,可以完成很多的工作,但它也有自己的局限性。在Map阶段产生的索引是一维的,这就意味着在Reduce的阶段不能产生大量的数据,否则会大大降低程序的性能。比如,CouchDB的MapReduce并不适于全文本检索和自组织搜索等应用,这类问题更适合用Lucene这样的工具来解决。此外,在CouchDB中处理地理信息数据也并不是很方便,如果需要处理地理信息数据,则最好使用CouchDB的一个分支系统GeoCouch。


http://lihuaxi.xjx100.cn/news/275781.html

相关文章

祝福互动html页面,祝福.html

2020-07-10 00:46:34一个人带娃心酸的感言 带娃的心酸的说说一、 爱孩子的爸爸。不抱怨&#xff0c;有正面诠释人生感知幸福的能力。情绪稳定。祝福而不是担心孩子。给孩子无条件的接纳和爱。少说教&#xff0c;多示范。多用身体语言。坚持读书给孩子听。少看会电视&#xff0c…

最近要换个主机,现在的太慢了

最近在学习wtl&#xff0c;打算做一个文件搜索工具来练手&#xff0c;需要正则表达式处理、数据库存储、键盘HOOK以及UI等技术UI用WTL搞定正则表达式的处理&#xff1a;http://research.microsoft.com/projects/greta/regex_perf.htmlhttp://www.tropicsoft.com/Components/Reg…

zabbix3.0禁用guest用户

1&#xff0c;默认guest账号&#xff0c;密码为空登陆&#xff0c;只能看到zabbix后台&#xff0c;没有具体内容&#xff0c;意义不大而且有安全隐患&#xff0c;一般保持现状或禁用即可。 具体操作步骤为&#xff1a;Administration---User groups---Guests--点击Disabled 转载…

最新Transformer模型大盘点,NLP学习必备,Google AI研究员出品丨资源

萧箫 发自 凹非寺量子位 报道 | 公众号 QbitAI可高效处理长文本的模型Longformer、和堪称“升级版”Transformer的BigBird模型&#xff0c;到底有什么区别&#xff1f;Transformer的其他各种变体&#xff08;X-former&#xff09;到底都长什么样、又有哪些新应用&#xff1f;由…

12个深度学习面试问题

点击上方“小白学视觉”&#xff0c;选择加"星标"或“置顶”重磅干货&#xff0c;第一时间送达本文转自|AI公园导读这12个问题是当前面试中最热门的问题&#xff0c;既是非常基础的问题&#xff0c;也能看出面试者的水平&#xff0c;具有区分度。无论是面试官还是求职…

Java中的BigDecimal类你真的了解吗?

点击上方“方志朋”&#xff0c;选择“设为星标”回复”666“获取新整理的面试资料作者&#xff1a;HikariCPwww.jianshu.com/p/c81edc59546c前言我们都知道浮点型变量在进行计算的时候会出现丢失精度的问题。如下一段代码&#xff1a;System.out.println(0.05 0.01); System.…

PHP shell模式下执行PHP文件报错

1.在shell下直接运行php文件 出现 PHP Deprecated: Comments starting with # are deprecated in /etc/php5/cli/conf.d/ming.ini on line 1 in Unknown on line 0 错误提示信息 2.解决办法&#xff1a; 将 vim /etc/php5/cli/conf.d/ming.ini 文件中第一行 # configuration …

蚂蚁金服提新概率图模型GLN,正确率提升8.2%,具备可解释性 | NeurIPS 2019

作者 | 蚂蚁金服编辑 | Jane出品 | AI科技大本营&#xff08;ID&#xff1b;rgznai100&#xff09;【导读】一年一度的国际顶级学术会议NeurIPS 2019将于12月8日至14日在加拿大温哥华举行。作为人工智能和机器学习领域最顶级的盛会之一&#xff0c;每年都会吸引来自全世界的AI大…