dex对mongodb索引优化及监控
"version" : "1.8.2",#版本号
"process" : "mongod",#进程名
"uptime" : 15549,#运行时间
"uptimeEstimate" : 15351,
"localTime" : ISODate("2011-07-23T06:07:31.220Z"),当前时间
"globalLock" : {
"totalTime" : 15548525410,#总运行时间（ns）
"lockTime" : 89206633, #总的锁时间（ns）
"ratio" : 0.005737305027178137,#锁比值
"currentQueue" : {
"total" : 0,#当前需要执行的队列
"readers" : 0,#读队列
"writers" : 0#写队列
},
"activeClients" : {
"total" : 0,#当前客户端执行的链接数
"readers" : 0,#读链接数
"writers" : 0#写链接数
}
},
"mem" : {#内存情况
"bits" : 32,#32位系统
"resident" : 337,#占有物理内存数
"virtual" : 599,#占有虚拟内存
"supported" : true,#是否支持扩展内存
"mapped" : 512
},
"connections" : {
"current" : 2,#当前链接数
"available" : 817#可用链接数
},
"extra_info" : {
"note" : "fields vary by platform",
"heap_usage_bytes" : 159008,#堆使用情况字节
"page_faults" : 907 #页面故作
},
"indexCounters" : {
"btree" : {
"accesses" : 59963, #索引被访问数
"hits" : 59963, #所以命中数
"misses" : 0,#索引偏差数
"resets" : 0,#复位数
"missRatio" : 0#未命中率
}
},
"backgroundFlushing" : {
"flushes" : 259, #刷新次数
"total_ms" : 3395, #刷新总花费时长
"average_ms" : 13.108108108108109, #平均时长
"last_ms" : 1, #最后一次时长
"last_finished" : ISODate("2011-07-23T06:07:22.725Z")#最后刷新时间
},
"cursors" : {
"totalOpen" : 0,#打开游标数
"clientCursors_size" : 0,#客户端游标大小
"timedOut" : 16#超时时间
},
"network" : {
"bytesIn" : 285676177,#输入数据（byte）
"bytesOut" : 286564,#输出数据（byte）
"numRequests" : 2012348#请求数
},
"opcounters" : {
"insert" : 2010000, #插入操作数
"query" : 51,#查询操作数
"update" : 5,#更新操作数
"delete" : 0,#删除操作数
"getmore" : 0,#获取更多的操作数
"command" : 148#其他命令操作数
},
"asserts" : {#各个断言的数量
"regular" : 0,
"warning" : 0,
"msg" : 0,
"user" : 2131,
"rollovers" : 0
},
"writeBacksQueued" : false,
"ok" : 1
}
db.stats()查看某一个库的原先状况
Java代码
> db.stats()
{
"db" : "order",#库名
"collections" : 4,#集合数
"objects" : 2011622,#记录数
"avgObjSize" : 111.92214441878245,#每条记录的平均值
"dataSize" : 225145048,#记录的总大小
"storageSize" : 307323392,#预分配的存储空间
"numExtents" : 21,#事件数
"indexes" : 1,#索引数
"indexSize" : 74187744,#所以大小
"fileSize" : 1056702464,#文件大小
"ok" : 1
}
查看集合记录用
Java代码
> db.order.stats()
{
"ns" : "order.order",#命名空间
"count" : 2010000,#记录数
"size" : 225039600,#大小
"avgObjSize" : 111.96,
"storageSize" : 307186944,
"numExtents" : 18,
"nindexes" : 1,
"lastExtentSize" : 56089856,
"paddingFactor" : 1,
"flags" : 1,
"totalIndexSize" : 74187744,
"indexSizes" : {
"_id_" : 74187744#索引为_id_的索引大小
},
"ok" : 1
}
mongostat命令查看运行中的实时统计，表示每秒实时执行的次数
mongodb还提供了一个http的监控页面，可以访问http://ip:28017来查看，这个页面基本上是对上面的这些命令做了一下综合，所以这里不细述了。
使用explain对mongodb的索引优化
根据上面这些监控手段，找到问题后，我们可以进行优化
上面找到了某一下慢的命令，现在我们可以通过执行计划跟踪一下，如
Java代码
> db.order.find({ "status": 1.0, "user.uid": { $gt: 2663199.0 } }).explain()
{
"cursor" : "BasicCursor",#游标类型
"nscanned" : 2010000,#扫描数量
"nscannedObjects" : 2010000,#扫描对象
"n" : 337800,#返回数据
"millis" : 2838,#耗时
"nYields" : 0,
"nChunkSkips" : 0,
"isMultiKey" : false,
"indexOnly" : false,
"indexBounds" : {#使用索引（这里没有）
}
}
对于这样的，我们可以创建索引
可以通过 db.collection.ensureIndex({"字段名":1}) 来创建索引，1为升序，-1为降序，在已经有多数据的情况下，可用后台来执行，语句db.collection.ensureIndex({"字段名":1} , {backgroud:true})
获取索引用db.collection.getIndexes() 查看
这里我们创建一个user.uid的索引 >db.order.ensureIndex({"user.uid":1})
创建后重新执行
Java代码
db.order.find({ "status": 1.0, "user.uid": { $gt: 2663199.0 } }).explain()
{
"cursor" : "BtreeCursor user.uid_1",
"nscanned" : 337800,
"nscannedObjects" : 337800,
"n" : 337800,
"millis" : 1371,
"nYields" : 0,
"nChunkSkips" : 0,
"isMultiKey" : false,
"indexOnly" : false,
"indexBounds" : {
"user.uid" : [
[
2663199,
1.7976931348623157e+308
]
]
}
}
扫描数量减少，速度提高。mongodb的索引设计类似与关系数据库，按索引查找加快书读，但是多了会对写有压力，所以这里就不再叙述了。
?
?
二、dex安装与使用
? ? ? dex会对慢语句进行分析，并提供建议的建索引语句。但是在安装和使用需要注意一些限制
? ? ? 1)只适用于 2.0.4 or later版本，一开始是1.8.3的版本，一直没有成功。
? ? ? 2)不能直接用于replSet
?
? ? ? 以上是两个前提，由于在centos6.3上安装dex还是碰到诸多问题，这里就按照已解决问题的顺序来做安装。大家在安装的时候，最好以下顺序，否则需要来回好几趟才能安装成功
? ? ?1)yum install zlib*
? ? ?2)yum install openssl*
? ? ?3)download python2.7 or later version、download?setuptools-0.6c11-py2.7.egg、donwoad pip1.4
? ? ?4)tar zxvf python2.7.tar.bz2; chmod +x setuptools-0.6c11-py2.7.egg; tar zxvf pip1.4.tar.gz
? ? ?5)vi /Python2.7/Moduels/Setup.dist
? ? ? ? zlib zilibmodule.c -I$(prefix)/include -L$(exec_prefix)/lib -lz
? ? ? ??
? ? ? ? SSL=/usr/local/ssl
? ? ? ?_ssl _ssl.c \
? ? ? ? ? ? -DUSE_SSL -I$(SSL)/include -I$(SSL)/include/openssl \
? ? ? ? ? ? -L$(SSL)/lib -lssl -lcrypto
? ? ? ? 以上语句原文都是注释掉的，把注释去掉。
? ? ? ? ./configure
? ? ? ? ?./setup
? ? ? ? ./setup install
? ? ? 6)python -V
? ? ? ? ? 查看python是否为2.7，如果不是cp /usr/local/bin/python2.7 /usr/bin/python
? ? ? ? ? 这时打开yum，发现yum坏掉了，因为yum使用的是python2.4版本，解决办法
? ? ? ? ? ?vi /usr/bin/yum把这一句改成这样
? ? ? ? ? ? #!/usr/bin/python2.4
? ? ? ? ? 保存后，yum就好了
? ? ? ?7)sh?setuptools-0.6c11-py2.7.egg
? ? ? ? ?8)安装pip，转到pip解压后的目录下 python setup.py install
? ? ? ? ?9)安装dex
? ? ? ? ? ? ?pip dex install
? ? ? ? ?依赖的libraries:
? ? ? ? ?pyyaml
? ? ? ? ?pymongo
? ? ? ? ?dargparse
? ? ? ? 在安装的过程中，还会报pyyaml出错
? ? ? ? ?可以直接下载pyyaml最新版本,通过python setup.py install方式来单独安装
? ? ? ? pip dex uninstall
? ? ? ? 重新再安装一次dex
? ? ? ? pip dex install
?
? ? ? ?以上步骤，安装dex完成。在进入dex之前，需要正确设置profilinglevel、mongodb版本是否高于2.0.4，profilinglevel是基于每一个database来设置的，如果
? ? ? 针对多个database那就要切换到不同的database下，分别进行设置。另外dex如果要指定某个database查看，必须指定user:pwd，不能为空。这时就不能采用
? ? ? 没有用户的方式，必须加上用户安全校验。
? ? ? ?dex -p monodb://user:pwd@localhost:test
? ? ? ?分析出一段比如下面的代码片段
'results': [ { 'queryMask': '{"$query":{"schoolItemId":"<val>","schoolid":"<val>"}}', 'namespace': 'cmac.educourse', 'recommendation': { 'index': '{"schoolid": 1, "schoolItemId": 1}', 'shellCommand': 'db["educourse"].ensureIndex({"schoolid": 1, "schoolItemId": 1}, {"background": true})' }, 'details': { 'count': 1, 'totalTimeMillis': 0, 'avgTimeMillis': 0 } },?
? ? ?"recommendation"部分给出的建索引优化建议。
? ? ?dex githup具体查看? ? https://github.com/mongolab/dex
? ? ? ??
? ? ? ??
? ? ? ?
?