Mongodb基礎使用
阿新 • • 發佈:2020-08-02
目錄
Mongodb
一 簡介
MongoDB是一款強大、靈活、且易於擴充套件的通用型資料庫
1.1 易用性
MongoDB是一個面向文件(document-oriented)的資料庫,而不是關係型資料庫。 不採用關係型主要是為了獲得更好得擴充套件性。當然還有一些其他好處,與關係資料庫相比,面向文件的資料庫不再有“行“(row)的概念取而代之的是更為靈活的“文件”(document)模型。 通過在文件中嵌入文件和陣列,面向文件的方法能夠僅使用一條記錄來表現複雜的層級關係,這與現代的面嚮物件語言的開發者對資料的看法一致。 另外,不再有預定義模式(predefined schema):文件的鍵(key)和值(value)不再是固定的型別和大小。由於沒有固定的模式,根據需要新增或刪除欄位變得更容易了。通常由於開發者能夠進行快速迭代,所以開發程序得以加快。而且,實驗更容易進行。開發者能嘗試大量的資料模型,從中選一個最好的。
1.2 易擴充套件性
應用程式資料集的大小正在以不可思議的速度增長。隨著可用頻寬的增長和儲存器價格的下降,即使是一個小規模的應用程式,需要儲存的資料量也可能大的驚人,甚至超出 了很多資料庫的處理能力。過去非常罕見的T級資料,現在已經是司空見慣了。 由於需要儲存的資料量不斷增長,開發者面臨一個問題:應該如何擴充套件資料庫,分為縱向擴充套件和橫向擴充套件,縱向擴充套件是最省力的做法,但缺點是大型機一般都非常貴,而且 當資料量達到機器的物理極限時,花再多的錢也買不到更強的機器了,此時選擇橫向擴充套件更為合適,但橫向擴充套件帶來的另外一個問題就是需要管理的機器太多。 MongoDB的設計採用橫向擴充套件。面向文件的資料模型使它能很容易地在多臺伺服器之間進行資料分割。MongoDB能夠自動處理跨叢集的資料和負載,自動重新分配文件,以及將 使用者的請求路由到正確的機器上。這樣,開發者能夠集中精力編寫應用程式,而不需要考慮如何擴充套件的問題。如果一個叢集需要更大的容量,只需要向叢集新增新伺服器,MongoDB就會自動將現有的資料向新伺服器傳送
1.3 豐富的功能
MongoDB作為一款通用型資料庫,除了能夠建立、讀取、更新和刪除資料之外,還提供了一系列不斷擴充套件的獨特功能
#1、索引
支援通用二級索引,允許多種快速查詢,且提供唯一索引、複合索引、地理空間索引、全文索引
#2、聚合
支援聚合管道,使用者能通過簡單的片段建立複雜的集合,並通過資料庫自動優化
#3、特殊的集合型別
支援存在時間有限的集合,適用於那些將在某個時刻過期的資料,如會話session。類似地,MongoDB也支援固定大小的集合,用於儲存近期資料,如日誌
#4、檔案儲存
支援一種非常易用的協議,用於儲存大檔案和檔案元資料。MongoDB並不具備一些在關係型資料庫中很普遍的功能,如連結join和複雜的多行事務。省略
這些的功能是處於架構上的考慮,或者說為了得到更好的擴充套件性,因為在分散式系統中這兩個功能難以高效地實現
1.4、卓越的效能
MongoDB的一個主要目標是提供卓越的效能,這很大程度上決定了MongoDB的設計。MongoDB把儘可能多的記憶體用作快取cache,檢視為每次查詢自動選擇正確的索引。
總之各方面的設計都旨在保持它的高效能
雖然MongoDB非常強大並試圖保留關係型資料庫的很多特性,但它並不追求具備關係型資料庫的所有功能。只要有可能,資料庫伺服器就會將處理邏輯交給客戶端。這種精簡方式的設計是MongoDB能夠實現如此高效能的原因之一
二 MongoDB基礎知識
2.1 文件是MongoDB的核心概念。文件就是鍵值對的一個有序集{'msg':'hello','foo':3}。類似於python中的有序字典。
需要注意的是:
#1、文件中的鍵/值對是有序的。
#2、文件中的值不僅可以是在雙引號裡面的字串,還可以是其他幾種資料型別(甚至可以是整個嵌入的文件)。
#3、MongoDB區分型別和大小寫。
#4、MongoDB的文件不能有重複的鍵。
#5、文件中的值可以是多種不同的資料型別,也可以是一個完整的內嵌文件。文件的鍵是字串。除了少數例外情況,鍵可以使用任意UTF-8字元。
文件鍵命名規範:
#1、鍵不能含有\0 (空字元)。這個字元用來表示鍵的結尾。
#2、.和$有特別的意義,只有在特定環境下才能使用。
#3、以下劃線"_"開頭的鍵是保留的(不是嚴格要求的)。
2.2 集合就是一組文件。如果將MongoDB中的一個文件比喻為關係型資料的一行,那麼一個集合就是相當於一張表
#1、集合存在於資料庫中,通常情況下為了方便管理,不同格式和型別的資料應該插入到不同的集合,但其實集合沒有固定的結構,這意味著我們完全可以把不同格式和型別的資料統統插入一個集合中。
#2、組織子集合的方式就是使用“.”,分隔不同名稱空間的子集合。
比如一個具有部落格功能的應用可能包含兩個集合,分別是blog.posts和blog.authors,這是為了使組織結構更清晰,這裡的blog集合(這個集合甚至不需要存在)跟它的兩個子集合沒有任何關係。
在MongoDB中,使用子集合來組織資料非常高效,值得推薦
#3、當第一個文件插入時,集合就會被建立。合法的集合名:
集合名不能是空字串""。
集合名不能含有\0字元(空字元),這個字元表示集合名的結尾。
集合名不能以"system."開頭,這是為系統集合保留的字首。
使用者建立的集合名字不能含有保留字元。有些驅動程式的確支援在集合名裡面包含,這是因為某些系統生成的集合中包含該字元。除非你要訪問這種系統建立的集合,否則千萬不要在名字裡出現$。
2.3 資料庫:在MongoDB中,多個文件組成集合,多個集合可以組成資料庫
資料庫也通過名字來標識。資料庫名可以是滿足以下條件的任意UTF-8字串:
#1、不能是空字串("")。
#2、不得含有' '(空格)、.、$、/、\和\0 (空字元)。
#3、應全部小寫。
#4、最多64位元組。
有一些資料庫名是保留的,可以直接訪問這些有特殊作用的資料庫。
#1、admin: 從身份認證的角度講,這是“root”資料庫,如果將一個使用者新增到admin資料庫,這個使用者將自動獲得所有資料庫的許可權。再者,一些特定的伺服器端命令也只能從admin資料庫執行,如列出所有資料庫或關閉伺服器
#2、local: 這個資料庫永遠都不可以複製,且一臺伺服器上的所有本地集合都可以儲存在這個資料庫中
#3、config: MongoDB用於分片設定時,分片資訊會儲存在config資料庫中
2.4 強調:把資料庫名新增到集合名前,得到集合的完全限定名,即名稱空間
例如:
如果要使用cms資料庫中的blog.posts集合,這個集合的名稱空間就是
cmd.blog.posts。名稱空間的長度不得超過121個位元組,且在實際使用中應該小於100個位元組
三 安裝&配置
3.1 安裝
#0、下載地址 https://www.mongodb.com/download-center/community,選擇平臺下載
#1、安裝,一路下一步
#2、會自動建立檔案db和mongod.log檔案,自動建立服務
#3、注意bin路徑下的配置檔案mongod.cfg
storage:
dbPath: C:\Program Files\MongoDB\Server\4.2\data
journal:
enabled: true
# where to write logging data.
systemLog:
destination: file
logAppend: true
path: C:\Program Files\MongoDB\Server\4.2\log\mongod.log
# network interfaces
net:
port: 27017
bindIp: 127.0.0.1
#4、啟動\關閉
net start MongoDB
net stop MongoDB
mongod --config "mongod.cfg"
# mongod --config "mongod.cfg" --auth 開啟認證
#6、登入
mongo
# 遠端連線:./mongo --host 10.0.0.5 --port 27017
#7、安裝robo3t(客戶端,等同於Navicat)
一路下一步
3.2 賬號管理
#注意,要管理哪個庫,就在哪個庫下建賬號,管理員賬號要建在amdin庫下
#1、建立賬號
use admin
#全域性變數 db ,當前在什麼庫下,這個db就是誰
db.createUser(
{
user: "root",
pwd: "123",
roles: [ { role: "root", db: "admin" } ]
}
)
use test # 空資料庫不顯示
db.createUser(
{
user: "zhang",
pwd: "123",
roles: [ { role: "readWrite", db: "test" },
{ role: "read", db: "db1" } ]
}
)
#2、重啟資料庫
net stop MongoDB
net start MongoDB
#需要以開啟認證的方式啟動mongodb服務
mongod --config "mongod.cfg" --auth
#3、登入:注意使用雙引號而非單引號
#以管理員登陸
./mongo --host 10.0.0.5 --port 27017 -u "root" -p "123" --authenticationDatabase "admin"
# 以使用者zhang登陸(只對test庫有許可權)
./mongo --host 10.0.0.5 --port 27017 -u "zhang" -p "123" --authenticationDatabase "test"
mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin"
也可以在登入之後用db.auth("賬號","密碼")登入
mongo
show dbs
use admin
# db是一個全域性變數,代表當前所有庫
db.auth("root","123")
show tables;
四 基本資料型別
1、在概念上,MongoDB的文件與Javascript的物件相近,因而可以認為它類似於JSON。JSON(http://www.json.org)是一種簡單的資料表示方式:其規範僅用一段文字就能描述清楚(其官網證明了這點),且僅包含六種資料型別。
2、這樣有很多好處:易於理解、易於解析、易於記憶。然而從另一方面說,因為只有null、布林、數字、字串、數字和物件這幾種資料型別,所以JSON的表達能力有一定的侷限。
3、雖然JSON具備的這些型別已經具有很強的表現力,但絕大數應用(尤其是在於資料庫打交道時)都還需要其他一些重要的型別。例如,JSON沒有日期型別,這使得原本容易日期處理變得煩人。另外,JSON只有一種數字型別,無法區分浮點數和整數,更別區分32位和64位了。再者JSON無法表示其他一些通用型別,如正則表示式或函式。
4、MongoDB在保留了JSON基本鍵/值對特性的基礎上,添加了其他一些資料型別。在不同的程式語言下,這些型別的確切表示有些許差異。下面說明了MongoDB支援的其他通用型別,以及如何正在文件中使用它們
#1、null:用於表示空或不存在的欄位
d={'x':null}
#2、布林型:true和false
d={'x':true,'y':false}
#3、數值
d={'x':3,'y':3.1415926}
#4、字串
d={'x':'wang'}
#5、日期
d={'x':new Date()}
d.x.getHours()
#6、正則表示式
d={'pattern':/^wang.*?nb$/i}
正則寫在//內,後面的i代表:
i 忽略大小寫
m 多行匹配模式
x 忽略非轉義的空白字元
s 單行匹配模式
#7、陣列
d={'x':[1,'a','v']}
#8、內嵌文件
user={'name':'wang','addr':{'country':'China','city':'YT'}}
user.addr.country
#9、物件id:是一個12位元組的ID,是文件的唯一標識,不可變
d={'x':ObjectId()}
_id和Objectid
MongoDB中儲存的文件必須有一個"_id"鍵。這個鍵的值可以是任意型別,預設是個ObjectId物件。
在一個集合裡,每個文件都有唯一的“_id”,確保集合裡每個文件都能被唯一標識。
不同集合"_id"的值可以重複,但同一集合內"_id"的值必須唯一
#1、ObjectId
ObjectId是"_id"的預設型別。因為設計MongoDb的初衷就是用作分散式資料庫,所以能夠在分片環境中生成
唯一的識別符號非常重要,而常規的做法:在多個伺服器上同步自動增加主鍵既費時又費力,這就是MongoDB採用
ObjectId的原因。
ObjectId採用12位元組的儲存空間,是一個由24個十六進位制數字組成的字串
0|1|2|3| 4|5|6| 7|8 9|10|11
時間戳 機器 PID 計數器
如果快速建立多個ObjectId,會發現每次只有最後幾位有變化。另外,中間的幾位數字也會變化(要是在建立過程中停頓幾秒)。
這是ObjectId的建立方式導致的,如上圖
時間戳單位為秒,與隨後5個位元組組合起來,提供了秒級的唯一性。這個4個位元組隱藏了文件的建立時間,絕大多數驅動程式都會提供
一個方法,用於從ObjectId中獲取這些資訊。
因為使用的是當前時間,很多使用者擔心要對伺服器進行時鐘同步。其實沒必要,因為時間戳的實際值並不重要,只要它總是不停增加就好。
接下來3個位元組是所在主機的唯一識別符號。通常是機器主機名的雜湊值。這樣就可以保證不同主機生成不同的ObjectId,不產生衝突
接下來連個位元組確保了在同一臺機器上併發的多個程序產生的ObjectId是唯一的
前9個位元組確保了同一秒鐘不同機器不同程序產生的ObjectId是唯一的。最後3個位元組是一個自動增加的 計數器。確保相同程序的同一秒產生的
ObjectId也是不一樣的。
#2、自動生成_id
如果插入文件時沒有"_id"鍵,系統會自幫你建立 一個。可以由MongoDb伺服器來做這件事。
但通常會在客戶端由驅動程式完成。這一做法非常好地體現了MongoDb的哲學:能交給客戶端驅動程式來做的事情就不要交給伺服器來做。
這種理念背後的原因是:即便是像MongoDB這樣擴充套件性非常好的資料庫,擴充套件應用層也要比擴充套件資料庫層容易的多。將工作交給客戶端做就
減輕了資料庫擴充套件的負擔。
五 CURD操作
5.1 資料庫操作
#1、增
use config #如果資料庫不存在,則建立資料庫,否則切換到指定資料庫。
#2、查
show dbs #檢視所有
可以看到,我們剛建立的資料庫config並不在資料庫的列表中, 要顯示它,我們需要向config資料庫插入一些資料。
db.table1.insert({'a':1})
#3、刪
use config #先切換到要刪的庫下
db.dropDatabase() #刪除當前庫
5.2 集合操作(表)
#1、增
當第一個文件插入時,集合就會被建立
> use database1
switched to db database1
> db.table1.insert({'a':1})
WriteResult({ "nInserted" : 1 })
> db.table2.insert({'b':2})
WriteResult({ "nInserted" : 1 })
#注意 db.user和db.user.info是兩個表
#2、查
> show collections
> show tables
table1
table2
#3、刪
> db.table1.drop()
true
> show tables
table2
5.3 文件操作
5.3.1 新增文件
#單條插入與多條插入
#1、沒有指定_id則預設ObjectId,_id不能重複,且在插入後不可變
#2、插入單條
user0={
"name":"zhang",
"age":10,
'hobbies':['music','read','dancing'],
'addr':{
'country':'China',
'city':'BJ'
}
}
db.test.insert(user0)
db.test.find()
#3、插入多條
user1={
"_id":1,
"name":"zhang1",
"age":10,
'hobbies':['music','read','dancing'],
'addr':{
'country':'China',
'city':'weifang'
}
}
user2={
"_id":2,
"name":"zhang2",
"age":20,
'hobbies':['music','read','run'],
'addr':{
'country':'China',
'city':'hebei'
}
}
user3={
"_id":3,
"name":"zhang3",
"age":30,
'hobbies':['music','drink'],
'addr':{
'country':'China',
'city':'heibei'
}
}
user4={
"_id":4,
"name":"zhang4",
"age":40,
'hobbies':['music','read','dancing','tea'],
'addr':{
'country':'China',
'city':'BJ'
}
}
user5={
"_id":5,
"name":"zhang5",
"age":50,
'hobbies':['music','read',],
'addr':{
'country':'China',
'city':'henan'
}
}
db.user.insertMany([user1,user2,user3,user4,user5])
# 有則覆蓋,沒則新增
db.t1.save({"_id":1,"name":"zhang"})
db.t1.save("name":"zhang"})
5.3.2 查詢文件
比較運算
# 比較運算
# SQL:=,!=,>,<,>=,<=
# MongoDB:{key:value}代表什麼等於什麼,"$ne","$gt","$lt","gte","lte",其中"$ne"能用於所有資料型別
db.user.find().pretty() # 以json格式顯示,瞭解
#1、select * from db1.user where name = "zhang1";
db.user.find({'name':'zhang1'})
#2、select * from db1.user where name != "zhang2";
db.user.find({'name':{"$ne":'zhang2'}})
#3、select * from db1.user where id > 2;
db.user.find({'_id':{'$gt':2}})
#4、select * from db1.user where id < 3;
db.user.find({'_id':{'$lt':3}})
#5、select * from db1.user where id >= 2;
db.user.find({"_id":{"$gte":2,}})
#6、select * from db1.user where id <= 2;
db.user.find({"_id":{"$lte":2}})
邏輯運算
#邏輯運算
# SQL:and,or,not ,mod(取餘數)
# MongoDB:字典中逗號分隔的多個條件是and關係,"$or"的條件放到[]內,"$not"
#1、select * from db1.user where id >= 2 and id < 4;
db.user.find({'_id':{"$gte":2,"$lt":4}})
#2、select * from db1.user where id >= 2 and age < 40;
db.user.find({"_id":{"$gte":2},"age":{"$lt":40}})
#3、select * from db1.user where id >= 5 or name = "zhang";
db.user.find({
"$or":[
{'_id':{"$gte":5}},
{"name":"zhang"}
]
})
#4、select * from db1.user where id % 2=1;
db.user.find({'_id':{"$mod":[2,1]}})
#5、上題,取反
db.user.find({'_id':{"$not":{"$mod":[2,1]}}})
成員運算
# 成員運算
# SQL:in,not in
# MongoDB:"$in","$nin"
#1、select * from db1.user where age in (20,30,31);
db.user.find({"age":{"$in":[20,30,31]}})
#2、select * from db1.user where name not in ('zhang1','zhang2');
db.user.find({"name":{"$nin":['zhang1','zhang2']}})
正則匹配
# SQL: regexp 正則
# MongoDB: /正則表達/i
#1、select * from db1.user where name regexp '^l';
# 查詢名字以l開頭的人
db.user.find({"name":/.*?/})
db.user.find({"name":/^l/})
# 查詢名字以l開頭,以1結尾的所有資料
db.user.find({"name":/^l.*?1$/})
取指定欄位
#1、select name,age from db1.user where id=3;
db.user.find({'_id':3},{'_id':0,'name':1,'age':1})
# 0表示不顯示,1表示顯示
查詢陣列
#1、檢視有dancing愛好的人
db.user.find({'hobbies':'dancing'})
#2、檢視既有dancing愛好又有tea愛好的人
db.user.find({
'hobbies':{
"$all":['dancing','tea']
}
})
#3、檢視第4個愛好為tea的人
db.user.find({"hobbies.3":'tea'})
#4、檢視所有人最後兩個愛好(注意沒有hobbies欄位的也會被查出)(本質用的是取指定欄位,所以要放在後面的字典中)
db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0})
#5、檢視所有人的第2個到第3個愛好
db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0})
> db.blog.find().pretty()
{
"_id" : 1,
"name" : "alex意外死亡的真相",
"comments" : [
{
"name" : "wang",
"content" : "alex是誰???",
"thumb" : 200
},
{
"name" : "wxx",
"content" : "我去,真的假的",
"thumb" : 300
},
{
"name" : "yxx",
"content" : "吃喝嫖賭抽,欠下兩個億",
"thumb" : 40
},
{
"name" : "wang",
"content" : "xxx",
"thumb" : 0
}
]
}
db.blog.find({},{'comments':{"$slice":-2}}).pretty() #查詢最後兩個
db.blog.find({},{'comments':{"$slice":[1,2]}}).pretty() #查詢1到2
排序
# 排序:--1代表升序,-1代表降序
db.user.find().sort({"name":1,})
db.user.find().sort({"age":-1,'_id':1})
分頁
# 分頁:--limit代表取多少個document,skip代表跳過前多少個document。
# limit中表示一頁顯示的條數,skip(頁碼數*一頁顯示的條數)
db.user.find().sort({'age':1}).limit(1).skip(2)
# 表關聯
user {_id:1,nane:lqz,age:18} 一個人寫多篇文章
article ----》子查詢
{'userid':1,article:紅樓夢}
{'userid':1,article:西遊記}
獲取數量
# 獲取數量
db.user.count({'age':{"$gt":30}})
--或者
db.user.find({'age':{"$gt":30}}).count()
其他
#1、{'key':null} 匹配key的值為null或者沒有這個key
db.t2.insert({'a':10,'b':111})
db.t2.insert({'a':20})
db.t2.insert({'b':null})
> db.t2.find({"b":null})
{ "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 }
{ "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null }
#2、查詢所有
db.user.find() #等同於db.user.find({})
db.user.find().pretty()
#3、查詢一個,與find用法一致,只是只取匹配成功的第一個
db.user.findOne({"_id":{"$gt":3}})
# 分散式id的生成方案https://www.cnblogs.com/liuqingzheng/p/11074623.html
5.3.3 修改文件
語法介紹
update() 方法用於更新已存在的文件。語法格式如下:
db.collection.update(
<query>,
<update>,
{
upsert: <boolean>,
multi: <boolean>,
writeConcern: <document>
}
)
引數說明:對比update db1.t1 set name='wang',sex='Male' where name='wang' and age=18;
db.collection.update(
{namne:{$ne:lqz}},
{字典},
{
upsert: <boolean>,
multi: <boolean>,
writeConcern: <document>
}
)
query : 相當於where條件。
update : update的物件和一些更新的操作符(如$,$inc...等,相當於set後面的
upsert : 可選,預設為false,代表如果不存在update的記錄不更新也不插入,設定為true代表插入。
multi : 可選,預設為false,代表只更新找到的第一條記錄,設為true,代表更新找到的全部記錄。
writeConcern :可選,丟擲異常的級別。
更新操作是不可分割的:若兩個更新同時傳送,先到達伺服器的先執行,然後執行另外一個,不會破壞文件。
覆蓋式
#注意:除非是刪除,否則_id是始終不會變的
#1、覆蓋式:
db.user.update({'age':30},{"name":"zhang9","hobbies_count":3})
是用{"_id":3,"name":"zhang3","hobbies_count":3}覆蓋原來的記錄
#2、一種最簡單的更新就是用一個新的文件完全替換匹配的文件。這適用於大規模式遷移的情況。例如
var obj=db.user.findOne({"_id":4})
obj.username=obj.name+'NB'
obj.hobbies_count++
delete obj.age
delete obj._id
db.user.update({"_id":2},obj)
設定$set
#設定:$set
通常文件只會有一部分需要更新。可以使用原子性的更新修改器,指定對文件中的某些欄位進行更新。
更新修改器是種特殊的鍵,用來指定複雜的更新操作,比如修改、增加後者刪除
#1、update db1.user set name="WXX" where id = 2
db.user.update({'_id':2},{"$set":{"name":"張三",}})
#2、沒有匹配成功則新增一條{"upsert":true}
db.user.update({'_id':6},{"$set":{"name":"李飛刀","age":18}},{"upsert":true})
#3、預設只改匹配成功的第一條,{"multi":改多條}
db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}})
db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true})
#4、修改內嵌文件,把名字為zhang4的人所在的地址國家改成Japan
db.user.update({'name':"zhang4"},{"$set":{"addr.country":"Japan"}})
#5、把名字為zhang4的人的地2個愛好改成sleep
db.user.update({'name':"zhang4"},{"$set":{"hobbies.1":"sleep"}})
#6、刪除zhang4的愛好,$unset
db.user.update({'name':"zhang4"},{"$unset":{"hobbies":""}})
增加和減少
#增加和減少:$inc
#1、所有人年齡增加一歲
db.user.update({},
{
"$inc":{"age":1}
},
{
"multi":true
}
)
#2、所有人年齡減少5歲
db.user.update({},
{
"$inc":{"age":-5}
},
{
"multi":true
}
)
新增刪除組內元素 $push $pop $pull
#新增刪除陣列內元素
往陣列內新增元素:$push
#1、為名字為zhang的人新增一個愛好read
db.user.update({"name":"zhang"},{"$push":{"hobbies":"read"}})
#2、為名字為zhang的人一次新增多個愛好tea,dancing
db.user.update({"name":"zhang"},{"$push":{
"hobbies":{"$each":["tea","dancing"]}
}})
按照位置且只能從開頭或結尾刪除元素:$pop
#3、{"$pop":{"key":1}} 從陣列末尾刪除一個元素
db.user.update({"name":"zhang"},{"$pop":{
"hobbies":1}
})
#4、{"$pop":{"key":-1}} 從頭部刪除
db.user.update({"name":"zhang"},{"$pop":{
"hobbies":-1}
})
#5、按照條件刪除元素,:"$pull" 把符合條件的統統刪掉,而$pop只能從兩端刪
# 刪除所有國家為chine的人的read愛好
db.user.update({'addr.country':"China"},{"$pull":{
"hobbies":"read"}
},
{
"multi":true
}
)
避免重複 "$addToSet"
#避免新增重複:"$addToSet"
db.urls.insert({"_id":1,"urls":[]})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}})
db.urls.update({"_id":1},{
"$addToSet":{
"urls":{
"$each":[
'http://www.baidu.com',
'http://www.baidu.com',
'http://www.xxxx.com'
]
}
}
}
)
其他
#1、瞭解:限制大小"$slice",只留最後n個
db.user.update({"_id":5},{
"$push":{"hobbies":{
"$each":["read",'music','dancing'],
"$slice":-2
}
}
})
#2、瞭解:排序The $sort element value must be either 1 or -1"
db.user.update({"_id":5},{
"$push":{"hobbies":{
"$each":["read",'music','dancing'],
"$slice":-1,
"$sort":-1
}
}
})
#注意:不能只將"$slice"或者"$sort"與"$push"配合使用,且必須使用"$eah"
5.3.4 刪除文件
#1、刪除多箇中的第一個
db.user.deleteOne({ 'age': 8 })
#2、刪除國家為China的全部
db.user.deleteMany( {'addr.country': 'China'} )
#3、刪除全部
db.user.deleteMany({})
5.3.5 聚合
如果你有資料儲存在MongoDB中,你想做的可能就不僅僅是將資料提取出來那麼簡單了;你可能希望對資料進行分析並加以利用。MongoDB提供了以下聚合工具:
#1、聚合框架
#2、MapReduce(詳見MongoDB權威指南)
#3、幾個簡單聚合命令:count、distinct和group。(詳見MongoDB權威指南)
#聚合框架:
可以使用多個構件建立一個管道,上一個構件的結果傳給下一個構件。
這些構件包括(括號內為構件對應的操作符):篩選($match)、投射($project)、分組($group)、排序($sort)、限制($limit)、跳過($skip)
不同的管道操作符可以任意組合,重複使用
準備資料
from pymongo import MongoClient
import datetime
client=MongoClient('mongodb://root:123@localhost:27017')
table=client['db1']['emp']
# table.drop()
l=[
('wang','male',18,'20170301','老男孩駐沙河辦事處外交大使',7300.33,401,1), #以下是教學部
('alex','male',78,'20150302','teacher',1000000.31,401,1),
('wupeiqi','male',81,'20130305','teacher',8300,401,1),
('yuanhao','male',73,'20140701','teacher',3500,401,1),
('liwenzhou','male',28,'20121101','teacher',2100,401,1),
('jingliyang','female',18,'20110211','teacher',9000,401,1),
('jinxin','male',18,'19000301','teacher',30000,401,1),
('成龍','male',48,'20101111','teacher',10000,401,1),
('歪歪','female',48,'20150311','sale',3000.13,402,2),#以下是銷售部門
('丫丫','female',38,'20101101','sale',2000.35,402,2),
('丁丁','female',18,'20110312','sale',1000.37,402,2),
('星星','female',18,'20160513','sale',3000.29,402,2),
('格格','female',28,'20170127','sale',4000.33,402,2),
('張野','male',28,'20160311','operation',10000.13,403,3), #以下是運營部門
('程咬金','male',18,'19970312','operation',20000,403,3),
('程咬銀','female',18,'20130311','operation',19000,403,3),
('程咬銅','male',18,'20150411','operation',18000,403,3),
('程咬鐵','female',18,'20140512','operation',17000,403,3)
]
for n,item in enumerate(l):
d={
"_id":n,
'name':item[0],
'sex':item[1],
'age':item[2],
'hire_date':datetime.datetime.strptime(item[3],'%Y%m%d'),
'post':item[4],
'salary':item[5]
}
table.save(d)
篩選 "$match"
{"$match":{"欄位":"條件"}},可以使用任何常用查詢操作符$gt,$lt,$in等
#例1、select * from db1.emp where post='teacher';
db.emp.aggregate({"$match":{"post":"teacher"}}) # shell版本不匹配,會出錯
#例2、select * from db1.emp where id > 3 group by post;
db.emp.aggregate(
{"$match":{"_id":{"$gt":3}}},
{"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}}
)
#例3、select * from db1.emp where id > 3 group by post having avg(salary) > 10000;
db.emp.aggregate(
{"$match":{"_id":{"$gt":3}}},
{"$group":{"_id":"$post",'avg_salary':{"$avg":"$salary"}}},
{"$match":{"avg_salary":{"$gt":10000}}}
)
投射 $project
{"$project":{"要保留的欄位名":1,"要去掉的欄位名":0,"新增的欄位名":"表示式"}}
#1、select name,post,(age+1) as new_age from db1.emp;
db.emp.aggregate(
{"$project":{
"name":1,
"post":1,
"new_age":{"$add":["$age",1]}
}
})
#2、表示式之數學表示式
{"$add":[expr1,expr2,...,exprN]} #相加
{"$subtract":[expr1,expr2]} #第一個減第二個
{"$multiply":[expr1,expr2,...,exprN]} #相乘
{"$divide":[expr1,expr2]} #第一個表示式除以第二個表示式的商作為結果
{"$mod":[expr1,expr2]} #第一個表示式除以第二個表示式得到的餘數作為結果
#3、表示式之日期表示式:$year,$month,$week,$dayOfMonth,$dayOfWeek,$dayOfYear,$hour,$minute,$second
#例如:select name,date_format("%Y") as hire_year from db1.emp
db.emp.aggregate(
{"$project":{"name":1,"hire_year":{"$year":"$hire_date"}}}
)
#例如檢視每個員工的工作多長時間
db.emp.aggregate(
{"$project":{"name":1,"hire_period":{
"$subtract":[
{"$year":new Date()},
{"$year":"$hire_date"}
]
}}}
)
#4、字串表示式
{"$substr":[字串/$值為字串的欄位名,起始位置,擷取幾個位元組]}
{"$concat":[expr1,expr2,...,exprN]} #指定的表示式或字串連線在一起返回,只支援字串拼接
{"$toLower":expr}
{"$toUpper":expr}
db.emp.aggregate( {"$project":{"NAME":{"$toUpper":"$name"}}})
# 除wang外,所有人名字加SB
db.emp.aggregate(
{"$match":{"name":{"$ne":"wang"}}},
{"$project":
{"_id":0,"new_name":
{"$concat":
["$name","SB"]
}
}}
)
# 取除wang外, 所有人名字3個位元組(utf8編碼,3個位元組一個漢字)
db.emp.aggregate(
{"$match":{"name":{"$ne":"wang"}}},
{"$project":
{"_id":0,"new_name":
{"$substr":
["$name",0,3]
}
}}
)
分組 $group
{"$group":{"_id":分組欄位,"新的欄位名":聚合操作符}}
#1、將分組欄位傳給$group函式的_id欄位即可
{"$group":{"_id":"$sex"}} #按照性別分組
{"$group":{"_id":"$post"}} #按照職位分組
{"$group":{"_id":{"state":"$state","city":"$city"}}} #按照多個欄位分組,比如按照州市分組
#2、分組後聚合得結果,類似於sql中聚合函式的聚合操作符:$sum、$avg、$max、$min、$first、$last
#例1:select post,max(salary) from db1.emp group by post;
db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"}}})
#例2:去每個部門最大薪資與最低薪資
db.emp.aggregate({"$group":{"_id":"$post","max_salary":{"$max":"$salary"},"min_salary":{"$min":"$salary"}}})
#例3:如果欄位是排序後的,那麼$first,$last會很有用,比用$max和$min效率高
db.emp.aggregate({"$group":{"_id":"$post","first_id":{"$first":"$_id"}}})
#例4:求每個部門的總工資
db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":"$salary"}}})
#例5:求每個部門的人數
db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":1}}})
#3、陣列操作符
{"$addToSet":expr}:不重複
{"$push":expr}:重複
#例:查詢崗位名以及各崗位內的員工姓名:select post,group_concat(name) from db1.emp group by post;
db.emp.aggregate({"$group":{"_id":"$post","names":{"$push":"$name"}}})
# 跟上面一樣
db.emp.aggregate({"$group":{"_id":"$post","names":{"$addToSet":"$name"}}})
排序$sort 限制 $limit 跳過 $skip
{"$sort":{"欄位名":1,"欄位名":-1}} #1升序,-1降序
{"$limit":n}
{"$skip":n} #跳過多少個文件
#例1、取平均工資最高的前兩個部門
db.emp.aggregate(
{
"$group":{"_id":"$post","平均工資":{"$avg":"$salary"}}
},
{
"$sort":{"平均工資":-1}
},
{
"$limit":2
}
)
#例2、
db.emp.aggregate(
{
"$group":{"_id":"$post","平均工資":{"$avg":"$salary"}}
},
{
"$sort":{"平均工資":-1}
},
{
"$limit":2
},
{
"$skip":1
}
)
隨機選取 $sample
#集合users包含的文件如下
db.users.insertMany([
{ "_id" : 1, "name" : "dave123", "q1" : true, "q2" : true },
{ "_id" : 2, "name" : "dave2", "q1" : false, "q2" : false },
{ "_id" : 3, "name" : "ahn", "q1" : true, "q2" : true },
{ "_id" : 4, "name" : "li", "q1" : true, "q2" : false },
{ "_id" : 5, "name" : "annT", "q1" : false, "q2" : true },
{ "_id" : 6, "name" : "li", "q1" : true, "q2" : true },
{ "_id" : 7, "name" : "ty", "q1" : false, "q2" : true }
])
#下述操作時從users集合中隨機選取3個文件
db.users.aggregate(
[ { $sample: { size: 3 } } ]
)
六 Pymongo
#https://api.mongodb.com/python/current/tutorial.html
from pymongo import MongoClient
#1、連結
client=MongoClient('mongodb://root:123@localhost:27017/')
# client = MongoClient('localhost', 27017)
#2、use 資料庫
db=client['db2'] #等同於:client.db1
#3、檢視庫下所有的集合
print(db.collection_names(include_system_collections=False))
#4、建立集合
table_user=db['userinfo'] #等同於:db.user
#5、插入文件
import datetime
user0={
"_id":1,
"name":"wang",
"birth":datetime.datetime.now(),
"age":10,
'hobbies':['music','read','dancing'],
'addr':{
'country':'China',
'city':'BJ'
}
}
user1={
"_id":2,
"name":"alex",
"birth":datetime.datetime.now(),
"age":10,
'hobbies':['music','read','dancing'],
'addr':{
'country':'China',
'city':'weifang'
}
}
# res=table_user.insert_many([user0,user1]).inserted_ids
# print(res)
# print(table_user.count())
#6、查詢
# from pprint import pprint#格式化細
# pprint(table_user.find_one())
# for item in table_user.find():
# pprint(item)
# print(table_user.find_one({"_id":{"$gte":1},"name":'wang'}))
#7、更新
table_user.update({'_id':1},{'name':'wang'})
#8、傳入新的文件替換舊的文件
table_user.save(
{
"_id":2,
"name":'egon_xxx'
}
)
七 練習題
1. 查詢崗位名以及各崗位內的員工姓名
2. 查詢崗位名以及各崗位內包含的員工個數
3. 查詢公司內男員工和女員工的個數
4. 查詢崗位名以及各崗位的平均薪資、最高薪資、最低薪資
5. 查詢男員工與男員工的平均薪資,女員工與女員工的平均薪資
6. 查詢各崗位內包含的員工個數小於2的崗位名、崗位內包含員工名字、個數
7. 查詢各崗位平均薪資大於10000的崗位名、平均工資
8. 查詢各崗位平均薪資大於10000且小於20000的崗位名、平均工資
9. 查詢所有員工資訊,先按照age升序排序,如果age相同則按照hire_date降序排序
10. 查詢各崗位平均薪資大於10000的崗位名、平均工資,結果按平均薪資升序排列
11. 查詢各崗位平均薪資大於10000的崗位名、平均工資,結果按平均薪資降序排列,取前1個
1. 查詢崗位名以及各崗位內的員工姓名
db.emp.aggregate({"$group":{"_id":"$post","names":{"$push":"$name"}}})
2. 查詢崗位名以及各崗位內包含的員工個數
db.emp.aggregate({"$group":{"_id":"$post","count":{"$sum":1}}})
3. 查詢公司內男員工和女員工的個數
db.emp.aggregate({"$group":{"_id":"$sex","count":{"$sum":1}}})
4. 查詢崗位名以及各崗位的平均薪資、最高薪資、最低薪資
db.emp.aggregate({"$group":{"_id":"$post","avg_salary":{"$avg":"$salary"},"max_salary":{"$max":"$salary"},"min_salary":{"$min":"$salary"}}})
5. 查詢男員工與男員工的平均薪資,女員工與女員工的平均薪資
db.emp.aggregate({"$group":{"_id":"$sex","avg_salary":{"$avg":"$salary"}}})
6. 查詢各崗位內包含的員工個數小於2的崗位名、崗位內包含員工名字、個數
db.emp.aggregate(
{
"$group":{"_id":"$post","count":{"$sum":1},"names":{"$push":"$name"}}
},
{"$match":{"count":{"$lt":2}}},
{"$project":{"_id":0,"names":1,"count":1}}
)
7. 查詢各崗位平均薪資大於10000的崗位名、平均工資
db.emp.aggregate(
{
"$group":{"_id":"$post","avg_salary":{"$avg":"$salary"}}
},
{"$match":{"avg_salary":{"$gt":10000}}},
{"$project":{"_id":1,"avg_salary":1}}
)
8. 查詢各崗位平均薪資大於10000且小於20000的崗位名、平均工資
db.emp.aggregate(
{
"$group":{"_id":"$post","avg_salary":{"$avg":"$salary"}}
},
{"$match":{"avg_salary":{"$gt":10000,"$lt":20000}}},
{"$project":{"_id":1,"avg_salary":1}}
)
9. 查詢所有員工資訊,先按照age升序排序,如果age相同則按照hire_date降序排序
db.emp.aggregate(
{"$sort":{"age":1,"hire_date":-1}}
)
10. 查詢各崗位平均薪資大於10000的崗位名、平均工資,結果按平均薪資升序排列
db.emp.aggregate(
{
"$group":{"_id":"$post","avg_salary":{"$avg":"$salary"}}
},
{"$match":{"avg_salary":{"$gt":10000}}},
{"$sort":{"avg_salary":1}}
)
11. 查詢各崗位平均薪資大於10000的崗位名、平均工資,結果按平均薪資降序排列,取前1個
db.emp.aggregate(
{
"$group":{"_id":"$post","avg_salary":{"$avg":"$salary"}}
},
{"$match":{"avg_salary":{"$gt":10000}}},
{"$sort":{"avg_salary":-1}},
{"$limit":1},
{"$project":{"date":new Date,"平均工資":"$avg_salary","_id":0}}
)