主頁 > 知識庫 > mysql數據庫分表分庫的策略

mysql數據庫分表分庫的策略

熱門標簽:400電話申請什么好 百度地圖標注地方備注 電話機器人免費嗎 龍圖酒吧地圖標注 好搜地圖標注 怎么申請400電話申請 電銷機器人價格多少錢一臺 怎么辦理400電話呢 地圖標注圖標素材入駐

一、先說一下為什么要分表:

當一張的數據達到幾百萬時,你查詢一次所花的時間會變多,如果有聯(lián)合查詢的話,有可能會死在那兒了。分表的目的就在于此,減小數據庫的負擔,縮短查詢時間。日常開發(fā)中我們經常會遇到大表的情況,所謂的大表是指存儲了百萬級乃至千萬級條記錄的表。這樣的表過于龐大,導致數據庫在查詢和插入的時候耗時太長,性能低下,如果涉及聯(lián)合查詢的情況,性能會更加糟糕。分表和表分區(qū)的目的就是減少數據庫的負擔,提高數據庫的效率,通常點來講就是提高表的增刪改查效率。數據庫中的數據量不一定是可控的,在未進行分庫分表的情況下,隨著時間和業(yè)務的發(fā)展,庫中的表會越來越多,表中的數據量也會越來越大,相應地,數據操作,增刪改查的開銷也會越來越大;另外,由于無法進行分布式式部署,而一臺服務器的資源(CPU、磁盤、內存、IO等)是有限的,最終數據庫所能承載的數據量、數據處理能力都將遭遇瓶頸。

mysql執(zhí)行一個sql的過程如下:

1、接收到sql; 

2、把sql放到排隊隊列中;

3、執(zhí)行sql; 

4、返回執(zhí)行結果。

在這個執(zhí)行過程中最花時間在什么地方呢?第一,是排隊等待的時間,第二,sql的執(zhí)行時間。其實這兩個是一回事,等待的同時,肯定有sql在執(zhí)行。所以我們要縮短sql的執(zhí)行時間。

mysql中有一種機制是表鎖定和行鎖定,為什么要出現這種機制,是為了保證數據的完整性,我舉個例子來說吧,如果有二個sql都要修改同一張表的同一條數據,這個時候怎么辦呢,是不是二個sql都可以同時修改這條數據呢?很顯然mysql對這種情況的處理是,一種是表鎖定(myisam存儲引擎),一個是行鎖定(innodb存儲引擎)。表鎖定表示你們都不能對這張表進行操作,必須等我對表操作完才行。行鎖定也一樣,別的sql必須等我對這條數據操作完了,才能對這條數據進行操作。如果數據太多,一次執(zhí)行的時間太長,等待的時間就越長,這也是我們?yōu)槭裁匆直淼脑颉?nbsp;

二、分表的方案

1、集群

1,做mysql集群,有人會問mysql集群,根分表有什么關系嗎?雖然它不是實際意義上的分表,但是它啟到了分表的作用,做集群的意義是什么呢?為一個數據庫減輕負擔,說白了就是減少sql排隊隊列中的sql的數量,舉個例子:有10個sql請求,如果放在一個數據庫服務器的排隊隊列中,他要等很長時間,如果把這10個sql請求,分配到5個數據庫服務器的排隊隊列中,一個數據庫服務器的隊列中只有2個,這樣等待時間是不是大大的縮短了呢?這已經很明顯了。所以我把它列到了分表的范圍以內,我做過一些mysql的集群:

linux mysql proxy 的安裝,配置,以及讀寫分離 

mysql replication 互為主從的安裝及配置,以及數據同步

優(yōu)點:擴展性好,沒有多個分表后的復雜操作(php代碼)

缺點:單個表的數據量還是沒有變,一次操作所花的時間還是那么多,硬件開銷大。

2、分表

 分表的2種方式:

講字段拆分到不同表中,將原表中的string類型字段拆分到其他表,能夠加快主表的查詢。

2.垂直分割就是按字段分.

  一個數據庫有3000W用戶記錄.包括字段id,user,password,first_name,last_name,email,addr,等幾十字段.用戶登錄時需要user,password字段,需要查找user,password字段比較慢,若是把它user,password單建立一表,速度會快.用戶的其它字段獨立再建立一個表.這僅是一個例子.

把數據拆分到多個同樣結構的表中。

水平.就是按記錄分.一個數據庫有3000W用戶記錄.處理速度比較慢.這時可以把3000W.分成五份.每份都是600W.分別放在不同的機器上.

水平分表:

就是預先估計會出現大數據量并且訪問頻繁的表,將其分為若干個表,這種預估大差不差的,論壇里面發(fā)表帖子的表,時間長了這張表肯定很大,幾十萬,幾百萬都有可能。聊天室里面信息表,幾十個人在一起一聊一個晚上,時間長了,這張表的數據肯定很大。像這樣的情況很多。所以這種能預估出來的大數據量表,我們就事先分出個N個表,這個N是多少,根據實際情況而定。以聊天信息表為例:

我事先建100個這樣的表,message_00,message_01,message_02……….message_98,message_99.然后根據用戶的ID來判斷這個用戶的聊天信息放到哪張表里面,可以用求余的方式來獲得

3、實際應用中:

需要把垂直分表和水平分表結合起來使用,如果一個數據庫有3000w用戶的話,可以先考慮垂直拆,拆完之后在進行水平拆分。

就是先將其他字段拆分到user_info表中,用戶主表只留下用戶id,密碼,用戶名等關鍵字段。

之后在進行水平拆分,將用戶和用戶信息表分為多個同樣結構的表。

接下來我們來看下MYSQL在分表存儲數據的時候是如何運作的:

1、簡單的MySQL主從復制:

MySQL的主從復制解決了數據庫的讀寫分離,并很好的提升了讀的性能,其圖如下:

其主從復制的過程如下圖所示:

但是,主從復制也帶來其他一系列性能瓶頸問題:

1. 寫入無法擴展

2. 寫入無法緩存

3. 復制延時

4. 鎖表率上升

5. 表變大,緩存率下降

那問題產生總得解決的,這就產生下面的優(yōu)化方案,一起來看看。

2、MySQL垂直分區(qū)

如果把業(yè)務切割得足夠獨立,那把不同業(yè)務的數據放到不同的數據庫服務器將是一個不錯的方案,而且萬一其中一個業(yè)務崩潰了也不會影響其他業(yè)務的正常進行,并且也起到了負載分流的作用,大大提升了數據庫的吞吐能力。經過垂直分區(qū)后的數據庫架構圖如下:

然而,盡管業(yè)務之間已經足夠獨立了,但是有些業(yè)務之間或多或少總會有點聯(lián)系,如用戶,基本上都會和每個業(yè)務相關聯(lián),況且這種分區(qū)方式,也不能解決單張表數據量暴漲的問題,因此為何不試試水平分割呢?

3、MySQL水平分片(Sharding)

這是一個非常好的思路,將用戶按一定規(guī)則(按id哈希)分組,并把該組用戶的數據存儲到一個數據庫分片中,即一個sharding,這樣隨著用戶數量的增加,只要簡單地配置一臺服務器即可,原理圖如下:

如何來確定某個用戶所在的shard呢,可以建一張用戶和shard對應的數據表,每次請求先從這張表找用戶的shard id,再從對應shard中查詢相關數據,如下圖所示:

單庫單表 

單庫單表是最常見的數據庫設計,例如,有一張用戶(user)表放在數據庫db中,所有的用戶都可以在db庫中的user表中查到。 

單庫多表 

隨著用戶數量的增加,user表的數據量會越來越大,當數據量達到一定程度的時候對user表的查詢會漸漸的變慢,從而影響整個DB的性能。如果使用mysql, 還有一個更嚴重的問題是,當需要添加一列的時候,mysql會鎖表,期間所有的讀寫操作只能等待。 

可以通過某種方式將user進行水平的切分,產生兩個表結構完全一樣的user_0000,user_0001等表,user_0000 + user_0001 + …的數據剛好是一份完整的數據。 

多庫多表 

 隨著數據量增加也許單臺DB的存儲空間不夠,隨著查詢量的增加單臺數據庫服務器已經沒辦法支撐。這個時候可以再對數據庫進行水平區(qū)分。 

分庫分表規(guī)則 

設計表的時候需要確定此表按照什么樣的規(guī)則進行分庫分表。例如,當有新用戶時,程序得確定將此用戶信息添加到哪個表中;同理,當登錄的時候我們得通過用戶的賬號找到數據庫中對應的記錄,所有的這些都需要按照某一規(guī)則進行。 

路由 

 通過分庫分表規(guī)則查找到對應的表和庫的過程。如分庫分表的規(guī)則是user_id mod 4的方式,當用戶新注冊了一個賬號,賬號id的123,我們可以通過id mod 4的方式確定此賬號應該保存到User_0003表中。當用戶123登錄的時候,我們通過123 mod 4后確定記錄在User_0003中。 

分庫分表產生的問題,及注意事項 

1.   分庫分表維度的問題 

假如用戶購買了商品,需要將交易記錄保存取來,如果按照用戶的緯度分表,則每個用戶的交易記錄都保存在同一表中,所以很快很方便的查找到某用戶的 購買情況,但是某商品被購買的情況則很有可能分布在多張表中,查找起來比較麻煩。反之,按照商品維度分表,可以很方便的查找到此商品的購買情況,但要查找 到買人的交易記錄比較麻煩。 

所以常見的解決方式有: 

     a.通過掃表的方式解決,此方法基本不可能,效率太低了。 

     b.記錄兩份數據,一份按照用戶緯度分表,一份按照商品維度分表。 

     c.通過搜索引擎解決,但如果實時性要求很高,又得關系到實時搜索。 

2.   聯(lián)合查詢的問題 

聯(lián)合查詢基本不可能,因為關聯(lián)的表有可能不在同一數據庫中。 

3.   避免跨庫事務 

避免在一個事務中修改db0中的表的時候同時修改db1中的表,一個是操作起來更復雜,效率也會有一定影響。 

4.   盡量把同一組數據放到同一DB服務器上 

例如將賣家a的商品和交易信息都放到db0中,當db1掛了的時候,賣家a相關的東西可以正常使用。也就是說避免數據庫中的數據依賴另一數據庫中的數據。 

一主多備 

在實際的應用中,絕大部分情況都是讀遠大于寫。Mysql提供了讀寫分離的機制,所有的寫操作都必須對應到Master,讀操作可以在 Master和Slave機器上進行,Slave與Master的結構完全一樣,一個Master可以有多個Slave,甚至Slave下還可以掛 Slave,通過此方式可以有效的提高DB集群的 QPS.   

所有的寫操作都是先在Master上操作,然后同步更新到Slave上,所以從Master同步到Slave機器有一定的延遲,當系統(tǒng)很繁忙的時候,延遲問題會更加嚴重,Slave機器數量的增加也會使這個問題更加嚴重。 

此外,可以看出Master是集群的瓶頸,當寫操作過多,會嚴重影響到Master的穩(wěn)定性,如果Master掛掉,整個集群都將不能正常工作。 

所以,1. 當讀壓力很大的時候,可以考慮添加Slave機器的分式解決,但是當Slave機器達到一定的數量就得考慮分庫了。 2. 當寫壓力很大的時候,就必須得進行分庫操作。 

MySQL使用為什么要分庫分表 

可以用說用到MySQL的地方,只要數據量一大, 馬上就會遇到一個問題,要分庫分表. 

這里引用一個問題為什么要分庫分表呢?MySQL處理不了大的表嗎? 

其實是可以處理的大表的.我所經歷的項目中單表物理上文件大小在80G多,單表記錄數在5億以上,而且這個表 

屬于一個非常核用的表:朋友關系表. 

但這種方式可以說不是一個最佳方式. 因為面臨文件系統(tǒng)如Ext3文件系統(tǒng)對大于大文件處理上也有許多問題. 

這個層面可以用xfs文件系統(tǒng)進行替換.但MySQL單表太大后有一個問題是不好解決: 表結構調整相關的操作基 

本不在可能.所以大項在使用中都會面監(jiān)著分庫分表的應用. 

從Innodb本身來講數據文件的Btree上只有兩個鎖, 葉子節(jié)點鎖和子節(jié)點鎖,可以想而知道,當發(fā)生頁拆分或是添加 

新葉時都會造成表里不能寫入數據. 

所以分庫分表還就是一個比較好的選擇了. 

那么分庫分表多少合適呢? 

經測試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點buffer,那么單表全是數據字型的保持在 

800萬條記錄以下, 有字符型的單表保持在500萬以下. 

如果按 100庫100表來規(guī)劃,如用戶業(yè)務: 

500萬*100*100 = 50000000萬 = 5000億記錄. 

心里有一個數了,按業(yè)務做規(guī)劃還是比較容易的.

您可能感興趣的文章:
  • 淺談訂單重構之 MySQL 分庫分表實戰(zhàn)篇
  • MySQL分庫分表與分區(qū)的入門指南
  • mysql死鎖和分庫分表問題詳解
  • MySQL 分表分庫怎么進行數據切分
  • MySql分表、分庫、分片和分區(qū)知識深入詳解
  • MySql分表、分庫、分片和分區(qū)知識點介紹
  • MySQL分庫分表總結講解
  • mysql分表分庫的應用場景和設計方式
  • MyBatis實現Mysql數據庫分庫分表操作和總結(推薦)
  • MYSQL數據庫數據拆分之分庫分表總結
  • Mysql數據庫分庫和分表方式(常用)
  • MYSQL性能優(yōu)化分享(分庫分表)
  • MySQL分庫分表詳情

標簽:內江 防疫工作 溫州 浙江 固原 汕尾 撫順 廣西

巨人網絡通訊聲明:本文標題《mysql數據庫分表分庫的策略》,本文關鍵詞  mysql,數據庫,分表,分庫,;如發(fā)現本文內容存在版權問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內容系統(tǒng)采集于網絡,涉及言論、版權與本站無關。
  • 相關文章
  • 下面列出與本文章《mysql數據庫分表分庫的策略》相關的同類信息!
  • 本頁收集關于mysql數據庫分表分庫的策略的相關信息資訊供網民參考!
  • 推薦文章