要瘋了，怎樣用多線程向MYSQL數(shù)據(jù)庫(kù)中寫入數(shù)據(jù)

在MySQL 8.0 之前， 我們假設(shè)一下有一條爛SQL，

創(chuàng)新互聯(lián)公司專注于企業(yè)成都營(yíng)銷網(wǎng)站建設(shè)、網(wǎng)站重做改版、溫嶺網(wǎng)站定制設(shè)計(jì)、自適應(yīng)品牌網(wǎng)站建設(shè)、H5頁(yè)面制作、商城網(wǎng)站開(kāi)發(fā)、集團(tuán)公司官網(wǎng)建設(shè)、外貿(mào)網(wǎng)站建設(shè)、高端網(wǎng)站制作、響應(yīng)式網(wǎng)頁(yè)設(shè)計(jì)等建站業(yè)務(wù)，價(jià)格優(yōu)惠性價(jià)比高，為溫嶺等各大城市提供網(wǎng)站開(kāi)發(fā)制作服務(wù)。

mysqlselect * from t1 order by rand() ;

以多個(gè)線程在跑，導(dǎo)致CPU被跑滿了，其他的請(qǐng)求只能被阻塞進(jìn)不來(lái)。那這種情況怎么辦？

大概有以下幾種解決辦法：

設(shè)置max_execution_time 來(lái)阻止太長(zhǎng)的讀SQL。那可能存在的問(wèn)題是會(huì)把所有長(zhǎng)SQL都給KILL 掉。有些必須要執(zhí)行很長(zhǎng)時(shí)間的也會(huì)被誤殺。

自己寫個(gè)腳本檢測(cè)這類語(yǔ)句，比如order by rand()， 超過(guò)一定時(shí)間用Kill query thread_id 給殺掉。

那能不能不要?dú)⒌舳屗＿\(yùn)行，但是又不影響其他的請(qǐng)求呢？

那mysql 8.0 引入的資源組（resource group，后面簡(jiǎn)寫微RG）可以基本上解決這類問(wèn)題。

比如我可以用 RG 來(lái)在SQL層面給他限制在特定的一個(gè)CPU核上，這樣我就不管他，讓他繼續(xù)運(yùn)行，如果有新的此類語(yǔ)句，讓他排隊(duì)好了。

為什么說(shuō)基本呢？目前只能綁定CPU資源，其他的暫時(shí)不行。

那我來(lái)演示下如何使用RG。

創(chuàng)建一個(gè)資源組user_ytt. 這里解釋下各個(gè)參數(shù)的含義，

type = user 表示這是一個(gè)用戶態(tài)線程，也就是前臺(tái)的請(qǐng)求線程。如果type=system，表示后臺(tái)線程，用來(lái)限制mysql自己的線程，比如Innodb purge thread,innodb read thread等等。

vcpu 代表cpu的邏輯核數(shù)，這里0-1代表前兩個(gè)核被綁定到這個(gè)RG。可以用lscpu，top等列出自己的CPU相關(guān)信息。

thread_priority 設(shè)置優(yōu)先級(jí)。user 級(jí)優(yōu)先級(jí)設(shè)置大于0。

mysqlmysql create resource group user_ytt type = user ?vcpu = 0-1 thread_priority=19 enable;Query OK, 0 rows affected (0.03 sec)

RG相關(guān)信息可以從 information_schema.resource_groups 系統(tǒng)表里檢索。

mysqlmysql select * from information_schema.resource_groups;+---------------------+---------------------+------------------------+----------+-----------------+| RESOURCE_GROUP_NAME | RESOURCE_GROUP_TYPE | RESOURCE_GROUP_ENABLED | VCPU_IDS | THREAD_PRIORITY |+---------------------+---------------------+------------------------+----------+-----------------+| USR_default ? ? ? ? | USER ? ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-3 ? ? ?| ? ? ? ? ? ? ? 0 || SYS_default ? ? ? ? | SYSTEM ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-3 ? ? ?| ? ? ? ? ? ? ? 0 || user_ytt ? ? ? ? ? ?| USER ? ? ? ? ? ? ? ?| ? ? ? ? ? ? ? ? ? ? ?1 | 0-1 ? ? ?| ? ? ? ? ? ? ?19 |+---------------------+---------------------+------------------------+----------+-----------------+3 rows in set (0.00 sec)

我們來(lái)給語(yǔ)句select guid from t1 group by left(guid,8) order by rand() 賦予RG user_ytt。

mysql show processlist;+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| Id ?| User ? ? ? ? ? ?| Host ? ? ?| db ? | Command | Time ?| State ? ? ? ? ? ? ? ? ?| Info ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+| ? 4 | event_scheduler | localhost | NULL | Daemon ?| 10179 | Waiting on empty queue | NULL ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|| 240 | root ? ? ? ? ? ?| localhost | ytt ?| Query ? | ? 101 | Creating sort index ? ?| select guid from t1 group by left(guid,8) order by rand() || 245 | root ? ? ? ? ? ?| localhost | ytt ?| Query ? | ? ? 0 | starting ? ? ? ? ? ? ? | show processlist ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?|+-----+-----------------+-----------+------+---------+-------+------------------------+-----------------------------------------------------------+3 rows in set (0.00 sec)

找到連接240對(duì)應(yīng)的thread_id。

mysqlmysql select thread_id from performance_schema.threads where processlist_id = 240;+-----------+| thread_id |+-----------+| ? ? ? 278 |+-----------+1 row in set (0.00 sec)

給這個(gè)線程278賦予RG user_ytt。沒(méi)報(bào)錯(cuò)就算成功了。

mysqlmysql set resource group user_ytt for 278;Query OK, 0 rows affected (0.00 sec)

當(dāng)然這個(gè)是在運(yùn)維層面來(lái)做的，我們也可以在開(kāi)發(fā)層面結(jié)合 MYSQL HINT 來(lái)單獨(dú)給這個(gè)語(yǔ)句賦予RG。比如：

mysqlmysql select /*+ resource_group(user_ytt) */guid from t1 group by left(guid,8) order by rand()....8388602 rows in set (4 min 46.09 sec)

RG的限制：

Linux 平臺(tái)上需要開(kāi)啟 CAPSYSNICE 特性。比如我機(jī)器上用systemd 給mysql 服務(wù)加上

systemctl edit mysql@80 [Service]AmbientCapabilities=CAP_SYS_NICE

mysql 線程池開(kāi)啟后RG失效。

freebsd,solaris 平臺(tái)thread_priority 失效。

目前只能綁定CPU，不能綁定其他資源。

Mysql 數(shù)據(jù)量級(jí)大的情況下，使用 多線程 查詢

思路：

1.按著自己需要的條件分給不同的線程進(jìn)行查詢，查詢結(jié)束后，將返回的結(jié)果add到全局的List中。例:時(shí)間段查詢，將時(shí)間進(jìn)行分塊，然后拼裝成List集合

mysql調(diào)優(yōu)技巧 增加線程緩存大小

增加線程緩存大小

連接管理器線程處理服務(wù)器監(jiān)聽(tīng)的網(wǎng)絡(luò)接口上的客戶端連接請(qǐng)求。連接管理器線程將每個(gè)客戶端連接與專用于它的線程關(guān)聯(lián)，該線程負(fù)責(zé)處理該連接的身份驗(yàn)證和所有請(qǐng)求處理。因此，線程和當(dāng)前連接的客戶端之間是一對(duì)一的比例。確保線程緩存足夠大以容納所有傳入請(qǐng)求是非常重要的。

MySQL提供了許多與連接線程相關(guān)的服務(wù)器變量：

線程緩存大小由thread_cache_size系統(tǒng)變量決定。默認(rèn)值為0（無(wú)緩存），這將導(dǎo)致為每個(gè)新連接設(shè)置一個(gè)線程，并在連接終止時(shí)需要處理該線程。如果希望服務(wù)器每秒接收數(shù)百個(gè)連接請(qǐng)求，那么應(yīng)該將thread_cache_size設(shè)置的足夠高，以便大多數(shù)新連接可以使用緩存線程。可以在服務(wù)器啟動(dòng)或運(yùn)行時(shí)設(shè)置max_connections的值。

還應(yīng)該監(jiān)視緩存中的線程數(shù)（Threads_cached）以及創(chuàng)建了多少個(gè)線程，因?yàn)闊o(wú)法從緩存中獲取線程（Threads_created）。關(guān)于后者，如果Threads_created繼續(xù)以每分鐘多于幾個(gè)線程的增加，請(qǐng)考慮增加thread_cache_size的值。

使用MySQL show status命令顯示MySQL的變量和狀態(tài)信息。這里有幾個(gè)例子：

Monyog線程緩存監(jiān)測(cè)

Monyog提供了一個(gè)監(jiān)控線程緩存的屏幕，名為“線程”。與MySQL線程相關(guān)的服務(wù)器變量映射到以下Monyog指標(biāo)：

Monyog線程屏幕還包括“線程緩存命中率”指標(biāo)。這是一個(gè)提示線程緩存命中率的指標(biāo)。如果值較低，則應(yīng)該考慮增加線程緩存。在狀態(tài)欄以百分比形式顯示該值；它的值越接近100％越好。

如果這些指標(biāo)的值等于或超過(guò)指定值，則可以將每一個(gè)指標(biāo)配置為發(fā)出警告和/或嚴(yán)重警報(bào)

新聞標(biāo)題：mysql線程怎么使用 mysql線程使用率
文章起源：http://www.chinadenli.net/article30/doddeso.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供ChatGPT、網(wǎng)站設(shè)計(jì)公司、網(wǎng)站營(yíng)銷、服務(wù)器托管、移動(dòng)網(wǎng)站建設(shè)、外貿(mào)網(wǎng)站建設(shè)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)