女人自慰AV免费观看内涵网,日韩国产剧情在线观看网址,神马电影网特片网,最新一级电影欧美,在线观看亚洲欧美日韩,黄色视频在线播放免费观看,ABO涨奶期羡澄,第一导航fulione,美女主播操b

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

MySQL緩沖區設計介紹

數據分析與開發 ? 來源:博客 ? 作者:Spongecaptain's ? 2021-10-15 09:50 ? 次閱讀

1. Buffer 與 cache 的區別?

Bbuffer 與 Cache 非常類似,因為它們都用于存儲數據數據,被應用層讀取字節數據。在很多場合它們有著相同的概念,但是特定場合也有一定的區別[1]。

Buffer 與 Cache 的用途有所不一定:

Buffer 的主要目的是在不同應用、線程、進程之間共享字節數據,例如為了讓不同速度的設備能夠進行數據同步,就會使用共享 Buffer;

Cache 的主要目的是提高字節數據的讀取/寫入速度,例如根據時間局部性、地址局部性操作系統提供 page cache 機制;

當然,在很多場合下 Buffer 與 Cache 有著相同的語義,因此我們可以認為緩沖區既用于提高讀寫速度,又用于數據共享與同步。

2. MySQL 緩沖區設計

Figure1.MySQL 的緩沖區設計

如上圖所示,MySQL 在不同層次使用了與緩存機制不同的配套技術。其中有:

應用層:

Redo Log Buffer:對寫操作進行緩存,用于實現 MySQL InnoDB 的事務性;

InnoDB Buffer Pool:用于對 MySQL table 的數據進行緩存。讀內存而不是磁盤,通過減少磁盤讀操的方式提高讀操作性能;寫內存而不是磁盤,通過減少磁盤寫操的方式提高寫操作性能;

操作系統的 VFS(Virtual file system,虛擬文件系統)層:

Page Cache:操作系統通過緩存以及預讀機制對文件系統中的 block 基于 page 進行緩存管理;

Direct Buffer:當使用 Direct I/O 提供的相關 API 時,操作系統不再提供基于 Page Cache 機制的緩存,而是直接使用 Direct Buffer;

磁盤的 Disk Buffer:磁盤也可以提供磁盤緩存,通常在 MySQL 中會關閉磁盤緩存,我們僅僅需要了解有 Disk Buffer 這一概念即可。

3. Write Through/Back 與 Direct I/O

Write Through 與 Write Back 指的是在使用內存空間作為緩存的應用在處理寫操作時是否直接落盤:

Write Through:寫操作“穿過”緩存區直接落盤,這種策略能夠確保數據不會因為宕機而丟失內存緩沖區的數據;

Write Back:一次寫操作僅僅更新了內存緩存區中的數據,數據落盤通常通過間隔一個時間進行落盤一次;

MySQL 為此提供了一些參數來控制 Page Cache 數據落盤的具體行為,例如:

(1)innodb_flush_log_at_trx_commit

innodb_flush_log_at_trx_commit 參數用于控制基于 Page Cache 的 Redo Log Buffer 的數據落盤機制[2]。此參數用于控制以下兩個特性之間的平衡:

嚴格的事務管理機制;

事務提交 commit 操作執行時的高性能;

innodb_flush_log_at_trx_commit 有三個可選配置值:

1(默認值):每次事務提交時都日志必須刷新到磁盤上,提供了最可靠的事務性保證;

0:日志每間隔 1 秒刷新到磁盤上,這意味著在緩存中還沒有來得及刷新到磁盤上的數據在宕機時會丟失;

2:日志在事務提交后以及每間隔 1 秒刷新到磁盤上,這意味著在緩存中還沒有來得及刷新到磁盤上的數據在宕機時會丟失;

注意事項:配置 0 與 2 并不能保證 100% 每間隔一秒刷新到磁盤一次,這是因為 DDL 的修改以及 InnoDB 活動可能會導致日志刷新更頻繁。另一方面,由于事務調度問題,刷新頻率甚至會降低。

刷新頻率默認為 1 s,由參數 innodb_flush_log_at_timeout 進行配置。

(2)innodb_flush_method

innodb_flush_method 參數同時控制 redo log buffer 和 innodb buffer pool 緩沖區刷新策略,其中:

log files:redo log buffer 是 log files 在內存中的緩存區, log files 是磁盤上的 Redo Log 文件;

data files:innodb buffer pool 是 data files 在內存中的緩存區,data files 是磁盤上的數據文件(B+tree);

innodb_flush_method 參數目前有 6 種可選配置值[3]:

fdatasync;

O_DSYNC

O_DIRECT

O_DIRECT_NO_FSYNC

littlesync

nosync

這里只討論 Unix-like 操作系統,而不討論 Windows 系統。

其中,littlesync 與 nosync 僅僅用于內部性能測試,并不建議使用。

fdatasync,即取值 0,這是默認配置值。對 log files 以及 data files 都采用 fsync 的方式進行同步;

O_DSYNC,即取值 1。對 log files 使用 O_SYNC 打開與刷新日志文件,使用 fsync 來刷新 data files 中的數據;

O_DIRECT,即取值 4。利用 Direct I/O 的方式打開 data file,并且每次寫操作都通過執行 fsync 系統調用的方式落盤;

O_DIRECT_NO_FSYNC,即取值 5。利用 Direct I/O 的方式打開 data files,但是每次寫操作并不會調用 fsync 系統調用進行落盤;

補充說明:以 O_SYNC 方式打開文件意味著文件的每一次寫操作都直接導致將數據本身以及元數據刷新到磁盤上。

為什么有 O_DIRECT 與 O_DIRECT_NO_FSYNC 配置的區別?

首先,我們需要理解更新操作落盤分為兩個具體的子步驟:①文件數據更新落盤②文件元數據更新落盤。O_DIRECT 的在部分操作系統中會導致文件元數據不落盤,除非主動調用 fsync,為此,MySQL 提供了 O_DIRECT 以及 O_DIRECT_NO_FSYNC 這兩個配置[5]。

如果你確定在自己的操作系統上,即使不進行 fsync 調用,也能夠確保文件元數據落盤,那么請使用 O_DIRECT_NO_FSYNC 配置,這對 MySQL 性能略有幫助。否則,請使用 O_DIRECT,不然文件元數據的丟失可能會導致 MySQL 運行錯誤。

4. MySQL 日志的刷新策略

MySQL 日志刷新策略通過 sync_binlog 參數進行配置,其有 3 個可選配置:

sync_binlog=0:MySQL 應用將完全不負責日志同步到磁盤,將緩存中的日志數據刷新到磁盤全權交給操作系統來完成;

sync_binlog=1:MySQL 應用在事務提交前將緩存區的日志刷新到磁盤;

sync_binlog=N:當 N 不為 0 與 1 時,MySQL 在收集到 N 個日志提交后,才會將緩存區的日志同步到磁盤。

事實上,這個參數也用于控制日志是通過 Write Through 還是 Write Back 策略刷新到磁盤上。

注意事項:使用 Page Cache 機制的數據刷盤機制,即使基于同步策略,即每次寫操作都要求數據直接落盤,但在數據落盤之前,數據總是先要寫于 Page Cache 中,再將 Page Cache 中的具體 Page 刷新到磁盤上。

5. MySQL 的典型配置

innodb_flush_log_at_trx_commit 參數配置為 1:Redo Log 走 Page Cache,并且每次寫操作的日志在事務提交前都通過 fsync 刷新到磁盤;

innodb_flush_method 參數配置為 O_DIRECT:InnoDB Buffer Pool 走 Direct I/O,并且每次寫操作導致的文件數據(包括文件元數據)都通過 fsync 系統調用刷新到磁盤;

寫一條 redo log 涉及到的步驟有:

日志寫入 Redo Log buffer;

日志寫入 Page Cache;

通過系統調用 fsync 將 Page Cache 中的臟頁刷新到磁盤;

日志提交;

修改表的一行記錄涉及到的步驟有:

更新后的數據寫于 InnoDB Buffer Pool;

定時進行如下邏輯(異步進行):

InnoDB Buffer Pool 臟數據進行刷新,通過文件的 write 方法進行;

文件的 write 方法直接導致數據寫于磁盤上;

定時進行文件的 fysnc 調用,確保文件元數據寫于磁盤上;

https://spongecaptain.cool/post/mysql/zerocopyofmysql/

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7239

    瀏覽量

    90984
  • MySQL
    +關注

    關注

    1

    文章

    849

    瀏覽量

    27513

原文標題:MySQL 的零拷貝技術

文章出處:【微信號:DBDevs,微信公眾號:數據分析與開發】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦
    熱點推薦

    解析RZ/N2L CANFD模塊的緩沖區機制(2)

    在工業自動化、智能交通、機器人等領域,CANFD(CAN with Flexible Data-Rate)技術正逐步取代傳統CAN,以適應更高的數據速率和更復雜的通信需求。本文將深入解析RZ/N2L CANFD模塊的緩沖區機制,幫助工程師更高效地管理CAN消息,提高系統性能。
    的頭像 發表于 05-19 14:13 ?396次閱讀
    解析RZ/N2L CANFD模塊的<b class='flag-5'>緩沖區</b>機制(2)

    解析RZ/N2L CANFD模塊的緩沖區機制(1)

    在工業自動化、智能交通、機器人等領域,CANFD(CAN with Flexible Data-Rate)技術正逐步取代傳統CAN,以適應更高的數據速率和更復雜的通信需求。本文將深入解析RZ/N2L CANFD模塊的緩沖區機制,幫助工程師更高效地管理CAN消息,提高系統性能。
    的頭像 發表于 05-19 14:10 ?342次閱讀
    解析RZ/N2L CANFD模塊的<b class='flag-5'>緩沖區</b>機制(1)

    FX3 Socket緩沖區切換的最大時間是多少?

    FX3_Programmers_Manual 文檔的第 10 章提到“每個緩沖區緩沖區切換開銷為 550 - 900 ns”。 Getting_Started_with_EZ-USB_FX3 文檔
    發表于 05-16 07:51

    求助,關于3014的緩沖區設置疑問求解

    rgb24 1080p@60fps是靜態圖像,dma緩沖區的配置即大小和數量分別為16kb,6,沿用的是yuy2的配置,但yuy2 1080p@60fps 是動態且不顛倒,是否可以認為是由于緩沖區
    發表于 05-06 13:42

    請問如何在Linux中使用幀緩沖區更新epdc顯示?

    我正在使用帶有 epdc 顯示子卡 (IMXEBOOKDC5) 的 IMX8ULP EVK。使用 Linux 映像引導后,epdc 顯示無法使用幀緩沖區進行更新。當檢查顯示 pmic 的電源使能引腳
    發表于 04-01 06:41

    FreeRTOS進階使用之流緩沖區:高效處理字節流的秘密武器

    在嵌入式開發中,流緩沖區(Stream Buffer)是FreeRTOS中用于高效處理字節流數據傳輸的核心機制,尤其適合任務間或中斷與任務間的連續數據傳輸場景(如串口通信、網絡數據流等)。本文將深入
    發表于 03-24 11:37

    緩沖區溢出漏洞的原理、成因、類型及最佳防范實踐(借助Perforce 的Klocwork/Hleix QAC等靜態代碼分析工具)

    本期來認識軟件漏洞的“常客”——緩沖區溢出,C/C++開發者尤其要注意!全面了解該漏洞的成因、類型、常見示例,以及如何借助Klocwork、Helix QAC等SAST工具進行防護。
    的頭像 發表于 03-04 16:39 ?726次閱讀
    <b class='flag-5'>緩沖區</b>溢出漏洞的原理、成因、類型及最佳防范實踐(借助Perforce 的Klocwork/Hleix QAC等靜態代碼分析工具)

    RTOS的流緩沖區機制解析

    SAFERTOS中的流緩沖區(Stream buffer)機制,可以實現任務到任務或中斷到任務之間的通信。字節流是由發送方寫入緩沖區,接收方讀取緩沖區數據。流緩沖區作為隊列的輕量級級替
    的頭像 發表于 02-14 11:33 ?419次閱讀
    RTOS的流<b class='flag-5'>緩沖區</b>機制解析

    AMD Zen 4處理器悄然禁用循環緩沖區

    近日,AMD在更新BIOS后,對Zen 4架構的處理器進行了一項未公開說明的更改:禁用了循環緩沖區(Loop Buffer)功能。這一變化引發了業界和用戶的廣泛關注。 循環緩沖區作為CPU前端的一個
    的頭像 發表于 12-11 13:46 ?481次閱讀

    分享一個嵌入式通用FIFO環形緩沖區實現庫

    開源項目ringbuff ,是一款通用FIFO環形緩沖區實現的開源庫,作者MaJerle,遵循 MIT 開源許可協議。
    的頭像 發表于 10-23 16:20 ?981次閱讀
    分享一個嵌入式通用FIFO環形<b class='flag-5'>緩沖區</b>實現庫

    內存緩沖區和內存的關系

    內存緩沖區和內存之間的關系是計算機體系結構中一個至關重要的方面,它們共同協作以提高數據處理的效率和系統的整體性能。
    的頭像 發表于 09-10 14:38 ?1105次閱讀

    單片機中的幾種環形緩沖區的分析和實現

    單片機中的幾種環形緩沖區的分析和實現一、簡介環形緩沖區(RingBuffer)是一種高效的使用內存的方法,它將一段固定長度的內存看成一個環形結構,用于存儲數據,能夠避免使用動態申請內存導致的內存碎片
    的頭像 發表于 08-14 08:39 ?1547次閱讀
    單片機中的幾種環形<b class='flag-5'>緩沖區</b>的分析和實現

    esp32-s3 uvc攝像頭緩沖區溢出是什么原因呢?

    板子是esp32-s3 n8r8 使用的是ESP IDF VSCode 擴展版本 v1.8.0 遇到的問題是,在改變分辨率時候(增大or減小)都會遇到提示緩沖區溢出的情況,我嘗試過增大緩沖區的內存分配,然而問題還是沒有得到解決。 請問這是什么原因呢
    發表于 07-19 07:35

    ESP8266是否可以添加AT命令并使接收緩沖區大小可調?

    是否可以添加 AT 命令并使接收緩沖區大小可調? 在Arduino上,我總是丟棄數據字節,而arduino硬件串行只有64字節的緩沖區,看起來ESP8266有256個字節。
    發表于 07-17 07:36

    ESP8266有雙緩沖區嗎?

    我想實時傳輸一些信號的測量數據。信號的采樣周期為 1 ms。我想每 500 毫秒發送 2048 字節(一個數據包)。ESP8266有雙緩沖區(2x 2048字節)嗎?其想法是計數填充一個緩沖區(周期
    發表于 07-16 07:29