GreatSQL社区

搜索

baguai

Innodb行锁(1):加锁流程

baguai 已有 820 次阅读2023-12-1 11:00 |个人分类:MySQL学习|系统分类:用户实践

作者简介:高鹏,笔名八怪。《深入理解MySQL主从原理》图书作者,同时运营个人公众号“MySQL学习”,持续分享遇到的有趣case以及代码解析!

本文讨论的锁都是innodb 的行锁,不涉及譬如MDL LOCK/TABLE LOCK等锁,这也是最常见的。

一、LOCK SYSTEM的拆锁改进简述

在8.0种lock system和5.7显著的不同就是进行的锁的拆分,主要是分为2个方面

  • 拆分锁为GLOBAL锁和shard锁。
  • 对于shard锁来讲,一共有512个锁,通过page和heap no在LOCK SYSTEM获取锁的时候通常只需要上对应部分的shard锁
  /** Number of page shards, and also number of table shards.  Must be a power of two */  static constexpr size_t SHARDS_COUNT = 512;

因此8.0在LOCK SYSTEM MUTEX热点锁竞争方面已经有了改进,因此在大批量加锁的情况下,本热点锁已经在实际环境中少见了。比如在5.7 我们大批量加锁的时候可能有如下:

而在实际运维中8.0貌似还没见到过,这可能就得益于这里的拆分。

二、对行进行加锁

如果某个page已经包含了锁信息,通常会使用lock_rec_lock_slow函数进行加锁判定,

  1. 首先需要通过本事务本次需要加的锁和已经持有的锁进行判定,如果已经有强度更高或者相同的锁,则不需要加锁了。(lock_rec_has_expl函数开始) 判定的时候就是通过page no和heap no在LOCK SYSTEM的rec_hash中进行查找,而这里加锁就是前面说的拆分后的。其中主要通过Lock_iter::for_each通过lambda函数,先定位到rec_hash的某个链表,然后顺序访问通过函数lock_mode_stronger_or_eq进行比较。而函数lock_mode_stronger_or_eq就是进行锁强度的判定的,实际上就一句
 return (lock_strength_matrix[mode1][mode2] != 0)static const byte lock_strength_matrix[5][5] = {    /**         IS     IX       S     X       AI */    /* IS */ {TRUE, FALSE, FALSE, FALSE, FALSE},    /* IX */ {TRUE, TRUE, FALSE, FALSE, FALSE},    /* S  */ {TRUE, FALSE, TRUE, FALSE, FALSE},    /* X  */ {TRUE, TRUE, TRUE, TRUE, TRUE},    /* AI */ {FALSE, FALSE, FALSE, FALSE, TRUE}};

也就是通过兼容矩阵进行强度判定。当然这里判定的时候除了兼容矩阵强度判定还必须是当前事务的锁才行,因此如下:

<code class="language-js_darkmode__22">lock->trx == trx

要满足这一条才是前提。并且这里从语法来讲有个完美转发右值引入的方式,尽量节省内存消耗。

  1. 当然如果不满足上面的条件,则需要进行加锁,但是在加锁之前理所应当的需要判定是否需要等待。(lock_rec_other_has_conflicting函数开始)

实际上需要找到的是是否有事务持有锁,而堵塞了本事务需要获取的锁,那么也需要对LOCK SYSTEM的rec_hash进行迭代,同上面一样,也是通过Lock_iter::for_each进行的遍历,但是lambda函数不一样,这里主要调用的是lock_rec_has_to_wait函数进行判定,需要满足的条件主要是:

  • 根据兼容矩阵判定lock_mode_compatible函数,其实也是一句话如下,
return (lock_compatibility_matrix[mode1][mode2]);
  • 其次找到的锁的持有者不是本事务,如下,
<code class="language-js_darkmode__34">trx != lock2->trx 

这里对于SQL线程持有的锁会设置为高优先级,这个会特殊处理,对于高优先级来讲当持有锁的trx释放后,会优先持有锁,这个在后面会看到。

经过这个过程就能找到本次加锁需要等待的锁资源是哪个。

  1. 如果需要等待,也就是上面的步骤找到堵塞的锁,那么需要的事情比较多,主要集中在函数rec_lock.add_to_waitq中。

先是需要新建一个RecLock的辅助结构,主要是线程结构、事务结构、锁模式、索引名称、page no/heap no作为构造参数。然后调用rec_lock.add_to_waitq,先将锁模式设置为 LOCK_WAIT,如下:

bool wait = m_mode & LOCK_WAIT

然后创建lock_t结构并且为其分配内存,在分配内存的时候,innodb有一个rec_pool的概念,在初始化的时候就已经初始化了REC_LOCK_CACHE(8)个lock_t结构,如果加锁不多那么分配内存这一块就直接从rec_pool中拿,否则需要实际分配内存,其构造主要是输入的space/page no/heap no/锁模型等信息,主要最后会调用lock_rec_set_nth_bit来设置lock_t结构的bit位,并且lock->trx->lock.n_rec_locks这个信息+1,这个信息是我们show engine看到的锁数量的信息。接着需要做的就是将建立好的lock_t结构放入响应的链表或者属性中,调用的是RecLock::lock_add,这是我们如下

  • lock_rec_insert_to_waiting:将锁放到相应LOCK SYSTEM的rec_hash某个链表(cell)的尾部( Insert lock record to the tail of the queue where the WAITING locks reside)
  • locksys::add_to_trx_locks:将锁放入到事务相关的链表trx->lock.trx_locks的尾部
  • lock_set_lock_and_trx_wait:将锁放入到本事务trx->lock.wait_lock中

上面将本次等待锁的信息建立好了,并且放入了响应的链表或者属性中,接下来就是要设置本事务的等待事务,这个主要用于进行解锁或者死锁监控会用到,调用的函数为lock_create_wait_for_edge,其中就是将本事务的lock.blocking_trx设置为堵塞者的事务id,同时这个信息也是打印堵塞源头的信息。

接下来要设置本事务本锁的相关信息,调用RecLock::set_wait_state,比如如下,

  • lock.wait_started:等待的开始时间
  • lock.que_state:锁的状态,是否为等待TRX_QUE_LOCK_WAIT(/*!< transaction is waiting for a lock */)。

innodb_trx中的trx_wait_started和事务状态就来自这里,show engine 里面的事务状态也是这个。

接下来一个简单的函数 que_thr_stop(m_thr),这个函数主要是如果处于等待啊状态TRX_QUE_LOCK_WAIT,则设置线程属性QUE_THR_LOCK_WAIT,一旦设置为这个属性就会获取一个LOCK_SYSTEM的slot(srv_slot_t),然后根据slot的event进行等待和唤醒,这个在lock monitor监控线程再详细描述。

然后就是返回DB_LOCK_WAIT给上层,最后会通过状态QUE_THR_LOCK_WAIT将本线程堵塞,并且等待lock monitor监控线程的唤醒。

这里还需要注意一点,对于SQL线程的判定有额外的流程,也就是thd_report_row_lock_wait函数调入,可以看到SQL线程的锁有更改的优先级。

  1. 如果不需要等待,则同样需要将锁信息写入到lock_t结构,可能还需要更新响应的链表,主要函数为lock_rec_add_to_queue。

这里需要注意的是,并不一定一定要新建lock_t结构,如果本事务已经有了相关的lock_t结构,则设置一个bit位就可以了,判定的标准如下,(函数lock_rec_find_similar_on_page):

  • 事务是同一个
  • 锁模式相同
  • 并且此lock_t的bit结构能够容纳下

但是这里好像只是获取了LOCK SYSTEM的rec_hash响应链表(cell)的第一个lock_t结构,并没有全部获取如下:

first_lock = lock_rec_get_first_on_page(hash, block)

当然如果上面的条件不成立就需要调用RecLock::create,新建lock_t结构,并且调用如下:

  • lock_rec_insert_to_granted:将锁信息放到LOCK SYSTEM的rec_hash相应链表(cell)的头部,这和堵塞放到尾部不同,这里也说明锁是有队列的。
  • locksys::add_to_trx_locks:将锁放入到事务相关的链表trx->lock.trx_locks的尾部,这个和上面发生堵塞的情况一致。

三、总结

这里我们看到如下:

  • 对于行锁信息要放到LOCK SYSTEM的rec_hash中,8.0加的是512个 shard lock中的一个,这个和5.7不同,5.7是一把大锁。
  • 如果加锁需要堵塞,则本session会处于等待状态,等待的释放权归lock monitor线程所有,也就是说如果一个锁堵塞了并且超时了,然后要唤醒那些被其堵塞的事务是lock monitor线程来决定的,而且本事务的超时也是lock monitor线程来唤醒的。
  • 加锁并不一定要新建内存,因为默认有8个系统持有的rec_pool内存。
  • 加锁并不一定要新建锁结构,因为可能本事务持有了响应的锁结构,设置bit就好了
  • 冲突或者兼容的判定来自static的那个兼容矩阵
  • SQL线程的事务的锁优先级更高,处理上应该在等待队列中有更高的优先级唤醒。
  • 锁定成功的结构将会放到LOCK SYSTEM的rec_hash链表(cell)的头部,而被堵塞的则会放入其尾部。
  • 锁的存储主要集中在trx->lock.trx_locks中和LOCK SYSTEM的rec_hash中,前者比如事务提交事务锁的时候或者打印事务锁信息的时候肯定是按照事务为单位的来进行的,比如lock_print_info_all_transactions函数,后者主要用于锁冲突的查找,因为为hash结构肯定还是比较快的。

下一篇我们来分析一下lock monitor线程的超时唤醒方式,然后再来看lock monitor线程的死锁检测方式。

四、代码流程

&lt;code class="language-js_darkmode__84"&gt;lock_rec_lock_slow   locksys::owns_page_shard(block-&gt;get_page_id())   注意这个锁,对lock_sys mutex的优化  -&gt;lock_rec_has_expl(checked_mode, block, heap_no, trx);     该session 是否已经包含了 本模式的或者更强模式的锁    如果是则不需要锁判断了  -&gt;lock_rec_other_has_conflicting,本函数返回是否有需要等待的锁    进行锁冲突判定,如果返回找到的锁wait_for,就是拥有更强锁    -&gt;RecID rec_id{block, heap_no}      通过block和heapno构建rec id    -&gt;is_supremum = rec_id.is_supremum()      是否为sup伪列    -&gt;Lock_iter::for_each(rec_id, [=](const lock_t *lock) {return (!(lock_rec_has_to_wait(trx, mode, lock, is_supremum))      使用迭代,带入的为lambda函数,内部也就是循环比对      -&gt;hash_get_nth_cell(hash_table,hash_calc_hash(rec_id.m_fold, hash_table))        首先根据rec信息进行hash查找,在lock_sys的hash结构中进行查找,找到相应的链表        也就是lock_sys-&gt;rec_hash      -&gt;for (auto lock = first(list, rec_id); lock != nullptr; lock = advance(rec_id, lock))        遍历链表信息,每个信息是一个lock_rec_t结构        -&gt;!std::forward&lt;F&gt;(f)(lock) 完美转发,右值引用          回调 lambda函数,进去= 值捕获          -&gt;lock_rec_has_to_wait            -&gt;is_hp = trx_is_high_priority(trx)              sql线程拥有更高的优先级            -&gt;lock_mode_compatible              进行锁强度判定,特殊情况为如果线程优先级更高则忽略              及lock_compatibility_matrix兼容性矩阵            -&gt;进行额外的判定            如果返回为true则表明有其他事务的锁需要等待,如果为false            则不需要等待    如果需要等待,则 return (lock),返回等待的lock     -&gt;(wait_for != nullptr)     如果等待的锁不为空,这里注意几个属性SKIP LOCKED / NOWAIT是语句设置的时候的属性     这里会进行锁的判定,这里跳过SELECT_SKIP_LOCKED/SELECT_NOWAIT  -&gt;SELECT_ORDINARY    -&gt;RecLock rec_lock(thr, index, block, heap_no, mode)      新建一个RecLock结构,lock rec的内存结构,调用的为其构造函数       m_thr(thr),m_trx(thr_get_trx(thr)),m_mode(mode),m_index(index),m_rec_id(rec_id)           -&gt;trx_mutex_enter(trx)      上事务结构锁      Mutex protecting the fields `state` and `lock`    -&gt;rec_lock.add_to_waitq(wait_for) RecLock::add_to_waitq      输入参数为需要等待的lock_t结构      -&gt;m_mode |= LOCK_WAIT        首先将锁设置为LOCK_WAIT      -&gt;prepare()        RecLock::prepare        做简单检查先不考虑      -&gt;lock_t *lock = create(m_trx, prdt)        进行创建lock_t结构,调用RecLock::create        -&gt;lock_alloc(trx, m_index, m_mode, m_rec_id, m_size)          RecLock::lock_alloc,这里可以看到输入的信息都是          已经通过前面获取的信息比如锁模型,当前事务结构,space/page no/heap no等等          -&gt;(trx-&gt;lock.rec_cached &gt;= trx-&gt;lock.rec_pool.size() ||sizeof(*lock) + size &gt; REC_LOCK_SIZE)            如果((gdb) p trx-&gt;lock.rec_pool.size() $2 = 8)加锁的lock_t结构数量大于了8个就需要分配内存了            否则直接从pool里面拿,系统预先分配了REC_LOCK_CACHE的lock_t结构内存,就是8个。          -&gt;lock-&gt;trx = trx/lock-&gt;index = index/lock-&gt;type_mode = LOCK_REC | (mode & ~LOCK_TYPE_MASK)            /memset(&lock[1], 0x0, size)/ rec_lock.page_id = rec_id.get_page_id()            /lock_rec_set_nth_bit(lock, rec_id.m_heap_no)            设置相关信息,将锁的信息进行记录,并且lock-&gt;trx-&gt;lock.n_rec_locks.fetch_add +1          最后返回这个lock_t结构相关的变量        -&gt;RecLock::lock_add          将这个lock_t结构放入到hash结构中          -&gt;bool wait = m_mode & LOCK_WAIT;            是否处于等待状态                         -&gt;lock-&gt;index-&gt;table-&gt;n_rec_locks.fetch_add(1, std::memory_order_relaxed);            增加锁定的行数 +1          -&gt;if (!wait)            是否处于等待状态,如果不是            lock_rec_insert_to_granted(lock_hash, lock, m_rec_id)             -&gt;首先获取cell,使用头插法插入到链表的头部            否则            lock_rec_insert_to_waiting(lock_hash, lock, m_rec_id)                   -&gt;直接插入到响应cell的尾部                 -&gt;locksys::add_to_trx_locks(lock)            -&gt;UT_LIST_ADD_LAST(lock-&gt;trx-&gt;lock.trx_locks, lock)              将锁结构加入到事务的trx_lock_t中            -&gt;lock-&gt;trx-&gt;lock.trx_locks_version++              locks版本+1          -&gt;if (wait)            -&gt;lock_set_lock_and_trx_wait             -&gt;trx-&gt;lock.wait_lock = lock; //写入             -&gt;trx-&gt;lock.wait_lock_type = lock_get_type_low(lock);               如果是处于等待状态,则将这个锁放入到事务的trx_lock_t-&gt;wait_lock中                -&gt;lock_create_wait_for_edge             输入参数为当前事务的trx(waiter)和等待的trx(被堵塞blocker)        waiter-&gt;lock.blocking_trx.store(blocker)        记录当前等待的事务的堵塞源头事务,存储一条边,记录了堵塞者      -&gt;RecLock::set_wait_state        m_trx-&gt;lock.wait_started = ut_time();        m_trx-&gt;lock.que_state = TRX_QUE_LOCK_WAIT;        m_trx-&gt;lock.was_chosen_as_deadlock_victim = false;        以上设置事务lock的状态,show engine中事务的状态就是它            case TRX_QUE_LOCK_WAIT:fputs("LOCK WAIT ", f);break;        并且innodb_trx中的状态也会根据其进行判定,fill_trx_row-&gt;trx_get_que_state_str        也是一样的状态        同时innodb_trx中的trx_wait_started也是来自这里,如果等待了就设置为时间,没有等待则为NULL                 stopped = que_thr_stop(m_thr)         用于返回用于加锁等待的 判定QUE_THR_LOCK_WAIT      -&gt;thd_report_row_lock_wait        使用当前线程和需要等待的线程,如果是SQL线程则需要根据seqnumber进行死锁判定        if (self != nullptr && wait_for != nullptr && is_mts_worker(self) &&is_mts_worker(wait_for))        -&gt;Commit_order_manager::check_and_report_deadlock(self, wait_for);           if (mngr != nullptr && self_w-&gt;c_rli == wait_for_w-&gt;c_rli &&wait_for_w-&gt;sequence_number() &gt; self_w-&gt;sequence_number())           这里根据sequence_number进行判定           -&gt;Commit_order_manager::report_deadlock             在研究      -&gt;return (DB_LOCK_WAIT)       返回状态DB_LOCK_WAIT    -&gt;trx_mutex_exit(trx);      进行解锁,也就是上面的过程是在trx_t的mutex下进行的    -&gt;返回堵塞状态DB_LOCK_WAIT    以上是堵塞的流程    -&gt;如果没有堵塞则    -&gt;lock_rec_add_to_queue     -&gt; type_mode |= LOCK_REC;     -&gt; if (!(type_mode & LOCK_WAIT))        如果不处于等待状态,因为lock_rec_add_to_queue函数并不是只有        这里才会调用,调用的地方还很多,这里看起来不会处于LOCK_WAIT        状态        -&gt;lock_hash_get(type_mode)/lock_rec_get_first_on_page(hash, block)          通过lock_system hash结构找到相关的第一个lock_t结构        -&gt;lock_rec_find_similar_on_page          主要是通过对hash的链表进行for循环,看本事务是否已经有合适的lock_t结构了,如果有则只需要设置响应的bit位就可以了。主要比对的方式          1、事务是同一个          2、锁模式相同          3、并且此lock_t的bit结构能够容纳下          -&gt;lock_rec_set_nth_bit(lock, heap_no)            如果找到就进行bit位设置        -&gt;否则就需要新建新建lock_t结构,并且调用的也是RecLock::create          并且加锁trx_mutex_enter(trx),当然也包含了加入到lock_system          hash结构中,流程如上,不在详细描述。



评论 (0 个评论)

facelist

您需要登录后才可以评论 登录 | 立即注册

合作电话:010-64087828

社区邮箱:greatsql@greatdb.com

社区公众号
社区小助手
QQ群
GMT+8, 2024-6-19 00:30 , Processed in 0.013921 second(s), 8 queries , Redis On.
返回顶部