bitsCN.com
转载请署名：印风
-----------------------------------------------------------
最近碰到一个问题，线上一台机器在等待信号量时间过长，mysql的监控线程认为此时mysqld已经hang住了，于是自杀重启。这里涉及到一个有趣的问题，也就是mysql如何对读写锁进行处理。
主要包括三个部分：
1. 建锁
2. 加锁
3. 解锁
4. 监控锁
以下内容基于Percona5.5.18进行分析
1.创建锁
锁的创建实际上就是初始化一个RW结构体（rw_lock_t），实际调用函数如下:
# define rw_lock_create(K, L, level) /
rw_lock_create_func((L),#L)
在rw_lock_create上有三个参数，在实际场景锁时只用到第2个参数
其中K表示mysql_pfs_key_t，level显示当前的操作类型（起码看起来是的，在文件sync0sync.h中定义），看起来k是为performance schema准备的，而k代表了当前操作所在的层次。
例如：purge线程的读写锁创建：
rw_lock_create(trx_purge_latch_key,
&purge_sys->latch,SYNC_PURGE_LATCH);
我们进去rw_lock_create_func看看到底是怎么创建的。
可以看到这个函数的逻辑其实很简单：
lock->lock_word =X_LOCK_DECR; //关键字段
用于读写锁的最大并发数，代码里的注释如下：
/* We decrement lock_word by this amountfor each x_lock. It is also the
start value for the lock_word, meaning thatit limits the maximum number
of concurrent read locks before the rw_lockbreaks. The current value of
0x00100000 allows 1,048,575 concurrentreaders and 2047 recursive writers.*/
在尝试加锁时会调用rw_lock_lock_word_decr减少lock_word
在初始化一系列变量后，执行：
lock->event = os_event_create(NULL);
lock->wait_ex_event = os_event_create(NULL);
os_event_create用于创建一个系统信号，实际上最终创建的还是互斥量（os_fast_mutex_init(&(event->os_mutex));以及条件变量（os_cond_init(&(event->cond_var));）
最后将lock加入到全局链表rw_lock_list中
2.加锁
加锁函数由宏定义，实际调用函数为：
1)写锁
# define rw_lock_x_lock(M) /
rw_lock_x_lock_func((M),0, __FILE__, __LINE__)
当申请写锁时，执行如下步骤：
(1).调用rw_lock_x_lock_low函数去获取锁，如果得到锁，则rw_x_spin_round_count += i后直接返回，如果得不到锁，继续执行
(2).loop过程中只执行一次rw_x_spin_wait_count++
(3).在毫秒级别的loop多次等待
while (i < SYNC_SPIN_ROUNDS
&& lock->lock_word <= 0) {
if(srv_spin_wait_delay) {
ut_delay(ut_rnd_interval(0,
srv_spin_wait_delay));
}
i++;
}
这里涉及到两个系统变量：
innodb_sync_spin_loops(SYNC_SPIN_ROUNDS)
innodb_spin_wait_delay(srv_spin_wait_delay)
在SYNC_SPIN_ROUNDS循环里调用函数ut_delay，这个函数很简单，就是做了delay*50次空循环
Ut_delay(uint delay)：
for(i = 0; i < delay * 50; i++) {
j+= i;
UT_RELAX_CPU();
}
其中，UT_RELAX_CPU()会调用汇编指令来独占CPU，以防止线程切换
(4).如果loop的次数等于SYNC_SPIN_ROUNDS，调用os_thread_yield（实际调用pthread_yield，导致调用线程放弃CPU的占用）将线程挂起；否则挑到1继续loop
(5).在sync_primary_wait_array里获取一个cell（占个坑？）。调用sync_array_reserve_cell，看起来有1000个坑位（sync_primary_wait_array->n_cells）
(6).再次调用rw_lock_x_lock_low函数尝试获取锁，若成功获得，则返回
(7).调用sync_array_wait_event等待条件变量，然后返回1继续loop
具体的加锁函数（rw_lock_x_lock_low）稍后分析
2)读锁
# define rw_lock_s_lock(M) /
rw_lock_s_lock_func((M),0, __FILE__, __LINE__)
这个函数定义在sync0rw.ic里，函数也很简单，如下：
if (rw_lock_s_lock_low(lock, pass, file_name, line)) {
return; /* Success */
}else {
/* Did not succeed, try spin wait */
rw_lock_s_lock_spin(lock, pass, file_name, line);
return;
}
这里首先调用rw_lock_s_lock_low进行加锁，如果加锁不成功，则调用rw_lock_s_lock_spin进行等待，rw_lock_s_lock_spin的代码逻辑与rw_lock_x_lock_func有些相似，这里不再赘述。
在rw_lock_s_lock_spin里会递归的调用到rw_lock_s_lock_low函数；
看起来实际的加锁和解锁操作是通过对计数器来控制的，
(1)在函数rw_lock_s_lock_low中
rw_lock_lock_word_decr (lock, 1)，对lock->lock_word减去1
减数成功返回true，否则返回false
这部分的逻辑还是很简单的。
(2)在函数rw_lock_x_lock_low中，调用：
rw_lock_lock_word_decr(lock, X_LOCK_DECR)，对lock->lock_word减去X_LOCK_DECR
减数成功后，执行：
rw_lock_set_writer_id_and_recursion_flag(lock,pass ? FALSE : TRUE)来设置：
lock->writer_thread = s_thread_get_curr_id()
lock->recursive = TRUE
然后调用rw_lock_x_lock_wait函数等待lock->lock_word=0，也就是说等待所有的读锁退出。
看到一个比较有意思的现象，在.ic的代码里看到使用了宏
INNODB_RW_LOCKS_USE_ATOMICS，这是跟gcc的版本相关的，通过使用gcc的内建函数来实现原子操作。
3.解锁
解锁操作包括解除读锁（#define rw_lock_s_unlock(L) rw_lock_s_unlock_gen(L, 0)）和解除写锁操作（#definerw_lock_x_unlock(L) rw_lock_x_unlock_gen(L, 0)）
实际调用函数为rw_lock_s_unlock_func和rw_lock_x_unlock_func
1)解除读锁（rw_lock_s_unlock_func）
增加计数rw_lock_lock_word_incr(lock, 1)
2)解除写锁（rw_lock_x_unlock_func）
执行如下操作
(1)如果是最后一个递归调用锁的线程，设置lock->recursive= FALSE; 代码里的注释如下：
/* lock->recursive flag also indicatesif lock->writer_thread is
valid or stale. If we are the last of the recursive callers
then we must unset lock->recursive flag to indicate that the
lock->writer_thread is now stale.
Note that since we still hold the x-lock we can safely read the
lock_word. */
(2)增加计数rw_lock_lock_word_incr(lock,X_LOCK_DECR) == X_LOCK_DECR，这时候需要向等待锁的线程发送信号：
if (lock->waiters) {
rw_lock_reset_waiter_flag(lock);
os_event_set(lock->event);
sync_array_object_signalled(sync_primary_wait_array);
}
os_event_set函数会发送一个pthread_cond_broadcast给等待的线程
4.监控读写锁
为了防止mysqld被hang住导致的长时间等待rw锁，error监控线程会对长时间等待的线程进行监控。这个线程每1秒loop一次
（os_event_wait_time_low(srv_error_event, 1000000, sig_count);）
函数入口：srv_error_monitor_thread
函数sync_array_print_long_waits()用于处理长时间等待信号量的线程，流程如下：
1. 查看sync_primary_wait_array数组中的所有等待线程。
->大于240秒时，向错误日志中输出警告，设置noticed = TRUE;
->大于600秒时，设置fatal =TRUE;
2.当noticed为true时，打印出innodb监控信息，然后sleep30秒
3. 返回fatal值
当函数sync_primary_wait_array返回true时，对于同一个等待线程还会有十次机会，也就是300 + 1*10（监控线程每次loop sleep 1s）秒的时间；如果挺不过去，监控线程就会执行一个断言失败：
if (fatal_cnt > 10) {
fprintf(stderr,
"InnoDB:Error: semaphore wait has lasted"
"> %lu seconds/n"
"InnoDB:We intentionally crash the server,"
"because it appears to be hung./n",
(ulong) srv_fatal_semaphore_wait_threshold);
ut_error;
}
ut_error是一个宏：
#define ut_error assert(0)
断言失败导致mysqld crash
在函数srv_error_monitor_thread里发现一个比较有意思的参数srv_kill_idle_transaction，对应的系统变量为innodb_kill_idle_transaction，用于清理在一段时间内的空闲事务。这个变量指定了空闲事务的最长时间。具体实现分析，且听下回分解
作者 记录成长之路 bitsCN.com
下载本文
