多水平统计模型

•层次结构数据的普遍性•经典方法及其局限性•基本多水平模型•多水平模型的应用

概述

•80年代中后期，英、美等国教育统计学家开始探讨分析层次结构数据(hierarchically

structured data)的统计方法，并相继提出不同的模型理论和算法。

•多水平模型(multilevel models)最先应用于教育学领域，后用于心理学、社会学、经济学、组织行为与管理科学等领域，逐步应用到医学及公共卫生等领域。

概述

•多层线性模型在不同的学科领域有不同的名称：–多水平线性模型（multilevel linear model）

–混合效应模型（mixed-effects model）–随机效应模型（random-effect model）

–随机系数回归模型（random-coefficient regression model）

–协方差成分模型（covariance components model）

概述

•多层线性模型这一术语最早是由Lindley和Smith于1972年提出，在很长一段时间，它的应用受到了计算技术的。•1977年，Dempster、Laird和Rubin等人提出了EM算法，1981年，Dempster等人将EM算法（Expectation-Maximization Algorithm）应用于解决多层线性模型的参数估计，使得这一方法的应用成为可能。1983年，Strenio、Weisberg和Bryk等相继将这一方法应用于社会学的研究。

•1986年Goldstein应用迭代加权广义最小二乘法（iteratively reweighted generalized least squares）估计参数。•1987年，Longford应用费歇得分算法（Fisher scoring algorithm）对模型参数进行了估计。

•随着参数估计问题的解决和算法的程序化，相继出现了一些相应的软件，目前较常用的有HLM，Mlwin和VARCL。

层次结构数据的参数估计

•迭代广义最小二乘法（iterative generalized least squared，IGLS），这种方法的基本步骤是迭代，通常从“合理”的参数估计值开始（一般来自初始的二乘估计（OLS）），用广义最小二乘法，然后逐步迭代估计参数。•迭代广义最小二乘法和极大似然估计法没有考虑固定参数的抽样变动，所以对随机参数产生有偏估计。•在正态分布的假设下，收敛时的估计与极大似然估计结果相同。•在小样本中偏度较大，可用性极大似然估计法

（restricted maximum likelihood，REML）来修正以获得无偏估计。IGLS算法依据性极大似然估计的原理，进行进一步修正，产生所谓的性的广义最小二乘估计（RIGLS），可以得到参数的无偏估计。

层次结构数据的参数估计

•近年来随着马尔科夫链蒙特卡罗（Markov Chain

Monte Carlo，MCMC）方法，尤其是吉布斯抽样的发展，完全贝叶斯技术在计算上变得可行，由于这种方法考虑了与随机参数有关的不确定性，在小样本分析中用这一方法更为合理有效。

•多层分析软件Mlwin采用了三种估计方法（IGLS、RIGLS和MCMC）。

•除了上述几种参数估计的方法，还有期望最小二乘法（EGLS），广义估计方程法（GEE），经验贝叶斯估计等。这些方法在正态性假设成立，样本容量较大时，得到参数的一致有效的估计。

Harvey Goldstein, UK, University of London, Institute of Education

《Multilevel Models in Educational and Social Research》1987（1999年出版网络版）Anthony Bryk, University of Chicago

Stephen Raudenbush, Michigan State University , Department of Educational Psychology

《Hierarchical Linear Models：Applications and Data Analysis Methods》1992

Nicholas Longford, Princeton University, Education Testing Service

《Random Coefficient Models》1993



ML3(1994)/MLN(1996)/MLwiN(1999)

HLM(HierarchicalLinearModel)

SAS(Mixed)SPSS (mixed)

STATA (panel data)

Goldstein提出的多水平模型应用

•••••••••

多水平主成分分析多水平因子分析多水平判别分析多水平logistic回归多水平Cox模型多水平Poisson回归多水平时间序列分析多元多水平模型多水平结构方程模型

层次结构数据的普遍性水平2水平1两水平层次结构数据•“水平”(level)：指数据层次结构中的某一

层次。例如，子女为低水平即水平1，家庭为高水平即水平2。•

“单位”(unit)：指数据层次结构中某水平

上的一个实体。例如，每个子女是一个水平1单位，每个家庭是一个水平2单位。

层次结构数据的普遍性

临床试验和动物实验的重复测量多中心临床试验研究

纵向观测如儿童生长发育研究流行病学现场调查如整群抽样调查遗传学家系调查资料meta分析资料

层次结构数据的特性

•层次结构数据为一种非数据，即某观察值在观察单位间或同一观察单位的各次观察间不或不完全，其大小常用组内相关(intra-class correlation，ICC)度量。

•例如，来自同一家庭的子女，其生理和心理特征较从一般总体中随机抽取的个体趋向于更为相似，即子女特征在家庭中具有相似性或聚集性(clustering)，数据是非的(non independent)

非数据不满足经典方法的性条件，采用经典方法可能失去参数估计的有效性并导致不合理的推断结论。

但非数据的组内相关结构各异，理论上，不同的结构应采用相应的统计方法。如纵向观测数据常用广义估计方程(GEE)，但有两个局限性：一是对误差方差的分解仅局限于2水平的情形，二是没有考虑解释变量对误差方差的影响。当应变量的协差阵为分块对角阵时，一般采用多水平模型。

经典方法框架下的分析策略

经典的线性模型只对某一层数据的问题进行分析，而不能将涉及两层或多层数据的问题进行综合分析。

有时某个现象既受到水平1变量的影响，又受到水平2变量的影响，还受到两个水平变量的交互影响(cross-levelinteraction)。

个体的某事件既受到其自身特征的影响，也受到其生活环境的影响，即既有个体效应，也有环境或背景效应(contexteffect)。例如，个体发生某种牙病的危险可能与个体的遗传倾向、个体所属的社会阶层(如饮食文化和口腔卫生习惯)、环境因素(如饮水中氟浓度)等有关。

传统多元统计方法

•分解(disaggregation)

–不满足模型性假定，回归系数及其标准误的估计无效，且未能有效区分个体效应与背景效应。另一种分析策略是用哑变量拟合高水平单位的固定效应，繁琐、样本量大。

•聚合(aggregation)

–损失大量水平1单位的信息，更严重的是可能导致“生态学谬误”(ecological fallacy)。

生态谬误

•Ecological fallacy，又称区群谬误，层次谬误，是一种在分析统计资料时常犯的错误。

•和以偏概全相反，区群谬误是一种以全概偏，如果仅基于群体的统计数据就对其下属的个体性质作出推论，就是犯上区群谬误。

•这谬误假设了群体中的所有个体都有群体的性质（因此塑型（Sterotypes）也可能犯上区群谬误）。

•William S. Robinson分析了1930年美国人口普查结果中48个州的识字率以及新移民人口比例的关系。他发现两者之间的相关系数为0.53，即代表若一个州的新移民比率愈高，平均来说这个州的识字率便愈高。但当分析个体资料时，便发现相关系数便是-0.11，即平均来说新移民比本地人的识字率低。出现这种看似矛盾的结果，其实是因为新移民都倾向在识字率较高的州份定居。Robinson因此提出在处理群体数据，或区群数据时，必须注意到数据对个体的适用性。

多水平分析的概念为人们提供了这样一个框架，即可将个体的结局联系到个体特征以及个体所在环境或背景特征进行分析，从而实现研究的事物与其所在背景的统一。

基本的多水平模型

•经典模型的基本假定是单一水平和单一的随机误差项，并假定随机误差项、服从方差为常量的正态分布，代表不能用模型解释的残留的随机成份。

•当数据存在层次结构时，随机误差项则不满足常方差的假定。模型的误差项不仅包含了模型不能解释的应变量的残差成份，也包含了高水平单位自身对应变量的效应成份。

基本的多水平模型

•多水平模型将单一的随机误差项分解到与数据层次结构相应的各水平上，具有多个随机误差项并估计相应的残差方差及协方差。构建与数据层次结构相适应的复杂误差结构，这是多水平模型区别于经典模型的根本特征。

•多水平模型由固定与随机两部分构成，与一般的混合效应模型的不同之处在于，其随机部分可以包含解释变量，故又称为随机系数模型(random coefficient model)，其组内相关也可为解释变量的函数。换言之，多水平模型可对不同水平上的误差方差进行深入和精细的分析。

1. 方差成份模型

(Variance Component Model)

假定一个两水平的层次结构数据，医院为水平2单位，患者为水平1单位，医院为相应总体

的随机样本，模型中仅有一个解释变量x。

yij0j1xije0ijj1,2,...,m示水平2 单位示水平1 单位

i1,2,...,njyij和

xij分别为第j 个医院中第i 个患者应变

1为参数估

量观测值和解释变量观测值，0j和计, e0ij为通常的随机误差项。

yij0j1xije0ij与经典模型的区别在于0j。经典模型中的

估计为0，仅一个估计值，表示固定的截距；而在方差成份模型中0j表示j个截距值，即当x取0时，第j个医院在基线水平时y的平均估计值。

0j0u0j0为平均截距，反映yij与xij的平均关系，

即当x取0时，所有y的总平均估计值。

u0j为随机变量，表示第j个医院y之平均估

计值与总均数的离差值，反映了第j个医院对y的随机效应。

yij0j1xije0ij1表示协变量x的固定效应估计值。即y与

协变量x的关系在各医院间是相同的，换言之，医院间y的变异与协变量x的变化无关。

方差成份模型拟合j条平行的回归线，截距不同(0j)，斜率相同(1)。

对医院水平残差的假定

E(u0j)0，Var(u0j)对患者水平残差的假定与传统模型一致

2u0E(e0ij)0，Var(e0ij)2e0水平1 上的残差与水平2 上的残差相互

Cov(u0j,e0ij)00j0u0jyij01xiju0je0ij反应变量可表达为固定部分01xij与

随机部分u0je0ij之和。模型具有两个残差项，这是多水平模型区别于经典模型的关键部分。

u0j即水平2残差，随机效应、又称潜变量

(latentvariable)。

此模型需估计4个参数，除两个固定系数0和1，还需估计两个随机参数和02u02。其中e02u0即为

医院水平的方差成份，e2为患者水平的方差成份。

组内相关的度量

方差成份模型中，应变量方差为

Varyij|0,1,xijVar(u0je0ij)Var(u0j)Var(e0ij)Cov(u0j,e0ij)2u02e0此即水平2和水平1方差之和。

同一医院中两个患者(用i1，i2表示)间的协方差为：

Covu0je0i1j,u0je0i2jCovu0j,u0j2u0组内相关(intra-class correlation, ICC)2u02u02e0测量了医院间方差占总方差的比例，实际上它反映了医院内个体间相关，即水平1单位(患者)在水平2单位(医院)中的聚集性或相似性。由于模型不止一个残差项，就产生了非零的组内相关。若为0，表明数据不具层次结构，可忽略医院的存在，即简化为传统的单水平模型；反之，若存在非零

的u2，则不能忽略医院作为影响因素的

0存在。

多水平方差成分模型

•进一步，如数据具有三个水平的层次结构，如医院、医生和患者三个水平，则将有两个这样的相关系数，即医院内相关和医生内相关。•水平2 单位中的水平1 单位间存在相关，通常的“普通最小二乘法”(Ordinary Least Squares OLS)进行参数估计是不适宜的。

随机系数模型

(Random Coefficient Model)

随机系数模型是指协变量的系数估计不是固定的而是随机的，即协变量对反应变量

的效应在不同的水平2单位间是不同的。

仍以医院与患者两水平数据结构说明随机系数模型基本结构与假设。

yij0j1jxije0ij与方差成份模型的区别在于1j。•

方差成份模型中协变量为固定的协变量

xij的系数估计

1，表示协变量xij对反应变量

的系数估计为1j，表示每个医

的效应是固定不变的。在随机系数模型中

xij院都有其自身的斜率估计，表明协变量xij对反应变量的效应在各个医院间是不同的。

0j的假定及其含义与方差成份模型一致。现1j为随机变量，假定：

E(1j)1Var(1j)2u11j表示第j个医院的y随x变化的斜

率；1表示全部医院的y随x变化的斜率的平均值(平均斜率)。

是指各医院的y随x变化的斜率

的方差。

2u11j1u1jE(u0j)E(u1j)0Var(u1j)Cov(u0j,u1j)u2u101u1j表示第j个医院的斜率与平均斜率的离

差值，u01指上述截距离差值与斜率离差值的协方差，反映了它们之间的相关关系。

将模型改记为：

yij01xiju0ju1jxije0ij即表达为固定部分与随机部分之和。其中，固定效应用均数描述，它决定了全部医院的平均回归线，这条直线的截距即

平均截距0，直线的斜率即平均斜率1。

u1j为随机系数。

随机效应用方差描述，它反映了各医院之间y的变异与协变量x的关系。

模型随机部分具多个残差项，需估计4个随机参数，即方差协方差u01。

2u0、2u1和2以及e0模型的反应变量方差为：

Varyij|0,1,xijVaru0ju1jxije0ij2u01xijx2u022u1ij2e0表明各医院间y的变异与协变量x有关，即每条回归线不仅截距不同，且斜率也不同。当x取0时每个医院y的平均估计值

不同，且每个医院y随x变化的斜率0j

1j不同。

组内相关与解释变量有关2u01xx2u02u022iju1ij222u1ije02u01xijx模型随机部分的解释变量常为其固定部分的一个子集，但亦可以不是。换言之，可以在模型的固定部分或随机部分纳入任何水平上测量的解释变量。反应变量向量的协方差结构

从最基本的两水平数据结构来考察反

应变量向量的协方差结构，即只包括随机参数和。对应于方差成份模型，反应变量方差为水平1和水平2方差之和：

2u02e0Varyij|0,1,xijVar(u0je0ij)2u02e0同一个医院所诊疗的两个患者(用i，i21表示)间的协方差为：

Covu0je0i1j,u0je0i2jCovu0j,u0j协差阵为：

22ue002u02u02u0因此，同一医院所诊疗的三名患者的

2u022u0e02u022u0e02u02u0对两个医院而言，若一个医院诊疗了

三名患者，另一个医院诊疗了两个患者，则具有2个水平2单位的反应变量向量Y

总的协差阵可表达为：

2u02u02u02e022u0e0222u0u0e02u02u02e02u02u02u02u022u0e0矩阵的这种分块对角结构表达了不同医院所诊疗的患者间的协方差为0，它可进一步扩展到任意多的医院数。将上述矩阵表达为另一种更简

略的形式：

J3I30V2220JIu2e0022u02e0J(n)为n维的1矩阵，I(n)为n维的单位阵，V的下标2表明为两水平模型，的维数即水平2单V位数，主对角线块的维数即水平1单位数，它们均为方阵。在传统OLS估计中，22u0为0，则该

协差阵退化为标准形式的I，即残差方差。

2考察包括随机系数的一般形式的两水平模型

yij01x1ijhxhiju0jz0iju1jz1ije0ijz0ijh2p或简记为

yijXijuhjzhije0ijz0ijh01对于具有随机截距与斜率的两水平模型，其反应变量协差阵具有以下典型的分块结构：

10Xj2X01Tj1Xj1x1jx2j2u012u02u112e0矩阵2为水平2的随机截距与斜率的协差阵，即随机系数协差阵，矩阵1为水平1的随机系数协差阵。

这里，水平1只有一个单一的方差项，

可进一步采用表示这些协差阵集。

i将上述矩阵展开得到：

2u01x1jxu01(x1jx)xx222u0u01(x1jx2j)u1x1jx2ju02u01x2jx2u022u11j2e02u022ju11j2j222u12je0这是具有分块结构的一个具有2个水平1单位的水平2单位的反应变量协差阵。此即构造反应变量协差阵的一般模式，它同时也概括了拟合水平1复杂变异的可能性。

固定与随机参数估计

固定和随机参数的估计方法一般采用“迭代广义最小二乘算法”(IterativeGeneralizedLeast

Squares，IGLS)(Goldstein，1986)或“性迭代广义最小二乘法”(RestrictedIterativeGeneralizedLeastSquares，RIGLS)(Goldstein，19)。

以最基本的两水平方差成份模型来阐

明固定与随机参数估计的基本思想和步骤。

yij01x1iju0je0ij11.X..1x11x21...xnmmy11y21.Y..ynmm假定已知方差2的值，则可直接构造u0分块对角阵V(2)，简记为V。直接采用通常的广义最小二乘法(GeneralizedLeast

Squares，GLS)可获得固定系数的估计：

(XVX)XVYT11T1在初始阶段，假定2为u00，即假定数据

不具有系统结构，则给出固定系数通常的

OLS估计(0)，得到粗残差：

~ˆˆyijyij(01xij)~将粗残差向量记为：Y~yij~~T将粗残差向量形成交叉乘积矩阵YY，然

~~后再形成交叉乘积矩阵YYT的向量化算子，

~~T记为VecYY。相应的，也可以形成反应变

量协方差阵V向量化算子，记为Vec(V)。

对应于2 个医院，一个诊疗3 名患者，另

~~一个诊疗2 名患者，则VecYYT和Vec(V)均具

~~T有32+22=13 个元素。因为YY的期望为V

~~TVecYYVec(V)R可将这些向量间关系表达为以下线性模型

2~y11~~y21y11~y31~y11~~y11y212~y21=...~~y12y22~2y2212u0121u02u01221e0u02++R=u0......21u0221u0e02u02e02e010001+R...01这里，R为一个残差向量。将粗残差作为模型的

反应变量向量，模型右边包含两个已知的解释变量，

2和2。通过GLS方其系数即待估计的随机参数ue00法获得2u0和

2的估计，回到初始模型则获得固定e0系数新的估计，在随机与固定参数估计间反复迭代直

至收敛，此即IGLS算法的基础。

多水平模型的应用

1.重复测量数据的多水平模型

当同一研究对象被重复测量多次时，测量点即为水平1单位，测量点又嵌套(nested)进作为水平2单位的个体，这种数据结构具有典型的层次结构特征。

在临床试验和动物实验中，常需对患者或动物的某些指标进行重复测量，以了解不同时间观测指标的变化以及处理因素与观测指标的关系随时间的变化；在生长发育研究中，也需对个体生长或发育指标作多时点的重复测量。

常规使用的重复测量数据统计方法，一般要

求资料是平衡的，即每一个体有相同次数的重复测量值，这对于实验研究是可行的，但在生长发

育研究中，测量常常是不规则的，这就出现了个体测量时点多少不一、时间间隔不等以及观测值缺失等问题，它增加了传统统计方法拟合个体生长曲线的难度，并引起估计结果不同程度的偏差。

•多水平模型技术可有效和方便地处理此类测量模式的数据，提供统计上有效的参数估计，并具有如下几个特点：

(1) 考虑了分布于不同层次的测量误差，并给出相应的误差估计值；

(2) 拟合个体生长曲线时不要求相等的时间间隔，在拟合个体生长曲线的同时也估计全部样本的平均曲线；(3) 不要求每个个体都有同样多的测量点，即缺失测量点并不增加拟合生长曲线的难度；

(4) 便于在生长曲线中引入其它解释变量，如性别、营养状况等，分析其对生长过程的影响。

2.Meta分析是指对具有相同研究假设的多项研究结果所进行的合并分析，在合并不同来源的研究资料时可能引入异杂方差(heterogeneousvariance)，因此，其数据可看成具有两个水平的层次结构，即研究水平与个体水平。

Meta分析的主要目的是为了得到比单一研究更精确的结果估计，进一步的目的则是分析影

响研究结果间差异的因素。

目前，Meta分析主要根据“效应尺度”的同质性检验结果，而决定采用固定效应模型或随机效应模型来合并每项研究的“效应尺度”。采用多水平模型可较为方便地分析影响研究结果间差异的因素如研究水平上的有关协变量包括样本含量、设计类型等。

3.离散数据的多水平模型

在流行病学现场调查研究中，常对发病率、患病率或死亡率以及它们在地区之间的变异感兴趣。这里的两

水平结构是，个体为水平1，地区为水平2。

此类研究常常拥有若干地区某时期的死亡记录和死

者个人特征以及地区特征如人口构成或社会经济特征等。研究者可以分析这些解释变量是否能够解释死亡率在地区之间的变异，也可以分析死亡率的差别(比如男性和

女性之间)是否在地区之间不同等。

4.多变量多水平模型：

在医学研究中，研究者常对个体作几种测量(即测量几个指标)，如收缩压、舒张压和心率，如果将它们作为反应变量一起进行分析，就可以设臵多变量模型，分析解释变量诸如年龄、性别、是否锻炼、是否吸烟等与这三个反应变量的关系。

此时，是将其作为一个两水平模型，每一个体作为一个水平2单位，3种测量组成水平1单位。

5.混合反应变量多水平模型

例如，测定人们的吸烟行为，可以测量某人

是否吸烟以及吸烟程度如何，我们可将其考虑为一个混合双变量模型，将有关吸烟的影响因素作

为模型中的解释变量进行分析。

多水平分析的主要优点

1.获得回归系数及其标准误的有效估计。

2.可在模型固定或随机部分引入任何水平上所

测量的协变量，能够探讨各水平单位的特征对反应变量的影响，以及对反应变量在高水平单位甚至是低水平单位之间变异的影响，即这些特征是否可以解释这些变异。3.在调整了低水平单位甚至高水平单位的各种

特征后，可对高水平单位的残差估计进行排序和比较，用于识别极端的高水平单位。

例如，比较若干医院某病治愈率的高低，在调整了患者、医护人员的各种特征之后，通过对

医院水平残差估计的考察，可以发现某些极端的医院。

若将其选出作进一步深入的个案调查，则形成定量的多水平分析和定性调查相结合的研究，有助于探讨更详细的因果机制。这是多水平分析

的另一个重要特点。

应用前景

•自然界与人类社会广泛存在着层次结构现象，生物系统具有自然的等级或组群结构，人类社会被组织成高度复杂的系统结构。•医学和公共卫生领域研究的一个重要方面是探索疾病发生、发展及其变化的规律性。疾病总是在某种特定的环境中产生和发展的，即个体的结局是由个体和所在环境的特征联合决定的。•无论是观察性研究还是实验性研究，从时空两个维度均可形成数据的层次结构。多水平模型复杂的误差结构适应并反映了数据相应的层次结构，这是多水平分析区别于经典统计模型的最重要特征。

参考书目

•《医学和公共卫生研究常用多水平统计模型》，杨珉、李晓松主编；2007. 北京：北京大学医学出版社

•《多水平统计模型》（Goldstein原文翻译版），李晓松主编；2000. 成都：四川科技出版社

资料类型与统计分析方法•Quantitative data <-> numeric variable–Discrete variable–Continuous variable–Analyzed in the form of quantity•Qualitative data <-> categorical variable–Ordinal variable–Nominal variablediscrete–Analyzed in the form of counts广义线性模型适用条件Yi01X12X2pXp单因素多因素Y为连续变量，来自正态分布的总体。（LINE）Y为二分类或多分类变量t-test或ANOVAχ2-test多重线性回归Logistic回归Cox比例风险回归统计分析主成分分析、因子分析聚类分析、判别分析Y1为二分类变量；Y2为生Log-rank test存时间适用条件目的X为连续变量，来（1）探讨或验证数据结构自正态分布的总体。（2）处理多重共线性问题X为连续变量，来（1）对数据进行分类自正态分布的总体。（2）对研究对象归类开卷试题一

•今有一组研究人员欲了解云南省下关市老年人对药品说明书的认知度及其消费行为与影响因素。研究人员设计了如附件1所示的《药品说明书认知度调查表》，其中红色字体标注的为该题的标准答案；并对我市某社区60岁以上老年人进行调查，发出、收回问卷100份，数据如附件“药品说明书认知度调查.sav”所示。

问题（1）

•研究者设计问卷时除了调查对象的基本资料，

还欲了解其对药品说明书之“药品剂量”，“药品标示”，“药理及药物相互作用”等三

个侧面的认知度。请问应采用何种统计分析方法评价此份调查表是否反映了上述三个侧面？

并请提供统计分析结果与您的个人评述。

问题（2）

•研究者欲了解本市老人对说明书认知度的影响

因素，包括：年龄段、民族、性别、健康状况、文化程度、收入水平、个人用药习惯等。请问

应采用何种统计分析模型，并请提供统计分析结果与您的个人评述。

开卷试题二

•某市采用两阶段随机抽样进行居民营养状况调查。先随机抽取社区，再从每个社区中随机抽取一定数量的家庭进行调查（每个家庭只调查1名成员）。共调查了60个社区1276个家庭。

•被调查人除了提供基本资料（年龄、性别），需完成一份每天饮食状况调查问卷。该问卷总分100分，分数越高，表示被调查人营养状况越好。•欲考察社区之间的营养状况是否存在差异，这种差异是否与被调查者的年龄有关。如何对营养状况的影响因素进行分析？如何解析数据的层次结构？（仅需提供您的想法，无需进行具体的统计分析）

1. 开卷测试—请copy试题，并于2013年7月1日前交卷2. Critical review (含原文献)--请于2013年7月1日前提交巫秀美wxm6865@163.comBest wishes to your graduate study!!

for all the great time in this semester!