基于MRI的深度学习在骨关节运动损伤中的研究进展

原标题:基于MRI的深度学习在骨关节运动损伤中的研究进展

近年来,深度学习(deep learning,DL)作为机器学习的一部分在医学各个领域引起了广泛关注[1, 2]。DL在图像识别和分类、语音识别和自然语言处理等多个领域被大量应用[3],其目的在于模仿人类大脑的思考方式,进行有意义的数据转换和学习来帮助人类完成某些工作[4]。虽然MRI在诊断骨关节损伤方面具有很高的敏感度和特异度[5, 6],但骨关节损伤诊断的准确度仍有待提高[7]。随着研究的不断深入,骨关节系统的DL研究也逐渐增多,越来越多的方法和模型被相继提出,但基于MRI的DL研究在骨关节运动损伤方面的应用仍然非常局限,目前研究主要集中在膝关节运动损伤中,而对于其他关节的研究相对少见。本文通过分析国内外相关文献,总结当前领域研究进展和存在的问题,以期对此领域的研究和发展起到指导和推动作用。

1 图像分割

由于骨关节解剖结构复杂,进行DL研究时常常因为图像信息过多而导致模型训练效果较差,而预先对图像进行分割能够减少图像内的无用信息并保留有用信息。目前,对于膝关节结构分割的文献报道相对较多,相关技术正逐步发展、完善,但分割其他关节结构的报道相对较少。

Zhou等[8]提出通过高效卷积编解码网络联合3D全连接条件随机场和3D简单变形模型的方法分割膝关节,该方法对股骨、胫骨、肌肉组织的Dice相似系数(dice similariy coefficient,DSC)高于0.9,股骨软骨、胫骨软骨、髌骨及软骨、半月板、髌韧带、股四头肌腱、髌下脂肪垫的DSC在0.8~0.9。该研究初步实现了对膝关节所有解剖结构的分割,并取得了与人工分割较高的一致性。Gaj等[9]使用U-Net对膝关节进行分割,通过条件生成对抗网络(conditional generative adversarial nets,CGAN)对U-Net分割的结果进行批判,直到CGAN无法区分人工和模型分割结果时停止,该方法对膝关节软骨和半月板分割的平均DSC为0.88。该研究通过反复的自我纠错来提升模型性能,完成了对半月板和软骨的分割,其学习方式与人类更加接近。Satyananda等[10]提出了4D-LOGISMOS算法用于膝关节软骨分割。该研究首次提出匹配不同时间相同区域信息的方法来提升分割性能,对软骨分割的误差显著减少。Liu[11]提出一种名为SUSAN的方法对不同数据集的膝关节进行分割,结果表明SUSAN能够和全监督的U-Net性能相媲美,但SUSAN仅需要一组注释的训练集就能够为不同的MRI数据集提供快速、准确的分割,在不同组织对比度的图像中都具有适用性。Zhang等[12]使用4种不同序列结合支持向量机和判别随机场分割正常膝关节软骨,分割髌骨、胫骨和股骨软骨的DSC在0.84~0.86,并且发现两个模型的效果优于单一模型。Byra等[13]使用转移学习改良U-Net后分割半月板,两名医生开发的模型DSC分别为0.86和0.83,模型的分割性能与人工分割准确度相似。

此外,Wang等[14]设计了一种结合脉冲耦合神经网络和全卷积神经网络的方法来分割肩关节骨性结构,模型分割3个测试集的准确度分别为0.96、0.96和0.94。Medina等[15]使用两个GoogleNet (模型A和模型B)用于选择MRI矢状位的“Y”视图和分割肩袖,分别进行内部和外部验证,模型A在内部和外部验证中挑选“Y”视图的准确度均为0.99,模型B在两个验证集中分割肩袖的DSC都大于0.93。

2 深度学习与韧带损伤

韧带损伤是运动损伤常见的表现之一,膝关节前交叉韧带(anterior cruciate ligaments,ACL)损伤在临床中最常见,其次为踝关节韧带损伤[16, 17]。由于关节解剖结构复杂、认识不足等原因常常导致韧带损伤被忽视。所以开发DL用于韧带损伤的识别和诊断有助于医生快速和准确地评估韧带病变,减少漏诊或误诊。

Bien等[18]使用MRNet来识别ACL损伤并进行内部验证,同时使用Štajduhar等[19]公开的数据集进行外部验证。在内部验证集中区分正常和异常ACL的AUC为0.94,识别ACL撕裂的AUC为0.97,在外部验证集中直接使用MRNet识别ACL撕裂的AUC为0.82,再次训练模型后AUC提升至0.91。该研究表明MRNet可以用于识别ACL损伤和撕裂,但该模型用于其他数据集时需要对模型进行再训练。Chang等[20]在冠状位图像勾画ROI后比较了3种识别ACL撕裂的方法,分别是对原始图像直接使用ResNet识别、使用U-Net裁剪后使用ResNet识别、在前一方法的基础上同时裁剪出不包含ACL的图片进行学习,3种方法的准确度分别为0.68、0.72、0.77。同时该研究比较了输入单幅、三幅和五幅裁剪图像时模型的效果,相应准确度分别为0.77、0.87、0.92,提示可能随着输入信息的增加模型性能会逐步提高。

Namiri等[21]在研究中比较了3D卷积神经网络(convolutional neural networks,CNN)和2D-CNN检测ACL损伤的差异,二者在ACL损伤识别的准确度分别为0.89和0.92,Kappa系数为0.83。3D-CNN的卷积层允许学习3D特征,比2D-CNN结构更加复杂,但也更容易出现过拟合,该研究由于3D-CNN与ImgNet不兼容导致性能不如2D-CNN。Liu等[22]设计了用于自动识别ACL撕裂的系统,使用LeNet-5筛选包含ACL结构的图像后通过YOLO裁剪ACL局部图像,最后使用DenseNet诊断ACL撕裂,该方法对ACL撕裂识别的敏感度和特异度均为0.96,AUC为0.98。Zhang等[23]通过3D-DenseNet区分正常和异常ACL,结果发现3D-DenseNet诊断效果好于VGG16和ResNet。

运动损伤也常见于踝关节、肩关节、肘关节等部位[24],但目前缺少对ACL以外韧带损伤的相关研究。在未来需要逐步对更多韧带进行研究,来辅助医生更加精准和快速地诊断韧带损伤。

3 深度学习与半月板、盂唇损伤

半月板和盂唇都由纤维软骨组织构成,对于维持关节的正常功能具有重要作用,准确地识别损伤对于治疗方案的制定和患者的预后非常重要。目前对于膝关节半月板的研究相对较少,并且尚未见到关节盂唇损伤相关的研究。

Pedoia等[25]使用图像扩增方法将训练集扩大了10倍,采用2D-U-Net分割半月板后使用3D-CNN识别半月板损伤,得到的结果与人口统计学信息共同输入到随机森林后获得最终预测结论。该方法对区分正常和异常半月板的敏感度、特异度分别为0.90、0.82,AUC为0.89。同时,研究在3D-CNN中结合WORMS评分将半月板损伤分为正常、轻中度和重度三类,相应的准确度分别为0.81、0.78和0.75。该研究把影像与临床信息结合来对半月板损伤进行判断,分析方式与医生更加接近,使用的图像扩增技术对于解决组间不平衡问题也是一种很好的思路。Couteaux等[26]通过VGG对正常与损伤半月板进行区分后使用Mask R-CNN判断半月板前后方向的撕裂,通过浅层的ConvNet判断半月板上下方向的撕裂,将3种模型的结果按照不同权重加权后最终的AUC为0.91。该研究不仅对正常与损伤的半月板进行识别,也对撕裂的方向进行了区分,为临床提供了更多的信息,应用价值也更大。

近年来,盂唇损伤逐渐引起了临床医生的重视[27]。盂唇包括肩关节盂唇和髋关节盂唇,由于盂唇血供不丰富,一旦出现损伤难以愈合,所以准确地诊断盂唇损伤非常重要。目前对于盂唇损伤的研究仍是空白,如何通过DL对盂唇进行定位和诊断还需要进一步研究。

4 深度学习与软骨损伤

膝关节软骨损伤若不能及时处理往往会过早发展为严重的骨关节病[28],早期准确诊断软骨病变非常重要。虽然有许多MRI新技术被应用于软骨损伤的诊断中[29, 30],但软骨损伤仍然经常被忽视。开发基于MRI的软骨损伤DL检测方法有利于提高早期诊断准确度。目前软骨损伤的研究主要集中在膝关节软骨,对于其他软骨的研究尚未见报道。

Liu等[31]提出了一种全自动的膝关节软骨损伤诊断系统,该系统由两个二维深层CNN构成,其中第一个CNN对软骨和骨进行分割,第二个CNN用于评估软骨损伤。模型分割股骨和胫骨软骨的DSC分别为0.81和0.82,软骨病变检测准确度也能够与影像医生相媲美(AUC>0.91)。该研究初步实现了膝关节软骨病变的识别,在不同年资医生中都表现出了稳定的诊断性能。杨贵昌等[32]通过多激活卷积神经网络对软骨损伤Ⅰ~Ⅳ级诊断的AUC分别为0.92、0.89、0.95和0.97。司莉萍等[33]在转移学习的基础上使用Ⅴ型网络和Inception网络分别对膝关节软骨进行分割和诊断。该方法对骨性结构分割的DSC高于0.91,对于软骨的DSC高于0.75,Inception网络识别软骨损伤的AUC为0.99。Pedoia等[25]在研究中使用2D-U-Net和3D-CNN对检测软骨损伤,模型的敏感度和特异度均为0.80,AUC为0.88。

5 深度学习与肌腱损伤

肌腱损伤以肩袖损伤最常见,传统影像学对于大多数肌腱损伤的诊断并不困难,但DL可以节省时间、提高工作效率,并能够作为AI软件的一部分来对关节损伤进行全面评估。Shim等[34]使用3D-CNN识别肩袖损伤,将肩袖分为正常、部分撕裂、小撕裂、中等撕裂、大撕裂5类,采用Voxception ResNet对3D-CNN进行训练。模型识别正常和异常的准确度为0.93,识别多分类的TOP-1准确度为0.69。

6 当前问题与展望

虽然DL是影像学研究的热门方向,但基于MRI的骨关节运动损伤DL研究仍处在起步阶段,大多数研究主要关注膝关节损伤,而对于其他关节的研究非常少见,而且当前DL研究仍然存在许多不足。

骨关节运动损伤通常要结合多个图像和多个序列进行综合诊断,而目前常用的DL模型大多是针对简单的数据进行学习,还没有成熟的模型能够对多种序列和多幅图像同时进行学习[35],所以尝试开发一种新的模型来学习复杂数据对骨关节运动损伤的DL研究可能起到巨大的推动作用。虽然目前有研究结果表明随着输入信息量的增加模型的性能也会提升,但不代表输入过多的信息也能提升模型的性能,结构复杂的模型是否比结构简单的模型能获得更多收益也需要进一步探讨,复杂的模型训练时间和识别时间会相应增加,如何平衡模型性能和收益也是需要考虑的问题之一。

目前,研究中全监督学习仍然为主要的监督学习方式,但全监督学习需要投入大量的精力,对大样本的逐一标记限制了任务数量,也限制了DL的长期潜力。DL由全监督学习向半监督学习甚至无监督学习转变是有必要的,半监督学习和无监督学习能够减轻研究者的工作量,减少人为因素导致的结果不准确,但目前半监督和无监督学习的准确度不如全监督学习,如何让半监督学习和无监督学习达到与全监督学习相似的效果也是需要进一步研究的内容之一。虽然在各个领域深度学习的研究非常多,但实际应用于临床的研究却非常少见[36],一部分原因可能与国内缺少包含多中心数据的数据库有关,由于不同机构的扫描方法和设备不同,导致模型不能在不同机构中使用,所以今后逐步建立我国相关研究数据库也是非常必要的。多数研究对图像进行裁剪或分割后进行损伤识别,但对于骨关节系统的部分病变按照结构边缘分割是很困难的,当ACL完全断裂并挛缩后正常形态丢失,此时描述其轮廓非常困难,而裁剪出一定大小的图片势必会包含某些额外信息,这些信息同时包含了有用信息和无用信息,所以裁剪方法和保留图像大小也会影响模型性能,这也需要今后更多的研究去探讨。

总之,虽然目前骨关节运动损伤的DL研究仍处于起步阶段,但随着研究不断的发展和深入,DL的潜力和价值也会被逐渐挖掘出来,DL有望逐步发展成为今后影像科医师的得力助手。

全体作者均声明无利益冲突。

参考文献(略)

【倪铭,袁慧书.基于MRI的深度学习在骨关节运动损伤中的研究进展[J].磁共振成像,2021,12(8):118-120.DOI:10.12015/issn.1674-8034.2021.08.028.】

http://www.chinesemri.com/CN115902202108/1332148.htm

(作者:倪铭,袁慧书)

袁慧书,北京大学第三医院放射科主任,主任医师、教授、博士生导师。

专业特长:骨肌系统影像诊断;新技术、人工智能在骨肌领域应用。

社会兼职:中华医学会放射学分会常委、骨关节学组组长;中国医师协会放射学分会委员;北京医学会放射学分会副主委;北京医师协会放射专科分会常务理事;中国医学装备协会普通放射专委会副主委;中国医药教育协会肩肘运动医学影像委员会主任委员;中国女医师协会医学影像专业委员会副主任委员。

获得成果、奖项、荣誉等:获专利四项 1.磁共振局部线圈底座、局部线圈组件以及脚踝线圈组件,实用新型,ZL201720344385.2,第一发明人;2.用于磁共振成像系统的脚踝线圈,实用新型ZL201720304778.0,第一发明人;3.一种医用床旁移动式可卷轴X线防护铅屏实用新型ZL 2017 1 0639032X.第二发明人;4.一种髌骨轴位X线检查定位装置.实用新型ZL2017205937791.第二发明人。2018年度北京大学优秀教师、北京大学医学部优秀教师奖。

1. 医学影像纹理分析在骨肌系统疾病中的研究进展

钟毅 刘欣 肖云丹 杨海涛

【磁共振成像 2020年05期】

http://www.chinesemri.com/CN115902202005/1205396.htm

近年来基于医学图像的纹理分析技术和以此为基础的影像组学在医学影像学领域广泛深入开展,在头颈部、胸腹及盆腔疾病的诊断、鉴别和疗效判断、预后预测等方面应用较为广泛,但在骨肌系统的应用及研究方仍对较少…

出版日期: 2020年05月

2. 磁共振T2 mapping技术在体部恶性肿瘤中的研究进展

朱柳红 刘豪 周建军

【磁共振成像 2020年05期】

http://www.chinesemri.com/CN115902202005/1205388.htm

随着磁共振影像技术及大数据的快速发展,肿瘤的影像诊断不仅仅是局限于影像表现,如何将肿瘤病灶的特性进行定量成像评价逐渐成为研究的热点。目前,T1加权成像(T1 weighted imaging,T1WI)、T2加权成像(T2 weig…

出版日期: 2020年05月

3. 骨折内固定术后复查MAVRIC-SL序列去金属伪影的研究

朱婧怡 常剑 张子田 李松柏

【磁共振成像 2020年04期】

http://www.chinesemri.com/CN115902202004/1205362.htm

目的 探讨去金属伪影多采集与可变谐图像结合层面选择性(multi acquisition with variable resonance image combination slab selectivity,MAVRIC-SL)序列对骨折术后金属植入物患者磁共振图像的影响,以评价其…

出版日期: 2020年04月

责任编辑:

Thenews.cc