图像超分辨率技术对人像比对结果的影响分析
侯欣雨, 谢兰迟*, 李志刚, 黎智辉, 黄威, 汪磊
公安部物证鉴定中心,北京 100038
* 通信作者简介:谢兰迟,女,内蒙古通辽人,硕士,助理研究员,研究方向为图像处理技术。E-mail: xielanchi@139.com

第一作者简介:侯欣雨,女,陕西榆林人,硕士,研究实习员,研究方向为影像技术。E-mail: d.k.hou@163.com

摘要

目的 基于深度学习的图像超分辨率技术在法庭科学人像领域有非常重要的研究意义,本文旨在分析图像超分辨率技术在案事件中对人像比对结果的影响。方法 基于真实案件中收集的94组样本人像,按照人像的不同质量进行分组,采用两种图像超分辨率算法对样本人像进行增强处理,然后进行人像1:1比对实验,分析在不同先验条件下人像比对结果的变化趋势。结果 数据研究表明,图像超分辨率技术对人像比对结果的提升不具有普适性,对中低质量人像的比对结果改善不如清晰化处理方法,对高质量人像的比对结果改善显著但缺乏实战应用意义,对于个例人像有很好的提升效果。结论 图像超分辨率技术在法庭科学人像领域实战应用中可作为参考,不宜过度依赖。

关键词: 人像比对; 深度学习; 超分辨率技术; 相似度
中图分类号:DF793.2 文献标志码:A 文章编号:1008-3650(2021)06-0580-07
Impact of Image Super-resolution Technology on Comparison of Personal Image
HOU Xinyu, XIE Lanchi*, LI Zhigang, LI Zhihui, HUANG Wei, WANG Lei
Institute of Forensic Science, Ministry of Public Security, Beijing 100038, China
Abstract

Objective Through coalescence into deep learning, image super-resolution technology is being paid of attention for forensic personal imaging. Thus, a trial was here to carry out about the impact of image super-resolution technology on comparison of personal photographs from cases or events.Methods With 94 sets of sampling personal photographs collected from real cases, grouping was made on their respective quality-different image so that two image super-resolution algorithms were adopted to enhance the image of personal photograph. Such resultant image was compared against its original photograph image at 1:1 (or N) contraposition under different preset conditions, hence having brought forth the intrinsic alternation of causation.Results Comparison results showed that the image super-resolution technology is not universal for improvement of image, demonstrating that it is not so good to improve the low and medium quality images as the sharpening processing, leaving the high quality image being improved significantly yet less practical applicability. Nevertheless, the image super-resolution technology is able to render a good improvement into an individual image.Conclusions From this analysis, the image super-resolution technology is referential for forensic personal image to utilize practically, yet not be over-relied on.

Key words: portrait comparison; deep learning; super-resolution technology; similarity

随着人工智能、大数据等信息技术的迅猛发展, 基于深度学习的图像超分辨率(super resolution, SR)技术引起了国内外学者的广泛关注与专注研究, 在视频监控、医学影像、遥感图像、老照片修复等多个领域都得到了广泛的应用。国外Dong等[1]早期将卷积神经网络应用于单张图像超分辨率重建上, 网络结构简单, 仅使用三个卷积层, 可视为基于深度学习的图像超分辨方法的里程碑, 缺点是计算量大, 引入误差对图像处理效果有明显的影响。Ledig等[2]提出一种用于SR的生成对抗网络模型, 通过对抗训练, 获取的重构图像更加符合人类视觉感知。Menon等[3]在老照片人脸修复方面也有研究, 通过生成模型来提升人脸的可辨识度。Tong等[4]提出SRDenseNet模型, 建立前后层的稠密连接, 降低了计算成本, 图像超分辨算法的性能得到了很好的提升。国内谢海平等[5]总结了图像超分辨方法的研究进展。曲海成等[6]提出残差反卷积超分辨率卷积神经网络的图像超分辨方法, 加快了收敛速度, 解决了消失梯度的问题。曾凡智等[7]将轻量化GAN超分辨率图像增强算法应用在人脸识别场景中, 取得了不错的进展。还有很多的学者总结研究了图像超分辨技术在各个领域的应用情况。

通常在公共安全行业的案事件中获得的人像信息受硬件、传输、记录等影响发生降质, 存在分辨率低、细节模糊等特点, 难以利用此类人像数据进一步开展工作, 直接影响案件的分析与研判。基于深度学习的图像SR技术逐渐成为法庭科学人像视觉增强领域的新型技术, 不仅为监控视频中人像结构化分析、人像检索和人像比对等实战应用提供高效、实用的技术处理手段, 而且在人像增强处理方面发挥着巨大的作用, 对低分辨率人像进行增强处理, 大幅度提升人像的分辨率, 较好地保留人像的边缘细节, 改善人像的质量, 提升人脸识别的准确率。该方法也能处理较复杂的图像, 这是传统方法做不到的。本文以真实案件中积累的人像数据为基础, 以图像超分辨技术为核心, 充分挖掘, 深度探索, 分析图像SR技术对人像比对相似度指数结果(以下简称:人像比对结果)的影响, 为案事件的侦查应用提供参考, 为法庭科学人像领域的研究工作提供借鉴。

1 技术概述
1.1 人像比对技术

人像比对技术[8, 9]是指利用计算机视觉领域的人脸识别技术, 提取人脸的特征信息进行人像识别和人脸特征比对的技术。人脸作为行为人独一无二的生物特征, 虽然会随着年龄、环境、气候等客观条件产生一定的变化, 但有一些稳定特征是可溯源可解释的, 换句话说, 人像比对技术就是利用人脸的稳定特征来识别人像并进行分析。人像比对技术的优点是直观、操作简单便捷、应用范围广。在各类案事件, 尤其是重特大刑事犯罪案件的侦查过程中, 人像比对技术经常作为案件侦查的突破口, 为开展研判分析工作提供强有力的技术支撑。

1.2 图像超分辨率技术

图像超分辨率技术[10]是计算机视觉和图像处理领域非常有前景的研究方向, 通过各种CNN、GAN等网络模型训练数据进行有监督或无监督的训练, 拟合图像退化降质的逆过程, 从而得到高分辨率的图像。广义地讲, 就是输入低分辨率的图像, 利用已有的图像像素点信息去预测未知的像素点信息, 输出高分辨率的图像。优点是大幅度提升图像分辨率, 较好地恢复图像细节, 视觉增强效果显著, 缺点是运算量增加。假设一幅图像的低分辨率状态为ILR, 对应输出的高分辨率状态为IHR, 过程如公式(1)所示。

$I_{HR}=F(I_{LR}; \theta)$ (1)

其中, F是模型, θ 为模型的参数表示。以下是本文中使用的两种图像超分辨算法的概述。

1)图像超分辨率算法1。该算法是基于自适应三维几何特征的人脸超分辨技术, 由深度恢复、调制和超分辨率模块组成基础网格结构, 其中, 超分辨率模块借鉴了已有的SRResNet的主要结构, 同时在学习残差加上尺度因子, 降低网络复杂度, 保持原有图像信息, 利用几何特征进行调制。模型包含两个分支, 一是用于图像的超分辨率处理任务, 二是用于恢复人脸的深度图信息。该网络从原始图像自适应学习人脸深度图, 并且通过深度图像的额外监督进行端到端的学习, 提升人脸图像处理后性能, 在公安行业应用较广。

2)图像超分辨率算法2。该算法是以AI多模态视觉超分辨率算法为核心的基于先验信息架构的超分辨率技术。该算法以GAN网络结构为基础, 建立人脸先验模型, 提取人脸面部特征进行图像超分辨处理, 提升人脸图像分辨率和辨识度, 提高人像比对的准确度和精度, 在公安行业实战中应用效果良好。

2 分析方法
2.1 相似度指数提升百分比

假设某一张人像与另外两张人像的人像比对相似度指数分别为PQ, 那Q基于P的相似度指数提升百分比δ 如公式(2)所示。

$\delta = \frac{Q-P}{P}× 100\%$ (2)

2.2 改善占比

已知人像比对相似度指数提升百分比为δ , 那相似度指数改善占比φ 如公式(3)所示。

$\varphi = \frac{count \sum \delta > 0}{count \sum \delta}× 100\%$ (3)

其中, count是样本满足条件的数量统计。

2.3 箱形图

箱形图又称盒图, 能够直观地反映数据的分布情况以及异常值。一般由五个数值点组成, 最大值、上四分位数、中位数、下四分位数和最小值, 上四分位数、中位数和下四分位数组成一个“ 盒子” , 与最大值和最小值之间建立一条延伸线, 称为“ 胡须” , 数据偏移严重的异常值用红色“ +” 表示。另外, 根据本文研究需求, 增加均值点, 用蓝色“ o” 来表示。箱形图如图1所示。其中, 上四分位数代表75%的数据值小于或等于这个值, 下四分位数代表25%的数据值小于或等于这个值。

图1 箱形图Fig.1 Boxplot

3 样本数据

本文中所用的实验样本是从真实案件中获取到的人脸图像94组, 每组图像包含原始图像、阶段1图像(时间跨度较小)、阶段2图像(时间跨度较大), 使用SR处理(算法1)、SR处理(算法2)以及传统清晰化处理方法对原始图像进行人像增强处理。样本按照原始图像质量分为三组, 分别为低质量图像组、中质量图像组和高质量图像组。低质量图像组来源主要是扫描的黑白和彩色照片, 共30张人像; 中质量图像组来源主要是扫描的黑白照片、彩色照片以及翻拍所得, 共42张人像; 高质量图像组来源主要是正面免冠照片、截图和拍摄所得, 共22张人像。样本分类情况示例如表1

表1 样本分类情况表 Table 1 Classification into quality-different samples

对样本数据进行统计分析, 原始图像组有75%以上是扫描、翻拍、截图所得的正面人像, 受时间、硬件等条件影响, 图像质量相对较差; 阶段1图像组绝大多数来源于正面照片和动态人像截图, 图像质量良好, 其中, 有28.7%的动态截图角度略有差异, 姿态转动角度不超过60° ; 阶段2图像组均为采集到的正面高清人像, 图像质量较好, 极少数图像由于光线等原因质量稍差。SR处理(算法1)和SR处理(算法2)处理后图像对中低质量的图像视觉修复效果良好, 能够完成部分细节修复、干扰修复, 其中SR处理(算法1)处理后图像分辨率提升300%左右。清晰化处理后的图像, 视觉对比度增强, 未对图像内容进行修改。

4 实验结果分析
4.1 跨时间样本人像比对结果分布分析

本节分析跨时间样本的人像比对结果分布趋势变化, 将原始图像分别与阶段1图像、阶段2图像进行人像1:1比对, 阶段1图像与原始图像时间跨度较小, 阶段2图像与原始图像时间跨度较大, 人像比对结果分布统计分别如图2和图3所示。

图2 原始图像与阶段1图像的人像比对结果分布图Fig.2 Distribution of results from comparison between the original photo images and the ones from phase 1's

图3 原始图像与阶段2图像的人像比对结果分布图Fig.3 Distribution of results from comparison between the original photo images and the ones from phase 2's

从图2和图3可以看出, 两组低质量图像组的人像比对结果分布差异显著, 原始图像与阶段1图像的人像比对结果90分以上占到80%, 而与阶段2图像的人像比对结果90分以上仅占23.3%, 回溯分析原因是阶段2图像与原始图像相比, 时间跨度较大, 黑白和彩色照片进行比对, 人像差异显著直接导致分数降低; 中质量图像组的人像比对结果整体差异比低质量图像组小, 原始图像与阶段1图像、阶段2图像的人像比对结果比较, 90分以上从83.3%降到52.4%, 70分以下的从4.8%升到16.7%, 人像比对结果整体分布有向低分倾斜的趋势; 高质量图像组的原始图像与阶段1图像、阶段2图像的人像比对结果比较, 90分以上从72.7%升到86.4%, 可见比对图像质量好、人像姿态端正可以提升人像比对结果, 时间跨度对高质量图像影响较小。综上分析, 影响人像比对结果的因素主要有图像分辨率低、黑白与彩色照片进行比对、时间跨度大、角度差异等。

4.2 利用图像SR技术的人像比对结果分布分析

本节重点分析图像SR技术对人像比对结果的影响, 将原始图像、SR处理(算法1)后图像、SR处理(算法2)后图像、清晰化处理后的图像分别与阶段1图像进行人像1:1比对, 绘制人像比对结果箱形图, 如图4所示。从图4可以看出, 低、中质量图像组人像比对结果波动较大, 异常值较多, 高质量图像组人像比对结果相对稳定。低质量图像组SR算法处理后的人像比对结果上下分位线和均值都有所降低, 均值低于中位线, 分数向低偏移明显, 而清晰化处理方法比SR算法处理后的人像比对结果表现略好, 异常值减少; 中质量图像组的人像比对结果异常值是最多的, SR算法处理后的人像比对结果均值有所降低, 而清晰化处理方法人像比对结果的最小值下移, 中位线上升明显, 整体效果有提升。高质量图像组的人像比对结果整体表现相对稳定。

图4 分组人像比对结果箱形图Fig.4 Box-plotting of results from comparison among the grouped personal photo images

4.3 图像SR技术对人像比对结果的影响分析

采用本文中的数据分析方法计算SR处理(算法1)、SR处理(算法2)、清晰化处理方法与阶段1图像的人像比对结果的改善占比如表2所示。

表2 人像比对结果改善占比统计 Table 2 Statistics about the percentage of results from the improved comparison among images

表2中看出, 两种SR算法处理后的人像比对结果分别有30.9%和29.8%的上升, 低于清晰化处理方法的提升比例。其中, 低质量人像组的人像比对结果提升数量最多。接下来从均值、均方误差等方面进一步分析图像SR算法对人像比对结果的影响。

SR处理(算法1)、SR处理(算法2)和清晰化处理后的图像与阶段1图像的人像比对结果较处理前人像比对结果提升的均值、均方误差、最大值、最小值见表3

表3 人像比对结果提升统计 Table 3 Statistics about the percentage of results from the improved comparison among images against the ones of phase 1's

表3中看出, 不论是全部人像还是分组人像, 两种图像SR算法处理后的人像比对结果提升的均值都处于零值以下, 反映出该方法对于人像比对结果整体并没有明显改善, 清晰化处理后的人像比对结果改善均值趋于零, 对整体结果改善并不明显。其中, SR处理(算法1)人像比对结果提升最大值为5.6, 落入高质量人像组; 效果最差的结果降低了17.2, 落入中质量组, 整体提升数值的均方误差较大, 稳定性较差。SR处理(算法2)人像比对结果提升最大值为8.63, 落入低质量人像组, 结果最差的降低了20.7, 最大值与最小值跨度区间大, 离散程度高, 可见并不是每一张经过SR算法处理后的人像都对实战有帮助, 有时会适得其反。两种SR算法的稳定性都不如传统的清晰化处理方法。

4.4 图像SR技术在人像比对中的应用案例分析

通过4.1、4.2、4.3的分析, 对于SR算法对人像比对结果的影响有了一个全面的了解, 本节选取上述具有代表性的中低质量人像进行检索验证分析, 高质量人像本已满足实战需求, 暂不分析。利用SR(算法1)处理前后的人像比对结果如图5所示, 人像比对结果提升2.45, 人像增强效果显著, 将其进行人像1:N比对检索分析, 检索序列排名从10上升到2, 如图6所示, 排名显著提升。利用SR(算法2)处理前后的人像比对结果如图7所示, 人像比对结果提升8.63, 将其进行人像1:N比对检索分析, 检索序列排名从6上升到2, 如图8所示。

图5 人像1:1比对结果(a.原始人像; b.SR算法1处理后人像)Fig.5 Comparison under the 1:1 contraposition (a. original photo image; b. the obtained from SR algorithm 1 having processed into the image of a)

图6 人像1:N比对检索结果(a.原始人像; b.SR算法1处理后人像)Fig.6 Results from searching into the comparisons under 1:N contraposition (a. original photo image; b. the obtained from SR algorithm 1 having processed into the image of a)

图7 人像1:1比对结果(a.原始人像; b.SR算法2处理后人像)Fig.7 Comparison under the 1:1 contraposition (a. original photo image; b. the obtained from SR algorithm 2 having processed into the image of a)

图8 人像1:N比对检索结果(a.原始人像; b.SR算法2处理后人像)Fig.8 Results from searching into the comparisons under 1:N contraposition (a. original photo image; b. the obtained from SR algorithm 2 having processed into the image of a)

分析图5至图8得出, SR算法处理后的人像视觉增强效果非常显著, 在上述4.2、4.3的分析中, SR算法并没有表现出在人像比对结果整体提升方面的优势, 但对于个例图像人像比对结果的提升还是有意义的, 不仅提升了人像比对1:1指数结果, 也在人像1:N比对检索中排名上升, 为案事件的研判分析提供一定的帮助, 有一定的实战应用价值。

5 总结与展望

本文从人像比对结果分布、提升百分比、改善占比等方面, 分析了图像SR技术对人像比对结果的影响, 得出结论:图像SR算法对人像比对结果的提升非常有限, 提升百分比的均值低于零, 最大值和最小值区间跨度大, 也就意味着图像SR算法对于人像比对结果的提升稳定性差, 离散程度高。但不可否认的是, 图像SR技术在视觉增强方面效果还是很显著的, 对于个例图像的处理表现出独特的优势, 提升了人像比对结果, 也提升了人像检索的序列排名, 在案事件的研判分析中能够发挥重要作用, 增强了图像SR技术在实战中的应用意义。总而言之, 图像SR技术在视频追踪、人脸识别、人像比对等领域能发挥一定的作用, 但目前来讲还不具有普适性, 在实际案件中, 利用图像SR技术得到的结果可供参考。接下来的研究方向是继续深入研究图像SR技术在人像领域的应用, 提高在人像比对方面的准确率、适用性、鲁棒性和可操作性, 增强图像SR技术在法庭科学人像领域的运用效能, 更好地服务于实战。

参考文献
[1] DONG C, LOY C C, HE K, et al. Image super-resolution using deep convolutional networks[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2014, 38(2): 295-307. [本文引用:1]
[2] LEDIG C, THEIS L, , HUSZÁR F, et al. Photo-realistic single image super-resolution using a generative adversarial network[C]// Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2017: 4681-4690. [本文引用:1]
[3] MENON S, DAMIAN A, HU S, et al. PULSE: self-supervised photo up-sampling via latent space exploration of generative models[C]// Proceedings of 2020 IEEE/CVF Coference on Computer Vision and Pattern Recognition, 2020: 2437-2455. [本文引用:1]
[4] TONG T, LI G, LIU X, et al. Image super-resolution using dense skip connections[C]// Proceedings of the IEEE International Conference on Computer Vision, 2017: 4799-4807. [本文引用:]
[5] 谢海平, 谢凯利, 杨海涛. 图像超分辨率方法研究进展[J]. 计算机工程与应用, 2020, 56(19): 34-41.
(XIE Haiping, XIE Kaili, YANG Haitao. Research progress of image super-resolution methods[J]. Computer Engineering and Application, 2020, 56(19): 34-41. ) [本文引用:]
[6] 曲海成, 唐博文, 袁贵森. 一种改进的SRCNN超分辨率图像重建算法[J/OL]. 激光与光电子学进展, 2020[2020-08-31]. https: //kns. cnki. net/kcms/detail/31. 1690. TN. 20200828. 1653. 014. html.
(QU Haicheng, TANG Bowen, YUAN Guisen. An improved super-resolution image reconstruction algorithm based on the SRCNN[J/OL]. Laser and Optoelectronics Progress, 2020[2020-08-31]. https://kns.cnki.net/kcms/detail/31.1690.TN.20200828.1653.014.html. ) [本文引用:]
[7] 曾凡智, 邹磊, 周燕, . 轻量化GAN超分辨率图像重构算法在实时人脸识别中的应用[J]. 小型微型计算机系统, 2020, 41(9): 1993-1998.
(ZENG Fanzhi, ZOU Lei, ZHOU Yan, et al. Application of lightweight GAN super-resolution image reconstruction algorithm in real-time face recognition[J]. Journal of Chinese Computer Systems, 2020, 41(9): 1993-1998. ) [本文引用:]
[8] 庄唯. 公安人像比对应用的建设与探索[J]. 警察技术, 2018(3): 73-76.
(ZHUANG Wei. The construction and exploration of the application of the human image comparison in public security[J]. Police Technology, 2018(3): 73-76. ) [本文引用:]
[9] 侯欣雨, 黄艳明, 谢兰迟, . 深度解析人像比对技术的应用技巧[C]//全国刑事影像与视频侦查技术学术交流会论文集, 2019: 303-311.
(HOU Xinyu, HUANG Yanming, XIE Lanchi, et al. Deep analysis on application techniques of portrait comparison techno-logy[C]// Proceedings of the National Conference on Criminal Imaging and Video Investigation Technology, 2019: 303-311. ) [本文引用:]
[10] 王冬冬, 王力, 姜敏, . 改进的生成对抗网络的图像超分辨率重建[J]. 计算机工程与设计, 2020, 41(7): 1981-1986.
(WANG Dongdong, WANG Li, JIANG Min, et al. Image super-resolution reconstruction based on improved generative adversarial network[J]. Computer Engineering and Design, 2020, 41(7): 1981-1986. ) [本文引用:]