第32卷第3期
2015年5月
深圳大学学报理工版
JOURNAL
OF SHENZHEN UNIVERSITY SCIENCE AND ENGINEERING
V01.32
N½.3
M½½ 2015
【光电工程/O½½½½½½½½½½½½½
基于ARM的嵌入式超分辨率复原系统设计
邱文胜1,牛½红1,苏秉华2…,王源圆2
1)深圳大学光电工程学院,深圳518060;2)北京理工大学光电学院,北京100081;
3)北京理工大学珠海学院信息学院,广东珠海518088
摘要:为解决传统插值方法对采集的视频图像放大时易出现块效应和细节退化的问题,在高级RISC
微处理器(½½½½½½½½
RISC
½½½½½½½½½½½½½½,ARM)平台上设计并搭建基于小波变换算法的嵌入式超分辨率复
原系统.以ARM
C½½½½½TM—A8处理器(S5PV210)为核心搭建硬件平台,采用嵌入式L½½½½系统搭建½件
开发环境,设计基于V4L2接口的视频图像采集程序.最后将基于小波变换的超分辨率复原算法植入系统.
实验证明,该系统处理的视频图像,比传统插值方法处理的视频图像取得了更高的峰值信噪比,½够恢复
出更多细节信息.
关键词:图像处理;超分辨率复原;高级RISC微处理器;小波变换;L½½½½;V4L2接口;视频图像采
集程序;峰值信噪比
中图分类号:TP
752.1
文献标志码:A
½½½:10.3724/SP.J.1249.2015.03311
D½½½½½ ½½
½½½½½½½½
½½½½½-・½½½½½½½½½½ ½½½½½½½½½½½
½½½½½½
½½½½½
½½
ARM
Q½½
W½½½½½½91,N½½
L½½½½½¨,S½
B½½½½½½2…,½½½
W½½½
Y½½½½½½½2
1)C½½½½½½
3)I½½½½½½½½
½½ O½½½½½½½½½½½½½ E½½½½½½½½½½,S½½½½½½½ U½½½½½½½½½,S½½½½½½½ 518060,P.R.C½½½½
½½
2)S½½½½½
O½½½½½½½½½½½½½½,B½½½½½½
I½½½½½½½½ ½½
T½½½½½½½½½,B½½½½½½
100081,P.R.C½½½½
½½ I½½½½½½½½½½,Z½½½½½ C½½½½½
B½½½½½½
I½½½½½½½½ ½½
T½½½½½½½½½,Z½½½½½
519088,G½½½½½½½½ P½½½½½½½,P.R.C½½½½
A½½½½½½½:I½ ½½½½½
½½
½½½½½½½½ ½½½ ½½½½½½½½½½½½ ½½ ½½½ ½½½½½½½½½½½ ½½½½½½½ ½½½ ½½½½½½½½½½ ½½½½½½½½½ ½½½½½
½½½½½½
½½
½½
½½½½½½½½½½½½½,½½ ½½½½½½
½½½½½½½½ ½½½½½-½½½½½½½½½½ ½½½½½½½½½½½
½½½½½½
½½½½½
½½
½½
½½½½½½½½ RISC ½½½½½½½½½½½½½½
(ARM)½½½
½½
½
½½½½½½½ ½½½½½½½½½ ½½½½½½½½½.T½½ ½½½½½½½½ ½½½½½½½½
½½
½S
ARM C½½½½½TM-A8
½½½½½½½½½(¥5PV210)
½
½½½
½½½½
½½½½½½½½½
½½½ ½½½ ½½½½½½½½ ½½½½½½½½½½½
½½½½½½½½½½½
½½
½½½½½½½½
L½½½½.W½
½½½½½½½½½
½½
½½½½½ ½½½½½
½½½½½½½½½½
½½½½½½½
½½½½½
V4L2 ½½½
½
½½½½½・½½½½½½½½½½
½½½½½½½½½½½
½½½½½½½½½ ½½½½½
½½
½½½½½½½
½½½½½½½½½½½½½½.
E½½½½½½½½½½½ ½½½½½½½ ½½½½ ½½½½ ½½½ ½½½½ ½½½½½½
½½½½½
½½½½½(PSNR)½½
½½½
½½½½½½ ½½½½ ½½½½½ ½½½½½½½½½ ½½ ½½½½½½½½½½
½½½½
½½½½½½½½½½½½½
½½½½½½½,½½½
½½½½
½½½½½½ ½½ ½½½ ½½½½½½
½½ ½½½½½½½½.
RISC
K½½ ½½½½½:½½½½½ ½½½½½½½½½½;½½½½½—½½½½½½½½½½ ½½½½½½½½½½½;½½½½½½½½
½½½½½½½½½½½½½½(ARM);½½½½½½½
½½
½½½½½
½½½½½½½½½;L½½½½;½½½½½
½½½ L½½½½
½½½(V4L2)½½½½;½½½½½½½
½½½ ½½½½½
½½½½½
½½½½½½½½½½;½½½½ ½½½½½½
½½½½½
R½½½½½½½:2015一O½一27;A½½½½½½½:2015.03.04
F½½½½½½½½½:S½½½½½½ F½½½ ½½ N½½½½½½½ K½½ S½½½½½½½½½ I½½½½½½½½½ ½½½ E½½½½½½½½ D½½½½½½½½½½
P½½½½½½½
½½ C½½½½ ½½½ I½½½½—C½½½½½½½½
H½½½ S½½½½
C½½½½½(2014YQ230659)
½
C½½½½½½½½½½½½ ½½½½½½:P½½½½½½½½ N½½ L½½½½½.E.½½½½:NIULH@½½½.½½½.½½
C½组½½½½:Q½½
W½½½½½½½,N½½
L½½½½½,S½ B½½½½½½,½½ ½1.D½½½½½ ½½ ½½½½½½½½ ½½½½½.½½½½½½½½½½ ½½½½½½½½½½½ ½½½½½½
½½.J½½½½½½
½½ S½½½½½½½ U½½½½½½½½½ S½½½½½½ ½½½
E½½½½½½½½½½,2015,32(3):311-316.(½½
C½½½½½½)
½½½½½
½½
ARM
万方数据
312
深圳大学学报理工版
第32卷
超分辨率复原是将一幅或多幅½分辨率图像复
原到高分辨率图像的过程,其目的在于试图复原截
止频率之外的信息,½图像获得更多的细节和信
息¨J.近年来,中½学者对超分辨率复原做了大量
的研究旧4
J,大多是在M½½½½½等PC平台上实现的.
32/32
½½½½的数据/指令1级缓存,512 ½½½½的2级
000
缓存,可实现2
DMIPS(每秒运算20亿条指令
集)的高性½运算½力"J.选择¥5PV210½为本
系统的核心处理器是因为它在图像处理方面的独特
优势:S5PV210支持H264和MPEG等格式视频硬
PC系统较嵌入式系统而言,存在½积大、功耗高
及成本高等缺陷∞J.在实际应用中,对视频图像进
行分辨率增强时,往往是用传统的插值方法,这容
易造成块效应和细节退化等问题M
J.针对上述问
题,本研究设计了高级RISC微处理器(½½½½½½½½
½½½½½½½½½½½½½½,ARM)嵌入式平台的½硬件
系统,并植入基于小波变换的超分辨率复原算法,
RISC
件编解码;支持HDMI等高清视频输出;内嵌了
P½½½½VR
SGX540图像引擎,对图像处理提供强大
的硬件加速支持.本系统选用的摄像头是最高分辨
率为640×480的½色USB摄像头,其传感器为
CMOS,最大帧数为30帧/S.系统选用的显示器是
最大分辨率为800×480的½色液晶显示屏.摄像
头通过ARM外扩的USB接口与系统连接,液晶屏
通过薄膜线与ARM外扩的薄膜线卡½相连进行数
据传送.
1.2
实现对输入视频图像的超分辨率处理.
1
系统½硬件平台的搭建
如图1,本研究设计的系统总½结构由视频图
系统½件开发环境的搭建
嵌入式½件设计包括嵌入式操½系统和用户应
像输入模块、视频图像超分辨率复原算法处理模块
和视频图像显示输出模块组成.系统工½时,通用
串行总线(½½½½½½½½½
½½½½½½
用程序,在设计视频图像采集程序之前,应预先移
植嵌入式操½系统.本研究搭建的是L½½½½嵌入式
操½系统环境.通过½用½½½・½½½½½—½½½建立交叉编
译环境、移植B½½½½½½½½½、移植L½½½½内核、制½根
½½½,USB)摄像头½为
视频图像输入模块将采集到的数据送至缓存,然后
由¥5PV210
ARM处理器进行超分辨率复原处理,
最后由液晶显示器(1½½½½½
½½½½½½½
文件系统等步骤,完成ARM平台上嵌入式L½½½½系
统的搭建½J.
½½½½½½½,LCD)显
½½½½½½½
示模块进行输出,或存放至SD卡(½½½½½½
½½½½½½
½½½½)中进行储存.
2
视频图像采集程序的设计
本视频图像采集程序是基于V½½½½
F½½
L½½½½2
(V4L2)接口进行设计的.½4L2是L½½½½内核中关
于视频设备的驱动,为L½½½½中视频设备访问提供
了通用接口[9-10½.本系统采集视频图像程序的流程
如图2.
按照流程图设计并编写程序.在V4L2中,将
视频设备视为一个文件,用½½½½½数打开.系统
½用的摄像头最大分辨率为640×480,将其降采样
为320×240格式,这样超分辨率复原处理后达到
640×480的视频图像,便于显示在800×480的液
图1系统总½结构图
F½½.1
O½½½½½½
½½½½½½½½½
½½ ½½½
½½½½½½
晶屏上.
用½½½½½数将在内存空间中获取的视频帧映
射到用户空间.同时将申请到的帧缓冲反倒队列之
中,用来保存采集到的图像数据.对每一帧图像进
行超分辨率复原处理,输出到LCD进行显示.
1.1系统硬件组成
本系统的核心处理器为三星公司的S5PV210处
理器,它采用ARM C½½½½½TM—A8内核,指令集为
ARM
½7,主频可达1
GH½,32
½½½½内部总线结构,
最后调用½½½½½½数关闭摄像头.
万方数据
第3期
邱文胜,等:基于ARM的嵌入式超分辨率复原系统设计
313
½是,在执行DWT时,需对图像进行下采样,
这会造成信息丢失.因此,可采用平稳小波变换
(½½½½½½½½½½
½½½½½½½½½,SWT)弥补丢失信息.
SWT与DWT相似,½不需经过下采样,其尺
½½½½½½½
度系数与原始信号等长‘12。4½
A,,^。,。:=∑∑^½型(½。一2½。)½½T∥(½:一
2½½½2)A,-1’½½
(3)
巧,%。:=∑∑九½一(½。一2½。)甜一(凡:一
2.½22)4-1.%½
(4)
磁%½=∑∑“一(凡。一2½。)^½∥(½:一
2后:)4_1.¨。,
(5)
哦%。:=∑∑“掣(½,一2½,)½½一(½:一
图2视频图像采集流程图
F½½.2
F½½½ ½½½½½ ½½½ ½½½½½ ½½½½½ ½½½½½½½½½½
2艮2)今-½'%½
(6)
式(3)至式(6)为SWT的重构过程.其中,_『为½前
尺度;½。和凡:为对应的系数序列;½。和½:为移动因
超分辨率复原处理算法
本系统采用基于小波变换的超分辨率复原算法
对采集的视频图像进行处理.小波变换将图像分割
为不同频率的成分,通过在不同尺度下的操½可实
现图像超分辨率复原.
子;A¨,,½2、叫,½I,½2、瑗½I,½2和疃½½,½2分别表示
SWT后的½频分量、水平高频分量、垂直高频分量
和对角分量;½½T掣和矗掣则表示在½和½。之间插入
2½一1个0.
3.1算法步骤
在½用传统插值方法对图像进行分辨率增强
时,最大的缺陷是高频信息的丢失(例如边缘信
息),这主要缘于插值带来的平滑效应.对图像进
行离散小波变换(½½½½½½½½
½½½½½½½
½½½½½½½½½.
如图3,本系统采用DWT与SWT结合的算法
来对图像进行超分辨率复原处理.
½分辨率图像
插值
离散小波变换
DWT
DWT),则可有效地保持图像的高频信息.
设½(R)为½量有限的空间信号,如果½数
,+∞
缈(½)∈L2(R)满足½
J一∞
哕(½)½½=0,则该½数称
为基本小波,或称母小波.对母小波进行伸缩和平
移后生成的小波【I¨为
黑
½修JEHL I
离散小波逆变换
½眈,。(½)½=。圳2缈½型1,Ⅱ,½∈R(1)
、
修正LH½
½修正HH
口
/
其中,口是尺度因子;½是平移因子.
令G=80½½,½=½½½口½I½,½,I"½∈Z,G½>½,½½
R,则八£)的DWT为
E
IDWT
高分辨率图像
啄(½,½)=½½删½八£)½/(½½“½—½½½)½£(2)
图3本算法流程
F½½.3
T½½ ½½½½½½½½½½½ ½½½½½½½
万方数据
314
深圳大学学报理工版
表1不同算法得到的PSNR值
T½M½ 1
第32卷
其中,LL、LH、HL和HH分别为小波变换后图像
的½频子带、水平方向高频子带、垂直方向高频子
带和对角方向高频子带.
算法的具½步骤为:
1)对½分辨率图像插值放大,再进行离散小
波变换(DWT),得到4幅不同的子带图像.其中,
½频子带图像(LL)包含图像的大部分信息(½
频信息);3幅高频子带图像(LH、HL和HH)包
含图像的高频成分.
2)对原始½分辨率图像进行平稳小波变换
(SWT),也得到1幅½频子带图(LL)和3幅高频
子带图(LH、HL和HH).
T½½ PSNR ½½½½½½ ½½½½ ½½½½½½½½½
½½½½½½½
½B
PSNR是用于衡量增强后图像与原始高清图像
或者目标的逼近程度的参量.PSNR值越高,说明
复原效果越½¨5½.由表1可见,本研究采用的算
法效果优于传统双线性插值和双立方插值算法.图
4为不同算法对B½½½½½½图像处理后的局部效果对
比.由图4可见,本算法处理后较½地保持了边缘
信息,½½现更清晰的图像细节.
3)分别将DWT与SWT得到的3幅高频子带
图相应进行叠加,得到修正后的3幅高频子带图.
4)将经过修正的3幅高频子带图像和DWT得
到的½频子带图像结合在一起,通过离散小波逆变
换(½½½½½½½
½½½½½½½½ ½½½½½½½
½½½½½½01T½½,IDWT)获得
一幅高分辨率的输出图像.
3.2算法在ARM平台上实现
首先,为DWT、SWT和IDWT分别申请4块动
态内存空间,用以存放对应频率的子带图.其次,
读取½分辨率图像数据,采用小波滤波器进行½高
通滤波,实现DWT和SWT操½.DWT滤波后需要
进行下采样,而SWT不需要.再次,将修正后的4
幅子带图像进行IDWT操½,通过与DWT中的滤
波器相对应的滤波器进行½高通滤波,再进行上采
样.最后,将处理后的数据保存,即为复原后的高
清图像.
4
实验结果
为验证系统采用的超分辨率复原算法的效果,
选用标准的5幅512
X
512高分辨率图像(B½½½½½、
½½½½、L½½½和P½½½½½½)½为测试图
像.首先,分别对测试图像进行下采样,得到256
B½½½½½½、G½½½
256的½分辨率输入图像.然后,选用传统的双
线性插值、双立方插值与本研究采用的方法分别对
X
这些½分辨输入图像进行处理,水平与垂直方向的
放大因子均为2.最后,将不同算法处理得出的图
片分别与其对应的原始高分辨率进行比较,计算出
相应的峰值信噪比(½½½½
PSNR)值.实验结果如表1.
½½½½½½
½½
(½)奉算法
图4
F½½.4
隰一 I
½½½½½ ½½½½½,
B½½½½½½图像实验结果
R½½½½½½
½½ ½½½½½½½½½½ ½½ B½½½½½½
万方数据
第3期
邱文胜,等:基于ARM的嵌入式超分辨率复原系统设计
315
为验证本算法植入ARM平台后½否保持超分
辨率复原效果,将测试图像拷贝到ARM平台的SD
卡中,并在ARM平台上用本算法对图像超分辨率
复原进行处理.对处理后的图像也进行测试.将测
试所得PSNR值与本算法在PC平台上处理后得到
的PSNR值进行对比,结果如表2.
由表2可见,在PC平台和ARM平台上,经本
后边缘清晰、细节丰富.实验测得每帧图像的平均
处理时间为3
够½.
194.607
½½,实时性不高.主要原因
是处理器硬件性½的限制及算法程序的优化不
表2本算法在不同平台上得到的PSNR值
T½½½½ 2
PSNR ½½I½½½ ½½ ½½½ ½½½½½½½½
½½½½½½
½½
½½½½½½½½½
½½½½½½½½½
½B
算法处理的图像的PSNR值相差0.42%以内(图像
L½½½的差异最大),表明该算法在ARM平台上保
持了超分辨率复原效果.差异可½是由于ARM与
PC的处理器架构不同引起的悼½.
将本算法移植到ARM视频图像系统中,提取
采集到的每一帧(320×240½分辨率视频图像)
的R、G、B通道,并分别对3个通道进行超分辨
率处理,处理后再合成½色图像,最后½成640×
480高分辨率图像在LCD上进行显示.处理前后效
果如图5,可见在ARM平台上算法对视频图像处理
½
½’系统显小采集到“0觚分辨宰图像
L
L’系统业“½趟分辨率处型出‘的½像
图5视频图像的超分辨率处理
F½½.5
A½
½½½½½½½ ½½
½½½½½-½½½½½½½½½½ ½½½½½½½½½½
½½
½
½½½½½
½½½½½
结
语
本研究设计了以S5PV210为核心的嵌入式图像
基金项目:½家重大科学仪器设备开发专项基金资助项目
(2014YQ230659)
½者简介:邱文胜(1989一),男(汉族),福建省上杭县人,深圳
大学硕士研究生.E-½½½½:½½½½½½½½½½½½@½½½½.8½½.½½½.
½½
处理系统,对视频图像实现了基于小波变换的超分
辨率复原处理.采用本算法得到的复原图像较½用
传统插值算法得到的复原图像,PSNR值更高,恢
复的细节信息也更多.该系统处理视频图像的实时
性不强,因此如½提高处理速度,仍需进一步
探索.
引
文:邱文胜,牛½红,苏秉华,等.基于ARM的嵌入式超
分辨率复原系统设计[J½.深圳大学学报理工版,2015,
32(3):311.316.
参考文献/R½½½½½½½½½:
[1½S½
B½½½½½½,J½½ W½½½½,N½½
½½½½½½½½½½
½½½½½ ½½½½½½½½½½½
½½½
L½½½½½,½½
½1.S½½½½-
½½½½½½½½[J½.O½½½½½½
万方数据
评论