中国科技网·科技日报沈阳4月21日电(记者 郝晓明) “生活在无声世界的人们,可以随时听到’有声者’的声音,而’无声者’打出的手势也会即时发出声音,这种手语双向交互系统仅需通过一个小小的’肌肉电’手环,就让聋哑人与外界实现了无障碍交流。”刚刚载誉归来的“妙手传声”项目指导教师、东北大学机器人科学与工程学院王斐副教授表示。
5月18日,东北大学的“妙手回声”项目获得“2018创行中国科创冠军赛”全国总冠军。今年10月,他们将代表中国前往美国硅谷参加2018创行世界杯总决赛。
我国听力语言残疾人有2000多万,占我国人口总数的1.67%,但康复辅助设备存在技术落后、服务设备相对短缺等难题。如何让生活在“无声世界”的人们感受到与普通人对话的乐趣,成为东北大学机器人科学与工程学院的曾振、贺潇、李荣颉等同学的梦想。
“目前,市场上的相关产品多数是运用基于机器视觉的手势识别方法,存在着遮挡、干扰、手指细微动作无法捕捉、携带不便等缺陷,而我们研发的这套系统在小巧、美观、便携的基础上,进一步加强了手语识别的实时性和准确性,使聋哑人在日常生活中能够实现与健全人的无障碍。”曾振同学说,在王斐老师的指导下,经过多次实验和改进,我和同学一起完成了这套基于多源信息融合的手语双向交互系统。
记者看到,这套手语交互系统,由能同步采集上肢肌肉电与惯性信息的佩戴式手环和安装有手语双向交流APP的平板电脑以及手语识别云服务器构成。当聋哑人与健全人进行交流时,配带在聋哑人手腕上的手环就会采集到聋哑人的上肢多源信息,经过实时处理并基于深度学习后,就可完成手语关键词的在线识别,然后使用语法模型获得手语词句,并通过语音芯片的合成最终实现手语到语音的转换。同时,健全人的语音也可以通过APP转化为文字和手语动图来反馈给聋哑人,从而实现健全人与聋哑人自然的无障碍双向交流。
“下一步的研发中,将更加关注听力语言残疾这一特殊群体的实际需求,不断完善系统的功能和性能,同时寻找适宜的商业模式进行科技成果转化,以造福更多的在听力和语言方面存在障碍的人。”王斐教师说。