本产品名称为:基于人工智能与动态视觉算法的智能手语机器人,属于智能家电类参赛作品。当今时代,随着我国经济和社会的飞速发展,仍存在听障人士与听觉正常人士之间的交流问题,2022年《现代快报》报道了听障人士在就医时存在交流困难和手语翻译工作者缺少的问题。《央视新闻》则于2021年披露了听障人士在维权方面的困难。截止2020年,我国,约有2780万听障人士,而手语翻译工作者却不足1万人。当前社会的手语普及程度远远不能满足听障人士在日常生活中的交流需要。现开发本产品可以增强人与人之间的交流。实现听觉残障人士与听觉正常人士之间的非同类形式、听觉残障人士与机器人之间手语的交流。例如:法院、社区服务中心、地铁、医院等公共服务场所。人工智能应当服务于人类,基于人类的最基本感觉:视觉、听觉,实现听障人士与听觉正常人士之间的非同类形式的交流、听觉残障人士与机器人之间的手语交流。测试时通过两位测试人员的手语和口语的交互表达,进行输入和输出,并对测试数据分析准确度。
设计说明:
本产品通过手语识别原理、语音识别原理、文字转语音原理、人工智能对话原理、机械控制原理等设计原理进行设计。手语识别主要是通过主控板链接USB摄像头,通过opencv读取试试画面的关键帧,对关键帧进行图像格式的转换,通过Medispipe对图像进行分析。通过分析手部21点的坐标构建数学模型计算手指的弯曲程度,从而进行手势识别。语音识别主要是通过主控板连接USB麦克风,通过Snowboy运行自动语音识别来执行热词检测,使用DNN进行自动唤醒。使用SpeechRecognition自动停止获取语音,再使用SpeechBrain将音频识别为文字。SpeechBrain与pyttsx3之间实现语音和文字的互换。人工智能对话使用LSTM—LDA神经网络主题模型,进行转码输出。在已经测试的150亿条数据语料,能够达到81.65%的开放聊天准确率以及96.34%的垂域技能准确率。机械控制原理是通过Solidworks进行建模,实现机器人的关节运动,使用Matlab计算转动弧度,从而推算出转动角度,将转动角度录入Arduino传达手语动作。综上实现口语和手语之间的转换,达到翻译服务的功能。
外观设计方案如下:机器人主体采用表面光滑的树脂材料,黑色亚克力底座与铝制支撑杆衬托机器人的白色主体,小臂的红色增强观感,小电视的造型属于头部,使得外观设计更加协调。
产品特色:
本作品符合比赛主题,高度融合了拥有口语识别、文字语句处理能力的人工智能技术与电子设计技术。可以实现在公共场合上对听障人士的交流提供方便,服务于听觉残障人士的社会生活,增强听觉残障人士的社会参与感。赋予人工智能以人性化,通过手语和语音的相互转换系统和人工智能对话程序,设计打破听觉语音与视觉语音之间的交流障碍。