Разработаны перчатки, которые переводят язык жестов в речь в реальном времени

Высокотехнологичная перчатка с датчиками движения позволяет переводить американский язык жестов на разговорный английский через приложение для смартфона. Перевод происходит в режиме реального времени, что позволяет людям с нарушениями речи общаться с внешним миром.

«Мы надеемся, что это открывает легкий путь общения с миром для людей, которые используют язык жестов, без необходимости нанимать переводчика», – сказал Джун Чен, доцент кафедры биоинженерии в Калифорнийском университете в Лос-Анджелесе и главный автор исследования. «Кроме того, мы надеемся, что это поможет большему количеству людей самостоятельно изучать язык жестов».

Датчики могут улавливать даже самые тонкие жесты и движения рук, такие как расположение пальцев, которые представляют буквы, цифры, слова и фразы на американском языке жестов. Об изобретении сообщено сегодня в журнале Nature Electronics.

Движения пальцев преобразуются в электрические сигналы, которые отправляются на смартфон через плату размером с монету, надетую на запястье. Наконец, приложение на телефоне преобразует сигналы в произнесенные слова со скоростью примерно одно слово в секунду.

Короткое видео о носимой перчатке для перевода языка жестов. Предоставлено: Jun Chen Lab / UCLA.

Исследователи также экспериментировали с адгезивными сенсорами, приклеенными к лицам испытуемых, чтобы также переводить выражения лица, которые являются частью американского языка жестов.

В Соединенных Штатах более 500 000 человек используют язык жестов в качестве основного способа общения. Неясно, сколько языков жестов в мире, и в этом отношении еще очень мало исследований, но один список говорит, что их всего 137.

Предыдущие носимые системы, предназначенные для перевода американского языка жестов, также оказались эффективными, но они были ограничены громоздким вспомогательным оборудованием и их было неудобно носить. Напротив, эти перчатки легкие, долговечные и используют гибкие и недорогие электронные датчики.

DOI: 10.1038/s41928-020-0428-6


Вас также может заинтересовать: