Интернет вещей: управление объективом HoloLens с помощью бровей (ЭМГ): 5 шагов
Интернет вещей: управление объективом HoloLens с помощью бровей (ЭМГ): 5 шагов
Anonim
Интернет вещей: управление объективом HoloLens с помощью бровей (ЭМГ)
Интернет вещей: управление объективом HoloLens с помощью бровей (ЭМГ)

Этот проект был частью проекта NASA SUITS Университета Колорадо в Боулдере, который был представлен и протестирован в NASA JSC в апреле 2019 года. В этом году я был руководителем проекта по разработке оборудования, и это был один из моих вкладов. Узнайте больше о испытании НАСА КОСТЮМЫ здесь.

В этом проекте я хотел позволить любому (в данном случае астронавтам EVA) взаимодействовать с Heads-Up-Display (HUD), развернутым в Microsoft HoloLens, без использования встроенных жестов рук или голосового ввода. Я подошел к этой цели с точки зрения доступности, я хотел разработать периферийное / носимое устройство, которое позволило бы астронавтам в открытом космосе взаимодействовать со своим дисплеем, не занимая связи с наземным управлением, а из-за их жестких перчаток взаимодействие жестов нецелесообразно. Хотя это область, с которой я несколько незнаком, я также вижу, что это периферийное устройство полезно для людей с ограниченными возможностями, позволяя им использовать HoloLens или другие устройства AR / VR и отказываться от интерфейсных входов, которые являются исключительными или пугающими.

Хотя список элементов для этого проекта сам по себе является исключительным (HoloLens очень дорогой!), Периферийное устройство можно использовать с другими устройствами AR / VR.

Если у вас есть какие-либо вопросы, вы хотите следить за моей работой или просто обсуждать идеи, пожалуйста, сделайте это в моем Twitter: @ 4Eyes6Senses.

Запасы

Microsoft HoloLens (или другое устройство AR / VR)

Фотон частиц

MyoWare Muscle Sensor - Датчик MyoWare можно заменить другими коммутационными платами для ЭМГ. Если вы не уверены, что такое EMG, я предлагаю вам прочитать об этом здесь.

Биомедицинские сенсорные площадки

Unity (бесплатно)

Некоторый опыт создания проектов в Unity

Проволока

Шаг 1. Подключение MyoWare к Particle Photon

Подключение MyoWare к Particle Photon
Подключение MyoWare к Particle Photon
Подключение MyoWare к Particle Photon
Подключение MyoWare к Particle Photon
Подключение MyoWare к Particle Photon
Подключение MyoWare к Particle Photon

Подключить Particle Photon к плате MyoWare довольно просто. На этом этапе вам нужно будет припаять соединения между Particle Photon и платой MyoWare. Убедитесь, что у вас есть надежные соединения, чтобы кабели не порвались во время ношения устройства. Чтобы избежать поломки, я рекомендую заплести кабели оплеткой перед тем, как впаивать их в Photon.

- Припаяйте провод к порту «+» платы MyoWare, затем припаяйте другой конец кабеля к контакту «3v3» Photon.

- Припаяйте провод к порту «-» платы MyoWare, затем припаяйте другой конец кабеля к контакту «GND» Photon.

- Припаяйте провод к порту «SIG» на плате MyoWare, затем припаяйте другой конец кабеля к контакту «A0» Photon.

Шаг 2: загрузка кода в фотон частиц

Загрузка кода в фотон частицы
Загрузка кода в фотон частицы

Используя IDE Particle Photon, загрузите файл.ino. Поместите доску MyoWare на группу мышц и проверьте значения, чтобы убедиться, что ваше устройство работает. При просмотре кода вы заметите, что уже установлена «пороговая» переменная, эта переменная - это минимальное значение, которое MyoWare считывает из моих мышц, когда я полностью поднимаю бровь. Я также установил для переменной значение «600», потому что это позволяло мне вести нормальные разговоры при ношении MyoWare без каких-либо ложных срабатываний (случайное срабатывание). Возможно, вы захотите поиграть со значениями, пока не найдете желаемый порог для ваших целей.

Шаг 3: Размещение MyoWare

Размещение MyoWare
Размещение MyoWare

Для нашего проекта NASA SUITS я решил разместить доску MyoWare над бровью. Я был вдохновлен разместить там MyoWare после просмотра проекта «Sup Brows», выполненного Adafruit. После некоторого тестирования стало ясно, что брови - отличное место для этого конкретного проекта. Это отличное место, потому что на датчики не будут влиять постоянные движения мышц рук, ног и туловища, которые делают астронавты EVA во время выходов в открытый космос.

Шаг 4. Подключение MyoWare к Unity

Подключение MyoWare к Unity
Подключение MyoWare к Unity
Подключение MyoWare к Unity
Подключение MyoWare к Unity
Подключение MyoWare к Unity
Подключение MyoWare к Unity

Теперь пришло время для последнего шага, давайте подключим MyoWare к Unity! В это руководство включен скрипт, который вам нужно будет включить в свой проект Unity. Но сначала вам нужно будет изменить несколько вещей в коде. Во-первых, вам нужно добавить в свой проект плагин JSON Object Unity. Затем вам нужно будет добавить свой собственный идентификатор устройства и токен доступа в строку 19: ParticleURI = "https://api.particle.io/v1/devices/[Insert your device id] / Next? Access_token = [Insert your токен доступа] ". Вы можете получить идентификатор своего устройства из среды разработки частиц, как показано на рисунке 2, щелкните вкладку «Устройства» (красное поле) и посмотрите под именем устройства, чтобы найти свой идентификатор (синее поле). Затем, чтобы найти свой токен доступа, щелкните вкладку настроек в среде IDE.

Шаг 5: Готово

После завершения вашего проекта Unity у вас будет HoloLens, управляемый EMG!

Если у вас есть какие-либо подробные вопросы, вы хотите узнать о человеческих улучшениях, не отставать от моей работы или просто обсудить идеи, сделайте это в моем Твиттере:

@ 4Eyes6Senses

Если вы заинтересованы в сотрудничестве с нашей командой в испытании NASA SUITS 2019-2020 гг., Напишите мне по адресу:

Особая благодарность модели, изображенной на первом снимке, Даррену, который также протестировал эту конструкцию в НАСА. Еще одна благодарность моему партнеру по программированию по проекту AJ, который сделал многое из этого возможным.