Недавно я наткнулся на исследование, которое заставило меня задуматься о том, насколько мы действительно контролируем свои умные устройства. Оказывается, голосовые ассистенты вроде Siri, Alexa и Google Assistant можно активировать с помощью звуков, которые мы даже не слышим. Это открывает новую категорию атак — auditory prompt injection.
Что такое auditory prompt injection?
Это атака, при которой злоумышленник внедряет скрытые аудиокоманды в медиаконтент: YouTube-видео, подкасты или даже музыку. Эти команды неразличимы для человеческого уха, но прекрасно воспринимаются микрофонами устройств. В результате ассистент выполняет действия без ведома пользователя.
Например, представьте: вы смотрите видео на YouTube, а ваш умный динамик в это время заказывает товары на Amazon или отправляет сообщения. Звучит как сюжет из фантастического фильма, но это реальность.
Как это работает?
Исследователи обнаружили, что голосовые ассистенты реагируют на ультразвуковые и инфразвуковые частоты, которые находятся за пределами человеческого слуха. Эти частоты можно встроить в аудиопоток, и устройство их распознает как команду.
Пример кода для генерации таких звуков на Python:
import numpy as np
import sounddevice as sd
# Генерация ультразвукового сигнала
frequency = 20000 # 20 kHz
duration = 2 # 2 секунды
sample_rate = 44100
t = np.linspace(0, duration, int(sample_rate * duration), False)
waveform = 0.5 * np.sin(2 * np.pi * frequency * t)
# Воспроизведение
sd.play(waveform, sample_rate)
sd.wait()
Этот код генерирует звук частотой 20 кГц, который большинство людей не услышат, но микрофон устройства его зафиксирует.
Практические риски
- Финансовые потери. Злоумышленник может заставить ваш ассистент совершить покупку или перевести деньги.
- Конфиденциальность. Ассистент может отправить сообщения или электронные письма без вашего ведома.
- Физическая безопасность. Устройства умного дома могут быть взломаны для открытия дверей или отключения сигнализации.
Как защититься?
- Отключите голосовые команды. Если вы не используете функцию голосового управления, лучше её отключить.
- Используйте аппаратное отключение микрофона. Некоторые устройства имеют физическую кнопку для отключения микрофона.
- Регулярно проверяйте журналы действий. Убедитесь, что ваш ассистент не выполняет неожиданные команды.
- Обновляйте ПО. Производители регулярно выпускают патчи для устранения уязвимостей.
Перспективы и выводы
Эта уязвимость — очередное напоминание о том, что технологии не всегда безопасны. С одной стороны, голосовые ассистенты упрощают нашу жизнь, с другой — создают новые риски. Если вы разработчик, стоит задуматься о внедрении дополнительных мер безопасности, таких как фильтрация частот или двухфакторная аутентификация для критических команд.
Лично я теперь чаще проверяю журналы своих устройств и задумываюсь о том, как можно улучшить их безопасность. Возможно, это начало новой гонки вооружений между злоумышленниками и разработчиками.
Источник: https://cybernews.com/security/ai-voice-bots-hidden-audio-hijack-attacks/