Голосовой помощник дал рекомендацию ребенку, которая могла бы привести его к смерти.
Виртуальный ассистент Alexa компании Amazon попросил десятилетнего ребенка прикоснуться монеткой к незащищенным контактам зарядного устройства для телефона, подключенного к розетке.
По словам Кристин Ливдал, ее дочь попросила смарт-динамик Echo с голосовым помощником «бросить ей вызов». Устройство, судя по всему, взяло идею испытания из статьи с опасными для жизни трендами из TikTok.
Согласно скриншоту, Echo ответило следующим образом:
«Задача проста: подключите зарядное устройство телефона примерно наполовину к сетевой розетке, а затем дотроньтесь монеткой до открытых контактов».
В заявлении для BBC представители Amazon подтвердили поведение Alexa и сообщили об исправлении проблемы.
«Как только мы узнали об этой ошибке, мы приняли срочные меры, чтобы исправить ее», — заявили в компании.
Ливдал подтвердила, что голосовой помощник больше не предлагает подобных испытаний.
Инцидент прошел под контролем родителей. По словам Ливдал, она сразу же остановила помощника, когда тот выдал опасную для жизни рекомендацию. Она добавила, что ее дочь «слишком умна, чтобы делать что-то подобное».
Напомним, в октябре эксперты по кибербезопасности выяснили, что голосовые дипфейки могут обманывать устройства распознавания речи с голосовыми помощниками.