Алекса подстрекала ребенка убить себя электрическим током
Родители сомневаются в том, что умные колонки Amazon подходят для детей, после того как Алекса «бросила вызов» десятилетней девочке, чтобы воткнуть монетку в розетку. К счастью, мама ребенка поймала Алексу, дающую инструкции для этого «вызова». быстро удалены из результатов поиска Alexa.
Когда вы задаете Alexa вопрос, он выполняет поиск Bing и автоматически представляет «лучший» ответ, который может найти. В этом случае десятилетняя девочка попросила Алексу «вызов» после того, как просмотрела на YouTube задания по физкультуре, подходящие для детей. Умный динамик извлек результат поиска TikTok Penny Challenge, в котором дети вытаскивают вилку наполовину из розетки и прикасаются монеткой к ее штырям, чтобы создать электрические искры.
Алекса связывает эту проблему со статьей «Наше сообщество сейчас». По иронии судьбы, эта статья предупреждает родителей, что TikTok Penny Challenge убьет их ребенка, оторвет ему руку или устроит пожар в доме. Алекса не поняла контекста этой статьи и представила смертельные инструкции Penny Challenge без каких-либо предупреждений.
Понятно, что Amazon необходимо улучшить функциональность поиска Alexa — это больше, чем просто проблема безопасности; Alexa действительно не умеет отвечать на основные вопросы. Но этого конкретного инцидента можно (вероятно) избежать, установив умную колонку Echo в режим Kids’ Edition . Alexa извлекает результаты поиска только из утвержденных источников в детском режиме и автоматически фильтрует некоторые языки и темы.
Тем не менее, родители не виноваты, когда их умная колонка Alexa говорит ребенку сделать что-то опасное. Это ответственность Amazon; семьи должны быть спокойны при установке динамика Echo в своем доме, даже если этот динамик настроен на «взрослый» режим.