Алекса спонукала дитину вбити себе електричним струмом
Батьки ставлять під сумнів дружній характер розумних колонок Amazon після того, як Alexa «кинув виклик» десятирічній дівчинці вставити пенні в розетку. На щастя, мама дитини зловила Алексу, яка давала інструкції щодо цього «виклику», який Amazon негайно видалено з результатів пошуку Alexa.
Коли ви ставите запитання Alexa, він виконує пошук у Bing і автоматично представляє «найкращу» відповідь, яку може знайти. У цьому випадку десятирічна дівчинка попросила Алексу «виклик» після того, як прослухала цікаву для дітей фізичну культуру на YouTube. Розумний динамік отримав результат пошуку для TikTok Penny Challenge, в якому діти витягують вилку наполовину з розетки і торкаються пенні до її зубців, щоб створити іскри електрики.
Alexa пояснює цю проблему статтею про нашу спільноту зараз. За іронією долі, ця стаття попереджає батьків, що TikTok Penny Challenge вб’є їхню дитину, відірве їй руку або розпочне пожежу в будинку. Alexa не зрозуміла контексту цієї статті і представила смертельні інструкції Penny Challenge без будь-яких попереджень.
Зрозуміло, що Amazon потребує покращення функціональності пошуку Alexa — це більше, ніж просто проблема безпеки; Алекса справді сумно відповідати на основні запитання. Але цього конкретного інциденту можна (ймовірно) уникнути, перевівши розумний динамік Echo в режим Kids’ Edition. Alexa отримує результати пошуку лише із затверджених джерел у дитячому режимі та автоматично фільтрує деякі мови та теми.
Тим не менш, батьки не винні, коли їхній розумний динамік Alexa каже дитині зробити щось небезпечне. Це відповідальність Amazon; сім’ї повинні мати спокій, встановлюючи динамік Echo у своєму домі, навіть якщо цей динамік налаштовано на режим «для дорослих».