Alexa zachęciła dziecko do porażenia prądem
Rodzice kwestionują przyjazny dla dzieci charakter inteligentnych głośników Amazona po tym, jak Alexa „wyzwała” dziesięcioletnią dziewczynkę, by włożyła pensa do gniazdka elektrycznego. Na szczęście mama dziecka przyłapała Alexę na udzielaniu instrukcji dotyczących tego „wyzwania”, które Amazon natychmiast usunięte z wyników wyszukiwania Alexa.
Kiedy zadasz pytanie Alexie, wykonuje wyszukiwanie w Bing i automatycznie przedstawia „najlepszą” odpowiedź, jaką może znaleźć. W tym przypadku dziesięcioletnia dziewczynka poprosiła Alexę o „wyzwanie” po obejrzeniu przyjaznych dzieciom wyzwań wychowania fizycznego na YouTube. Inteligentny głośnik wyciągnął wynik wyszukiwania TikTok Penny Challenge, w którym dzieci wyciągają wtyczkę do połowy z gniazdka i dotykają grosza do jego bolców, aby wytworzyć iskry elektryczne.
Alexa przypisuje to wyzwanie artykułowi w Our Community Now. Jak na ironię, ten artykuł ostrzega rodziców, że TikTok Penny Challenge zabije ich dziecko, oderwie mu rękę lub wywoła pożar w domu. Alexa nie zrozumiała kontekstu tego artykułu i przedstawiła śmiertelne instrukcje Penny Challenge bez żadnych ostrzeżeń.
Oczywiste jest, że Amazon musi poprawić funkcjonalność wyszukiwania Alexy — to coś więcej niż tylko problem z bezpieczeństwem; Alexa naprawdę nie potrafi odpowiadać na podstawowe pytania. Ale tego konkretnego incydentu można (prawdopodobnie) uniknąć, ustawiając inteligentny głośnik Echo w trybie edycji dla dzieci . Alexa pobiera wyniki wyszukiwania tylko z zatwierdzonych źródeł w trybie dla dzieci i automatycznie filtruje niektóre języki i tematy.
To powiedziawszy, rodzice nie są winni, gdy ich inteligentny głośnik Alexa każe dziecku zrobić coś niebezpiecznego. To jest odpowiedzialność Amazona; rodziny powinny mieć spokój podczas instalowania głośnika Echo w swoim domu, nawet jeśli ten głośnik jest ustawiony w trybie „dla dorosłych”.