Alexa incitó a un niño a electrocutarse
Los padres cuestionan la naturaleza amigable para los niños de los parlantes inteligentes de Amazon después de que Alexa "desafió" a una niña de diez años a colocar un centavo en un tomacorriente. Afortunadamente, la madre del niño atrapó a Alexa dando instrucciones para este "desafío", que Amazon eliminado rápidamente de los resultados de búsqueda de Alexa.
Cuando le haces una pregunta a Alexa, realiza una búsqueda en Bing y presenta automáticamente la "mejor" respuesta que puede encontrar. En este caso, una niña de diez años le pidió a Alexa "un desafío" después de seguir los desafíos de educación física para niños en YouTube. El altavoz inteligente obtuvo un resultado de búsqueda para el TikTok Penny Challenge, en el que los niños sacan un enchufe hasta la mitad y tocan un centavo en sus puntas para crear chispas de electricidad.
Alexa atribuye este desafío a un artículo en Our Community Now. Irónicamente, este artículo advierte a los padres que el TikTok Penny Challenge matará a su hijo, le quitará el brazo o provocará un incendio en la casa. Alexa no entendió el contexto de este artículo y presentó las letales instrucciones del Penny Challenge sin ninguna advertencia.
Está claro que Amazon necesita mejorar la funcionalidad de búsqueda de Alexa; esto es más que un simple problema de seguridad; Alexa realmente apesta respondiendo preguntas básicas. Pero este incidente específico podría (probablemente) evitarse configurando un altavoz inteligente Echo en el modo Edición para niños. Alexa solo extrae resultados de búsqueda de fuentes aprobadas cuando está en modo infantil y filtra automáticamente algunos idiomas y temas.
Dicho esto, los padres no tienen la culpa cuando su altavoz inteligente Alexa le dice a un niño que haga algo peligroso. Esta es responsabilidad de Amazon; las familias deben estar tranquilas al instalar un altavoz Echo en su hogar, incluso si ese altavoz está configurado en modo "adulto".