Alexa a poussé un enfant à s’électrocuter
Les parents remettent en question la nature adaptée aux enfants des haut-parleurs intelligents d’Amazon après qu’Alexa ait «mis au défi» une fillette de dix ans de mettre un sou dans une prise de courant. Heureusement, la mère de l’enfant a surpris Alexa en train de donner des instructions pour ce «défi », qu’Amazon rapidement effacé des résultats de recherche Alexa.
Lorsque vous posez une question à Alexa, celle-ci effectue une recherche Bing et présente automatiquement la "meilleure" réponse qu’elle peut trouver. Dans ce cas, une fillette de dix ans a demandé à Alexa "un défi" après avoir suivi des défis d’éducation physique adaptés aux enfants sur YouTube. Le haut-parleur intelligent a obtenu un résultat de recherche pour le TikTok Penny Challenge, dans lequel les enfants sortent une fiche à moitié d’une prise et touchent un centime sur ses broches pour créer des étincelles d’électricité.
Alexa attribue ce défi à un article sur Our Community Now. Ironiquement, cet article avertit les parents que le TikTok Penny Challenge tuera leur enfant, lui enlèvera le bras ou déclenchera un incendie. Alexa n’a pas compris le contexte de cet article et a présenté les instructions mortelles du Penny Challenge sans aucun avertissement.
Il est clair qu’Amazon doit améliorer la fonctionnalité de recherche d’Alexa – c’est plus qu’un simple problème de sécurité ; Alexa craint vraiment de répondre aux questions de base. Mais cet incident spécifique pourrait (probablement) être évité en réglant un haut-parleur intelligent Echo en mode Kids’ Edition. Alexa extrait uniquement les résultats de recherche de sources approuvées en mode enfant et filtre automatiquement certaines langues et certains sujets.
Cela dit, les parents ne sont pas à blâmer lorsque leur haut-parleur intelligent Alexa dit à un enfant de faire quelque chose de dangereux. C’est la responsabilité d’Amazon ; les familles doivent avoir l’esprit tranquille lors de l’installation d’un haut-parleur Echo dans leur maison, même si ce haut-parleur est réglé sur le mode "adulte".