Alexa uppmanade ett barn att elektrokutera sig själva
Föräldrar ifrågasätter den barnvänliga karaktären hos Amazons smarta högtalare efter att Alexa "utmanade" en tioårig flicka att stoppa en slant i ett eluttag. Lyckligtvis fångade barnets mamma Alexa som gav instruktioner för denna "utmaning", som Amazon omedelbart skurat från Alexas sökresultat.
När du ställer en fråga till Alexa utför den en Bing-sökning och presenterar automatiskt det "bästa" svaret den kan hitta. I det här fallet bad en tioårig tjej Alexa om "en utmaning" efter att ha följt barnvänliga träningsutmaningar på YouTube. Den smarta högtalaren drog ett sökresultat för TikTok Penny Challenge, där barn drar en stickpropp halvvägs ur ett uttag och rör en slant till dess uttag för att skapa gnistor av elektricitet.
Alexa tillskriver denna utmaning till en artikel om Our Community Now. Ironiskt nog varnar den här artikeln föräldrar att TikTok Penny Challenge kommer att döda deras barn, ta av deras barns arm eller starta en husbrand. Alexa förstod inte sammanhanget i denna artikel och presenterade Penny Challenges dödliga instruktioner utan några varningar.
Det är uppenbart att Amazon behöver förbättra Alexas sökfunktionalitet – det här är mer än bara ett säkerhetsproblem; Alexa suger verkligen på att svara på grundläggande frågor. Men denna specifika incident kan (förmodligen) undvikas genom att ställa in en Echo smart högtalare i Kids’ Edition -läge. Alexa hämtar bara sökresultat från godkända källor i barnläge, och det filtrerar automatiskt vissa språk och ämnen.
Som sagt, föräldrar är inte skyldiga när deras Alexa smarta högtalare säger åt ett barn att göra något farligt. Detta är Amazons ansvar; familjer bör ha sinnesfrid när de installerar en Echo-högtalare i sitt hem, även om den högtalaren är inställd på "vuxen"-läge.