Alexa ha spinto un bambino a fulminarsi
I genitori mettono in dubbio la natura adatta ai bambini degli altoparlanti intelligenti di Amazon dopo che Alexa ha "sfidato" una bambina di dieci anni a infilare un penny in una presa di corrente. Per fortuna, la mamma del bambino ha sorpreso Alexa a dare istruzioni per questa "sfida", che Amazon prontamente cancellato dai risultati di ricerca di Alexa.
Quando fai una domanda ad Alexa, esegue una ricerca Bing e presenta automaticamente la risposta "migliore" che riesce a trovare. In questo caso, una bambina di dieci anni ha chiesto ad Alexa "una sfida" dopo aver seguito le sfide di educazione fisica adatte ai bambini su YouTube. L’altoparlante intelligente ha estratto un risultato di ricerca per TikTok Penny Challenge, in cui i bambini estraggono una spina a metà da una presa e toccano con un centesimo i suoi poli per creare scintille di elettricità.
Alexa attribuisce questa sfida a un articolo su Our Community Now. Ironia della sorte, questo articolo avverte i genitori che la TikTok Penny Challenge ucciderà il loro bambino, gli toglierà il braccio o accenderà un incendio in casa. Alexa non ha compreso il contesto di questo articolo e ha presentato le letali istruzioni della Penny Challenge senza alcun preavviso.
È chiaro che Amazon deve migliorare la funzionalità di ricerca di Alexa: questo è più di un semplice problema di sicurezza; Alexa fa davvero schifo nel rispondere alle domande di base. Ma questo incidente specifico potrebbe (probabilmente) essere evitato impostando uno smart speaker Echo in modalità Kids’ Edition. Alexa estrae i risultati di ricerca da fonti approvate solo quando è in modalità bambini e filtra automaticamente alcune lingue e argomenti.
Detto questo, i genitori non sono da biasimare quando il loro altoparlante intelligente Alexa dice a un bambino di fare qualcosa di pericoloso. Questa è la responsabilità di Amazon; le famiglie dovrebbero stare tranquille quando installano un altoparlante Echo nella loro casa, anche se quell’altoparlante è impostato sulla modalità "adulto".