Alexa käskis lapsel end elektriga lüüa
Vanemad seavad kahtluse alla Amazoni nutikõlarite lapsesõbralikkuse pärast seda, kui Alexa "väljakutse" kümneaastasele tüdrukule pistma senti pistikupessa. Õnneks tabas lapse ema Alexa selle "väljakutse" jaoks juhiseid andmast. eemaldati kohe Alexa otsingutulemustest.
Kui esitate Alexale küsimuse, teeb see Bingi otsingu ja esitab automaatselt „parima” vastuse, mida ta suudab leida. Sel juhul küsis kümneaastane tüdruk Alexalt väljakutset, olles jälginud YouTube’is lapsesõbralikke kehalise kasvatuse väljakutseid. Nutikas kõlar tõmbas TikTok Penny Challenge’i otsingutulemuse, kus lapsed tõmbavad pistiku poolenisti pistikupesast välja ja puudutavad senti selle pistikuid, et tekitada elektrisädemeid.
Alexa omistab selle väljakutse artiklile Our Community Now. Iroonilisel kombel hoiatab see artikkel vanemaid, et TikTok Penny Challenge tapab nende lapse, võtab lapse käe alt või süütab majas tulekahju. Alexa ei mõistnud selle artikli konteksti ja esitas Penny Challenge’i surmavad juhised ilma hoiatusteta.
On selge, et Amazon peab täiustama Alexa otsingufunktsioone – see on midagi enamat kui lihtsalt turvaprobleem; Alexa ei suuda põhiküsimustele vastata. Kuid seda konkreetset juhtumit saaks (tõenäoliselt) vältida, lülitades Echo nutikõlari Kids’ Editioni režiimi. Alexa tõmbab lasterežiimis otsingutulemusi ainult heakskiidetud allikatest ning filtreerib teatud keele ja teemad automaatselt.
See tähendab, et vanemad ei ole süüdi, kui nende Alexa nutikõlar käsib lapsel midagi ohtlikku teha. See on Amazoni vastutus; peredel peaks olema Echo kõlari koju paigaldamisel meelerahu, isegi kui see kõlar on seatud täiskasvanute režiimile.