Според родител, който е публикувал екранни снимки на историята на активността на Alexa, гласовият асистент на Amazon, когато е помолен от дете да предложи предизвикателство, е дал пример за смъртоносен експеримент с електричество, изваждайки описанието му от контекста на произволна статия. Рубриката Echo говори за експеримент, популярен сред феновете на TikTok с използването на монета и зарядно устройство за смартфон - множество инциденти, наранявания и пожари след прилагането му бяха докладвани от различни медии повече от веднъж. Очевидно устройството е взело идеята за това предизвикателство от статия, която го описва като опасно, цитирайки доклад за предполагаемо съществуващо предизвикателство в TikTok.
Според екранна снимка, направена от Christine Livdahl, когато е помолен да ми "покаже задача", Echo отговаря: "Ето нещо, което намерих онлайн." Според ourcommunitynow.com задачата е проста: „вкарайте зарядното устройство на телефона около половината в контакта, след което докоснете оголените щифтове с едно пени“.
В изявление до BBC Amazon потвърди поведението на Alexa, като каза: „Веднага щом разбрахме за тази грешка, предприехме незабавни действия, за да я поправим.“ Вчера Ливдал написа в Twitter, че заявката за предизвикателство вече не работи. Потребителите в мрежата също тестваха заявката с Alexa и получиха подобен резултат.
OMFG Моето 10-годишно дете току-що помоли Alexa в нашето Echo за предизвикателство и това каза тя. снимкаtwitter.com/HgGgrLbdS8
- Кристин Ливдал (@klivdahl) Декември 26, 2021
Amazon не е единствената компания, която е срещала проблеми при анализирането на уеб съдържание. През октомври потребител съобщи, че Google показва потенциално опасни съвети в един от своите фрагменти, ако въведете „имате припадък, какво да правите“ в Google – информацията е взета от секция на уеб страницата, описваща какво не да се направи, ако някой получи припадък. Потребителите обаче съобщават за други подобни проблеми, включително един потребител, който съобщава, че Google връща резултати за ортостатична хипотония при търсене на ортостатична хипертония, а друг публикува екранна снимка на Google, показваща ужасен съвет за утеха на скърбящ човек по линия на „Радвам се, че ти си добре“ или „Не бъди тъжен! Горе главата!".
Резюмето на търсенето в Google спрямо действителната страница снимкаtwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Октомври 16, 2021
Видяхме също, че предупрежденията за опасно поведение се увеличават, за да направят проблема по-голям, отколкото беше – по-рано този месец някои училищни квартали в САЩ бяха блокирани след съобщения за заплахи за стрелба в TikTok. Оказа се, че социалната буря е предизвикана най-вече от факта, че се говори за заплахи, много повече от заплахите, които реално съществуват. В случая на Alexa алгоритъмът избра описателната част от предупреждението и го разшири без оригиналния контекст. Въпреки че родителите бяха там, за да се намесят незабавно, лесно е да си представим ситуация, в която това не е така и последствията.
Ливдал написа в Туитър, че е използвала възможността „да обсъди безопасността в интернет с детето си и да не се доверява на това, което четете без проучване и проверка“, което ви предлагаме да направите и вие.
Прочетете също: