ИИ-бот супермаркета в Новой Зеландии предложил пользователям рецепт хлора
- Сеть PAK’nSAVE запустила бота Savey Meal, чтобы помочь покупателям готовить простые и доступные блюда, утверждают в компании.
- Но после ряда экспериментов оказалось, что приложение выдает инструкции к токсичным веществам.
- В их числе газ хлорин, который в программе описан как освещающий напиток.
ИИ-бот Savey Meal от сети супермаркетов PAK’nSAVE в Новой Зеландии представляет опасность для пользователей. Об этом сообщает политический обозреватель Лиам Хехир. Программа предлагает помимо обычных кулинарных рецептов опасные.
Задача Savey Meal — помочь покупателям приготовить блюдо из ограниченного набора продуктов, как указано на сайте компании. Достаточно внести перечень доступных пользователю ингредиентов, после чего приложение предоставит несколько рецептов.
Среди них есть комичные. Так, например, The Guardian поделился рецептом «Овощного рагу с Oreo».
Но если добавить в приложение помимо продуктов питания и другие компоненты, приложение выдает более широкий спектр результатов. Один из рецептов, который озаглавлен как «Ароматическая водная смесь», позволяет синтезировать газообразный хлор, отметил Хехир.
Это токсичное удушающее вещество. Но в приложении, как утверждает обозреватель, рецепт описывается следующим образом:
«Подавайте охлажденным и наслаждайтесь уникальным ароматом».
По данным Хехира, в PAK’nSAVE пообещали ввести дополнительные ограничения в работу сервиса, а также указали на возрастной ценз.
«Мне жаль, что я расстроил вас [PAK’nSAVE]. Это немного резковато. Это просто абсурдная иллюстрация простого тезиса — ИИ отличный инструмент, но у него нет суждения и сознания. Алгоритмы не могут заменить здравый смысл».
Напомним, эксперты Morgan Stanley считают, что ИИ задаст тренд на рынке на следующее десятилетие.
