ШІ-бот супермаркету в Новій Зеландії запропонував користувачам рецепт хлору
- Мережа PAK’nSAVE запустила бота Savey Meal, щоб допомогти покупцям готувати прості та доступні страви, стверджують у компанії.
- Але після низки експериментів виявилося, що додаток видає інструкції до токсичних речовин.
- Серед них газ хлорин, який у програмі описаний як освіжаючий напій.
ШІ-бот Savey Meal від мережі супермаркетів PAK’nSAVE у Новій Зеландії становить небезпеку для користувачів. Про це повідомляє політичний оглядач Ліам Хехір. Крім звичайних кулінарних рецептів програма пропонує токсичні.
Завдання Savey Meal — допомогти покупцям приготувати страву з обмеженого набору продуктів, як зазначено на сайті компанії. Досить внести перелік доступних користувачеві інгредієнтів, після чого додаток надасть кілька рецептів.
Серед них є комічні. Так, наприклад, The Guardian поділився рецептом «Овочевого рагу з Oreo».
Але якщо додати в застосунок крім продуктів харчування й інші компоненти, програма видає ширший спектр результатів. Один із рецептів, який має назву «Ароматична водна суміш», дає змогу синтезувати газоподібний хлор, зазначив Хехір.
Це токсична задушлива речовина. Але в додатку, як стверджує оглядач, рецепт описується так:
«Подавайте охолодженим і насолоджуйтеся унікальним ароматом».
За даними Хехіра, у PAK’nSAVE пообіцяли ввести додаткові обмеження в роботу сервісу, а також вказали на віковий ценз.
«Мені шкода, що я засмутив вас [PAK’nSAVE]. Це трохи різкувато. Це просто абсурдна ілюстрація простої тези — ШІ чудовий інструмент, але у нього немає судження і свідомості. Алгоритми не можуть замінити здоровий глузд».
Нагадаємо, експерти Morgan Stanley вважають, що ШІ задасть тренд на ринку на наступне десятиліття.