Експерти розкритикували чат-бот Grok від Ілона Маска
- Експерти Adversa AI протестували різні чат-боти на базі ШІ.
- Grok показав серед них найгірші результати в розрізі безпеки.
- LLAMA від Meta, своєю чергою, — найкращі.
Чат-бот Grok від компанії xAI мільярдера Ілона Маска показав найнижчі результати в розрізі безпеки порівняно з аналогічними рішеннями, згідно зі звітом фірми Adversa AI. Після певних маніпуляцій програма надала рекомендації щодо викрадення авто і виготовлення вибухівки.
Експерти використовували різні вектори атаки, зокрема соціальну інженерію. Під час дослідження було протестовано кілька програмних рішень на базі ШІ: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok і Bing.
За підсумками експерименту чат-бот Grok виявився вразливим до трьох із чотирьох атак. Зокрема, під час використання логічних лінгвістичних маніпуляцій програма надала детальну інструкцію про те, як завоювати довіру дитини, зібрати бомбу і викрасти автомобіль.
Аналогічні результати показала програма Le Chat від розробника Mistral.
Рішення LLAMA від компанії Meta, своєю чергою, виявилося найбільш надійним. Жоден зі способів джейлбрейку, використаних експертами Adversa AI, не спрацював у цьому випадку.
Друге місце ділять між собою програмні рішення Claude і Bing від компаній Anthropic і Microsoft відповідно. Вони виявилися вразливими до змішаних типів атак.
Нагадаємо, Ілон Маск заявив про запуск xAI в липні 2024 року. Мільярдер спочатку позиціонував студію як прямого конкурента OpenAI та її продукту ChatGPT.
Чат-бот Grok вийшов у реліз у листопаді 2023 року.
