Эксперты раскритиковали чат-бот Grok от Илона Маска
- Эксперты Adversa AI протестировали разные чат-боты на базе ИИ.
- Grok показал среди них наихудшие результаты в разрезе безопасности.
- LLAMA от Meta, в свою очередь, — наилучшие.
Чат-бот Grok от компании xAI миллиардера Илона Маска показал самые низкие результаты в разрезе безопасности в сравнении с аналогичными решениями, согласно отчету фирмы Adversa AI. После определенных манипуляций программа предоставила рекомендации по угону авто и изготовлению взрывчатки.
Эксперты использовали разные векторы атаки, включая социальную инженерию. В ходе исследования были протестированы несколько программных решений на базе ИИ: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok и Bing.
По итогам эксперимента чат-бот Grok оказался уязвим к трем из четырех атак. В частности, при использовании логических лингвистических манипуляций программа предоставила подробную инструкцию о том, как завоевать доверие ребенка, собрать бомбу и угнать автомобиль.
Аналогичные результаты показала программа Le Chat от разработчика Mistral.
Решение LLAMA от компании Meta, в свою очередь, оказалось наиболее надежным. Ни один из способов джейлбрейка, использованных экспертами Adversa AI, не сработал в этом случае.
Второе место делят между собой программные решения Claude и Bing от компаний Anthropic и Microsoft соответственно. Они оказались уязвимы к смешанным типам атак.
Напомним, Илон Маск заявил о запуске xAI в июле 2024 года. Миллиардер изначально позиционировал студию как прямого конкурента OpenAI и ее продукта ChatGPT.
Чат-бот Grok вышел в релиз в ноябре 2023 года.
