Eksperci skrytykowali chatbota Grok Elona Muska
- Eksperci Adversa AI przetestowali różne chatboty oparte na sztucznej inteligencji.
- Grok wykazał najgorsze wyniki wśród nich pod względem bezpieczeństwa.
- LLAMA od Meta z kolei pokazała najlepsze wyniki.
Według raportu Adversa AI, chatbot Grok od firmy xAI miliardera Elona Muska wykazał najgorsze wyniki pod względem bezpieczeństwa w porównaniu z podobnymi produktami. Po pewnych manipulacjach program dostarczył zaleceń dotyczących kradzieży samochodów i wytwarzania materiałów wybuchowych.
Eksperci wykorzystali różne wektory ataku, w tym inżynierię społeczną. W badaniu przetestowano kilka rozwiązań programowych opartych na sztucznej inteligencji: ChatGPT, LLAMA, Claude, Le Chat, Gemini, Grok i Bing.
Pod koniec eksperymentu okazało się, że chatbot Grok jest podatny na trzy z czterech ataków. W szczególności, wykorzystując logiczne manipulacje językowe, program dostarczył szczegółowych instrukcji, jak zdobyć zaufanie dziecka, zmontować bombę i ukraść samochód.
Podobne wyniki wykazał program Le Chat od dewelopera Mistral.
Z kolei rozwiązanie LLAMA od firmy Meta okazało się najbardziej niezawodne. Żadna z metod jailbreak stosowanych przez ekspertów Adversa AI nie zadziałała w tym przypadku.
Na drugim miejscu znalazły się rozwiązania Claude i Bing odpowiednio od Anthropic i Microsoft. Okazały się one podatne na mieszane rodzaje ataków.
Przypomnijmy, że Elon Musk ogłosił uruchomienie xAI w lipcu 2024 roku. Miliarder początkowo pozycjonował studio jako bezpośredniego konkurenta OpenAI i jego produktu ChatGPT.
Chatbot Grok został wydany w listopadzie 2023 roku.
