Хакери використовували ChatGPT для збору даних і написання коду
- OpenAI припинила діяльність хакерів, які використовували ChatGPT для збору даних і написання шкідливого коду.
- Спільно з Microsoft розробники заблокували доступ угрупованням до ШІ-бота.
Компанія OpenAI виявила кілька злочинних угруповань, які намагалися використовувати ChatGPT для отримання конфіденційної інформації. Спільно з командою Microsoft розробникам вдалося заблокувати доступ до чат-бота.
Повідомляється, що представники OpenAI і Microsoft Threat Intelligence виявили акаунти, що належать хакерським угрупованням. У звіті фігурують такі організації:
- Charcoal Typhoon і Salmon Typhoon, пов’язані з Китаєм;
- Crimson Sandstorm (Іран);
- Emerald Sleet (КНДР);
- Forest Blizzard (РФ).
«Ми припинили діяльність п’яти суб’єктів, які використовували можливості штучного інтелекту для підтримки шкідливої діяльності. Виявлені облікові записи OpenAI, пов’язані з цими суб’єктами, було видалено», — заявили розробники.
За даними OpenAI, Charcoal Typhoon і Salmon Typhoon досліджували різні інструменти кібербезпеки, вивчали діяльність спецслужб і налагодження коду.
Також фахівці з’ясували, що Crimson Sandstorm застосовувала ChatGPT для створення фішингових застосунків і сайтів, а Emerald Sleet — для написання шкідливого коду і пошуку фахівців у сфері оборони. Своєю чергою, Forest Blizzard надсилала запити на пошук інформації про засоби супутникового зв’язку та радіолокаційної візуалізації.
Під час розслідування команда встановила, що остання версія ChatGPT пропонує «обмежені можливості для хакерів». Тим часом, у OpenAI заявили про необхідність поліпшити безпеку продукту та запровадити посилений моніторинг взаємодії користувачів із платформою.
Нагадаємо, у лютому команда OpenAI випустила оновлення для ChatGPT, що дає змогу ШІ-боту запам’ятовувати факти та вподобання користувачів.
