Slack признался в использовании данных чатов для обучения ИИ
- Пользователь Slack обнаружил пункт в Политике конфиденциальности, позволяющий сервису обучать ИИ на данных из чатов клиентов.
- Для отказа от предоставления личной информации необходимо, чтобы владелец рабочего пространства отправил соответствующее письмо.
- Согласно Slack, он использует данные клиентов для обучения систем предоставления рекомендаций каналов и смайлов, а также результатов поиска.
Корпоративный мессенджер Slack тренирует модели машинного обучения (МО) на сообщениях, файлах и других данных из чатов пользователей без явного разрешения. Об этом пишет Engadget.
Обучение проводится по принципу opt-out ― сервис может брать личную информацию по умолчанию с возможностью отказа.
Однако самостоятельно прекратить использование данных нельзя. Для этого необходимо попросить администратора рабочего пространства компании отправить Slack соответствующее электронное письмо.
Согласно PCMag, эту политику заметил руководитель фирмы The Duckbill Group Кори Куинн.
«Для разработки моделей искусственного интеллекта и машинного обучения наши системы анализируют представленные в Slack данные клиентов вроде сообщений, контента и файлов, а также другую информацию (включая сведения об использовании), как это определено в нашей Политике конфиденциальности и в вашем клиентском соглашении», ― говорится в обнаруженном Куинном разделе.
В ответ на обеспокоенность пользователей касательно подобной практики Slack объяснил, как именно применяет данные.
Согласно заявлению компании, она не задействует информацию о клиентах с целью тренировки какого-либо генеративного ИИ, полагающегося на сторонние алгоритмы. Информация с чатов передается в модели машинного обучения для продуктов вроде «систем рекомендации каналов и смайликов, а также результатов поиска».
«Для этих приложений традиционные МО-алгоритмы используют обезличенные, агрегированные данные и не имеют доступа к содержимому сообщений в личных, частных или публичных каналах», ― говорится в блоге.
Информация может включать такие сведения, как время переписок и количество взаимодействий между пользователями.
Представитель Salesforce ― владельца Slack ― подтвердил это заявление и заверил, что «мессенджер не разрабатывает и не тренирует модели так, чтобы те смогли обучаться, запоминать или воспроизводить данные клиентов».
Напомним, недавно Sony Music запретила технологическим компаниям и потоковым сервисам обучать ИИ на ее музыке.
