Slack зізнався у використанні даних чатів для навчання ШІ
- Користувач Slack виявив пункт у Політиці конфіденційності, що дає змогу сервісу навчати ШІ на даних із чатів клієнтів.
- Для відмови від надання особистої інформації необхідно, щоб власник робочого простору надіслав відповідного листа.
- Згідно зі Slack, він використовує дані клієнтів для навчання систем надання рекомендацій каналів і смайлів, а також результатів пошуку.
Корпоративний месенджер Slack тренує моделі машинного навчання (МО) на повідомленнях, файлах та інших даних із чатів користувачів без явного дозволу. Про це пише Engadget.
Навчання проводиться за принципом opt-out ― сервіс може брати особисту інформацію за замовчуванням з можливістю відмови.
Однак самостійно припинити використання даних не можна. Для цього необхідно попросити адміністратора робочого простору компанії надіслати Slack відповідний електронний лист.
Згідно з PCMag, цю політику помітив керівник фірми The Duckbill Group Корі Квінн.
«Для розроблення моделей штучного інтелекту та машинного навчання наші системи аналізують подані в Slack дані клієнтів на кшталт повідомлень, контенту та файлів, а також іншу інформацію (включно з відомостями про використання), як це визначено в нашій Політиці конфіденційності та у вашій клієнтській угоді», ― ідеться у виявленому Куїнном розділі.
У відповідь на стурбованість користувачів щодо подібної практики Slack пояснив, як саме застосовує дані.
Згідно із заявою компанії, вона не задіює інформацію про клієнтів з метою тренування будь-якого генеративного ШІ, що покладається на сторонні алгоритми. Інформація з чатів передається в моделі машинного навчання для продуктів на кшталт «систем рекомендації каналів і смайликів, а також результатів пошуку».
«Для цих застосунків традиційні МО-алгоритми використовують знеособлені, агреговані дані і не мають доступу до вмісту повідомлень в особистих, приватних або публічних каналах», ― ідеться в блозі.
Інформація може включати такі відомості, як час листувань і кількість взаємодій між користувачами.
Представник Salesforce ― власника Slack ― підтвердив цю заяву і запевнив, що «месенджер не розробляє і не тренує моделі так, щоб ті змогли навчатися, запам’ятовувати або відтворювати дані клієнтів».
Нагадаємо, нещодавно Sony Music заборонила технологічним компаніям і потоковим сервісам навчати ШІ на її музиці.
