Microsoft відзвітувала про зусилля в галузі відповідального ШІ
- Компанія поділилася звітом про прозорість штучного інтелекту за 2023 рік, де описала зусилля зі створення відповідального ШІ.
- Техногігант розробив 30 таких інструментів, розширив команду розробників і зобов’язав творців генеративного штучного інтелекту реєструвати ризики безпеки.
Корпорація Microsoft опублікувала звіт про прозорість ШІ за 2023 рік. У ньому компанія описала досягнення в розгортанні відповідальних систем штучного інтелекту.
Щорічний звіт про прозорість ШІ — одне із зобов’язань, які техногігант узяв на себе після підписання добровільної угоди з Білим домом у липні 2023 року. Microsoft та інші компанії пообіцяли створити відповідальні системи штучного інтелекту і забезпечити безпеку.
Згідно зі звітом корпорації, за останній рік вона реалізувала 30 таких інструментів. Також фірма розширила команду з відповідального ШІ та зажадала від розробників генеративних систем штучного інтелекту вимірювати та відображати ризики протягом усього циклу створення.
Компанія зазначила, що додала функцію «Облікові дані для вмісту» до платформ генерації зображень. Вона поміщає на фотографію водяний знак, що визначає малюнок як створений за допомогою алгоритму.
За словами Microsoft, вона надала клієнтам Azure AI доступ до інструментів ідентифікації проблемного контенту на кшталт розпалювання ненависті, сексуального характеру і членоушкодження. Також вони можуть використовувати системи оцінки ризиків безпеки, включно з новими методами виявлення джейлбрейків.
Компанія також розширила зусилля зі створення «червоних команд». Вони включають як власні групи, які навмисно намагаються обійти функції безпеки в ШІ-моделях, так і додатки, що дозволяють проводити сторонні випробування перед запуском нових алгоритмів.
Однак у «червоних команд» Microsoft все ще є проблеми. Розгортання компанією штучного інтелекту не застраховане від протиріч.
У лютому 2023 року корпорація представила чат-бот Bing. Пізніше користувачі виявили, що система здатна видавати хибні факти, навчати образам на етнічному ґрунті та генерувати картинки на кшталт «Губка Боб Квадратні Штани летить на літаку до веж-близнюків».
«Відповідальний ШІ не має фінішної межі, тому ніколи не вийде вважати роботу в рамках “Добровільних зобов’язань щодо ШІ” виконаною. Але з моменту підписання угоди компанія домоглася значного прогресу і планує нарощувати темпи у 2024 році», — заявила директор з відповідального ШІ в Microsoft Наташа Кремптон The Verge.
Раніше вісім американських видань подали в суд на Microsoft і OpenAI через нібито «викрадення мільйонів» захищених авторським правом статей для навчання чат-ботів ChatGPT і Copilot.
