Ексспівробітники OpenAI та Google зажадали дати персоналу право говорити про ризики ШІ
- Колишні та чинні ШІ-фахівці написали відкритий лист зі зверненням до індустрії.
- Вони вимагають дозволити співробітникам компаній попереджати громадськість про небезпеку штучного інтелекту.
- Експерти вимагають, щоб фірми перестали переслідувати персонал за такі висловлювання.
Колишні співробітники стартапу OpenAI, компанії Google DeepMind і низка інших фахівців зі сфери ШІ написали відкритого листа представникам індустрії. Вони вимагають, щоб фірми дозволили своєму персоналу висловлювати побоювання щодо технологій на базі штучного інтелекту.
Люди, які підписали звернення, заявляють, що хоча ШІ може принести значну користь людству, він також несе серйозні ризики для всього світу. До таких факторів експерти віднесли «подальше посилення наявної нерівності, маніпуляції та дезінформацію, втрату контролю над автономними системами ШІ».
На думку експертів, компанії з цього сегмента часто приховують інформацію про реальні можливості, обмеження і ступінь ризику підконтрольних їм систем.
При цьому вони мають мінімальні зобов’язання перед владою щодо надання даних. Перед громадянським суспільством такі фірми зовсім не звітують, підкреслюють автори листа.
«Поки за цими корпораціями не буде ефективного державного нагляду, нинішні та колишні співробітники є одними з небагатьох людей, які можуть притягнути їх до відповідальності перед суспільством», — ідеться в посланні.
Чинні угоди про нерозголошення забороняють персоналу озвучувати побоювання і попереджати оточення про потенційну небезпеку, зазначають ті, хто підписався. За їхніми словами, у разі порушення цих вимог компанії займаються цілеспрямованим переслідуванням своїх співробітників.
Автори листа закликали ШІ-фірми дотримуватися чотирьох ключових принципів:
- не спиратися на угоди, що обмежують право критики, пов’язаної з побоюваннями щодо технологій штучного інтелекту;
- сприяти анонімному процесу, що дозволяє співробітникам повідомити про виявлені ризики;
- підтримувати культуру розумної критики;
- відмовитися від переслідування персоналу в разі розголошення інформації про згадані ризики ШІ.
Серед осіб, які підписали відкрите послання, значаться ексспівробітники OpenAI Джейкоб Гілтон, Вільям Сондерс, Керролл Вейнрайт та інші. Співавторами листа також виступили колишні фахівці Google DeepMind Рамана Кумар і Ніл Нанда.
Раніше з’явилася інформація, що OpenAI змушувала співробітників, які залишали компанію, вибирати між збереженням акцій і можливістю виступити проти стартапу.
CEO компанії Сем Альтман підтвердив існування такого пункту. Водночас він заявив, що OpenAI «ніколи не відбирала акції, що належать комусь, і не планує це робити, якщо людина не підпише NDA (або відмовиться не критикувати стартап)».
Нагадаємо, ми писали, що OpenAI заплатить $250 млн за навчання ШІ на статтях із WSJ.
