Anthropic наняла экс-руководителя группы OpenAI по контролю за ИИ

• Бывший ведущий ИИ-сотрудник стартапа OpenAI возглавит команду «сверхсогласованности» в компании Anthropic.
• Он займется «масштабируемым надзором за искусственным интеллектом, обобщением от слабого к сильному и автоматизированным исследованием согласования».

Ведущий ИИ-исследователь Ян Лейке, ранее покинувший стартап OpenAI из-за «проблем с безопасностью», присоединился к компании в области искусственного интеллекта Anthropic. Он возглавит новую команду «сверхсогласованности».

Лейке заявил, что сосредоточится на различных аспектах безопасности и защиты ИИ, включая «масштабируемый надзор», «обобщение от слабого к сильному» и исследования автоматического согласования.

По данным TechCrunch, он будет подчиняться непосредственно главному научному сотруднику Anthropic Джареду Каплану. Также известно, что исследователи стартапа, занимающиеся масштабируемым надзором, перейдут в подчинение к Лейке после становления команды.

Его роль в Anthropic соответствует бывшей позиции в OpenAI. Там специалист руководил уже расформированной группой Superalignment по обеспечению работы интеллектуальных систем в соответствии с человеческими ценностями.

После ухода Лейке раскритиковал лабораторию искусственного интеллекта, заявив, что «ее культура безопасности и процессы отошли на второй план, уступив место блестящим продуктам».

Напомним, недавно соучредитель и ведущий научный сотрудник ИИ-лаборатории OpenAI Илья Суцкевер покинул компанию.