Anthropic профінансує створення нового бенчмарка для оцінювання ШІ
- Anthropic оголосила про старт ініціативи зі створення стороннього бенчмарка для оцінювання ефективності та впливу ШІ-технологій.
- Йдеться про ПЗ сторонніх компаній, здатне провести комплексний аналіз можливостей моделей штучного інтелекту.
- Anthropic має намір фінансувати розробку нової системи оцінок і вже почала приймати заявки від зацікавлених осіб.
Стартап Anthropic заявив про запуск ініціативи з розроблення спеціального бенчмарка для ШІ-проєктів. Він має впровадити нові принципи оцінювання можливостей і загроз із боку штучного інтелекту, підкреслили в компанії.
Згідно з пресрелізом, фірма має намір надавати фінансування стороннім розробникам, які займуться створенням такого ПЗ. Представники стартапу підкреслили, що йдеться про команди, чиї проєкти зможуть «ефективно вимірювати передові можливості ШІ-моделей».
За заявою Anthropic, приймання заявок на участь в ініціативі вже стартувало. При цьому компанія має намір регулярно проводити аналіз команд, їхнього прогресу і перспектив.
«Наша команда розглядатиме заявки на постійній основі та стежитиме за обраними пропозиціями для обговорення наступних кроків. Ми пропонуємо низку варіантів фінансування, адаптованих до потреб і стадії кожного проєкту», — заявили представники ШІ-стартапу.
В Anthropic зазначають, що компанія націлена на три основні напрямки розвитку оцінки. Йдеться про такі пункти:
- аналіз рівня безпеки ШІ;
- інфраструктура, інструменти та методи розробки оцінок;
- розширені можливості та показники безпеки.
Кожен із цих розділів включає велику кількість підпунктів. Стартап планує оцінювати такі фактори, як кіберзахист, біологічні та ядерні ризики, автономність ШІ-моделі, шкідливість і відмови, соціальний вплив і багато інших.
Крім цього, Anthropic перерахувала низку помилок, які компанія виявила під час власної роботи з ШІ. До них представники стартапу віднесли понад десяток пунктів, включно зі складністю проєкту, масштабованістю, необхідністю експертизи в предметній галузі та низкою інших особливостей.
«Ми сподіваємося, що ця ініціатива стане каталізатором прогресу на шляху до майбутнього, де комплексне оцінювання ШІ стане галузевим стандартом. Ми запрошуємо вас приєднатися до нас у цій важливій роботі та допомогти сформувати шлях уперед», — заявили в компанії.
Раніше стало відомо, що Anthropic найняла екскерівника групи OpenAI з контролю за ШІ Яна Лейке. Експерт очолив нову команду «надузгодженості».
Нагадаємо, криптовалютна біржа FTX, яка зазнала краху, продала залишок акцій Anthropic. Компанія виручила за цінні папери $450 млн.
