Угрозу от ИИ приравняли к пандемии и ядерной войне
- CAIS опубликовал новое открытое обращение
- В нем Центр призывает к «снижению рисков» от ИИ
- Его подписал, в том числе, и доктор Джеффри Хинтон
- Обращение уже успели раскритиковать сторонники «другого лагеря»
Центр безопасности ИИ (CAIS) опубликовал открытое обращение с требованием минимизировать потенциальные риски технологии. В нем угроза от искусственного интеллекта для человечества сопоставляется с ядерным конфликтом и пандемией Covid-19.
Ознакомиться с документом можно по ссылке. Его подписали главы технокомпаний, ведущие эксперты в этой области, сетевые инженеры и многие другие. Среди них есть, например, доктор Джеффри Хинтон, более известный как «Крестный отец ИИ».
«Минимизация риска гибели нашей цивилизации из-за ИИ должно стать глобальным приоритетом наряду с прочими угрозами мирового уровня, как, например, пандемия или ядерная война» — приводит вытяжку из обращения Дэн Хендрикс, глава Центра.
Интересно, что далеко не все разделяют мнение CAIS и подписантов обращения. Так, например, некоторые эксперты в сфере ИИ выступают за поддержку отрасли, а не ее бездумное ограничение.
Вот так, например, ситуацию видит глава подразделения искусственного интеллекта Meta Янн ЛеКун:
«Продвинутый ИИ даже близко не в топе экзистенциональных рисков. По большей части потому, что его еще попросту нет. До тех пор, пока технология остается в зачаточном состоянии, бессмысленно обсуждать меры для соблюдения безопасности».
Также примечательно то, что среди подписантов обращения есть представители и даже главы компаний, которые занимаются разработкой продуктов на базе ИИ.
Позиция Центра и предлагаемые им меры до конца не ясны, как и необходимые дальнейшие действия для предотвращения «угрозы». Именно поэтому публикации CAIS часто называют просто популистским жестом.
