Угрозу от ИИ приравняли к пандемии и ядерной войне

CAIS опубликовал новое открытое обращение В нем Центр призывает к «снижению рисков» от ИИ Его подписал, в том числе, и доктор Джеффри Хинтон Обращение уже успели раскритиковать сторонники «другого лагеря» Центр безопасности ИИ (CAIS) опубликовал открытое обращение с требованием минимизировать потенциальные риски технологии. В нем угроза от искусственного интеллекта для человечества сопоставляется с ядерным конфликтом и пандемией Covid-19. Ознакомиться с документом можно по ссылке. Его подписали главы технокомпаний, ведущие эксперты в этой области, сетевые инженеры и многие другие. Среди них есть, например, доктор Джеффри Хинтон, более известный как «Крестный отец ИИ». «Минимизация риска гибели нашей цивилизации из-за ИИ должно стать глобальным приоритетом наряду с прочими угрозами мирового уровня, как, например, пандемия или ядерная война» — приводит вытяжку из обращения Дэн Хендрикс, глава Центра. Интересно, что далеко не все разделяют мнение CAIS и подписантов обращения. Так, например, некоторые эксперты в сфере ИИ выступают за поддержку отрасли, а не ее бездумное ограничение. Вот так, например, ситуацию видит глава подразделения искусственного интеллекта Meta Янн ЛеКун: «Продвинутый ИИ даже близко не в топе экзистенциональных рисков. По большей части потому, что его еще попросту нет. До тех пор, пока технология остается в зачаточном состоянии, бессмысленно обсуждать меры для соблюдения безопасности». Также примечательно то, что среди подписантов обращения есть представители и даже главы компаний, которые занимаются разработкой продуктов на базе ИИ. Позиция Центра и предлагаемые им меры до конца не ясны, как и необходимые дальнейшие действия для предотвращения «угрозы». Именно поэтому публикации CAIS часто называют просто популистским жестом.