Виталик Бутерин рассказал о потенциальной угрозе ИИ для человечества
- Основатель проекта Ethereum заявил, что ИИ способен стать новым высшим видом на Земле.
- Бутерин видит угрозу в бесконтрольном развитии этой технологии.
- По мнению программиста, сверхразумный ИИ может обернуться против человечества и уничтожить его.
Сооснователь проекта Ethereum Виталик Бутерин рассказал о своем отношении к концепции технооптимизма и потенциальной угрозе искусственного интеллекта для человечества. По мнению разработчика, стремительное и бесконтрольное развитие ИИ может обернуться катастрофой для людей.
В своем блоге Бутерин заявил, что автоматизация и технологии принесли человечеству недооцененную выгоду, повлияв на комфорт жизни. Часть этих улучшений поддаются количественной оценке, часть — нет, но все они преобразовывали существование человека и способствовали его дальнейшему развитию, отмечает сооснователь Ethereum.
В ХХI веке есть большая вероятность, что нас ждет еще более радикальные улучшения, заявил Бутерин. Если в течение следующих 75 лет биотехнология продвинется так же далеко, как компьютеры за тот же период, будущее может превзойти самые смелые ожидания, по мнению разработчика.
В то же время Виталик Бутерин указал на риски для человечества, связанные со стремительным развитием технологий. Одна из ключевых угроз кроется в искусственном интеллекте, который имеет все шансы превзойти людей и стать новым высшим видом на Земле, отмечает разработчик.
«ИИ — это новый тип разума, который быстро набирает силу, и у него есть серьезные шансы обогнать человека по умственным способностям, став новым видом доминирующим видом на планете», — пишет Бутерин.
По словам сооснователя Ethereum, в отличие от изменения климата, искусственной пандемии или ядерной войны, сверхразумный ИИ потенциально может положить конец человечеству и не оставить никого в живых.
К примеру, Центр безопасности ИИ в мае 2023 года приравнял искусственный интеллект к экзистенциональным угрозам для людей.
Риск такого развития событий усиливается, если в конечном итоге ИИ будет рассматривать людей как угрозу своему выживанию, указывает Бутерин. Даже на Марсе человечество не сможет укрыться, считает разработчик.
Чтобы избежать такого сценария, люди могут улучшить возможности собственного организма. Бутерин предлагает интегрировать в мозг человека интерфейс, который позволяет подключаться к компьютеру. Это даст возможность контролировать большие объемы информации и расширить вычислительные мощности людей.
Бутерин назвал людей «самой яркой звездой» во Вселенной, поскольку человечество разработало технологию, позволяющую расширить его потенциал на тысячи лет вперед. Однако для дальнейшего удержания лидирующей позиции как вида, людям необходимо научится управлять ИИ и разработать меры, которые позволят держать его под контролем, пишет сооснователь Ethereum.
Напомним, ранее мы писали, что Виталик Бутерин описал «четыре основных риска», связанных с Worldcoin.
