Виталик Бутерин предостерег от поспешного создания сверхразумного ИИ

• Сооснователь Ethereum Виталик Бутерин в X (ранее Twitter) изложил свои взгляды о развитии искусственного интеллекта.
• Он заявил о «рискованности» сверхразумного ИИ и необходимости противостоять тем, кто пытается его создать.
• Также, по мнению Бутерина, людям нужна экосистема открытых моделей, работающих на потребительском оборудовании.

Соучредитель проекта Ethereum Виталик Бутерин призвал к более осторожному подходу к исследованиям в области ИИ, назвав нынешний ажиотаж «очень рискованным».

Он изложил свои взгляды на согласованность искусственного интеллекта в ответ на пост главы компании Messari Райана Селкиса о лидерстве стартапа OpenAI.

«Сверхразумный ИИ очень рискован и не следует с ним торопиться, и необходимо противостоять тем, кто пытается это сделать», ― написал Бутерин.

Также он попросил не запускать «никаких серверных ферм стоимостью $7 трлн».

Сверхразумный ИИ ― это теоретическое представление искусственного интеллекта, превосходящего человеческий практически во всех областях. Хотя многие рассматривают общий ИИ (AGI) как окончательную реализацию всего потенциала технологии, следующим этапом могут стать сверхразумные модели.

Современные алгоритмы далеки до этого, но текущие достижения часто вызывают у общества волнение и беспокойство.

Согласно публикации Селкиса о, вероятно, главе OpenAI Сэме Альтмане, «AGI слишком важен, чтобы обожествлять еще одного болтливого нарцисса».

В ответ на это Бутерин подчеркнул необходимость разнообразной экосистемы ИИ:

«Сильная экосистема открытых моделей, работающих на потребительском оборудовании, является важным средством защиты от будущего, в котором полученная с помощью ИИ ценность станет гиперконцентрированной, а большая часть человеческих мыслей будет считываться и опосредоваться несколькими центральными серверами под управлением немногих людей».

По его мнению, такие модели также «гораздо менее опасны с точки зрения риска гибели, чем корпоративная мания величия и военные».

Бутерин также обратился к разделению алгоритмов на категории «маленькие» и «большие», где приоритетность регулирования последних «кажется разумной». Однако он выразил обеспокоенность тем, что многие текущие предложения со временем могут превратиться в «большие».

Ранее Бутерин опубликовал статью, где ответил на критику касательно централизации Ethereum.