Віталік Бутерін розповів про потенційну загрозу ШІ для людства
- Співзасновник проєкту Ethereum заявив, що ШІ здатний стати новим вищим видом на Землі.
- Бутерін бачить загрозу в безконтрольному розвитку цієї технології.
- На думку програміста, надрозумний ШІ може обернутися проти людства і знищити його.
Співзасновник проєкту Ethereum Віталік Бутерін розповів про своє ставлення до концепції технооптимізму і потенційної загрози штучного інтелекту для людства. На думку розробника, стрімкий і безконтрольний розвиток ШІ може обернутися катастрофою для людей.
У своєму блозі Бутерін заявив, що автоматизація і технології принесли людству недооцінену вигоду, вплинувши на комфорт життя. Частина цих поліпшень піддаються кількісній оцінці, частина — ні, але всі вони перетворювали існування людини та сприяли її подальшому розвитку, зазначає співзасновник Ethereum.
У ХХI столітті є велика ймовірність, що на нас чекає ще радикальніші поліпшення, заявив Бутерін. Якщо протягом наступних 75 років біотехнологія просунеться так само далеко, як комп’ютери за той самий період, майбутнє може перевершити найсміливіші очікування, на думку розробника.
Водночас Віталік Бутерін вказав на ризики для людства, пов’язані зі стрімким розвитком технологій. Одна з ключових загроз криється в штучному інтелекті, який має всі шанси перевершити людей і стати новим вищим видом на Землі, зазначає розробник.
«ШІ — це новий тип розуму, який швидко набирає силу, і в нього є серйозні шанси обігнати людину за розумовими здібностями, ставши новим видом, що домінує видом на планеті», — пише Бутерін.
За словами співзасновника Ethereum, на відміну від зміни клімату, штучної пандемії або ядерної війни, надрозумний ШІ потенційно може покласти кінець людству і не залишити нікого в живих.
Приміром, Центр безпеки ШІ у травні 2023 року прирівняв штучний інтелект до екзистенційних загроз для людей.
Ризик такого розвитку подій посилюється, якщо в кінцевому підсумку ШІ розглядатиме людей як загрозу своєму виживанню, вказує Бутерін. Навіть на Марсі людство не зможе сховатися, вважає розробник.
Щоб уникнути такого сценарію, люди можуть поліпшити можливості власного організму. Бутерін пропонує інтегрувати в мозок людини інтерфейс, який дає змогу підключатися до комп’ютера. Це дасть можливість контролювати великі обсяги інформації та розширити обчислювальні потужності людей.
Бутерін назвав людей «найяскравішою зіркою» у Всесвіті, оскільки людство розробило технологію, яка дає змогу розширити його потенціал на тисячі років уперед. Однак для подальшого утримання провідної позиції як виду, людям необхідно навчитися керувати ШІ та розробити заходи, які дадуть змогу тримати його під контролем, пише співзасновник Ethereum.
Нагадаємо, раніше ми писали, що Віталік Бутерін описав «чотири основні ризики», пов’язані з Worldcoin.
