Віталік Бутерін застеріг від поспішного створення надрозумного ШІ
- Співзасновник Ethereum Віталік Бутерін в X (раніше Twitter) виклав свої погляди про розвиток штучного інтелекту.
- Він заявив про «ризикованість» надрозумного ШІ та необхідність протистояти тим, хто намагається його створити.
- Також, на думку Бутеріна, людям потрібна екосистема відкритих моделей, що працюють на споживчому обладнанні.
Співзасновник проєкту Ethereum Віталік Бутерін закликав до більш обережного підходу до досліджень у сфері ШІ, назвавши нинішній ажіотаж «дуже ризикованим».
Він виклав свої погляди на узгодженість штучного інтелекту у відповідь на пост глави компанії Messari Раяна Селкіса про лідерство стартапу OpenAI.
«Надрозумний ШІ дуже ризикований і не слід із ним поспішати, і необхідно протистояти тим, хто намагається це зробити», ― написав Бутерін.
Також він попросив не запускати «ніяких серверних ферм вартістю $7 трлн».
Надрозумний ШІ ― це теоретичне уявлення штучного інтелекту, що перевершує людський практично у всіх сферах. Хоча багато хто розглядає загальний ШІ (AGI) як остаточну реалізацію всього потенціалу технології, наступним етапом можуть стати надрозумні моделі.
Сучасні алгоритми далекі до цього, але поточні досягнення часто викликають у суспільства хвилювання і занепокоєння.
Згідно з публікацією Селкіса про, ймовірно, главу OpenAI Сема Альтмана, «AGI занадто важливий, щоб обожнювати ще одного балакучого нарциса».
У відповідь на це Бутерін наголосив на необхідності різноманітної екосистеми ШІ:
«Сильна екосистема відкритих моделей, що працюють на споживчому обладнанні, є важливим засобом захисту від майбутнього, в якому отримана за допомогою ШІ цінність стане гіперконцентрованою, а більша частина людських думок зчитуватиметься й опосередковуватиметься кількома центральними серверами під управлінням небагатьох людей».
На його думку, такі моделі також «набагато менш небезпечні з точки зору ризику загибелі, ніж корпоративна манія величі та військові».
Бутерін також звернувся до поділу алгоритмів на категорії «маленькі» і «великі», де пріоритетність регулювання останніх «здається розумною». Однак він висловив занепокоєння тим, що багато поточних пропозицій з часом можуть перетворитися на «великі».
Раніше Бутерін опублікував статтю, де відповів на критику щодо централізації Ethereum.
