«Крестный отец ИИ» уволился из Google и предупреждает о рисках этой технологии
- Он заявил, что побаивается своего изобретения
- Якобы ИИ усваивает гораздо больше информации, и в определенный момент этот процесс станет бесконтрольным
Доктор Джеффри Хинтон, также известный как «Крестный отец ИИ», официально покинул Google и присоединился к лагерю критиков этой технологии. В интервью для NYT он рассказал о рисках распространения ПО на базе ИИ и той потенциальной угрозе, которую это несет.
«Я утешаю себя мыслью о том, что даже откажись я от своей работы это сделал бы кто-то другой» — заявляет Хинтон.
В 2012 году он и двое его аспирантов в Университете Торонто создали технологию, которая позднее ляжет в основу ChatGPT. Именно на работе Хинтона базируются современные модели искусственного интеллекта.
Более 10 лет он работал «на полставки» в Google, оказывая консультационные услуги. Теперь он официально уволился из компании и призывает общественность не игнорировать потенциальные риски от активного внедрения и развития ИИ.
Последствия в краткосрочной перспективе
«Я думал, что это произойдет лет через 30-50. Но теперь я вижу, что ошибался» — Хинтон.
К числу краткосрочных рисков от глобального распространения ИИ доктор относит потерю рабочих мест, распространение фейкового контента, обесценивание академических достижений и многое другое.
Хинтон указывает на то, что ИИ несопоставим с интеллектом биологического агента. Он усваивает куда больше информации, бесконтрольно и на постоянной основе.
И в долгосрочной
«Скажем у меня есть 1000 компьютерных агентов. Все они смоделированы на одной базе. Один из них узнает что-то новое. И тут же это становится известным всем остальным. Люди так не умеют» — отметил доктор.
В определенный момент объем знаний ИИ станет не постижимым для человека. Тогда модель фактически перестанет быть подконтрольной, и что последует за этим остается только догадываться.
В марте, когда Хинтон еще работал в Google, ему задали вопрос о том, может ли ИИ уничтожить человечество. Он ответил кратко: «Такая вероятность есть. Это все, что я могу сказать». Ранее мы освещали открытое письмо от FOLI, в котором организация призывала приостановить работу над новыми версиями ПО на базе ИИ. Среди его подписантов есть и Илон Маск. Глава Twitter всерьез считает, что эта технология может уничтожить нашу цивилизацию.
