Zagrożenie ze strony sztucznej inteligencji jest zrównane z pandemią i wojną nuklearną
- CAIS publikuje nowy otwarty apel
- Centrum wzywa w nim do «ograniczenia ryzyka» związanego ze sztuczną inteligencją
- Został on podpisany między innymi przez dr Jeffreya Hintona
- Apel został już skrytykowany przez zwolenników «drugiego obozu»
Centrum Bezpieczeństwa Sztucznej Inteligencji (CAIS) opublikowało otwarty apel, w którym domaga się zminimalizowania potencjalnego ryzyka związanego z tą technologią. Porównuje w nim zagrożenie sztucznej inteligencji dla ludzkości z konfliktem nuklearnym i pandemią Covid-19.
Dokument jest dostępny tutaj. Został on podpisany przez szefów firm technologicznych, czołowych ekspertów w tej dziedzinie, inżynierów sieciowych i wielu innych. Wśród nich jest dr Jeffrey Hinton, lepiej znany jako ojciec chrzestny sztucznej inteligencji.
«Zminimalizowanie ryzyka zniszczenia naszej cywilizacji przez sztuczną inteligencję powinno być globalnym priorytetem, obok innych globalnych zagrożeń, takich jak pandemia czy wojna nuklearna» —cytuje przemówienie Dan Hendricks, przewodniczący Centrum.
Co ciekawe, nie wszyscy podzielają opinię CAIS i sygnatariuszy apelu. Przykładowo, niektórzy eksperci od sztucznej inteligencji opowiadają się za wspieraniem branży, a nie jej bezmyślnym ograniczaniem.
Tak sytuację widzi Jann LeCun, szef działu sztucznej inteligencji w firmie Meta:
«Zaawansowana sztuczna inteligencja nie jest nawet blisko szczytu zagrożeń egzystencjalnych. Głównie dlatego, że po prostu jeszcze nie istnieje. Dopóki technologia pozostaje w powijakach, nie ma sensu dyskutować o środkach bezpieczeństwa»
Warto również zauważyć, że wśród sygnatariuszy apelu znajdują się przedstawiciele, a nawet szefowie firm opracowujących produkty oparte na sztucznej inteligencji.
Stanowisko Centrum i proponowane środki nie są w pełni zrozumiałe, podobnie jak konieczne dalsze działania mające na celu zapobieganie «zagrożeniu». Dlatego też publikacje CAIS często określane są mianem populistycznego gestu.
