«Ojciec chrzestny AI» rezygnuje z pracy w Google i ostrzega przed zagrożeniami związanymi z tą technologią
- Stwierdził, że boi się swojego wynalazku
- Rzekomo AI uczy się znacznie więcej informacji, a w pewnym momencie proces ten stanie się niekontrolowany
Dr Jeffrey Hinton, znany również jako «ojciec chrzestny AI», oficjalnie opuścił Google i dołączył do obozu krytyków tej technologii. W wywiadzie dla NYT mówił o ryzyku związanym z rozprzestrzenianiem się oprogramowania opartego na AI i potencjalnym zagrożeniu, jakie stanowi.
«Pocieszam się myślą, że nawet gdybym ja zrezygnował z pracy, zrobiłby to ktoś inny» — powiedział Hinton.
W 2012 roku wraz z dwoma swoimi absolwentami z Uniwersytetu w Toronto stworzył technologię, która później stała się podstawą ChatGPT. Nowoczesne modele sztucznej inteligencji opierają się na pracy Hintona.
Przez ponad 10 lat pracował na pół etatu w Google, świadcząc usługi konsultingowe. Teraz oficjalnie zrezygnował z pracy w firmie i apeluje do społeczeństwa, aby nie ignorowało potencjalnych zagrożeń wynikających z aktywnego wdrażania i rozwijania AI.
Konsekwencje w krótkim okresie czasu
«Myślałem, że to się stanie za 30-50 lat. Ale teraz widzę, że byłem w błędzie» — Hinton.
Wśród krótkoterminowych zagrożeń wynikających z globalnego rozpowszechnienia AI doktor wymienia utratę miejsc pracy, rozprzestrzenianie się fałszywych treści, dewaluację osiągnięć akademickich i wiele innych.
Hinton zwraca uwagę, że AI jest nieporównywalna z inteligencją czynnika biologicznego. Przyswaja znacznie więcej informacji, w sposób niekontrolowany i na bieżąco.
A w dłuższej perspektywie czasowej
«Załóżmy, że mam 1000 agentów komputerowych. Wszyscy są wzorowani na tej samej bazie danych. Jeden z nich uczy się czegoś nowego. I natychmiast staje się to znane wszystkim pozostałym. Ludzie nie są w stanie tego zrobić» — powiedział lekarz.
W pewnym momencie ilość wiedzy AI stanie się niezrozumiała dla człowieka. Wtedy model faktycznie przestanie być kontrolowany, a co będzie potem, to już nikt nie zgadnie.
W marcu, gdy Hinton pracował jeszcze w Google, zadano mu pytanie o to, czy AI może zniszczyć ludzkość. Odpowiedział krótko: «Istnieje taka możliwość. To wszystko, co mogę powiedzieć». Wcześniej zwracaliśmy uwagę na list otwarty FOLI, w którym organizacja wezwała do wstrzymania prac nad nowymi wersjami oprogramowania opartego na AI. Wśród jego sygnatariuszy jest Elon Musk. CEO Twittera poważnie wierzy, że ta technologia może zniszczyć naszą cywilizację.
