«Ojciec chrzestny AI» rezygnuje z pracy w Google i ostrzega przed zagrożeniami związanymi z tą technologią

Stwierdził, że boi się swojego wynalazku Rzekomo AI uczy się znacznie więcej informacji, a w pewnym momencie proces ten stanie się niekontrolowany Dr Jeffrey Hinton, znany również jako «ojciec chrzestny AI», oficjalnie opuścił Google i dołączył do obozu krytyków tej technologii. W wywiadzie dla NYT mówił o ryzyku związanym z rozprzestrzenianiem się oprogramowania opartego na AI i potencjalnym zagrożeniu, jakie stanowi. «Pocieszam się myślą, że nawet gdybym ja zrezygnował z pracy, zrobiłby to ktoś inny» — powiedział Hinton. W 2012 roku wraz z dwoma swoimi absolwentami z Uniwersytetu w Toronto stworzył technologię, która później stała się podstawą ChatGPT. Nowoczesne modele sztucznej inteligencji opierają się na pracy Hintona. Przez ponad 10 lat pracował na pół etatu w Google, świadcząc usługi konsultingowe. Teraz oficjalnie zrezygnował z pracy w firmie i apeluje do społeczeństwa, aby nie ignorowało potencjalnych zagrożeń wynikających z aktywnego wdrażania i rozwijania AI. Konsekwencje w krótkim okresie czasu «Myślałem, że to się stanie za 30-50 lat. Ale teraz widzę, że byłem w błędzie» — Hinton. Wśród krótkoterminowych zagrożeń wynikających z globalnego rozpowszechnienia AI doktor wymienia utratę miejsc pracy, rozprzestrzenianie się fałszywych treści, dewaluację osiągnięć akademickich i wiele innych. Hinton zwraca uwagę, że AI jest nieporównywalna z inteligencją czynnika biologicznego. Przyswaja znacznie więcej informacji, w sposób niekontrolowany i na bieżąco. A w dłuższej perspektywie czasowej «Załóżmy, że mam 1000 agentów komputerowych. Wszyscy są wzorowani na tej samej bazie danych. Jeden z nich uczy się czegoś nowego. I natychmiast staje się to znane wszystkim pozostałym. Ludzie nie są w stanie tego zrobić» — powiedział lekarz. W pewnym momencie ilość wiedzy AI stanie się niezrozumiała dla człowieka. Wtedy model faktycznie przestanie być kontrolowany, a co będzie potem, to już nikt nie zgadnie. W marcu, gdy Hinton pracował jeszcze w Google, zadano mu pytanie o to, czy AI może zniszczyć ludzkość. Odpowiedział krótko: «Istnieje taka możliwość. To wszystko, co mogę powiedzieć». Wcześniej zwracaliśmy uwagę na list otwarty FOLI, w którym organizacja wezwała do wstrzymania prac nad nowymi wersjami oprogramowania opartego na AI. Wśród jego sygnatariuszy jest Elon Musk. CEO Twittera poważnie wierzy, że ta technologia może zniszczyć naszą cywilizację.