Microsoft zaprezentował nową metodę szkolenia sztucznej inteligencji

• Pracownicy Microsoft opublikowali artykuł naukowy na temat nowej koncepcji szkolenia LLM – Algorithm of Thoughts.
• Ma ona na celu uczynienie rozwiązań programowych opartych na sztucznej inteligencji bardziej “ludzkimi”.
• Koncepcja ta może również przyspieszyć szkolenie modeli, czyniąc je bardziej efektywnym i mniej kosztownym.

Microsoft wprowadził koncepcję Algorithm of Thoughts (AoT). Jest to nowy mechanizm szkolenia dużych modeli językowych (LLM). Firma twierdzi, że ma on potencjał zrewolucjonizowania sektora sztucznej inteligencji.

Zgodnie z opublikowanym artykułem, AoT prowadzi LLM bardziej zoptymalizowaną ścieżką rozwiązywania problemów. Mechanizm ten opiera się na uczeniu kontekstowym, co pozwala modelowi na badanie różnych rozwiązań.

Kontrastuje to z metodologiami Chain of Thoughts (CoT) i Tree of Thoughts (ToT). Pierwsza z nich obejmuje liniowe “łańcuchowe” uczenie się, a druga wymaga użycia wielu zapytań.

“Nasza koncepcja przewyższa CoT i jest na równi z niedawno zaproponowanym mechanizmem z wieloma zapytaniami ToT. Osiągnięte wyniki badań pokazują, że trenowanie modelu z algorytmem spowoduje, że jego wydajność będzie lepsza niż jego własna” – czytamy w artykule.

W dłuższej perspektywie AoT sprawi, że rozwiązania programowe oparte na sztucznej inteligencji będą bardziej “ludzkie”, podkreśliła firma. Ponadto metodologia ta zoptymalizuje proces, minimalizując koszty i czas szkolenia.

Główną ideą stojącą za AoT jest przejście od nadzorowanego wyszukiwania do wdrożenia autonomicznego mechanizmu uczenia się. W dłuższej perspektywie podejście to pozwoli modelom LLM na rozwiązywanie złożonych problemów przy niewielkiej liczbie podpowiedzi. W tym samym czasie model będzie również wykorzystywał zewnętrzne narzędzia, dzięki czemu wynik będzie bardziej pouczający.

Microsoft i sektor sztucznej inteligencji

Na początku 2023 r. firma zainwestowała “miliardy dolarów” w OpenAI, twórcę bota ChatGPT. Natychmiast po wydaniu tego ostatniego ogłosiła integrację oprogramowania ze swoimi produktami – Bing i Edge.

Później firma została nawet oskarżona o nieetyczne zachowanie, gdy Microsoft rozwiązał odpowiedni dział spowalniając wydanie ChatGPT. Jednak już w maju 2023 r. organizacja wezwała władze do przyspieszenia przygotowania ram regulacyjnych dla sektora.