Nadciągająca era AI agentów
Już ponad dekadę temu, „perceptywne AI” umożliwiło nam odkrywanie wzorców lub anomalii w danych i przewidywanie przyszłych zdarzeń. Wówczas jednak inteligencja AI była ograniczona do znanych odpowiedzi na wcześniej postawione pytania, takie jak rozpoznawanie obrazów czy identyfikacja pieszych. Teraz wraz z pojawieniem się „generatywnego AI” możemy tworzyć nowe treści, jak teksty, obrazy, czy filmy, bazując na podanych przez nas danych.
W tle rozwija się „agentowe AI”, które wprowadza na scenę cyfrowych agentów. Te inteligentne jednostki uczą się od nas, analizują problemy w kilku krokach i podejmują samodzielne decyzje. Tego rodzaju AI może rozwiązywać złożone kwestie, angażując się we współdziałanie z innymi agentami, co pozwala im odpowiadać i działać. Wyobraźmy sobie, że agenci prognozujący w łańcuchu dostaw przewidują potrzeby klientów, angażują agentów obsługi klienta i odpowiednio dostosowują stany magazynowe. Dzięki temu każdy pracownik intelektualny może korzystać z niezwykłych możliwości, wspierany przez agentów zadaniowych specjalizujących się w danych dziedzinach.
Problem rosnącego „shadow AI”
Rosnące wykorzystanie generatywnego, a wkrótce także agentowego AI, staje się wyzwaniem dla zespołów IT. Problem przypomina „shadow IT”, gdzie poszczególne działy, bez wiedzy IT, pozyskiwały swoje własne zasoby. W dzisiejszych czasach pojawia się „shadow AI”, uderzając w biznes na dwóch frontach.
Rozprzestrzenianie się aplikacji AI dla konsumentów
Wiele jednostek biznesowych korzysta z tych aplikacji, powierzając im poufne dane i własność intelektualną, często angażując się z usługami, które nie są odpowiednio zabezpieczone. To tworzy olbrzymie ryzyko dla zarządzania w większości firm.
Samodzielne silosy programistów
Wielu programistów tworzy własne silosy IT dla swoich projektów. Większość z nich nie ma świadomości istnienia innych, podobnych działań, co zwiększa koszty operacyjne i prowadzi do utraty zasobów, jak infrastruktura, która następnie jest nieefektywnie wykorzystywana. Największym problemem jest jednak utrata możliwości dzielenia się wiedzą i doświadczeniem oraz optymalizacja wspólnych praktyk tworzenia aplikacji AI.
Fabryka AI oparta na Nvidia DGX z Blackwell
Firmy dzisiaj generują wartość poprzez wnioski i odpowiedzi napędzane inteligencją, co wyróżnia je na tle konkurencji. Poprzednie rewolucje przemysłowe zmieniły branże — od pary, poprzez elektryczność, po oprogramowanie komputerowe. Obecnie żyjemy w erze AI, gdzie produkcja inteligencji staje się kluczowym elementem każdej działalności. Wytwarzanie cyfrowej inteligencji na szeroką skalę wymaga nowych typów fabryk – mianowicie „fabryk AI”.
Te fabryki stają się kluczową infrastrukturą dla firm, gdzie mogą one posiadać własne AI „centra doskonałości” — jedną, zintegrowaną platformę dla ludzi, procesów i infrastruktury, co przynosi istotne korzyści: rozwijanie talentów AI wewnętrznie, standardyzacja narzędzi oraz praktyk, a także maksymalizacja wykorzystania sprzętu.
Aby sprostać wymaganiom stawianym przez duże modele językowe, agentowe AI i to, co nadejdzie, stworzyliśmy platformę Nvidia DGX jako silnik napędzający fabryki AI. Firmy zaczynają budować swoje platformy, które wymagają wielu różnorodnych modeli specjalistycznych współpracujących w niezwykle krótkim czasie, aby rozwiązywać złożone problemy.
Sprzęt Nvidia DGX, wspierany przez procesory Intel Xeon, wykorzystuje akceleratory Nvidia Blackwell z nowoczesną architekturą zoptymalizowaną pod kątem AI agentów, zapewniając piętnastokrotnie większą wydajność inferencji przy dwunastokrotnie większej efektywności energetycznej. Ta platforma obejmuje wysokiej klasy oprogramowanie developerskie i do zarządzania infrastrukturą, przyspieszając rozwój od etapu budowy do wdrożenia, wspierając jednocześnie dalsze dostrajanie modeli.
Realne rezultaty już teraz
Analiza wdrożeń fabryki AI przez Nvidia wykazała wiele korzyści przeciwdziałających zjawisku shadow AI, poprawiając czas wprowadzenia na rynek, wydajność i wykorzystanie infrastruktury. Klienci platformy Nvidia DGX podzielili się następującymi korzyściami: sześciokrotnym wzrostem wydajności infrastruktury w porównaniu do starszej infrastruktury IT, o 20% większą wydajnością pracowników w dziedzinie AI, oraz 90% wykorzystaniem infrastruktury.
Zazwyczaj takie korzyści były dostępne tylko dla dużych dostawców usług, którzy dysponowali doświadczeniem w operacjach na infrastrukturze wysokiej wydajności. Rzeczywistość pokazuje, że nawet „eksperci” przyznają, że często nie są w stanie dostarczyć oczekiwanych efektów, zadowalając się typowym współczynnikiem 20-30% wykorzystania infrastruktury. Obecnie każda firma ma możliwość posiadania platformy o parametrach zbliżonych do dużych dostawców usług, łatwiejszej do zdobycia.
