AI w chmurze czy we własnym Data Center? Od czego zależy wybór modelu?
Rozwój AI stawia przed organizacjami pytanie nie tylko o moc obliczeniową, ale również o to, gdzie powinny działać kolejne rozwiązania.
Dla części firm odpowiedzią będzie własne Data Center, zapewniające bezpośrednią kontrolę nad infrastrukturą i danymi. Inne będą korzystać z zasobów chmurowych, a jeszcze inne połączą różne modele.
Wybór zależy od konkretnego zastosowania – charakteru pracy, wrażliwości danych, wymagań dotyczących opóźnień, kontroli i sposobu skalowania środowiska. Jak zatem zdecydować, który model infrastruktury odpowiada potrzebom organizacji?
Startup może zacząć od usług GPU w chmurze, ponieważ są one elastyczne i wymagają mniejszych nakładów początkowych. Firma średniej wielkości może preferować gotowe lub zarządzane rozwiązanie AI, które redukuje złożoność. Duże przedsiębiorstwo może potrzebować dedykowanej infrastruktury AI, prywatnej chmury AI lub hybrydowej AI, aby zapewnić bezpieczeństwo, zarządzanie, wydajność i skalowalność.
Dlatego na początek należy wziąć pod uwagę poniższe czynniki:
rodzaj obciążenia, np. szkolenie, dostrajanie, wnioskowanie, RAG lub generatywna sztuczna inteligencja.
rozmiar i wrażliwość danych.
wymagania dotyczące bezpieczeństwa, prywatności i zgodności.
potrzeby dotyczące procesorów graficznych i akceleratorów.
wydajność pamięci masowej i sieci.
oczekiwany model wykorzystania i kosztów.
umiejętności operacyjne i potrzeby zarządcze.
Przeanalizowanie tych wszystkich czynników ułatwi odpowiedź na pytanie, czy sztuczna inteligencja powinna działać w chmurze, centrum danych, chmurze prywatnej, na brzegu sieci czy w środowisku hybrydowym.
Własne Data Center dla obciążeń AI
W przypadku dużych organizacji własna infrastruktura może być wręcz pożądanym wyborem. Na przykład model on-premises sprawdza się szczególnie tam, gdzie przetwarzane są dane wrażliwe, kluczowe znaczenie mają niskie opóźnienia lub organizacja chce zachować pełną kontrolę nad środowiskiem AI.
Takie podejście wiąże się jednak z koniecznością odpowiedniego zaplanowania zasobów sprzętowych i pojemności oraz późniejszego utrzymania i zarządzania całym cyklem życia infrastruktury.
Przy większej skali nie chodzi przy tym wyłącznie o serwery czy akceleratory GPU. Interesująca koncepcja to „AI Factory”, opisywana jako zintegrowane środowisko obejmujące infrastrukturę, oprogramowanie, networking i usługi, zaprojektowane z myślą o przechodzeniu od pilotażu do produkcyjnego AI oraz skalowaniu rozwiązania pomiędzy użytkownikami, obciążeniami i środowiskami.
To podejście jest spójne z omawianymi wcześniej wymaganiami wobec infrastruktury AI: odpowiednio zaprojektowane zasoby obliczeniowe muszą współpracować z wydajnym storage, siecią Data Center, mechanizmami bezpieczeństwa oraz narzędziami pozwalającymi zarządzać całym środowiskiem.
Nie każde AI musi działać lokalnie
Własne Data Center jest jednym z możliwych modeli, ale należy podkreślić, że AI może działać w chmurze publicznej, private cloud, na brzegu sieci lub w środowisku hybrydowym. To zależy od workloadu, wrażliwości danych, modelu kosztowego oraz wymagań dotyczących opóźnień.
Public cloud może odpowiadać zastosowaniom wymagającym elastycznego dostępu do zasobów, eksperymentowania oraz korzystania z zarządzanych usług AI. Private cloud jest z kolei modelem dla organizacji, które chcą połączyć sposób działania charakterystyczny dla chmury z większą kontrolą nad danymi, bezpieczeństwem i infrastrukturą.
Dane mogą mieć wpływ na decyzję
Jednym z kryteriów wyboru jest wrażliwość danych. W przypadku private AI istnieje możliwość przetwarzania danych lokalnie lub w ograniczonych środowiskach, co pozwala organizacji zachować nad nimi kontrolę i ograniczać ryzyko nieautoryzowanego dostępu lub ujawnienia. Znaczenie mogą mieć również wymagania dotyczące zgodności, czy suwerenności danych.
W tym kontekście rozwijane są środowiska prywatne i odizolowane, w których organizacje mogą zachować kontrolę nad danymi i systemami. Nie oznacza to, że dane wrażliwe automatycznie wykluczają chmurę publiczną. Oznacza natomiast, że charakter danych jest jednym z elementów, które należy uwzględnić przy wyborze miejsca działania AI.
A może kilka modeli jednocześnie?
Wybór nie musi sprowadzać się do decyzji „chmura albo własne Data Center”. Na uwagę zasługuje również model hybrydowy, w którym zasoby mogą być rozłożone pomiędzy cloud, on-premises, private cloud i edge.
Takie podejście odpowiada organizacjom potrzebującym elastyczności, kontroli nad danymi oraz możliwości odpowiedniego rozmieszczania workloadów. Ma to szczególne znaczenie, gdy AI przestaje być pojedynczym projektem.
Kolejne zastosowania mogą mieć różne wymagania, dlatego środowisko wykorzystane do pierwszego projektu nie musi być właściwym miejscem dla wszystkich następnych.
Od pierwszego projektu do skalowania AI
Na koniec należy także podkreślić, że wraz ze wzrostem skali znaczenia nabiera możliwość rozwijania infrastruktury Jednym z ciekawszych rozwiązań jest dostarczane przez nas, HPE Private Cloud AI, które umożliwia niezależne skalowanie zasobów compute i storage wraz ze zmianą zapotrzebowania, a jego modułowa konstrukcja pozwala rozpoczynać od mniejszego środowiska i rozwijać je wraz z potrzebami.
Dlatego decyzji o infrastrukturze dla AI nie warto sprowadzać wyłącznie do pytania: chmura czy własne Data Center? W pierwszej kolejności trzeba określić obciążenia, wymagania dotyczące danych, wydajności i kontroli oraz sposób, w jaki środowisko ma się rozwijać. Dopiero wtedy można dobrać model infrastruktury odpowiadający konkretnemu zastosowaniu. Jeśli masz pytania, wątpliwości – zapytaj naszych ekspertów.
