Nowość ·

Dell i NVIDIA przyspieszają rozwój autonomicznej AI. Nowe serwery PowerEdge i rozszerzenie Dell AI Factory

Dell Technologies ogłosił kolejne rozszerzenie platformy Dell AI Factory with NVIDIA. Nowe rozwiązania obejmują serwery PowerEdge zoptymalizowane pod agentów AI, komputery do lokalnego przetwarzania modeli oraz modułowe centra danych.

Źródło: Dell Technologies

Dell Technologies ogłosił kolejne rozszerzenie platformy Dell AI Factory with NVIDIA. Nowe rozwiązania obejmują serwery PowerEdge zoptymalizowane pod agentów AI, komputery do lokalnego przetwarzania modeli oraz modułowe centra danych. Kierunek zmian jest wyraźny: sztuczna inteligencja ma przejść od eksperymentów do pełnoprawnych procesów biznesowych.

Od generatywnej AI do autonomicznych agentów

Dotychczas wiele przedsiębiorstw wykorzystywało sztuczną inteligencję przede wszystkim do generowania tekstu, analizy dokumentów, wyszukiwania informacji czy wspomagania pracowników.

Nowa generacja rozwiązań idzie znacznie dalej.

Agenci AI potrafią samodzielnie planować zadania, komunikować się z systemami informatycznymi, uruchamiać narzędzia i realizować wieloetapowe procesy.

Takie środowiska wymagają jednak innej architektury niż tradycyjne systemy wykorzystujące modele językowe.

Oprócz wydajnych procesorów graficznych do inferencji potrzebne są również zasoby CPU do orkiestracji agentów, wykonywania kodu, obsługi narzędzi oraz zarządzania całym środowiskiem.

Właśnie na ten obszar odpowiada najnowsza oferta Dell Technologies.

Nowe serwery Dell PowerEdge dla agentów AI

Dell zaprezentował kilka platform przeznaczonych do obsługi nowej generacji obciążeń AI.

Dell PowerEdge R8822 — AI w standardowej szafie serwerowej

PowerEdge R8822 wykorzystuje dwa procesory NVIDIA Vera i jest przeznaczony do instalacji w standardowych szafach rack 19 cali.

Serwer zaprojektowano między innymi do:

  • orkiestracji i uruchamiania agentów AI,
  • wykonywania kodu w izolowanych środowiskach,
  • przetwarzania i analizy danych,
  • uczenia ze wzmocnieniem,
  • realizacji zadań wymagających intensywnego przetwarzania CPU.

Platforma obsługuje również do czterech dwuslotowych akceleratorów GPU.

To interesująca propozycja dla przedsiębiorstw budujących własne środowiska AI on-premise.

Dell PowerEdge M9882 — wysoka gęstość obliczeń CPU

Drugą nowością jest PowerEdge M9882.

Rozwiązanie integruje 256 procesorów NVIDIA Vera w jednej szafie 48U. Zostało zaprojektowane do obsługi dużej liczby operacji wykonywanych przez agentów AI.

W tego rodzaju architekturze procesory CPU odpowiadają za wykonywanie zadań i orkiestrację, natomiast odrębne zasoby GPU mogą realizować inferencję modeli językowych.

Pozwala to lepiej dopasować infrastrukturę do charakteru obciążenia.

Dell PowerEdge XE9810 — inferencja na dużą skalę

Dell zapowiedział także platformę XE9810, wykorzystującą akceleratory Groq 3 Language Processing Units.

Serwer ma obsługiwać intensywne obciążenia inferencyjne, w których kluczowe znaczenie mają przepustowość i szybkie generowanie odpowiedzi.

Rozwiązanie obejmuje 16 modułów obliczeniowych chłodzonych cieczą i jest projektowane jako uzupełnienie infrastruktury GPU.

Dell Deskside Agentic AI — lokalna sztuczna inteligencja

Nie wszystkie projekty AI wymagają rozbudowanego klastra serwerowego.

Dell rozwija również rozwiązania pozwalające uruchamiać modele językowe i agentów bezpośrednio na stacjach roboczych.

Wśród zapowiedzianych nowości znajdują się:

Dell Pro Precision z NVIDIA GB10

Nowa konfiguracja z 64 GB pamięci zunifikowanej ma stanowić bardziej dostępny punkt wejścia do lokalnego rozwoju AI.

Rozwiązanie jest skierowane do programistów, zespołów badawczych oraz organizacji testujących prywatne modele i autonomicznych agentów.

Urządzenia można łączyć w klastry obejmujące dwa lub cztery systemy.

Dell Pro Precision z NVIDIA GB300

Dell zapowiada także wariant działający w środowisku Windows, oferujący do 748 GB pamięci koherentnej oraz deklarowaną wydajność do 20 PFLOPS w precyzji FP4.

To propozycja dla bardziej zaawansowanych zastosowań związanych z lokalnymi modelami i dużymi obciążeniami AI.

Dell AI Factory — więcej niż sprzęt

Istotną częścią ogłoszenia jest dalszy rozwój Dell AI Factory with NVIDIA.

Platforma łączy infrastrukturę obliczeniową, pamięć masową, sieć, oprogramowanie oraz gotowe architektury wdrożeniowe.

Dell rozszerza ekosystem między innymi o rozwiązania:

  • Mistral — dla asystentów wiedzy i aplikacji agentowych,
  • Dynatrace — do monitorowania środowisk AI,
  • Red Hat — w obszarze orkiestracji i bezpieczeństwa,
  • SUSE Linux — jako kolejną opcję systemową,
  • Reflection — z modelem Beam przeznaczonym między innymi do zadań programistycznych.

Producent poinformował, że z Dell AI Factory with NVIDIA korzysta już ponad 6500 przedsiębiorstw. Jest to liczba podana przez Dell na podstawie własnych danych.

Bezpieczeństwo i kontrola nad danymi

Jednym z najważniejszych argumentów przemawiających za lokalną infrastrukturą AI jest możliwość zachowania kontroli nad danymi, modelami i procesami.

Własna infrastruktura pozwala organizacjom projektować rozwiązania z uwzględnieniem wymagań bezpieczeństwa, lokalizacji danych oraz polityk dostępu.

Nie oznacza to automatycznie niższych kosztów w każdym przypadku. Opłacalność zależy od skali wykorzystania, kosztów energii, administracji i rzeczywistego obciążenia systemu.

W przypadku intensywnie wykorzystywanych modeli i agentów AI własna infrastruktura może jednak stanowić istotną alternatywę dla usług opartych wyłącznie na chmurze publicznej.

Co te zmiany oznaczają dla przedsiębiorstw?

Najnowsze rozwiązania Dell pokazują, że infrastruktura AI zaczyna się specjalizować.

Inne zasoby są potrzebne do trenowania modeli, inne do inferencji, a jeszcze inne do uruchamiania setek autonomicznych agentów wykonujących zadania biznesowe.

Dla działów IT oznacza to konieczność ponownego spojrzenia na architekturę środowisk obliczeniowych.

Coraz ważniejsze stają się:

  • właściwy podział obciążeń pomiędzy CPU i GPU,
  • szybki dostęp do danych,
  • bezpieczeństwo komunikacji agentów,
  • centralna orkiestracja,
  • skalowalność i przewidywalność kosztów.

Alterkom — infrastruktura dla praktycznych zastosowań AI

W Alterkom rozwijamy rozwiązania wykorzystujące lokalne modele językowe, automatyzację procesów i zaawansowanych agentów AI.

Łączymy kompetencje związane z serwerami Dell PowerEdge, infrastrukturą centrów danych oraz integracją aplikacji i systemów AI.

Dzięki temu możliwe jest budowanie środowisk, w których sztuczna inteligencja pozostaje pod kontrolą organizacji i wspiera rzeczywiste procesy biznesowe.

Przyszłość enterprise AI nie ogranicza się do coraz większych modeli. To również odpowiednio zaprojektowana infrastruktura, na której inteligentne systemy mogą bezpiecznie działać.

Planujesz bezpiecznych agentów AI w swojej organizacji?

Porozmawiaj z Alterkom o lokalnych modelach LLM, kontroli dostępu i infrastrukturze dla firmowych agentów AI.