Plakat z infografiką dotyczącą infrastruktury AI

Cel: Stworzenie dobrze wykonanej pionowej infografiki edukacyjnej zatytułowanej „...”{argument name="headline text" default="Infrastruktura AI"} Podtytuł:{argument name="subtitle text" default="Jak działają nowoczesne systemy AI"} Ten dokument zawiera dogłębną analizę nowoczesnej infrastruktury AI, od potoków danych i klastrów szkoleniowych GPU po usługi wnioskowania, przetwarzanie wsadowe i pamięci podręczne wartości kluczowych. Płótno: Plakat w orientacji pionowej o proporcjach 4:5, w ciemnoniebieskim, futurystycznym stylu centrum danych. Tło przedstawia świecącą niebiesko-fioletową siatkę, uzupełnioną ilustracjami gór, szaf serwerowych, układów GPU, neonowych obwodów, smukłych, zaokrąglonych paneli, białych i cyjanowych czcionek oraz małych, pomarańczowych, numerowanych logo. Ogólny wygląd powinien przypominać wysokiej klasy plakat techniczny, zwarty, a jednocześnie łatwy do odczytania. Układ: Główny nagłówek znajduje się w lewym górnym rogu, a następnie podtytuły i hasła poniżej, a dekoracyjne szafy serwerowe i układy GPU w prawym górnym rogu. Treść podzielona jest na osiem ponumerowanych sekcji głównych, z sekcją „Kluczowe pojęcia” po prawej stronie i stopką przepływu u dołu. Zastosowano precyzyjne obramowania paneli, ikony, strzałki, wykresy, tabele i mikrozakładki. Sekcje i wymagana zawartość: 1. Przepływ danych: Prezentuje pięć etapów przepływu danych połączonych strzałkami: surowe źródło danych, pobieranie i czyszczenie, adnotacja/organizacja, segmentacja/fragmentacja słów oraz fragmentacja i przechowywanie. Surowe źródło danych obejmuje 5 kluczowych elementów: strony internetowe, dokumenty, kod, obrazy i logi. Pobieranie i czyszczenie obejmuje 3 kluczowe elementy: filtrowanie, deduplikację i normalizację. Etykietowanie/organizacja obejmuje 3 kluczowe elementy: kontrole jakości, metody ręczne/heurystyczne i asemblację zbioru danych. Tokenizacja/fragmentacja obejmuje 3 kluczowe elementy: konwersję na tokeny, fragmentację dokumentów i dodawanie tokenów specjalnych. Sharding i przechowywanie danych obejmują 3 kluczowe elementy: podział na fragmenty, zrównoważone partycjonowanie oraz optymalizację pod kątem odczytów równoległych. Dodaj tekst wyjaśniający, że dane zostały oczyszczone, zdeduplikowane, zorganizowane, tokenizowane i zapisane jako fragmenty w celu wydajnego odczytu przez wiele węzłów roboczych. 2. Warstwa pamięci masowej i koordynacji: Zawiera 3 karty w układzie pionowym: Magazyn obiektów (z ikoną chmury do bazy danych, oznaczoną „S3 / GCS / Azure Blob lub lokalny magazyn obiektów”); Śledzenie metadanych/eksperymentów (z ikoną pulpitu nawigacyjnego, kluczowe elementy: „Uruchamianie i metryki”, „Hiperparametry”, „Pochodzenie i artefakty”); Monitorowanie i dzienniki (z ikonami wykresów/lupy, kluczowe elementy: „Metryki i alerty”, „Agregacja dzienników”, „Śledzenie i debugowanie”). Dodaj wyjaśnienie w stopce: Warstwa sterowania odpowiada za koordynację zadań obliczeniowych, śledzenie eksperymentów, przechowywanie punktów kontrolnych oraz monitorowanie wykorzystania, awarii i kosztów. 3. Architektura klastra szkoleniowego: Centralny, duży diagram architektury zatytułowany „Architektura klastra szkoleniowego”. Przedstawia on cztery węzły GPU/akceleratorów ułożone w siatce 2x2, połączone świecącymi szybkimi łączami sieciowymi oznaczonymi „Sieć High-Speed ​​InfiniBand/RoCE”. Każdy węzeł zawiera host procesora (wielordzeniowy), pamięć RAM, procesor GPU (np. 8x H100) oraz lokalny dysk SSD NVMe. Linie przerywane łączą węzły. Poniżej znajdują się trzy mniejsze panele: „Wewnętrzne elementy węzła”, „Równoległość danych” i „Rozproszona równoległość szkoleń” (legenda). Panel „Wewnętrzne elementy węzła” powinien pokazywać procesor podłączony do wielu GPU za pomocą linii PCIe/NVLink/NVSwitch. Legenda „Rozproszonego paralelizmu treningowego” powinna zawierać cztery etapy oznaczone jako Etap 1, Etap 2, Etap 3 i Etap 4. 4. Etapy treningu: Utwórz przepływ treningowy od lewej do prawej, zawierający sześć etapów: Token wejściowy, Propagacja w przód, Obliczanie strat, Propagacja wsteczna, Obliczanie gradientu i Aktualizacja optymalizatora. Zawiera stos ikon punktów kontrolnych, pole „Dokładność modelu” (z wzmianką o FP32, FP16/BF16, FP8) oraz pole „Status optymalizatora”. Wyświetla strzałki akumulacji gradientu z wyjaśnieniem: Podczas treningu model przewiduje dane wyjściowe, oblicza straty, propaguje wstecznie gradienty i aktualizuje wagi; proces ten jest powtarzany miliardy razy. 5. Potok usługi wnioskowania: Tworzy kompaktowy schemat blokowy usługi z 6 etapami u góry: Żądania użytkownika, Brama API, Tokenizer, Harmonogram/Router, Serwer modelu (GPU) i Wyjście strumieniowe. Panel obejmuje dynamiczne przetwarzanie wsadowe (3 wiersze żądań), pole serwera modeli (pokazujące pętle wstępnego wypełniania i dekodowania), pamięć podręczną KV w pamięci GPU, opcjonalne adaptery oraz moduł równoważenia obciążenia łączący 3 repliki modeli (oznaczone jako Replika modelu 1, Replika modelu 2 i Replika modelu N). 6. Operacje, niezawodność i bezpieczeństwo: Zawiera 6 kart operacji z ikonami: automatyczne skalowanie/skalowanie, telemetria/obserwowalność, ograniczanie przepustowości i limity, filtry bezpieczeństwa/zabezpieczenia, kontrola wersji/wycofywanie oraz monitorowanie kosztów. Dodaj uwagi: Systemy AI klasy produkcyjnej wymagają solidnych narzędzi operacyjnych, aby zachować niezawodność, bezpieczeństwo i opłacalność. 7. Porównanie uczenia z wnioskowaniem: Dodaj tabelę porównawczą z 6 wierszami: cel, główne wąskie gardła, problemy z pamięcią, typowe metryki, tryb skalowania i wymagania dotyczące elastyczności. Nadaj dwóm kolumnom odpowiednio nazwy „Uczenie” i „Wnioskowanie (usługa)”. Szkolenie powinno opisywać wagi modeli uczenia się na podstawie danych, przetwarzania rozproszonego i przepustowości przesyłania danych, wartości aktywacji/gradientów/stanów optymalizatora, liczbę tokenów na sekundę lub szybkość konwergencji, duże partie długich zadań oraz punkty kontrolne/odporność na błędy. Wnioskowanie powinno opisywać użyteczne odpowiedzi generowane przez użytkowników, opóźnienie i przepustowość, wagi modeli i pamięć podręczną KV, opóźnienie i liczbę tokenów na sekundę, dużą liczbę krótkich żądań oraz wysoką dostępność/łagodną degradację. 8. Prawy pasek boczny „Kluczowe pojęcia”: Utwórz wysoki prawy pasek boczny zatytułowany „Kluczowe pojęcia”, zawierający 5 kart z literami: A. Rozmiar partii, B. Długość sekwencji/Okno kontekstowe, C. Pamięć podręczna KV, D. Przepustowość i opóźnienie, E. Parametry/Wagi/Wartości aktywacji. Karta A powinna definiować rozmiar partii i pokazywać porównanie małych i dużych partii (ikony tokenów/osób). Karta B powinna pokazywać token słowa podpowiedzi i długi kontekst (bloki tokenów oznaczone jako T1, T2, T3, T4, …, Tn). Karta C powinna pokazywać token słowa podpowiedzi wprowadzany do fioletowej, cylindrycznej pamięci podręcznej KV, a następnie nowe tokeny odczytywane z pamięci podręcznej. Karta D powinna pokazywać dwa pulpity: przepustowość i opóźnienie. Karta E powinna pokazywać wagi i wartości aktywacji (niebieska i fioletowa siatka połączone mnożeniem). Dodaj wskazówkę „Wstępne wypełnianie a dekodowanie” na dole paska bocznego, wyjaśniając, że procesy wstępnego wypełniania uzupełniają słowa podpowiedzi, podczas gdy dekodowanie generuje tokeny jeden po drugim, korzystając z pamięci podręcznej KV. Stopka: Dodaj dolny pasek nawigacyjny w sekwencji „Dane → Szkolenie → Wnioskowanie → Wartość” z małą okrągłą ikoną rakiety/kompasu po lewej stronie i stwierdzeniem końcowym. {argument name="footer quote" default="Wspomagaj inteligentne systemy dzięki danym, mocy obliczeniowej i doskonałym możliwościom inżynieryjnym."} Styl wizualny: Gęste infografiki korporacyjne, czytelne ikony wektorowe i pół-3D, błyszczące cyjanowe kontury, subtelne gradienty, oświetlenie wolumetryczne, małe schematy, mikrowykresy i czytelne czcionki nagłówków szeryfowych w połączeniu z nowoczesnymi etykietami bezszeryfowymi. Schemat kolorów powinien być następujący: {argument name="color palette" default="Głęboki granat, elektryczny błękit, cyjan, fiolet, biel i niewielka ilość bursztynowych akcentów"}. Ograniczenia: Użyj 8 ponumerowanych modułów głównych, 5 kart kluczowych koncepcji, 4 węzłów GPU, 6 faz szkolenia, 6 faz wnioskowania, 6 kart konserwacji i 6 wierszy tabel porównawczych szkolenia i wnioskowania. Cały widoczny tekst powinien być w języku angielskim, należy unikać znaków wodnych i logo marek, a gęsty układ powinien zapewniać dużą czytelność.