Senior AI Compute Infrastructure Engineer
Kraken
Rola polega na budowaniu i utrzymaniu infrastruktury obliczeniowej dla zespołów AI/ML w Kraken. Kandydat będzie odpowiedzialny za klastry GPU i akceleratorów, systemy harmonogramowania, optymalizację potoków inferencji oraz zapewnienie niezawodności i efektywności kosztowej. Jest to kluczowa rola wspierająca rozwój i wdrażanie systemów AI w firmie.
Brak jawnych widełek — wynagrodzenie do ustalenia podczas rekrutacji.
Brakuje: dokładny model pracy (liczba dni w biurze/zdalnie)., szczegóły dotyczące procesu rekrutacyjnego (liczba etapów, kto prowadzi rozmowy)..
Rola polega na budowaniu i utrzymaniu infrastruktury obliczeniowej dla zespołów AI/ML w Kraken. Kandydat będzie odpowiedzialny za klastry GPU i akceleratorów, systemy harmonogramowania, optymalizację potoków inferencji oraz zapewnienie niezawodności i efektywności kosztowej. Jest to kluczowa rola wspierająca rozwój i wdrażanie systemów AI w firmie.
- ✓Praca w zespole 'small, senior, high-impact' z bezpośrednim wpływem na rozwój AI w firmie.
- ✓Możliwość pracy z najnowszymi technologiami GPU i akceleratorów.
- ✓Firma posiada własny produkt (platforma finansowa) i buduje własną infrastrukturę AI, co sugeruje możliwość długoterminowego rozwoju i wpływu.
- !Brak informacji o konkretnej liczbie dni pracy zdalnej/hybrydowej, chociaż oferta wspomina o 'hybrid work model' i 'work from home possibility'.
- ?Brak jawnych widełek — wynagrodzenie do ustalenia podczas rekrutacji
- •Zarządzanie i utrzymanie klastrów GPU i akceleratorów (sterowniki, środowiska uruchomieniowe, konfiguracja węzłów, izolacja obciążeń).
- •Projektowanie i budowa systemów harmonogramowania, orkiestracji i zarządzania kwotami dla heterogenicznych środowisk akceleratorów.
- •Optymalizacja potoków inferencji pod kątem opóźnień, przepustowości, niezawodności, efektywności pamięci i kosztów przy użyciu frameworków takich jak vLLM, Triton Inference Server, TensorRT.
- •Współpraca z inżynierami ML i badaczami w celu usuwania wąskich gardeł w procesach trenowania, ewaluacji, batch inferencji, online inferencji, wdrażania i debugowania produkcyjnego.
- •Budowanie systemów obserwacji (metryki, logi, ślady, alerty) dla wykorzystania GPU, obciążenia pamięci, głębokości kolejek, nasycenia, przepustowości tokenów, opóźnień żądań, nieudanych obciążeń, presji na pojemność i wydatków.
- •Prowadzenie działań związanych z niezawodnością, reagowaniem na incydenty, alertowaniem, runbookami i usprawnieniami poincydentalnymi dla infrastruktury obliczeniowej AI.
- •Ocena i integracja nowego sprzętu, rodzin instancji chmurowych, specjalistycznych akceleratorów, środowisk uruchomieniowych, harmonogramów i frameworków serwujących.
- •Budowanie narzędzi ułatwiających zespołom wewnętrznym konsumpcję zasobów GPU.
Oferta dla doświadczonych specjalistów (Senior).
Kandydat z minimum 5-letnim doświadczeniem w inżynierii infrastruktury, z udokumentowanym doświadczeniem w pracy z systemami GPU lub akceleratorów. Powinien posiadać podstawową wiedzę na temat systemów operacyjnych, sieci, kontenerów i języka Python. Zdolność do debugowania i rozwiązywania problemów w środowiskach produkcyjnych jest kluczowa.
Nie dla kandydatów z mniejszym niż 5-letnim doświadczeniem w inżynierii infrastruktury, szczególnie bez doświadczenia z GPU lub ML. Rola wymaga głębokiej wiedzy technicznej i doświadczenia operacyjnego, co czyni ją nieodpowiednią dla osób na poziomie juniorskim lub bez doświadczenia w obszarze systemów rozproszonych i obliczeń wysokowydajnych.
- ?Jak wygląda typowy podział obowiązków w zespole (np. ile osób zajmuje się GPU, ile inferencją)?
- ?Jakie są obecne wyzwania związane z kosztami obliczeniowymi GPU i jakie są priorytety w ich optymalizacji?
- ?Czy istnieją plany dotyczące wykorzystania niestandardowych akceleratorów lub specyficznych rozwiązań chmurowych w przyszłości?
- ?Jak wygląda proces reagowania na incydenty i jakie są oczekiwania dotyczące czasu reakcji (SLA)?
- ?Jakie są plany rozwoju zespołu i jakie nowe technologie lub obszary będą rozwijane w najbliższym czasie?
- ?Czy jest możliwość pracy zdalnej w pełnym wymiarze godzin, czy jest to model hybrydowy z określoną liczbą dni w biurze?
- ?Jakie są możliwości rozwoju zawodowego i budżet szkoleniowy dla inżynierów w zespole?
- −Dokładny model pracy (liczba dni w biurze/zdalnie).
- −Szczegóły dotyczące procesu rekrutacyjnego (liczba etapów, kto prowadzi rozmowy).
- −Informacje o dyżurach on-call (częstotliwość, wynagrodzenie).
Zespół jest mały, seniorski i nastawiony na wysoki wpływ. Pracuje się bezpośrednio z badaczami AI/ML, inżynierami platformy, zespołami bezpieczeństwa i produktowymi, z jasnym celem budowania wydajnej, niezawodnej i produkcyjnej infrastruktury AI.