Inżynier bezpieczeństwa, AI

Gotowy do wykonania najbardziej wpływowej pracy w swojej karierze? W Coinbase jesteśmy bezkompromisowi w dążeniu do naszej misji zwiększania wolności gospodarczej. Poprzeczka jest wysoka, atmosfera intensywna i lubimy to. To nie jest miejsce na samozadowolenie, to miejsce, w którym można przekroczyć swoje postrzegane ograniczenia. Jeśli jesteś gotowy budować przyszłość finansów wraz z ludźmi, którzy nie zadowalają się tym, co „wystarczająco dobre”, należysz tutaj. Coinbase to firma działająca przede wszystkim zdalnie, ale nie tylko zdalnie. Spodziewaj się, że będziesz spotykać się co kwartał na intensywnych osobistych sesjach roboczych zwanych „skokami”.

Jako inżynier ds. bezpieczeństwa ofensywnego w zespole ds. bezpieczeństwa aplikacji w dziale bezpieczeństwa będziesz pionierem tego, jak Coinbase wykorzystuje pionierskie modele sztucznej inteligencji do skalowania wykrywania luk w zabezpieczeniach, systemów sztucznej inteligencji zespołu red team i automatyzacji przepływów pracy związanych z bezpieczeństwem. Ta rola łączy tradycyjne testy penetracyjne z bezpieczeństwem ofensywnym nowej generacji wzmocnionym sztuczną inteligencją, bezpośrednio zwiększając naszą zdolność do ochrony produktów i klientów. Będziesz odpowiedzialny za rozwój narzędzi bezpieczeństwa opartych na sztucznej inteligencji i będziesz współpracować w obszarach zarządzania lukami w zabezpieczeniach, bezpieczeństwa ofensywnego i reagowania na incydenty, aby zasadniczo zmienić sposób naszego działania.

Co zrobisz

• Twórz, wdrażaj i utrzymuj niestandardowe skanery bezpieczeństwa, które wykorzystują modele pionierskie do wykrywania luk w zabezpieczeniach na dużą skalę w całej powierzchni produktów Coinbase.

• Kieruj działaniami czerwonego zespołu przeciwko wewnętrznym systemom AI, w tym testowaniem jailbreak, natychmiastową analizą wtrysków i symulacją nadużyć narzędzi.

• Opracuj automatyzację opartą na sztucznej inteligencji na potrzeby procesów selekcji, sprawdzania i korygowania podatności na zagrożenia, aby przyspieszyć przepływy nagród za błędy i reagowania na luki w zabezpieczeniach.

• Współpracuj z zespołami inżynieryjnymi, aby ustalać priorytety, korygować i weryfikować poprawki krytycznych luk wykrytych podczas testów ręcznych i wspomaganych sztuczną inteligencją.

• Wspieraj młodszych inżynierów ds. bezpieczeństwa w zakresie integracji sztucznej inteligencji z ofensywnymi przepływami pracy związanymi z bezpieczeństwem w celu skalowania możliwości zespołu.

Wymagane umiejętności i doświadczenie

• Ponad 3-letnie doświadczenie w bezpieczeństwie aplikacji, testach penetracyjnych lub bezpieczeństwie ofensywnym z wykazaną umiejętnością tworzenia niestandardowych narzędzi bezpieczeństwa.

• Praktyczne doświadczenie w korzystaniu z LLM lub modeli granicznych do automatyzacji zadań związanych z bezpieczeństwem, skalowania badań podatności na zagrożenia lub tworzenia skanerów bezpieczeństwa.

• Udokumentowane doświadczenie w łączeniu systemów opartych na sztucznej inteligencji (szybkie wstrzykiwanie, testowanie jailbreak, nadużywanie narzędzi).

• Głębokie zrozumienie typowych klas podatności (OWASP Top 10, SANS Top 25) oraz udokumentowane doświadczenie w identyfikowaniu i wykorzystywaniu ich w środowiskach produkcyjnych.

• Biegłość w co najmniej jednym języku programowania (Python, Go lub podobnym) z doświadczeniem w pisaniu narzędzi bezpieczeństwa klasy produkcyjnej.

• Odpowiedzialnie wykorzystuje generatywną sztuczną inteligencję, zachowując nadzór człowieka, aby dostarczać produkty gotowe do użytku biznesowego i wprowadzać wymierne usprawnienia w zakresie wydajności, kosztów i jakości przepływu pracy.

Źródło: Jobspresso (https://jobspresso.co/job/offensive-security-engineer-ai/)