Tools-Entwickler (Rust / Linux)

Über Fraktil
Fractile wurde 2022 mit der Wette gegründet, dass die Wirkung der leistungsfähigsten KI-Systeme der Welt letztendlich durch die Zeit begrenzt sein würde, die benötigt wird, um nützliche Ergebnisse zu produzieren. Wir setzen alles auf die logische Schlussfolgerung: Der einzige Weg, diesen latenten Wert wirklich zu erschließen und die Geschwindigkeit maßstabsgetreu nutzbar zu machen, besteht darin, die Hardware, auf der wir unsere bahnbrechenden KI-Modelle ausführen, radikal neu zu erfinden. Seitdem entwickeln wir Chips und Systeme, die dieses Problem angehen: wie man effizient eine Ausgabe mit Tausenden von Token pro Sekunde generiert und gleichzeitig die Komplexitäts- und Kapazitätsherausforderungen beim Betrieb großer Modelle in sehr langen Kontexten bewältigt.

Die Arbeitsbelastungen, die an die Grenzen der aktuellen Grenzen stoßen, sind bereits transformativ; Es sind die technischen und wirtschaftlichen Grenzen der Inferenzgeschwindigkeit, die den Fortschritt einschränken. Die prägende Arbeit des 21. Jahrhunderts wird von der Schlussfolgerungsmaschine geprägt sein, die immense und diffuse Ketten intellektueller Forschung liefert, in der Arzneimittelforschung, in der Softwareentwicklung, in der Materialforschung und in jedem Bereich, in dem der Fortschritt durch tiefes Denken und Intelligenz zur Lösung komplexer Probleme vorangetrieben wird.
Entwicklererfahrung / DevEx
Standort: Bristol / London
Über Fraktil
Fractile wurde 2022 mit der Wette gegründet, dass die Wirkung der leistungsfähigsten KI-Systeme der Welt letztendlich durch die Zeit begrenzt sein würde, die benötigt wird, um nützliche Ergebnisse zu produzieren. Wir setzen alles auf die logische Schlussfolgerung: Der einzige Weg, diesen latenten Wert wirklich zu erschließen und die Geschwindigkeit maßstabsgetreu nutzbar zu machen, besteht darin, die Hardware, auf der wir unsere bahnbrechenden KI-Modelle ausführen, radikal neu zu erfinden. Seitdem entwickeln wir Chips und Systeme, die dieses Problem angehen: wie man effizient eine Ausgabe mit Tausenden von Token pro Sekunde generiert und gleichzeitig die Komplexitäts- und Kapazitätsherausforderungen beim Betrieb großer Modelle in sehr langen Kontexten bewältigt.
Die Arbeitsbelastungen, die an die Grenzen der aktuellen Grenzen stoßen, sind bereits transformativ; Es sind die technischen und wirtschaftlichen Grenzen der Inferenzgeschwindigkeit, die den Fortschritt einschränken. Die prägende Arbeit des 21. Jahrhunderts wird von der Schlussfolgerungsmaschine geprägt sein, die immense und diffuse Ketten intellektueller Forschung liefert, in der Arzneimittelforschung, in der Softwareentwicklung, in der Materialforschung und in jedem Bereich, in dem der Fortschritt durch tiefes Denken und Intelligenz zur Lösung komplexer Probleme vorangetrieben wird.
Die Rolle
Über die Software-Organisation bei Fractile
Developer Experience ist innerhalb der Software-Organisation von Fractile angesiedelt, die für die Entwicklung eines vollständigen Software-Stacks für unsere bahnbrechenden KI-Inferenzsysteme verantwortlich ist. Das umfasst alles von ML-Compilern, Gerätetreibern und System-Firmware, Laufzeit- und Ökosystemintegrationen auf Anwendungsebene, ML- und Computerbibliotheken, großartigen Entwicklertools und einem vollständigen Portfolio an Simulatoren bis hin zu Workload-Bereitstellungslösungen im Rechenzentrumsmaßstab. Wir bei Fractile wissen, dass ein fantastischer Software-Stack ein entscheidender und zentraler Bestandteil jeder KI-Inferenzlösung ist und das Herzstück unseres Handelns bildet.
Über das Team und die Rolle
Das Developer Experience-Team von Fractile hilft dabei, die Interaktion unserer Kunden mit dem Fractile-Inferenzbeschleuniger zu gestalten. Wir arbeiten im gesamten Unternehmen daran, Informationen darüber zu identifizieren, zu erstellen und zu präsentieren, wie das System verwendet wird. Außerdem stellen wir die Tools bereit, um die Nutzung des Systems durch unsere Kunden zu optimieren und gleichzeitig eine flache Lernkurve beizubehalten.
Als Mitglied des Developer Experience-Teams müssen Sie den aktuellen Entwicklungsstand für Inferenzhardware verstehen. Sie müssen in der Lage sein, zu ermitteln, was für Ingenieure, die potenzielle Möglichkeiten für Leistungsverbesserungen identifizieren möchten, gut funktioniert, und gleichzeitig zu wissen, welche Tools mit minimalem Unterbrechungs- und Aufwand in den Arbeitsablauf eines bestehenden LLM-Ingenieurs passen.
Über dich
Wir suchen jemanden, der eigenverantwortlich ist und in der Lage ist, Werkzeugmöglichkeiten zu erkennen, diese Werkzeuge zu entwerfen und sie auf eine Weise bereitzustellen, die in den vorhandenen Werkzeugsatz eines LLM-Ingenieurs passt. Sie haben bereits in diesem Bereich gearbeitet, möglicherweise als FDE oder bei einem Unternehmen, das Inferenzdienste mit eigenen Modellen anbietet, und verfügen über die Fähigkeit, neue Tools zu entwickeln, die funktional und einfach zu erlernen und zu verwenden sind.
Hauptanforderungen

• Erfahrung mit Inferenz-Frameworks wie JAX und/oder PyTorch

• Erfahrung in der Softwareentwicklung in Python, Rust, C/C++ oder einer ähnlichen Sprache

• Erfahrung in der Überwachung und Optimierung von Code, der in CUDA, ROCm, OpenCL oder ähnlichem geschrieben ist

• Erleben Sie die Überwachung und Optimierung von LLM-Bereitstellungen mit mehr als 50 Milliarden Parametern

• Erfahrung in der Zusammenarbeit mit Stakeholdern in mehreren Teams

Was wir anbieten

• Wettbewerbsfähiges Gehalt: Ein wettbewerbsfähiges Gehalt, das Ihre Erfahrung und den Fachcharakter der Stelle widerspiegelt

• Equity & Ownership: Sinnvolles Eigenkapital, damit jeder an der Wertschöpfung teilnimmt

• Leistungen: private Kranken-, Zahn- und Sehkraftversicherung, beitragsabhängige Rente, 25 Tage Urlaub plus Feiertage und Lebens-/Krankheitsversicherung

• Vielfältiges und unterhaltsames Büro: Wir glauben, dass die schwierigsten Probleme von den unterschiedlichsten Köpfen gelöst werden. Wir setzen uns für Chancengleichheit bei der Beschäftigung ein, indem wir ein vielfältiges Team gewinnen und halten und ein integratives Umfeld schaffen

Fractile versucht, die Taktrate des globalen Fortschritts Chip für Chip zu erhöhen. Wir haben kürzlich 220 Millionen US-Dollar von Investoren wie Founders Fund und Accel eingesammelt und unsere wichtigste Arbeit liegt vor uns. Begleiten Sie uns!
Exportkontrollen
Unsere Arbeit umfasst Technologien, die den britischen, US-amerikanischen und anderen internationalen Exportkontrollbestimmungen unterliegen. Bestimmte Rollen erfordern möglicherweise zusätzliche Berechtigungsprüfungen, um die Einhaltung geltender Gesetze sicherzustellen. Wir werden dies während des gesamten Einstellungsprozesses transparent machen.
Was wir anbieten

• Wettbewerbsfähiges Gehalt: Ein wettbewerbsfähiges Gehalt, das Ihre Erfahrung und den Fachcharakter der Rolle widerspiegelt.…

Quelle: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/fractile/tools-developer-rust-linux-bristol-the-crescent-411888)