Leitender Softwareentwickler, ML-Infrastruktur

Teamwork sorgt dafür, dass der Stream funktioniert.

Roku verändert die Art und Weise, wie die Welt fernsieht

Roku ist die TV-Streaming-Plattform Nr. 1 in den USA, Kanada und Mexiko und wir haben es uns zum Ziel gesetzt, jeden Fernseher auf der Welt mit Strom zu versorgen. Roku war Pionier beim Streaming auf den Fernseher. Unsere Mission ist es, die TV-Streaming-Plattform zu sein, die das gesamte TV-Ökosystem verbindet. Wir verbinden Verbraucher mit den Inhalten, die sie lieben, ermöglichen Content-Publishern den Aufbau und die Monetarisierung großer Zielgruppen und bieten Werbetreibenden einzigartige Möglichkeiten, um Verbraucher anzusprechen.

Von Ihrem ersten Tag bei Roku an leisten Sie einen wertvollen – und geschätzten – Beitrag. Wir sind ein schnell wachsendes öffentliches Unternehmen, bei dem niemand zusieht. Wir bieten Ihnen die Möglichkeit, Millionen von TV-Streamern auf der ganzen Welt zu begeistern und gleichzeitig wertvolle Erfahrungen in verschiedenen Disziplinen zu sammeln.

Über das Team

Das Roku Entertainment Assistant-Team erstellt Konversations-KI-Erlebnisse, die auf Millionen von Roku-Geräten verwendet werden. Das Team arbeitet in den Bereichen Erfüllungsranking, Modellbereitstellung, Offline- und Online-Bewertung, Dienste mit geringer Latenz, Beobachtbarkeit und Produktqualität. Zu den veröffentlichten Arbeiten gehören gemeinsame Modellbereitstellungs- und MLOps-Pfade, automatisierte Auswertung und Umschulung, Caching und Telemetrie sowie agentengestützte Freigabe- und Betriebsabläufe.

Was ist die Rolle?

Wir suchen einen Senior Software Engineer mit umfassender Erfahrung in der Infrastruktur für maschinelles Lernen, der das Roku Entertainment Assistant-Team bei der Bereitstellung zuverlässiger, qualitativ hochwertiger Gesprächserlebnisse in großem Maßstab unterstützt. Sie besitzen Produktionssysteme für Ranking, Modellbereitstellung, Bewertung und LLM-Agentenverhalten und arbeiten eng mit Partnern für maschinelles Lernen, Produkte, Daten und Plattformen zusammen.

Dies ist eine praktische technische Rolle für jemanden, der sich problemlos zwischen Softwarearchitektur, ML-Lebenszyklusentscheidungen und Produktionsabläufen bewegen kann. Sie verbessern die Wege, die das Team zum Trainieren, Bewerten, Bereitstellen und Beobachten von Modellen verwendet, und helfen uns gleichzeitig, Latenz, Qualität und Kosten zu verwalten, wenn das Produkt wächst.

Wie verwende ich KI bei Roku?

Bei Roku nutzen wir KI nicht nur, wir arbeiten damit. KI-Agenten und intelligente Tools helfen bei Entwürfen, Analysen und sich wiederholenden Arbeitsabläufen, während unsere Mitarbeiter Anweisungen, Urteilsvermögen und Verantwortung übernehmen. Wir suchen neugierige, anpassungsfähige Entwickler, die zeigen können, wie sie KI oder Automatisierung genutzt haben, um schneller voranzukommen, die Messlatte höher zu legen und ihre Wirkung zu steigern.

Wir schätzen Ihre KI-Fähigkeiten, wenn Sie die gesamte Agenten-Engineering-Toolchain beherrschen – Codierungssysteme wie Claude Code oder Cursor, MCP-Server, benutzerdefinierte Fähigkeiten oder Agenten-Frameworks. Und Sie können Projekte beschreiben, bei denen Sie mit diesen Tools echte Arbeit geleistet haben. Sie wissen, wie Sie einen Agenten steuern, seine Ausgabe überprüfen und mit einem Agenten, der Ihnen hilft, eine unbekannte Codebasis implementieren.

Was wirst du tun?

• Eigene Fulfillment-Ranking-Pipelines von der Schulungsorchestrierung und Quality Gates bis hin zur Bereitstellung und Online-Validierung.

• Aufbau und Betrieb einer Offline-Bewertungsplattform, die LLM-as-Judge-Systeme mit deterministischen Prüfungen der Antwortqualität kombiniert.

• Entwickeln Sie den LLM-Agenten des Roku Entertainment Assistant, einschließlich Tool-Routing, Abruf, Leitplanken und Antwort-Caching.

• Konzipieren Sie Caching als bewussten Latenz- und Kostenhebel für hochvolumige Dienste.

• Bauen Sie Beobachtbarkeit für ML- und LLM-Systeme auf, einschließlich Latenzzuordnung, Qualitätsmetriken, Nachverfolgung und Kosten pro Anfrage.

• Verbessern Sie die Zuverlässigkeit und Bedienbarkeit verteilter Systeme und leiten Sie die Diagnose schwieriger dienstübergreifender Fehler.

• Fördern Sie verantwortungsvolle KI-gestützte Engineering-Praktiken im gesamten Team und bauen Sie dabei auf den Agenten auf, die bereits in Release-Workflows verwendet werden.

• Arbeiten Sie über maschinelles Lernen, Produkt-, Daten- und Plattformgrenzen hinweg, um mehrdeutige Probleme in messbare Lieferergebnisse umzuwandeln.

Wir freuen uns, wenn Sie es getan haben

• Umfangreiche Erfahrung in der Entwicklung von Produktionssoftware, einschließlich Entwurf, Test, Betrieb und Debugging verteilter Dienste.

• Sinnvolles Eigentum an der Bereitstellung der ML-Infrastruktur oder des Produktionsmodells mit klarem Nachweis Ihres Beitrags und seiner Auswirkungen auf den Betrieb oder die Einführung.

• Ein praktisches Verständnis des ML-Lebenszyklus: Schulung, Evaluierung, Versionierung, Bereitstellung, Online-Validierung, Überwachung und sicheres Rollback.

• Erfahrung im Entwerfen von Latenz, Belastbarkeit, Beobachtbarkeit und Kosten in Produktionssystemen.

• Erfahrung mit LLMs, Einbettungen, semantischer Suche, Retrieval oder Agentensystemen, einschließlich der Art und Weise, wie Sie die Qualität bewerten und Fehlermodi kontrollieren.

• Erfahrung mit Caching-Systemen und den Kompromissen, die mit der Verwendung von Caching für Dienste mit geringer Latenz einhergehen.

• Ein Engagement für Automatisierung, CI/CD, Codequalität und evidenzbasierte technische Entscheidungen.

• Ein kollaborativer Ansatz und die Fähigkeit, Partnern aus verschiedenen Disziplinen technische Kompromisse zu erklären.

• Ein Abschluss in Informatik, Elektrotechnik oder einem verwandten Bereich oder gleichwertige praktische Erfahrung.

Erfahrungen mit AWS oder GCP, Kubernetes, SQL Warehouse und Batch-Verarbeitungstechnologien wie Trino, Presto oder Spark, Kafka oder anderen Streaming-Systemen sowie Go oder Python wären hilfreich. Node.js-Erfahrung ist von Vorteil. Wir legen Wert auf übertragbare Beweise gegenüber einer exakten Übereinstimmung mit jeder genannten Technologie.
#LI-MS3
Wie geht Roku mit hybridem Arbeiten um?

Roku fördert ein integratives und kollaboratives Umfeld, in dem Teams in der Regel von Montag bis Donnerstag im Büro arbeiten. Freitage sind im Allgemeinen flexibel für Fernarbeit, mit Ausnahme von Mitarbeitern, deren spezifische Rollen oder zugewiesener Bürostandort eine Anwesenheit von fünf Tagen in der Woche erfordern.

Was sind einige der Vorteile?…

Quelle: Arbeitnow (https://www.arbeitnow.co.uk/jobs/companies/roku/senior-software-engineer-ml-infrastructure-cambridge-142812)