Job
Aus Partner-Feed
KI-Anwendungssicherheitsingenieur
Preis auf Anfrage
Details
- Beschäftigungsart
- Vollzeit
- Remote
- Ja
- Unternehmen
- Brain Co.
- Level
- Senior
Beschreibung
Automatisch aus dem English übersetzt. Der Originaltext ist maßgeblich. Maschinenübersetzung – eine genauere Version wird vorbereitet.
Unsere Mission
Gestalten Sie die Funktionsweise der Welt neu, damit Institutionen für die Menschen, denen sie dienen, besser funktionieren.
Über Brain Co.
Brain Co. entwickelt KI-native Betriebssysteme für große, regulierte Institutionen. Jedes System ist für eine bestimmte Branche konzipiert und wird von Agenten unterstützt, die echte Arbeitsabläufe vorantreiben. Darunter verbirgt sich Atlas, unsere proprietäre Plattform, die den Kunden die Kontrolle gibt, durch ihr Design sicher ist und nie an ein Modell gebunden ist.
Warum jetzt
Brain Co. tritt mit einem Eliteteam bestehend aus Palantir, Google, Meta und Nvidia und einer wachsenden Präsenz in den Bereichen Regierung, Versicherungen, Gesundheitswesen und Finanzdienstleistungen in die nächste Phase des Produktionseinsatzes auf nationaler Ebene ein.
Jetzt beizutreten bedeutet, sowohl das Unternehmen als auch eine neue Kategorie angewandter KI zu gestalten. Jedes Projekt geht hier an die Produktion und soll einen messbaren Kundennutzen und eine messbare Wirkung erzielen.
Sie arbeiten gemeinsam mit außergewöhnlichen Kollegen an einigen der schwierigsten Probleme der angewandten KI. Auf diese Art von Arbeit werden Sie auch in zehn Jahren noch stolz sein.
Über die Rolle
Als unser Sicherheitsingenieur für Anwendung und KI sind Sie für die Sicherheit unserer Produkte und Anwendungsebene verantwortlich – sichere Entwicklungspraktiken, Agentensicherheit, Integrationssicherheit von Drittanbietern und Datenschutz für KI-Produkte, die in einigen der am stärksten regulierten und sensibelsten Umgebungen der Welt eingesetzt werden.
Dies ist eine praktische Builder-Rolle. Sie schreiben Code, liefern Sicherheitstools und arbeiten direkt mit Produkt- und ML-Ingenieuren zusammen, um die Sicherheit von Anfang an einzubauen, anstatt sie erst nachträglich hinzuzufügen. Von Ihnen wird erwartet, dass Sie KI-nativ arbeiten: Sie nutzen KI, um Bedrohungsmodelle zu schreiben, Sicherheitsüberprüfungen zu automatisieren, Codeanalysen zu skalieren und interne Tools zu erstellen. Das ist kein „nice-to-have“ – es geht darum, wie die Rolle funktionieren soll und wie eine Person in einer schnelllebigen technischen Organisation einen großen Einfluss haben kann.
Die Produkte von Brain Co. basieren auf einer Agenten-Infrastruktur – KI, die Maßnahmen ergreift, Tools aufruft und in komplexen institutionellen Arbeitsabläufen agiert. Der Grad variiert je nach Produkt, aber die zugrunde liegende Sicherheitsoberfläche ist konsistent: wie Agenten autorisiert werden, was sie angreifen können und wie dies auf der Anwendungsebene gesteuert wird. Diese Rolle ist speziell darauf ausgelegt, diese Oberfläche anzugehen und mit dem Infrastruktursicherheitsingenieur zusammenzuarbeiten, der für die darunter liegende Plattformschicht verantwortlich ist.
Woran Sie arbeiten werden
Anwendungssicherheit
•
Eigene sichere Entwicklungspraktiken für alle unsere Produkte: AuthN/AuthZ-Muster, Geheimnisverwaltung, Eingabeverarbeitung und standardmäßig sichere Standards, die Ingenieure befolgen können, ohne dass die Sicherheit zu einem Engpass wird.
•
Integrieren Sie Sicherheit in den Entwicklungslebenszyklus – Codeüberprüfung, CI/CD-Pipelines und Prüfungen vor der Bereitstellung – und erkennen Sie Risiken, bevor sie in die Produktion gelangen.
•
Führen Sie eine Bedrohungsmodellierung über Produktfunktionen und Release-Zyklen hinweg durch und übersetzen Sie Risiken in konkrete Kontrollen, die zusammen mit jedem Produkt bereitgestellt werden.
•
Erstellen und pflegen Sie Sicherheitstools und automatisierte Prüfungen, die Ihre Reichweite über die gesamte Codebasis skalieren – und nutzen Sie KI, um schneller voranzukommen und mehr Bereiche abzudecken, als es eine manuelle Überprüfung allein könnte.
Agenten- und Integrationssicherheit
•
Besitzen Sie das Sicherheitsmodell auf Anwendungsebene für die Agentenprodukte von Brain Co. – wie Agenten definiert sind, was sie im Namen von Benutzern tun dürfen und wo Vertrauensgrenzen zwischen dem Agenten und den externen Systemen liegen, die er berührt.
•
Definieren Sie sichere Muster für die Integration von Agenten in Systeme und APIs von Drittanbietern: wie Anmeldeinformationen gespeichert und festgelegt werden, wie Antworten validiert werden, bevor Maßnahmen ergriffen werden, und wie jedes Produkt einschränkt, was Agenten mit dem, was sie zurückerhalten, tun können.
•
Arbeiten Sie während der Funktionsentwicklung direkt mit Produkt- und ML-Ingenieuren zusammen, um sichere Agent-Designmuster zu definieren: Tool-Scoping, Berechtigungsgrenzen, Ausgabevalidierung und sichere Handhabung des Benutzerkontexts über mehrstufige Workflows hinweg.
•
Erstellen Sie wiederverwendbare, standardmäßig sichere Muster für die Agentenentwicklung – Designrichtlinien, Überprüfungschecklisten und Leitplanken auf Codeebene –, damit Sicherheitsstandards mit der Entwicklung neuer Agentenfunktionen skaliert werden.
•
Erstellen Sie Sicherheitsartefakte für Agentenfunktionen und Produktbereitstellungen: Bedrohungsmodelle, Architekturprüfungen und Dokumentation, die die Bereitstellung in regulierten Kundenumgebungen unterstützen.
Datenschutz
•
Definieren und setzen Sie Datenschutzstandards auf der Anwendungsebene durch, um sicherzustellen, dass vertrauliche Kundendaten (PHI, PII, Regierungsdaten) korrekt gehandhabt werden, während sie durch KI-Pipelines fließen und in Agentenausgaben auftauchen.
•
Bauen Sie Schutzmaßnahmen gegen unbefugte Offenlegung von Daten in allen unseren Produkten auf: Zugriffskontrollen, Ausgabefilterung und Audit-Protokollierung, die die Datenverarbeitung nachvollziehbar und überprüfbar machen.
•
Entwerfen Sie sichere Datenverarbeitungsmuster für KI-Funktionen, die mit regulierten Daten arbeiten, und arbeiten Sie mit Plattform- und ML-Teams zusammen, um sicherzustellen, dass die Anwendungsschicht ihren Anteil am Datenschutzvertrag einhält.
Sie könnten gut zu uns passen, wenn Sie...
•
Sie verfügen über mehr als 5 Jahre Erfahrung in der Anwendungs- oder Produktsicherheit und verfügen über praktische Erfahrung mit Produktionssystemen in großem Maßstab.
•
Seien Sie zuerst ein Builder – Sie schreiben Code und liefern Sicherheitstools und betrachten die Einbettung von Sicherheit in den Engineering-Workflow als Ihre Aufgabe und nicht als Nebeneffekt.
•
Sie verfügen über umfassende Kenntnisse der Grundlagen der Anwendungssicherheit: OWASP Top 10, AuthN/AuthZ, sicheres SDLC, Geheimnisverwaltung, sichere Integrationsmuster und Grundlagen der Kryptografie.
•
Verstehen Sie die Sicherheitsoberfläche der Agenten-KI auf der gesamten Produktebene – wie Agenten entworfen, in ihrem Umfang ausgelegt und auf Risiken überprüft werden sollten – und können Sie gemeinsam mit Ingenieuren an der Umsetzung dieser Standards arbeiten.
•
Sie verfügen über Erfahrung im Schutz sensibler Daten auf der Anwendungsebene: Zugriffskontrollen, Audit-Protokollierung und Verhinderung der Offenlegung von Daten durch Integrationen von Drittanbietern und KI-generierte Ausgaben.
•
Arbeiten Sie KI-nativ – Sie nutzen KI bereits, um besseren Code zu schreiben, schneller voranzukommen und mit weniger mehr zu erreichen, und Sie bringen denselben Instinkt in die Sicherheitsarbeit ein.…
Quelle: Jobicy (https://jobicy.com/jobs/158889-ai-application-security-engineer)
Gestalten Sie die Funktionsweise der Welt neu, damit Institutionen für die Menschen, denen sie dienen, besser funktionieren.
Über Brain Co.
Brain Co. entwickelt KI-native Betriebssysteme für große, regulierte Institutionen. Jedes System ist für eine bestimmte Branche konzipiert und wird von Agenten unterstützt, die echte Arbeitsabläufe vorantreiben. Darunter verbirgt sich Atlas, unsere proprietäre Plattform, die den Kunden die Kontrolle gibt, durch ihr Design sicher ist und nie an ein Modell gebunden ist.
Warum jetzt
Brain Co. tritt mit einem Eliteteam bestehend aus Palantir, Google, Meta und Nvidia und einer wachsenden Präsenz in den Bereichen Regierung, Versicherungen, Gesundheitswesen und Finanzdienstleistungen in die nächste Phase des Produktionseinsatzes auf nationaler Ebene ein.
Jetzt beizutreten bedeutet, sowohl das Unternehmen als auch eine neue Kategorie angewandter KI zu gestalten. Jedes Projekt geht hier an die Produktion und soll einen messbaren Kundennutzen und eine messbare Wirkung erzielen.
Sie arbeiten gemeinsam mit außergewöhnlichen Kollegen an einigen der schwierigsten Probleme der angewandten KI. Auf diese Art von Arbeit werden Sie auch in zehn Jahren noch stolz sein.
Über die Rolle
Als unser Sicherheitsingenieur für Anwendung und KI sind Sie für die Sicherheit unserer Produkte und Anwendungsebene verantwortlich – sichere Entwicklungspraktiken, Agentensicherheit, Integrationssicherheit von Drittanbietern und Datenschutz für KI-Produkte, die in einigen der am stärksten regulierten und sensibelsten Umgebungen der Welt eingesetzt werden.
Dies ist eine praktische Builder-Rolle. Sie schreiben Code, liefern Sicherheitstools und arbeiten direkt mit Produkt- und ML-Ingenieuren zusammen, um die Sicherheit von Anfang an einzubauen, anstatt sie erst nachträglich hinzuzufügen. Von Ihnen wird erwartet, dass Sie KI-nativ arbeiten: Sie nutzen KI, um Bedrohungsmodelle zu schreiben, Sicherheitsüberprüfungen zu automatisieren, Codeanalysen zu skalieren und interne Tools zu erstellen. Das ist kein „nice-to-have“ – es geht darum, wie die Rolle funktionieren soll und wie eine Person in einer schnelllebigen technischen Organisation einen großen Einfluss haben kann.
Die Produkte von Brain Co. basieren auf einer Agenten-Infrastruktur – KI, die Maßnahmen ergreift, Tools aufruft und in komplexen institutionellen Arbeitsabläufen agiert. Der Grad variiert je nach Produkt, aber die zugrunde liegende Sicherheitsoberfläche ist konsistent: wie Agenten autorisiert werden, was sie angreifen können und wie dies auf der Anwendungsebene gesteuert wird. Diese Rolle ist speziell darauf ausgelegt, diese Oberfläche anzugehen und mit dem Infrastruktursicherheitsingenieur zusammenzuarbeiten, der für die darunter liegende Plattformschicht verantwortlich ist.
Woran Sie arbeiten werden
Anwendungssicherheit
•
Eigene sichere Entwicklungspraktiken für alle unsere Produkte: AuthN/AuthZ-Muster, Geheimnisverwaltung, Eingabeverarbeitung und standardmäßig sichere Standards, die Ingenieure befolgen können, ohne dass die Sicherheit zu einem Engpass wird.
•
Integrieren Sie Sicherheit in den Entwicklungslebenszyklus – Codeüberprüfung, CI/CD-Pipelines und Prüfungen vor der Bereitstellung – und erkennen Sie Risiken, bevor sie in die Produktion gelangen.
•
Führen Sie eine Bedrohungsmodellierung über Produktfunktionen und Release-Zyklen hinweg durch und übersetzen Sie Risiken in konkrete Kontrollen, die zusammen mit jedem Produkt bereitgestellt werden.
•
Erstellen und pflegen Sie Sicherheitstools und automatisierte Prüfungen, die Ihre Reichweite über die gesamte Codebasis skalieren – und nutzen Sie KI, um schneller voranzukommen und mehr Bereiche abzudecken, als es eine manuelle Überprüfung allein könnte.
Agenten- und Integrationssicherheit
•
Besitzen Sie das Sicherheitsmodell auf Anwendungsebene für die Agentenprodukte von Brain Co. – wie Agenten definiert sind, was sie im Namen von Benutzern tun dürfen und wo Vertrauensgrenzen zwischen dem Agenten und den externen Systemen liegen, die er berührt.
•
Definieren Sie sichere Muster für die Integration von Agenten in Systeme und APIs von Drittanbietern: wie Anmeldeinformationen gespeichert und festgelegt werden, wie Antworten validiert werden, bevor Maßnahmen ergriffen werden, und wie jedes Produkt einschränkt, was Agenten mit dem, was sie zurückerhalten, tun können.
•
Arbeiten Sie während der Funktionsentwicklung direkt mit Produkt- und ML-Ingenieuren zusammen, um sichere Agent-Designmuster zu definieren: Tool-Scoping, Berechtigungsgrenzen, Ausgabevalidierung und sichere Handhabung des Benutzerkontexts über mehrstufige Workflows hinweg.
•
Erstellen Sie wiederverwendbare, standardmäßig sichere Muster für die Agentenentwicklung – Designrichtlinien, Überprüfungschecklisten und Leitplanken auf Codeebene –, damit Sicherheitsstandards mit der Entwicklung neuer Agentenfunktionen skaliert werden.
•
Erstellen Sie Sicherheitsartefakte für Agentenfunktionen und Produktbereitstellungen: Bedrohungsmodelle, Architekturprüfungen und Dokumentation, die die Bereitstellung in regulierten Kundenumgebungen unterstützen.
Datenschutz
•
Definieren und setzen Sie Datenschutzstandards auf der Anwendungsebene durch, um sicherzustellen, dass vertrauliche Kundendaten (PHI, PII, Regierungsdaten) korrekt gehandhabt werden, während sie durch KI-Pipelines fließen und in Agentenausgaben auftauchen.
•
Bauen Sie Schutzmaßnahmen gegen unbefugte Offenlegung von Daten in allen unseren Produkten auf: Zugriffskontrollen, Ausgabefilterung und Audit-Protokollierung, die die Datenverarbeitung nachvollziehbar und überprüfbar machen.
•
Entwerfen Sie sichere Datenverarbeitungsmuster für KI-Funktionen, die mit regulierten Daten arbeiten, und arbeiten Sie mit Plattform- und ML-Teams zusammen, um sicherzustellen, dass die Anwendungsschicht ihren Anteil am Datenschutzvertrag einhält.
Sie könnten gut zu uns passen, wenn Sie...
•
Sie verfügen über mehr als 5 Jahre Erfahrung in der Anwendungs- oder Produktsicherheit und verfügen über praktische Erfahrung mit Produktionssystemen in großem Maßstab.
•
Seien Sie zuerst ein Builder – Sie schreiben Code und liefern Sicherheitstools und betrachten die Einbettung von Sicherheit in den Engineering-Workflow als Ihre Aufgabe und nicht als Nebeneffekt.
•
Sie verfügen über umfassende Kenntnisse der Grundlagen der Anwendungssicherheit: OWASP Top 10, AuthN/AuthZ, sicheres SDLC, Geheimnisverwaltung, sichere Integrationsmuster und Grundlagen der Kryptografie.
•
Verstehen Sie die Sicherheitsoberfläche der Agenten-KI auf der gesamten Produktebene – wie Agenten entworfen, in ihrem Umfang ausgelegt und auf Risiken überprüft werden sollten – und können Sie gemeinsam mit Ingenieuren an der Umsetzung dieser Standards arbeiten.
•
Sie verfügen über Erfahrung im Schutz sensibler Daten auf der Anwendungsebene: Zugriffskontrollen, Audit-Protokollierung und Verhinderung der Offenlegung von Daten durch Integrationen von Drittanbietern und KI-generierte Ausgaben.
•
Arbeiten Sie KI-nativ – Sie nutzen KI bereits, um besseren Code zu schreiben, schneller voranzukommen und mit weniger mehr zu erreichen, und Sie bringen denselben Instinkt in die Sicherheitsarbeit ein.…
Quelle: Jobicy (https://jobicy.com/jobs/158889-ai-application-security-engineer)
Dieses Angebot stammt aus einem Partner-Feed. Bewerben Sie sich auf der Quell-Website.
Quelle: Brain Co.
Inserat bereitgestellt von Brain Co..
