Empleo
Del feed del socio
Estudiante trabajador - LLM Cuantización y rendimiento de inferencia
Precio a consultar
Detalles
- Tipo de empleo
- Jornada completa
- Remoto
- No
- Empresa
- Tensordyne
Descripción
Traducido automáticamente de English. El texto original es el oficial. Traducción automática — se está preparando una más precisa.
Acerca de Tensordyne (anteriormente Recogni)
La IA está transformando nuestro mundo. Puede realizar funciones cognitivas que antes sólo los humanos podían realizar, como percibir interacciones en diferentes modalidades y entornos, con la capacidad de aprender rápidamente y luego resolver problemas complejos. Tensordyne es una empresa de soluciones de sistemas de IA que construye sistemas de inferencia de IA generativa de muy alto rendimiento y bajo consumo de energía. Nuestra misión, a través de la creación de silicio, hardware y software personalizados, es permitir la aceleración de inferencia de IA generativa multimodal a escala, con sistemas seguros, sostenibles y de alto rendimiento para nuestros clientes de centros de datos de hiperescala y neonube. Estamos a la vanguardia del avance de las últimas investigaciones y mejoras de productos para soluciones de inferencia generativa de Al que harán que Al sea aún más ventajoso para nuevas aplicaciones convincentes de IA generativa. Tensordyne es una empresa emergente bien financiada y de ritmo rápido con sede en Sunnyvale, California, y Munich, Alemania. También contamos con muchos miembros talentosos del equipo que trabajan de forma remota en América del Norte y Europa. Cuidamos de nuestra gente y sus familias con beneficios integrales, compensación competitiva, opciones de gasto flexibles y programas de reconocimiento, porque la creación de tecnología que define una categoría comienza con un equipo saludable y respaldado. ¡Únase a nosotros mientras damos forma al futuro de la inteligencia artificial generativa multimodal!
Resumen de roles
¿Cuánta precisión numérica necesita un LLM y en qué parte de la arquitectura del modelo es más importante? ¿Cuándo mejora la cuantificación el tiempo de ejecución y cuánto cuesta en la calidad del modelo?
Estamos buscando un estudiante trabajador motivado que nos ayude a convertir estas preguntas en experimentos y los experimentos en código mantenible. Explorará métodos de optimización y creará herramientas de evaluación reutilizables. Trabajará en estrecha colaboración con nuestros ingenieros de cuantificación, compilador y tiempo de ejecución, y sus hallazgos influirán directamente en cómo optimizamos los modelos para el hardware de Tensordyne.
que haras
• Evaluación de la calidad del modelo: Mida cómo la computación de baja precisión afecta el rendimiento en los puntos de referencia de codificación y razonamiento. Diagnosticar dónde la cuantificación tiene el mayor impacto.
• Investigación de cuantificación: implemente y compare métodos de cuantificación posteriores al entrenamiento para mejorar la eficiencia de la inferencia y al mismo tiempo preservar la precisión de las tareas.
• Cree herramientas reproducibles: automatice evaluaciones, realice un seguimiento de configuraciones y resultados, y haga que los experimentos sean accesibles para ingenieros y agentes de IA.
• Medir el rendimiento del tiempo de ejecución: caracterizar la latencia, el rendimiento y el uso de la memoria para comprender los cuellos de botella en diferentes escenarios de implementación.
Un primer proyecto podría implicar explorar la frontera de Pareto calidad-rendimiento de un modelo Qwen o LlaMa. Experimentarás con configuraciones de cuantificación de 16, 8 y 4 bits para encontrar la mejor relación calidad-tiempo de ejecución.
Cualificaciones básicas
• Matrícula actual en Ciencias de la Computación, Matemáticas, Ingeniería Eléctrica, Aprendizaje Automático o un programa de maestría relacionado.
• Fuertes habilidades en Python y PyTorch, incluida la capacidad de comprender y modificar implementaciones de modelos.
• Uso eficaz de herramientas de codificación de IA y revisión crítica de sus resultados.
• Una mentalidad experimental: puede formular hipótesis, diseñar comparaciones y sacar conclusiones cuidadosas a partir de resultados ruidosos.
• Comunicación clara y capacidad para presentar hallazgos experimentales y compensaciones técnicas al equipo.
Ventajas importantes: experiencia en cuantificación, evaluación LLM, elaboración de perfiles de rendimiento u optimización de inferencias.
Este puesto es para usted si le gusta la responsabilidad, aprende rápidamente y es proactivo por naturaleza.
que ofrecemos
Únase a un equipo de alta tecnología que construye la próxima generación de sistemas de inferencia de IA. Ponga en práctica sus conocimientos universitarios con LLM líderes de código abierto, profundice su comprensión de la cuantificación y la optimización de la inferencia, y desarrolle habilidades en diseño experimental, ingeniería de software y herramientas de codificación de IA. Será dueño de un proyecto enfocado, recibirá tutoría cercana de ingenieros experimentados y tendrá espacio para explorar ideas que dan forma a nuestros métodos de optimización.
La cultura de Tensordyne se construyó sobre los siguientes valores
• Ponga a las personas en primer lugar. Sólo tendremos éxito cuando nuestra gente tenga éxito.
• Ética e integridad siempre. Sea abierto, honesto y respetuoso con todos.
• Piense en grande. Sea ambicioso y tenga metas audaces.
• Apuntar a la excelencia. La calidad y la excelencia cuentan en todo lo que hacemos.
• Sea dueño de ello y hágalo. ¡Los resultados importan!
• Hacer que cada persona sea mejor en conjunto de lo que sería individualmente.
• Acepten las diferencias de cada uno y acepten que habrá diferencias.
Tensordyne es un empleador que ofrece igualdad de oportunidades. Creemos que los equipos diversos están mejor equipados para resolver problemas complejos y crear tecnología excepcional. Todos los solicitantes calificados recibirán consideración para el empleo sin importar edad, color, identidad o expresión de género, estado civil, origen nacional, discapacidad, condición de veterano protegido, raza, religión, embarazo, orientación sexual o cualquier otra característica protegida por las leyes, regulaciones y ordenanzas aplicables.
Una nota para las agencias de contratación: no se comuniquen con los empleados o líderes de Tensordyne con respecto a este puesto. No aceptamos currículums de agencias no solicitados y no somos responsables de los honorarios asociados con envíos no solicitados.
Encuentre empleo en Alemania en Arbeitnow
Fuente: Arbeitnow (https://www.arbeitnow.com/jobs/companies/tensordyne/working-student-llm-quantization-inference-performance-munich-124483)
La IA está transformando nuestro mundo. Puede realizar funciones cognitivas que antes sólo los humanos podían realizar, como percibir interacciones en diferentes modalidades y entornos, con la capacidad de aprender rápidamente y luego resolver problemas complejos. Tensordyne es una empresa de soluciones de sistemas de IA que construye sistemas de inferencia de IA generativa de muy alto rendimiento y bajo consumo de energía. Nuestra misión, a través de la creación de silicio, hardware y software personalizados, es permitir la aceleración de inferencia de IA generativa multimodal a escala, con sistemas seguros, sostenibles y de alto rendimiento para nuestros clientes de centros de datos de hiperescala y neonube. Estamos a la vanguardia del avance de las últimas investigaciones y mejoras de productos para soluciones de inferencia generativa de Al que harán que Al sea aún más ventajoso para nuevas aplicaciones convincentes de IA generativa. Tensordyne es una empresa emergente bien financiada y de ritmo rápido con sede en Sunnyvale, California, y Munich, Alemania. También contamos con muchos miembros talentosos del equipo que trabajan de forma remota en América del Norte y Europa. Cuidamos de nuestra gente y sus familias con beneficios integrales, compensación competitiva, opciones de gasto flexibles y programas de reconocimiento, porque la creación de tecnología que define una categoría comienza con un equipo saludable y respaldado. ¡Únase a nosotros mientras damos forma al futuro de la inteligencia artificial generativa multimodal!
Resumen de roles
¿Cuánta precisión numérica necesita un LLM y en qué parte de la arquitectura del modelo es más importante? ¿Cuándo mejora la cuantificación el tiempo de ejecución y cuánto cuesta en la calidad del modelo?
Estamos buscando un estudiante trabajador motivado que nos ayude a convertir estas preguntas en experimentos y los experimentos en código mantenible. Explorará métodos de optimización y creará herramientas de evaluación reutilizables. Trabajará en estrecha colaboración con nuestros ingenieros de cuantificación, compilador y tiempo de ejecución, y sus hallazgos influirán directamente en cómo optimizamos los modelos para el hardware de Tensordyne.
que haras
• Evaluación de la calidad del modelo: Mida cómo la computación de baja precisión afecta el rendimiento en los puntos de referencia de codificación y razonamiento. Diagnosticar dónde la cuantificación tiene el mayor impacto.
• Investigación de cuantificación: implemente y compare métodos de cuantificación posteriores al entrenamiento para mejorar la eficiencia de la inferencia y al mismo tiempo preservar la precisión de las tareas.
• Cree herramientas reproducibles: automatice evaluaciones, realice un seguimiento de configuraciones y resultados, y haga que los experimentos sean accesibles para ingenieros y agentes de IA.
• Medir el rendimiento del tiempo de ejecución: caracterizar la latencia, el rendimiento y el uso de la memoria para comprender los cuellos de botella en diferentes escenarios de implementación.
Un primer proyecto podría implicar explorar la frontera de Pareto calidad-rendimiento de un modelo Qwen o LlaMa. Experimentarás con configuraciones de cuantificación de 16, 8 y 4 bits para encontrar la mejor relación calidad-tiempo de ejecución.
Cualificaciones básicas
• Matrícula actual en Ciencias de la Computación, Matemáticas, Ingeniería Eléctrica, Aprendizaje Automático o un programa de maestría relacionado.
• Fuertes habilidades en Python y PyTorch, incluida la capacidad de comprender y modificar implementaciones de modelos.
• Uso eficaz de herramientas de codificación de IA y revisión crítica de sus resultados.
• Una mentalidad experimental: puede formular hipótesis, diseñar comparaciones y sacar conclusiones cuidadosas a partir de resultados ruidosos.
• Comunicación clara y capacidad para presentar hallazgos experimentales y compensaciones técnicas al equipo.
Ventajas importantes: experiencia en cuantificación, evaluación LLM, elaboración de perfiles de rendimiento u optimización de inferencias.
Este puesto es para usted si le gusta la responsabilidad, aprende rápidamente y es proactivo por naturaleza.
que ofrecemos
Únase a un equipo de alta tecnología que construye la próxima generación de sistemas de inferencia de IA. Ponga en práctica sus conocimientos universitarios con LLM líderes de código abierto, profundice su comprensión de la cuantificación y la optimización de la inferencia, y desarrolle habilidades en diseño experimental, ingeniería de software y herramientas de codificación de IA. Será dueño de un proyecto enfocado, recibirá tutoría cercana de ingenieros experimentados y tendrá espacio para explorar ideas que dan forma a nuestros métodos de optimización.
La cultura de Tensordyne se construyó sobre los siguientes valores
• Ponga a las personas en primer lugar. Sólo tendremos éxito cuando nuestra gente tenga éxito.
• Ética e integridad siempre. Sea abierto, honesto y respetuoso con todos.
• Piense en grande. Sea ambicioso y tenga metas audaces.
• Apuntar a la excelencia. La calidad y la excelencia cuentan en todo lo que hacemos.
• Sea dueño de ello y hágalo. ¡Los resultados importan!
• Hacer que cada persona sea mejor en conjunto de lo que sería individualmente.
• Acepten las diferencias de cada uno y acepten que habrá diferencias.
Tensordyne es un empleador que ofrece igualdad de oportunidades. Creemos que los equipos diversos están mejor equipados para resolver problemas complejos y crear tecnología excepcional. Todos los solicitantes calificados recibirán consideración para el empleo sin importar edad, color, identidad o expresión de género, estado civil, origen nacional, discapacidad, condición de veterano protegido, raza, religión, embarazo, orientación sexual o cualquier otra característica protegida por las leyes, regulaciones y ordenanzas aplicables.
Una nota para las agencias de contratación: no se comuniquen con los empleados o líderes de Tensordyne con respecto a este puesto. No aceptamos currículums de agencias no solicitados y no somos responsables de los honorarios asociados con envíos no solicitados.
Encuentre empleo en Alemania en Arbeitnow
Fuente: Arbeitnow (https://www.arbeitnow.com/jobs/companies/tensordyne/working-student-llm-quantization-inference-performance-munich-124483)
Este anuncio proviene de un feed de socios. Solicítalo en el sitio web de origen.
Fuente: Tensordyne
Ubicación
Múnich, Alemania
Publicación proporcionada por Tensordyne.
