Staff Machine Learning Developer

Company Description
Tout a commencé sous le soleil de San Diego, en Californie, en 2004, lorsqu'un ingénieur visionnaire, Fred Luddy, a vu le potentiel de transformer notre façon de travailler. Aujourd'hui, ServiceNow se présente comme un leader mondial du marché, apportant une technologie innovante améliorée par l'IA à plus de 8 100 clients, dont 85% des entreprises du Fortune 500®. Notre plateforme intelligente basée sur le nuage connecte de manière transparente les personnes, les systèmes et les processus pour permettre aux organisations de trouver des méthodes de travail plus intelligentes, plus rapides et meilleures. Mais ce n'est que le début de notre voyage. Joignez-vous à nous dans la poursuite de notre objectif de rendre le monde meilleur pour tous.
######
It all started in sunny San Diego, California in 2004 when a visionary engineer, Fred Luddy, saw the potential to transform how we work. Fast forward to today - ServiceNow stands as a global market leader, bringing innovative AI-enhanced technology to over 8,100 customers, including 85% of the Fortune 500®. Our intelligent cloud-based platform seamlessly connects people, systems, and processes to empower organizations to find smarter, faster, and better ways to work. But this is just the beginning of our journey. Join us as we pursue our purpose to make the world work better for everyone.
Job Description
Team
The Foundation Models Lab at ServiceNow Research helps build the foundation for ServiceNow's bespoke generative AI solutions, specifically tailored to meet the unique demands of our enterprise environment. Renowned for co-leading the BigCode project and releasing influential models like StarCoder and StarCoder 2, along with datasets such as the Stack and the Stack v2, our lab is now dedicated to strategic pretraining of foundation models for enterprise applications. Our mission extends beyond mere training; we aim to holistically design large language models considering their entire lifecycle. This includes curating training data to meet specific performance expectations, maximizing training efficiency, and, crucially, optimizing models for fast and cost-effective inference. By doing so, we ensure that our AI models are robust, efficient, and ready for further refinement and integration into ServiceNow's broader AI ecosystem.
Role
We are seeking a Staff Research Developer with a passion for deep learning, GPU programming, and optimizing computational models to the maximum.
In this role, you will:

• Enable large-scale model training projects that aim to significantly enhance our AI capabilities and ensure they are perfectly adapted to our platform.
• Take a lead in enhancing our 3D-parallelism training framework, aiming to make it more feature-complete and further increasing its speed and efficiency. This involves identifying compute bottlenecks and implementing critical tensor operations using OpenAI's Triton JIT compiler to maximize GPU utilization and training throughput.
• Design, implement, and optimize novel language model architectures that prioritize inference speed and scalability, aligning with ServiceNow's operational needs.
• Contribute to broadening our training framework's support for a diverse range of model architectures, balancing maintainability and stability with the need for innovative features and experimentation.
• Contribute to the open-sourcing efforts of our frameworks by ensuring they are well-documented, user-friendly, and ready for external adoption.

Dans ce rôle, vous serez amené à:

• Mener des initiatives pour améliorer notre système d'entraînement 3D-parallèle, avec pour objectif de le rendre plus complet en termes de fonctionnalités tout en augmentant sa vitesse et son efficacité. Cela inclut l'identification des goulots d'étranglement computationnels et la mise en œuvre d'opérations critiques sur les tenseurs en utilisant le compilateur JIT Triton d'OpenAI pour maximiser l'utilisation du GPU et le débit d'entraînement.
• Concevoir, implémenter et optimiser de nouvelles architectures de modèles linguistiques en mettant l'accent sur la vitesse d'inférence et l'évolutivité, en accord avec les besoins opérationnels de ServiceNow.
• Soutenir des projets d'entraînement de modèles à grande échelle visant à améliorer considérablement nos capacités en IA et à les adapter parfaitement à notre plateforme.
• Contribuer à l'élargissement de la compatibilité de notre système d'entraînement pour une gamme diversifiée d'architectures de modèles, en équilibrant la maintenabilité et la stabilité avec le besoin de fonctionnalités innovantes et d'expérimentation.
• Participer aux efforts de mise en open-source de notre système en veillant à ce qu'il soit bien documenté, convivial et prêt à être adopté par des utilisateurs externes.

Qualifications
To be successful in this role you have:

• A Master's degree with at least 5 years of relevant experience, or a Ph.D. in computer science, engineering, or a related field with 3 years of experience.
• Extensive experience in GPU programming for deep learning, with a proven track record of optimizing large-scale systems for performance and efficiency.
• Demonstrable skills in designing and implementing innovative deep learning architectures, preferably with experience in large language models.
• Proficiency in one or more major deep learning frameworks, such as PyTorch or JAX. Significant experience with CUDA and familiarity with OpenAI Triton are highly desirable.
• Strong collaborative skills with the ability to work in a dynamic environment, with a track record of driving projects to completion.
• Excellent problem-solving skills and the ability to work independently on complex issues.
• Effective communication skills, capable of articulating complex technical details and collaborating across teams.

Pour réussir dans ce rôle, vous devez avoir :

• Un Master en informatique, avec au moins 5 ans d'expérience pertinente, ou un doctorat en informatique, ingénierie ou un domaine connexe avec 3 ans d'expérience.
• Une expérience approfondie de la programmation GPU pour l'apprentissage profond, avec des résultats prouvés dans l'optimisation de systèmes à grande échelle pour la performance et l'efficacité.
• Des compétences démontrables en conception et implémentation d'architectures innovantes d'apprentissage profond, de préférence avec une expérience des grands modèles de langage.
• Une maîtrise d'un ou plusieurs cadres majeurs d'apprentissage profond, tels que PyTorch ou JAX. Une expérience significative avec CUDA et une familiarité avec Triton d'OpenAI sont fortement souhaitables.
• De solides compétences en collaboration avec la capacité de travailler dans un environnement dynamique, expérience de gestion de projets.
• Excellentes compétences en résolution de problèmes et capacité à travailler de manière autonome sur des questions complexes.
• Des compétences en communication efficaces, capables d'articuler des détails techniques complexes et de collaborer avec différentes équipes.

FD21
Not sure if you meet every qualification? We still encourage you to apply! We value inclusivity, welcoming candidates from diverse backgrounds, including non-traditional paths. Unique experiences enrich our team, and the willingness to dream big makes you an exceptional candidate!
Additional Information
Work Personas
Nous adoptons une approche basée sur la flexibilité et la confiance vis-à-vis de notre monde du travail distribué. Les personas de travail (flexibles, à distance ou requis au bureau) sont des catégories qui sont attribuées aux employés de ServiceNow en fonction de la nature de leur travail. Cliquez ici pour en savoir plus .
Equal Opportunity Employer
ServiceNow est un employeur qui souscrit au principe de l'égalité d'accès à l'emploi. Tous les candidats qualifiés recevront une considération pour l'emploi sans égard à la race, la couleur, la croyance, la religion, le sexe, l'orientation sexuelle, l'origine nationale ou la nationalité, l'ascendance, l'âge, le handicap, l'identité ou l'expression de genre, l'état matrimonial, le statut d'ancien combattant ou toute autre catégorie protégée par la loi. De plus, tous les candidats qualifiés ayant des antécédents d'arrestation ou de condamnation seront pris en considération pour un emploi conformément aux exigences légales.
Accommodations
Nous mettons tout en œuvre offrir une expérience accessible et inclusive pour tous les candidats. Si vous avez besoin d'une mesure d'adaptation raisonnable pour compléter une partie du processus de candidature ou si vous n'êtes pas en mesure d'utiliser cette candidature en ligne et que vous avez besoin d'une autre méthode pour postuler, veuillez communiquer avec [email protected] pour obtenir de l'aide.
Export Control Regulations
Pour les postes nécessitant l'accès à une technologie contrôlée assujettie aux règlements sur les contrôles à l'exportation, y compris les U.S. Export Administration Regulations (EAR), ServiceNow peut être tenu d'obtenir l'approbation des autorités gouvernementales en matière de contrôle des exportations pour certaines personnes. Tout emploi est subordonné à l'obtention par ServiceNow d'une licence d'exportation ou d'une autre approbation qui pourrait être requise par les autorités de contrôle des exportations compétentes.
Extrait de Fortune. ©2024 Fortune Media IP Limited. Tous droits réservés. Utilisé sous licence.
######
Work Personas
We approach our distributed world of work with flexibility and trust. Work personas (flexible, remote, or required in office) are categories that are assigned to ServiceNow employees depending on the nature of their work. Learn more here .
Equal Opportunity Employer
ServiceNow is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, creed, religion, sex, sexual orientation, national origin or nationality, ancestry, age, disability, gender identity or expression, marital status, veteran status, or any other category protected by law. In addition, all qualified applicants with arrest or conviction records will be considered for employment in accordance with legal requirements.
Accommodations
We strive to create an accessible and inclusive experience for all candidates. If you require a reasonable accommodation to complete any part of the application process, or are unable to use this online application and need an alternative method to apply, please contact [email protected] for assistance.
Export Control Regulations
For positions requiring access to controlled technology subject to export control regulations, including the U.S. Export Administration Regulations (EAR), ServiceNow may be required to obtain export control approval from government authorities for certain individuals. All employment is contingent upon ServiceNow obtaining any export license or other approval that may be required by relevant export control authorities.
From Fortune. ©2024 Fortune Media IP Limited. All rights reserved. Used under license.