Développeur logiciel principal - LLM​/Senior Software Developer - LLM

A Moving Experience.

Description du poste:

• Développement de l’intégration système

• Collaborer avec les équipes de développement LLM pour intégrer les SDK dans les systèmes embarqués des véhicules

• Développer un middleware d’interaction vocale pour coordonner les pipelines

• ASR (reconnaissance vocale automatique), NLU (compréhension du langage naturel) et TTS (synthèse vocale)

• Concevoir une solution hybride intégrant les LLM en nuage et en périphérie, et gérer l’arbitrage entre les deux environnements

• Optimisation des performances

• Optimiser la latence de réponse de bout en bout

• Contrôler l’utilisation du processeur et de la mémoire, et accélérer le démarrage à froid

Exigences:

• Expérience professionnelle : 3 ans et plus

• Maîtrise du développement embarqué en C++11/14

• Expérience pratique avec Linux ou Android Automotive OS

• Compréhension des concepts LLM, Agent, RAG et des frameworks/runtime d’inférence associés

• Familiarité avec la communication inter-thread et inter-processus

À propos de Cerence Inc. Cerence Inc. (Nasdaq : CRNC et ) est le leader mondial dans la création d’expériences uniques et marquantes pour le monde automobile. Issue d’une scission de Nuance en octobre 2019, Cerence est une entreprise indépendante qui s’est rapidement imposée comme chef de file dans le domaine des assistants vocaux pour véhicules. Elle collabore avec les plus grands constructeurs automobiles — de Ford et Fiat Chrysler à Daimler, Audi et BMW, en passant par Geely et SAIC — pour transformer la façon dont une voiture ressent, réagit et apprend.

Son expertise repose sur plus de 20 ans de leadership dans l’industrie et sur plus de 500 millions de véhicules en circulation aujourd’hui, dans plus de 70 langues.

Alors que Cerence poursuit sa croissance ambitieuse, nous cherchons à accueillir une nouvelle personne dans notre équipe pour contribuer à bâtir l’avenir de la voix et de l’intelligence artificielle dans les véhicules. Il s’agit d’une occasion stimulante de rejoindre une équipe mondiale passionnée et dévouée, et de participer à une innovation significative dans une industrie en pleine expansion.

EMPLOYEUR ÉQUITABLE Cerence s’engage fermement à offrir l’égalité des chances en matière d’emploi (EEO) et à respecter toutes les lois fédérales, provinciales et locales interdisant la discrimination à l’embauche fondée sur l’âge, la race, la couleur, le genre, l’identité de genre, l’expression de genre, le sexe, les stéréotypes sexuels, la grossesse, l’origine nationale, l’ascendance, la religion, le handicap physique ou mental, l’état de santé, l’état civil, le statut de citoyenneté, l’orientation sexuelle, le statut militaire ou vétéran protégé, les informations génétiques et toute autre classification protégée.

Consultez notre politique sur l’égalité des chances en matière d’emploi.

Sécurité au travail Tous les employés actuels et futurs doivent faire preuve de vigilance dans l’application des politiques de sécurité en milieu de travail. Cela inclut :

Senior Software Developer - LLM

Job description:

• System Integration Development

• Interface with LLM development teams to integrate SDKs into in-vehicle systems

• Develop voice interaction middleware for coordinating ASR (Automatic Speech Recognition), NLU (Natural Language Understanding), and TTS (Text-to-Speech) pipelines

• Design hybrid solution to integrate cloud LLM and edge LLM, take care of the arbitration between cloud and edge

• Performance Optimization

• Optimize end-to-end response latency

• CPU and memory footprint control and cold-start acceleration

Requirement：

• Working experience: 3 years and above

• Proficient in C++11/14 embedded development

• Hands-on…