Staff AI Application Engineer - Heterogeneous Computing

About Us

Axelera AI (https://www.axelera.ai) non è la solita azienda deep-tech. Stiamo creando la piattaforma AI di prossima generazione per supportare chiunque voglia contribuire all'avanzamento dell'umanità e migliorare il mondo in cui viviamo.

In soli cinque anni, abbiamo raccolto un totale di $450 milioni e abbiamo costruito un team di livello mondiale composto da oltre 250 dipendenti (inclusi più di 60 PhD con oltre 40.000 citazioni), sia da remoto da 21 paesi diversi che con uffici in Belgio, Francia, Svizzera, Italia, UK, con sede principale presso l'High Tech Campus di Eindhoven, Paesi Bassi.

Abbiamo inoltre lanciato la nostra Metis™ AI Platform, che raggiunge un incremento di efficienza e prestazioni di 3-5x, e abbiamo visibilità su una solida pipeline commerciale che supera i $100 milioni.

Il nostro incrollabile impegno per l'innovazione ci ha affermato fermamente come pionieri globali del settore.

Sei pronto alla sfida?

Position Overview

In qualità di Staff AI Application Engineer nel team Model Enablement (Application Software), costruirai la nostra piattaforma di model enablement e deciderai come ogni modello viene eseguito tra Metis o Europa AIPU, la CPU host e gli acceleratori dell'host. Il modo in cui questo lavoro viene suddiviso e pianificato determina la maggior parte delle prestazioni end-to-end che un cliente vede nel Voyager SDK.

Il ruolo combina architettura e lavoro pratico (hands-on) attraverso il frontend del modello, il compilatore di grafi, il runtime e la pipeline applicativa. Durante il bring-up del modello, ti occuperai del frontend e della parte relativa ai grafi, mentre un ingegnere lato device si occuperà del backend.

Il nostro team utilizza agenti di codifica AI nel lavoro quotidiano, e tu li userai per costruire, testare e verificare il tuo lavoro. Accogliamo inoltre field application engineer esperti, technical lead e engineering manager che desiderano tornare all'ingegneria pratica. L'esperienza nella pianificazione, delega e revisione del lavoro si traduce bene nel lavorare con gli agenti AI.

Responsabilità chiave:

• Model enablement platform e agent harness: Costruire la piattaforma che gli ingegneri e gli agenti AI utilizzano per il bring-up dei modelli: strumenti riutilizzabili per partizionare, compilare, eseguire e profilare; ambienti con accesso all'hardware reale; esecuzioni a ciclo chiuso che applicano una modifica, la misurano rispetto al riferimento e ripetono; e verifica (differential testing, regression detection) integrata nella CI.
• Model ingestion: Gestire il modo in cui un modello PyTorch o ONNX viene catturato, analizzato e suddiviso tra le unità matriciali e vettoriali RISC-V dell'AIPU, la CPU host e gli acceleratori dell'host (GPU, NPU, video decoder), con tag di posizionamento che gli utenti possono leggere e sovrascrivere. Costruire questo con il team del compilatore di grafi affinché funzioni per ogni modello.
• Heterogeneous execution: Estendere questa suddivisione a modelli di grandi dimensioni, cascate e pipeline multi-modello, ad esempio con expert offloading e caching tra memoria del dispositivo e dell'host. Concordare il piano con il team del compilatore di grafi.
• End-to-end performance: Con il team applicativo (pipeline builder) e il team runtime, portare ogni modello alla sua migliore prestazione end-to-end: sovrapposizione del lavoro host e device, buffer zero-copy, batching, scheduling multi-core e modelli con diversi input. Profilare il tempo del dispositivo, il tempo dell'host e il movimento dei dati, e confermare ogni speedup nella pipeline completa.
• Critical models: Studiare i modelli che contano di più per i clienti, oggi su Metis e su Europa, e trasformare ogni lezione in un miglioramento della piattaforma.

Qualifiche:

Essential

• 8+ anni di esperienza ingegneristica in sistemi, compilatori, runtime o prestazioni, inclusa la responsabilità della progettazione a livello di sistema.
• Esperienza pratica con il computing eterogeneo su CPU, GPU, DSP, NPU o FPGA, incluso il ragionamento su calcolo, larghezza di banda della memoria, latenza e movimento dei dati.
• Solide basi in architettura degli elaboratori, sistemi operativi e programmazione parallela.
• Familiarità con le rappresentazioni dei grafi ML e i concetti di compilatore: graph capture (torch.export, FX, ONNX), lowering, operator fusion, partitioning, memory planning.
• Ottima conoscenza di C++ e Python.
• Uso quotidiano di agenti di codifica AI su veri lavori di ingegneria, con il giudizio necessario per revisionare e testare il loro output.

Preferred

• Esperienza pratica con MLIR o un altro framework di compilazione (TVM, XLA, TorchInductor, IREE).
• Esperienza con un runtime di inferenza o un motore di esecuzione (ONNX Runtime execution providers, un runtime NPU o DSP personalizzato).
• Esperienza con il calcolo GPU (CUDA, OpenCL, Vulkan) o ottimizzazione SIMD su Arm o x86.
• Esperienza con tecniche di esecuzione di modelli di grandi dimensioni come offloading, expert caching, speculative decoding, pipelining tra dispositivi.
• Esperienza nella costruzione di ambienti per agenti, harness di valutazione o framework di verifica (differential testing, regression detection), o strumenti basati su MCP.

Location

Offriamo un accordo di lavoro flessibile, con opzioni per:

• Lavorare in uno degli uffici di Axelera AI (Leuven in Belgio, Amsterdam ed Eindhoven nei Paesi Bassi, Zurigo in Svizzera, Firenze e Milano in Italia o Bristol nel Regno Unito) se ti trovi già nelle vicinanze.
• Lavorare completamente da remoto da qualsiasi paese europeo (incluso il Regno Unito) in cui ti trovi già.
• Trasferirti con noi e lavorare dall'Italia (Firenze o Milano) o dai Paesi Bassi (Amsterdam o Eindhoven).

Si prega di notare che la priorità sarà data ai candidati che sono [interessati a risiedere] in Belgio o in Italia.

Cosa offriamo

Questa è la tua occasione per dare forma e far parte di un'organizzazione internazionale, dinamica e in rapida cresc