Staff AI Application Engineer - Heterogeneous Computing

Über uns

Axelera AI (https://www.axelera.ai) ist kein gewöhnliches Deep-Tech-Unternehmen. Wir erschaffen die KI-Plattform der nächsten Generation, um jeden zu unterstützen, der dazu beitragen möchte, die Menschheit voranzubringen und die Welt um uns herum zu verbessern.

In nur fünf Jahren haben wir insgesamt 450 Millionen $ eingeworben und ein erstklassiges Team von über 250 Mitarbeitern aufgebaut (einschließlich über 60 PhDs mit mehr als 40.000 Zitaten), sowohl remote aus 21 verschiedenen Ländern als auch mit Büros in Belgien, Frankreich, der Schweiz, Italien, dem UK, mit Hauptsitz am High Tech Campus in Eindhoven, Niederlande.

Wir haben zudem unsere Metis™ AI Platform auf den Markt gebracht, die eine 3-5-fache Steigerung der Effizienz und Leistung erreicht, und verfügen über eine starke Business-Pipeline von über 100 Millionen$.

Unser unerschütterliches Engagement für Innovation hat uns fest als globaler Branchenpionier etabliert.

Sind Sie bereit für die Herausforderung?

Positionsübersicht

Als Staff AI Application Engineer im Model Enablement Team (Application Software) werden Sie unsere Model Enablement Platform aufbauen und entscheiden, wie jedes Modell über die Metis oder Europa AIPU, die Host-CPU und die Beschleuniger des Hosts läuft. Wie diese Arbeit aufgeteilt und geplant wird, bestimmt den Großteil der End-to-End-Leistung, die ein Kunde im Voyager SDK sieht.

Die Rolle kombiniert Architektur und praktische Arbeit über das Model Frontend, den Graph Compiler, die Runtime und die Application Pipeline hinweg. Während des Model Bring-ups decken Sie das Frontend und die Graph-Seite ab, während ein Engineer auf der Device-Seite das Backend abdeckt.

Unser Team nutzt KI-Coding-Agents in der täglichen Arbeit, und Sie werden diese nutzen, um Ihre eigene Arbeit aufzubauen, zu testen und zu verifizieren. Wir begrüßen auch erfahrene Field Application Engineers, Technical Leads und Engineering Manager, die zur praktischen Engineering-Arbeit zurückkehren möchten. Erfahrung in der Planung, Delegation und Überprüfung von Aufgaben lässt sich gut auf die Arbeit mit KI-Agents übertragen.

Hauptverantwortlichkeiten:

• Model enablement platform und agent harness: Bauen Sie die Plattform, die Engineers und KI-Agents nutzen, um Modelle bereitzustellen: wiederverwendbare Tools zum Partitionieren, Kompilieren, Ausführen und Profilen; Umgebungen mit Zugriff auf echte Hardware; Closed-Loop-Läufe, die eine Änderung anwenden, sie gegen die Referenz messen und wiederholen; und Verifizierung (Differential Testing, Regressionserkennung), integriert in die CI.
• Model ingestion: Verantwortlich dafür, wie ein PyTorch- oder ONNX-Modell erfasst, analysiert und über die Matrix- und RISC-V Vector Units der AIPU, die Host-CPU und die Beschleuniger des Hosts (GPU, NPU, Video Decoder) aufgeteilt wird, mit Placement-Tags, die Benutzer lesen und überschreiben können. Bauen Sie dies mit dem Graph Compiler Team auf, damit es für jedes Modell funktioniert.
• Heterogeneous execution: Erweitern Sie diese Aufteilung auf große Modelle, Kaskaden und Multi-Modell-Pipelines, zum Beispiel durch Expert Offloading und Caching über Device- und Host-Speicher hinweg. Stimmen Sie den Plan mit dem Graph Compiler Team ab.
• End-to-end performance: Bringen Sie mit dem Application Team (Pipeline Builder) und dem Runtime Team jedes Modell zu seiner besten End-to-End-Leistung: Überlappung von Host- und Device-Arbeit, Zero-Copy-Buffer, Batching, Multi-Core-Scheduling und Modelle mit mehreren Eingängen. Profilen Sie Device-Zeit, Host-Zeit und Datentransfer und bestätigen Sie jede Beschleunigung in der vollständigen Pipeline.
• Critical models: Untersuchen Sie die Modelle, die für Kunden am wichtigsten sind, heute auf Metis und auf Europa, und machen Sie aus jeder Erkenntnis eine Plattformverbesserung.

Qualifikationen:

Essentiell

• 8+ Jahre Engineering-Erfahrung in den Bereichen Systeme, Compiler, Runtimes oder Performance, einschließlich der Verantwortung für das Systemdesign.
• Praktische Erfahrung mit Heterogeneous Computing über CPU, GPU, DSP, NPU oder FPGA hinweg, einschließlich der Bewertung von Rechenleistung, Speicherbandbreite, Latenz und Datentransfer.
• Fundierte Grundlagen in Computerarchitektur, Betriebssystemen und paralleler Programmierung.
• Vertrautheit mit ML-Graph-Repräsentationen und Compiler-Konzepten: Graph Capture (torch.export, FX, ONNX), Lowering, Operator Fusion, Partitionierung, Memory Planning.
• Starkes C++ und Python.
• Tägliche Nutzung von KI-Coding-Agents bei echter Engineering-Arbeit, mit dem Urteilsvermögen, deren Ergebnisse zu überprüfen und zu testen.

Bevorzugt

• Praktische Erfahrung mit MLIR oder einem anderen Compiler-Framework (TVM, XLA, TorchInductor, IREE).
• Erfahrung mit einer Inference Runtime oder Execution Engine (ONNX Runtime Execution Provider, eine kundenspezifische NPU- oder DSP-Runtime).
• Erfahrung mit GPU Compute (CUDA, OpenCL, Vulkan) oder SIMD-Optimierung auf Arm oder x86.
• Erfahrung mit Techniken zur Ausführung großer Modelle wie Offloading, Expert Caching, Speculative Decoding, Pipelining über verschiedene Devices hinweg.
• Erfahrung im Aufbau von Agent-Umgebungen, Evaluation Harnesses oder Verifizierungs-Frameworks (Differential Testing, Regressionserkennung) oder MCP-basierten Tools.

Standort

Wir bieten flexible Arbeitsmodelle mit Optionen zu:

• Arbeit in einem unserer Axelera AI Büros (Leuven in Belgien, Amsterdam und Eindhoven in den Niederlanden, Zürich in der Schweiz, Florenz und Mailand in Italien oder Bristol im Vereinigten Königreich), falls Sie bereits in der Nähe ansässig sind.
• Vollständig remote aus jedem europäischen Land (einschließlich des UK), in dem Sie sich bereits befinden.
• Umzug mit uns und Arbeit in Italien (Florenz oder Mailand) oder den Niederlanden (Amsterdam oder Eindhoven).

Bitte beachten Sie, dass Bewerber, die in Belgien oder Italien ansässig sein möchten, bevorzugt werden.

Was wir bieten

Dies ist Ihre Chance, Teil einer dynamischen, sch