High Performance Computing Specialist
An elite Montreal based Trading Firm is seeking an HPC Systems Specialist to join a team responsible for designing and operating high performance GPU platforms that support advanced AI and machine learning workloads. This role sits at the intersection of infrastructure engineering, distributed systems, and performance tuning, with ownership spanning from physical hardware through large‑scale model serving. You will work closely with ML practitioners and infrastructure peers to build reliable, scalable, and highly optimized compute environments.
What You'll Do
- Build, operate, and continuously improve GPU-based compute platforms supporting large-scale inference and ML workloads
- Design and deploy distributed model serving architectures across multi-node, multi-GPU environments
- Operate and evolve Kubernetes clusters with GPU scheduling for AI and ML use cases
- Configure and tune networking components such as load balancers, firewall rules, and high-throughput interconnects for GPU clusters
- Develop and optimize storage solutions for model artifacts, checkpoints, and inference caches
- Diagnose and resolve performance and stability issues across hardware, drivers, networking, and application layers
- Partner with ML engineers to benchmark models, analyze performance characteristics, and apply inference acceleration strategies
- Evaluate new GPU hardware, serving frameworks, and infrastructure patterns to improve efficiency and scalability
- Improve system reliability through observability, alerting, capacity planning, and on-call/incident response processes
- Automate provisioning and lifecycle management using infrastructure-as-code and scripting
What You Bring
- Bachelor's or Master's degree in Computer Science, Engineering, or a related discipline
- 5+ years of experience in managing high performance computing environments
- Hands-on experience operating GPU compute environments for ML inference or training
- Familiarity with modern model serving frameworks (e.g., vLLM, SGLang, or similar) and GPU driver/runtime management
- Strong Linux systems expertise, including networking, storage, and kernel-level performance considerations
- Practical experience running GPU workloads on Kubernetes at scale
- Experience with infrastructure automation tools such as Terraform, Ansible, or equivalent
- Solid understanding of distributed systems concepts, networking fundamentals (TCP/IP, HTTP/2), and load-balancing strategies
- Proficiency in Python and shell scripting for tooling and automation
- Experience with monitoring and observability platforms such as Prometheus, Grafana, or comparable tools
This is a hybrid role in the firms Montreal office requiring 3 days per week onsite, and 2 days remote.
FAQs
Herzlichen Glückwunsch – wir wissen, dass es ein großer Schritt ist, sich die Zeit für eine Bewerbung zu nehmen. Wenn Sie sich bewerben, werden Ihre Angaben direkt an den zuständigen Berater weitergeleitet, der aktiv nach passenden Talenten sucht. Aufgrund der hohen Nachfrage können wir uns möglicherweise nicht bei allen Bewerbern zurückmelden. Wir behalten Ihren Lebenslauf und Ihre Daten jedoch stets in unserer Datenbank und melden uns bei Ihnen, sobald wir ähnliche Positionen sehen oder Fähigkeiten identifizieren, die das Wachstum von Unternehmen vorantreiben können.
Ja. Auch wenn diese Position nicht perfekt zu Ihrem nächsten Karriereschritt passt, hilft uns Ihre Bewerbung dabei, Ihre Fachkenntnisse und Ziele besser zu verstehen. So stellen wir sicher, dass Sie bei der passenden Gelegenheit auf unserem Radar sind.
Wir arbeiten auf unterschiedliche Weise: Zum einen veröffentlichen wir die aktuell verfügbaren Positionen auf unserer Website. Häufig können wir jedoch aus Gründen der Vertraulichkeit nicht alle Vakanzen ausschreiben. Darüber hinaus arbeiten wir mit Kunden zusammen, die einen stärkeren Fokus auf Fähigkeiten legen und darauf, was erforderlich ist, um ihr Unternehmen zukunftssicher aufzustellen.
Aus diesem Grund empfehlen wir, Ihren Lebenslauf zu registrieren, damit Sie auch für Positionen berücksichtigt werden können, die noch nicht geschaffen wurden.
Ja, wir unterstützen Sie bei der Optimierung Ihres Lebenslaufs und der Vorbereitung auf Vorstellungsgespräche. Von individueller Beratung über die gezielte Vorbereitung auf Interviews bis hin zu Gehalts- und Vertragsverhandlungen stehen wir Ihnen während Ihres gesamten nächsten Karriereschritts zur Seite.