Machine Learning Engineer Model Serving and GPU Ops

Rejoignez DI Africa, un groupe international, en tant qu'Ingénieur Machine Learning pour opérer et développer des infrastructures d'inférence GPU, travaillant entièrement à distance depuis Madagascar.

Missions

Opérer l'infrastructure d'inférence sur site : rackage GPU sur un réseau isolé, service llama.cpp, chargement et quantification de modèles, et surveillance qui ne divulgue jamais de contenu. Rack et configurer les serveurs GPU sur un réseau isolé. Déployer et opérer l'inférence llama.cpp. Charger, quantifier et mettre à jour les modèles via le processus d'importation signé. Implémenter des métriques de santé qui n'exposent aucun contenu. Prévenir toute sortie accidentelle du réseau.

Profil recherché

Basé à Madagascar, travaillant à distance depuis chez soi. Expérience : Intermédiaire - 2 à 5 ans d'expérience professionnelle pertinente.

Compétences