Griptly

Je conçois et construis des systèmes backend sécurisés et privés pour exécuter localement des grands modèles de langage open source. Mon travail se concentre sur la mise en place de matériel GPU dédié, la configuration d’environnements d’outils isolés et la mise en œuvre de superpositions sécurisées de réseau privé afin que les entreprises puissent utiliser des LLM sans dépendre des API cloud ni risquer de fuites de données.

Au lieu d’écrire de simples enveloppes d’API, je travaille côté infrastructure en connectant le calcul local, les couches de sécurité réseau et les pipelines de données pour réduire les coûts opérationnels et garder les données internes privées.

Domaine technique et outils :

Infrastructure et matériel : Calcul GPU sur site, déploiement local de LLM, automatisation Linux

Protocoles d’intégration : Protocole de Contexte de Modèle (MCP), Registres d’Outils, Environnements d’ExécutionSystèmes de données : Graphes de connaissances, Contexte vectoriel, Ingestion automatisée de documents

Réseau et sécurité : réseaux privés virtuels superposés, routage isolé de points d’accès (hotspot isolé), OAuth 2.0

Ingénierie des systèmes : Services conteneurisés (Docker), Architecture pilotée par les événements, Python/TypeScriptCore asynchrone

Projets techniques : Environnement LLM local : Déploiement de modèles à poids ouvert sur un cluster matériel local dédié pour déplacer tous les calculs d’inférence complètement hors du cloud.

Outils conteneurisés : Configuration d’un registre de plus de 900 outils Docker isolés en utilisant le protocole de contexte modèle pour offrir un accès sécurisé au système de fichiers des modèles locaux.

Intégration de la récupération de graphes : J’ai construit un pipeline d’ingestion qui mappe les répertoires système et les fichiers de markdown dans un graphe de connaissances localisé pour une récupération contextuelle.

Réseau réseau privé : Configuration d’une superposition réseau privée multi-appareils sur une passerelle cellulaire isolée, sécurisée par une authentification personnalisée par jeton et OAuth.

Hub de surveillance asynchrone : A construit des passerelles de communication Signal et Telegram orientées par des événements liées à des tâches cron en arrière-plan pour les alertes automatisées du système.

Je suis ouvert à entrer en contact avec des ingénieurs d’infrastructure, des fondateurs techniques et des architectes systèmes travaillant sur le calcul local privé et les réseaux backend sécurisés.