OpenLIT est un et une plateforme d'observabilité pour la production d'applications d'IA. Il adopte l'architecture native OpenTelemetry et couvre le traçage LLM/Agent, les métriques, les erreurs, les évaluations, Prompt Hub, Vault, la surveillance GPU et l'exportation OTLP. Il convient aux équipes d'ingénierie qui doivent intégrer les applications GenAI dans le suivi et l'évaluation formels.

OpenLIT

Paramètres et statistiques de base

OpenLIT se positionne officiellement comme une plateforme d'ingénierie d'IA open source. L'objectif n'est pas simplement d'enregistrer les journaux de requêtes LLM, mais de placer les liens du développement, du débogage, de l'évaluation et de la surveillance de la production des applications d'IA dans le même système natif OpenTelemetry. Ses objets principaux incluent l'exécution d'agents d'appel LLM, la base de données vectorielle MCP, le GPU et les services métiers personnalisés.

Projets	Informations publiques
Entrée officielle	https://openlit.io/
Formulaire de produit	Plateforme open source + SDK + Contrôleur + Web UI
Base technologique	Conventions sémantiques OpenTelemetry / OTLP
Modules de base	Traçage, métriques, erreurs, évaluations, tableaux de bord, Prompt Hub, OpenGround, Vault, Fleet Hub
Licence Open Source	Apache-2.0
Dépôt GitHub	ouvert/ouvert
Taille de la communauté	Environ 2 534 étoiles, 304 fourchettes
Dernière version de GitHub	contrôleur-0.9.0, 2026-06-10
SDK Python	PyPI ouvert 1.42.0
Méthodes de déploiement	Auto-hébergé, Docker/Docker Compose, Kubernetes, Linux, liste d'attente OpenLIT Cloud
Backends externes	Grafana, Datadog et tout backend compatible OTLP

Limites de positionnement : OpenLIT ressemble plus à une surface de contrôle d'observation et d'évaluation de l'IA qu'à un fournisseur de modèles, une plateforme de formation ou une BI commerciale générale. Cela peut aider l'équipe à voir clairement le lien d'appel de l'IA, le coût, la qualité et les erreurs, mais il ne peut pas remplacer la définition de l'équipe commerciale des normes de « bonne réponse », ni résoudre automatiquement les problèmes de qualité.

Reconnaissance des utilisateurs et du marché

Signaux d'adoption de l'Open Source : Le référentiel openlit/openlit a formé une communauté de développeurs visible, l'API GitHub affiche actuellement environ 2 534 étoiles et 304 forks, et le projet est toujours en cours de soumission et de publication en juin 2026. Pour les outils d'observabilité de l'IA, ce type de données montre qu'il a dépassé le stade du concept pur et constitue la base d'une reproduction externe, d'un déploiement et d'un retour d'information sur les problèmes.

Position écologique : OpenLIT se place au sein de l'écosystème OpenTelemetry, plutôt que de simplement créer un panneau de journalisation LLM au format privé. Ce choix réduit la résistance des équipes à accéder aux infrastructures d'observation existantes telles que Grafana, Datadog, ClickHouse et OTLP Collector, et facilite également l'entrée dans les organisations qui disposent déjà de systèmes d'ingénierie SRE/plateforme.

Limite du marché : le nombre de clients payants, les revenus, le taux de rétention ou la répartition par secteur ne sont pas officiellement divulgués ; la page de tarification indique que Cloud sera bientôt disponible, indiquant que la valeur principale à ce stade est toujours axée sur l'auto-hébergement open source et l'adoption par les développeurs, plutôt que sur le système de contrat SaaS mature.

Avantage de coût

Côté/Individuel : les développeurs individuels et les petites équipes peuvent exécuter la pile complète sans frais de licence en utilisant le chemin auto-hébergé. La page de tarification indique clairement que l'auto-hébergement coûte 0 $ pour Apache-2.0, aucune clé de licence et aucune limite d'utilisation ; le coût réel provient principalement des ressources du serveur local ou cloud, de la période de conservation du stockage et d'une petite quantité de temps d'exploitation et de maintenance.

API/Développeur : les coûts des développeurs se concentrent sur l'accès au SDK, la définition de la sémantique de trace/span, le nettoyage des champs sensibles, la maintenance des échantillons d'évaluation et l'accès au backend OTLP. L'avantage d'OpenLIT est la réutilisation d'OpenTelemetry : les équipes qui disposent déjà d'APM, de journaux et de systèmes d'indicateurs n'ont pas besoin de créer un pipeline de surveillance complètement isolé pour les applications d'IA.

Entreprise/Privé : les entreprises utilisant l'auto-hébergement peuvent conserver les invites de journal, les paramètres d'appel, les piles d'erreurs et les données d'évaluation au sein de leur propre infrastructure, réduisant ainsi le risque d'externalisation des données et de dépendance envers un fournisseur. Le prix comprend les mises à niveau, les sauvegardes, le contrôle d'accès, la conservation des données, les politiques d'alerte et le déploiement haute disponibilité. Le forfait Cloud n'est pas encore ouvert et les termes tels que SSO/SAML, journaux d'audit, SLA et support dédié doivent être confirmés une fois que les informations officielles sur le Cloud ou l'entreprise sont claires.

Fonctions principales

• LLM et Agent Tracing : enregistrez les étapes de l'appel de LLM à l'agent, de l'outil appelant MCP, de la base de données vectorielle et des liens liés au GPU pour aider l'équipe d'ingénierie à diviser une réponse échouée en un chemin d'exécution rejouable.
• Mesures et suivi des coûts : résumez l'utilisation des jetons, le coût, la latence, le taux d'erreur et d'autres indicateurs pour regrouper la qualité du modèle, le coût des appels et la stabilité du système dans la même vue.
• Surveillance des erreurs et des exceptions : suivez les erreurs d'application et les traces de pile, adaptées à la localisation de problèmes tels que "le modèle est correct mais le lien système échoue", tels que l'échec de la récupération, le délai d'attente de l'outil, les paramètres manquants ou les exceptions backend.
• Évaluations : prend en charge le LLM en tant que juge et l'évaluation programmée, convertit les échantillons réels en traces en entrées de contrôle de la qualité et réduit les angles morts liés au recours uniquement à des contrôles ponctuels manuels.
• Prompt Hub et OpenGround : gérez les versions d'invites, les expériences et les règles contextuelles, adaptées pour comparer l'impact de différentes invites, modèles ou combinaisons de contextes sur la qualité de sortie.
• Gestion des prix du coffre-fort et des modèles : gérez de manière centralisée les secrets, les prix des modèles et les calibres de coûts pour éviter la maintenance séparée des informations d'identification et des listes de prix pour les appels d'évaluation, d'observation et de production.
• Fleet Hub et collecteurs distants : collectez et gérez les données d'observation des applications d'IA pour plusieurs environnements de déploiement, adaptés aux systèmes multiservices dans les environnements Kubernetes, Docker et Linux.

Evolution du modèle et de la version

Version principale

controller-0.9.0 (2026-06-10) : GitHub Releases vérifie actuellement la dernière version, indiquant qu'OpenLIT renforce la route Controller. Le contrôleur est orienté vers les scénarios Kubernetes, Docker et Linux et réduit le seuil d'accès pour l'observation du code zéro via eBPF et l'injection automatique du SDK.

Python SDK 1.42.0 (2026-06) : version publique actuelle de PyPI, la description du package met en évidence l'instrumentation automatique native d'OpenTelemetry pour la surveillance des applications LLM et des GPU. Le SDK est l'entrée clé permettant à OpenLIT d'accéder au système d'observation à partir des applications des développeurs.

Jalons du produit

Ligne principale de la plate-forme d'ingénierie d'IA open source (2026-06) : la page de documentation répertorie OpenLIT, les SDK OpenLIT et le contrôleur OpenLIT comme trois types d'outils OSS. Les capacités de la plateforme ont été étendues du traçage LLM à la gestion des invites, aux évaluations, aux tableaux de bord, aux journaux, aux collecteurs distants et au collecteur GPU.

Phase de liste d'attente Cloud : la page de tarification indique que le Cloud sera bientôt disponible, avec une infrastructure gérée prometteuse, des mises à niveau automatiques, un support dédié, des garanties SLA, SSO/SAML et des journaux d'audit. Ce statut montre que la solution cloud commerciale est encore en phase de pré-ouverture et que l'équipe de production devrait l'évaluer en fonction des capacités d'auto-hébergement à ce stade.

Avantages techniques

Mécanisme natif d'OpenTelemetry : OpenLIT suit la convention sémantique d'OpenTelemetry et se connecte aux backends externes via OTLP. L'effet est que les traces, les mesures et les erreurs des applications d'IA peuvent entrer dans le système observable existant, ce qui convient aux équipes de plateforme qui ont déjà construit Grafana, Datadog ou Unified Collector.

Instrumentation automatique : les SDK OpenLIT fournissent une instrumentation automatique pour les LLM, les agents, les frameworks, les bases de données vectorielles, les MCP et les GPU. L’effet est de réduire les journaux manuscrits et la maintenance manuelle, et convient aux équipes d’applications d’IA qui doivent couvrir rapidement plusieurs modèles, plusieurs frameworks et plusieurs services.

Route du contrôleur et de l'eBPF : le contrôleur OpenLIT cible Kubernetes, Docker et Linux, en mettant l'accent sur l'observabilité du LLM et de l'agent sans code. L'effet est d'abaisser le seuil d'accès de « modification du code pour chaque application » à l'injection côté infrastructure, ce qui convient aux scénarios dans lesquels l'équipe de la plateforme gère plusieurs applications de manière unifiée.

Couplage évaluation et observation : OpenLIT stocke non seulement les traces, mais met également en ligne le LLM-as-a-juge, les évaluations programmatiques, Prompt Hub et OpenGround dans la même plateforme. L'effet est que les échantillons anormaux en ligne peuvent être redistribués pour une évaluation et des expériences rapides, ce qui convient aux produits qui nécessitent une optimisation continue de la qualité des réponses.

Comment utiliser

L'entrée d'utilisation d'OpenLIT est divisée en trois couches : l'accès au SDK de la plate-forme auto-hébergée et l'accès au contrôleur. Le chemin le plus simple consiste d'abord à utiliser Docker Compose pour exécuter la pile complète, puis à connecter un service d'IA à faible risque au SDK et à observer si les traces, les métriques, les erreurs et les calibres de coûts sont conformes aux habitudes de surveillance existantes de l'équipe.

1. Obtenez des instructions d'auto-hébergement dans le référentiel OpenLIT ou sur la page de documentation et utilisez Docker/Docker Compose pour démarrer l'interface utilisateur, le stockage ClickHouse et OpenTelemetry Collector.
2. Installez le SDK OpenLIT dans Python ou l'application cible, et configurez le point de terminaison OTLP, le nom de l'application, le contexte et les informations de prix du modèle nécessaires.
3. Sélectionnez un lien LLM/Agent pour accéder au point enterré automatique et vérifiez si la trace contient des informations sur l'appel de modèle, l'appel d'outil, le jeton d'étape de récupération, la latence, le coût et les erreurs.
4. Configurez les évaluations pour les échantillons en ligne ou les ensembles de tests et associez les résultats de qualité aux traces.
5. Lorsqu'un accès unifié à plusieurs services est requis, évaluez le contrôleur, les collecteurs distants, l'exportation Grafana/Datadog et la gestion des clés Vault.

Points clés pour l'acceptation : Au moins quatre choses doivent être confirmées au cours de la phase pilote : si la structure de trace peut localiser le nœud défaillant, si les statistiques de coûts sont cohérentes avec le calibre de facturation du modèle, si les champs sensibles ont été désensibilisés ou non collectés et si les résultats de l'évaluation peuvent refléter la qualité réelle de l'entreprise.

Prix des produits

La structure actuelle donnée par la page tarifaire OpenLIT est claire : l'auto-hébergé est disponible et gratuit en permanence, le Cloud n'est pas encore ouvert et le programme de parrainage prend en charge la maintenance du projet via OpenCollective.

Planifier	Prix ​​public	Statut	Contenu principal
Auto-hébergé	0 $ / pour toujours	Disponible maintenant	Apache-2.0, pas de clé de licence, pas de limites d'utilisation, observabilité LLM complète, plus de 60 intégrations, surveillance GPU, Prompt Hub, Vault, Fleet Hub, évaluations, exportation OTLP
Nuage	Inédit	À venir	Infrastructure hébergée, support dédié aux mises à niveau automatiques, SLA, SSO/SAML, journaux d'audit, demandes de fonctionnalités prioritaires
Partisan du jeton	10$/mois	Commanditaire	Triage prioritaire des badges de supporters de la communauté, tri des problèmes GitHub, canal de sponsor Discord
Héros de la fenêtre contextuelle	50$/mois	Commanditaire	Contient les droits des supporters du jeton, le logo du sponsor README, la saisie de la feuille de route, l'appel mensuel

Limite de prix : Ce n'est pas parce que le logiciel open source lui-même est gratuit que le coût total est nul. Le déploiement en production entraînera toujours des coûts pour le stockage du serveur ClickHouse, la conservation des journaux, la sauvegarde, la surveillance, les mises à niveau et la gouvernance de la sécurité ; Le SLA de prix entreprise du Cloud et les conditions relatives aux données ne sont actuellement pas divulgués et sont soumis à la page officielle en temps réel.

Scénarios d'application

• Application LLM de production observable : convient aux équipes qui ont déjà lancé des services de chat RAG, de recherche IA, de service client ou de génération de contenu. L'objectif de la vérification est de savoir si la trace peut couvrir les appels de modèle, la récupération, les outils et les exceptions back-end.
• Débogage et lecture de l'agent : convient aux scénarios d'agent en plusieurs étapes, d'agent appelant un outil, de connexion MCP et d'orchestration de flux de travail. L'objectif de la vérification est de savoir si les entrées et sorties de chaque étape, les paramètres de l'outil, les erreurs et la consommation de temps peuvent être localisés.
• Évaluation de la qualité LLM et surveillance de la régression : convient aux produits avec des changements fréquents dans les invites, les modèles et les stratégies de récupération. L'objectif de la vérification est de savoir si les normes d'évaluation sont stables, si les échantillons en ligne peuvent être convertis en ensembles de tests et si de mauvais exemples peuvent être reproduits.
• Surveillance des coûts du GPU et du modèle : convient aux scénarios d'inférence de GPU de modèle auto-hébergé ou de fournisseur de modèle hybride. L'objectif de la vérification est de savoir si le coût, le retard et le taux d'erreur du jeton indicateur GPU peuvent être uniformément attribués.
• Intégration Enterprise Observation Stack : convient aux organisations disposant de backends Grafana, Datadog ou OTLP existants. L'objectif de la vérification est de savoir si les données OpenLIT peuvent entrer dans les processus d'alarme, de reporting et d'audit existants.

Personnes concernées

• Ingénieur d'application IA : besoin de localiser les problèmes d'invite, de récupération, d'appel d'outil et de sortie de modèle dans le lien LLM/Agent. Il convient de mettre à niveau le débogage du journal de la console vers une trace structurée.
• Platform Engineering et SRE Team : les services GenAI doivent être intégrés aux systèmes d'observabilité, d'alarme et de gestion des coûts existants, et il est approprié d'utiliser OpenTelemetry et OTLP pour réduire la duplication de la construction.
• LLMOps / Evaluation Manager : Il est nécessaire d'enchaîner les traces réelles, les versions invites des jeux d'évaluation et les indicateurs de qualité, ce qui est adapté pour établir un suivi continu des régressions.
• Équipe de conformité et de sécurité des données : concentrez-vous sur les invites, les entrées utilisateur, les clés et les limites de conservation des journaux, adaptés pour réduire les risques sortants grâce à Vault auto-hébergé, aux politiques de désensibilisation et au contrôle d'accès.

Ne convient pas aux limites : les démos ponctuelles, les scripts personnels sans trafic en ligne, les projets qui n'appellent qu'un seul modèle et disposent de suffisamment de journaux de fournisseurs pourraient ne pas pouvoir utiliser la plateforme complète à court terme. Si l’équipe n’a pas défini la dénomination des traces, le traitement des champs sensibles, les normes d’évaluation et les politiques de conservation des données, l’accès direct à grande échelle générera des données bruyantes et des charges de gouvernance.

Résumé et Outlook

La valeur fondamentale d'OpenLIT est de placer l'observabilité de l'IA, l'OpenTelemetry, la gestion des invites d'évaluation et le déploiement auto-hébergé dans le même chemin d'ingénierie. Il convient aux équipes qui ont mis en production des applications LLM/Agent et qui doivent tenir compte des fluctuations de qualité, des anomalies de coûts, des échecs d'appel d'outils et de la consommation des ressources GPU.

Les limites actuelles sont également claires : le cloud est toujours au stade de la liste d'attente et les SLA, SSO/SAML, les journaux d'audit, le support commercial et les prix d'hébergement au niveau de l'entreprise n'ont pas encore été entièrement divulgués ; la taille de la communauté est inférieure à celle des APM à usage général plus matures ou de certaines plateformes LLMOps ; la qualité de l'accès à OpenTelemetry repose toujours sur la conception de l'envergure, la stratégie de désensibilisation et les normes d'évaluation de l'équipe. Il est recommandé de commencer avec un lien IA principal, d'utiliser une à deux semaines pour comparer le temps de dépannage manuel, le taux d'achèvement du suivi, la cohérence du calibre des coûts et le taux de réussite de l'évaluation, puis de décider s'il convient d'étendre à plusieurs services et à l'auto-hébergement au niveau de l'entreprise.

Outils associés : Copilote GitHub, Curseur

Informations de version

• Contrôleur OpenLIT 0.9.0 ：Les versions GitHub peuvent actuellement vérifier la dernière version, en se concentrant sur OpenLIT Controller ; la version PyPI actuelle du SDK Python est la 1.42.0, qui est utilisée pour le suivi automatique d'OpenTelemetry-native. （2026-06-10）
• Kit de développement logiciel OpenLIT Python 1.42.0 ：La version publique actuelle de PyPI, la description du package est une bibliothèque de suivi automatique native d'OpenTelemetry pour les applications LLM et les GPU. （2026-06）
• Plateforme d'ingénierie d'IA open source ：La principale gamme de produits divulguée sur la page de documentation couvre le traçage, la gestion des invites, les évaluations, les tableaux de bord, les journaux, les collecteurs distants, les SDK OpenLIT et le contrôleur OpenLIT. （2026-06）