Lakera Guard est une API externe par laquelle vous faites passer le texte avant de l'envoyer à un modèle de langage, puis après avoir reçu la réponse. Elle indique si le contenu ressemble à une tentative d'injection d'instructions, à une évasion des contraintes, à une fuite de données personnelles ou à un contenu contraire aux règles.
Le problème qu'elle traite est inscrit dans le fonctionnement même des modèles de langage : votre instruction et le texte de l'utilisateur arrivent par le même canal. Le modèle n'a aucun moyen architectural de les distinguer, si bien qu'une phrase bien formulée dans l'entrée peut écraser votre prompt système.
Un changement de nom et de propriétaire
Avant de partir à la chasse à la documentation, acceptez que les noms ont divergé, ce qui est une source de vraie confusion.
Lakera a été rachetée par Check Point. L'opération a été annoncée en septembre 2025 et finalisée en octobre de la même année, pour un montant rapporté publiquement autour de trois cents millions de dollars.
Le produit s'appelle désormais Check Point AI Guardrails. La documentation reste sous le domaine de Lakera, l'endpoint de l'API est resté le même, donc le code écrit auparavant continue de fonctionner. Ce qui a changé, c'est ce que vous voyez dans les documents commerciaux et dans la console, et surtout la façon dont il est vendu : le produit est passé dans les achats des grandes entreprises, avec un échange commercial à la place de l'inscription en libre-service.
Pour une petite équipe, cela compte concrètement. Un outil qui s'intégrait autrefois en un après-midi exige maintenant, à un volume significatif, de passer par le processus d'achat d'un éditeur de sécurité d'entreprise. Pour des expériences et un prototype, une clé de l'offre gratuite suffit encore.
Comment ça marche en pratique
Le modèle de fonctionnement est volontairement simple, et c'est sa plus grande force.
Guard se place à côté de votre application plutôt qu'à l'intérieur. Vous envoyez une requête avec le contenu, vous recevez un verdict, vous décidez de la suite. Il ne change ni votre modèle, ni votre fournisseur, ni la structure de votre prompt : l'intégrer ou le retirer se résume à une condition dans le code.
Cela entraîne une conséquence à accepter : chaque fragment vérifié est un appel réseau supplémentaire. L'éditeur annonce une latence inférieure à cinquante millisecondes, mais c'est un chiffre déclaré, mesuré côté service, donc votre propre calcul doit ajouter l'aller-retour depuis votre région.
L'adresse elle-même route vers la région la plus proche de l'expéditeur, et là où le lieu de traitement compte, vous pouvez en désigner une précise par sous-domaine : l'Irlande, Singapour ou l'une des régions des États-Unis. L'emplacement de stockage des journaux et la liste des régions autorisées à traiter les requêtes se configurent séparément, donc l'un n'impose pas l'autre.
Vérifier l'entrée et la sortie séparément donne deux appels par interaction utilisateur. Le streaming des réponses complique les choses, puisque soit vous retenez tout jusqu'à la fin de la génération, soit vous vérifiez par fragments et risquez de retirer un texte déjà affiché à l'écran.
Le premier appel
export LAKERA_GUARD_API_KEY=...import os
import requests
session = requests.Session()
def screen(content: str) -> bool:
response = session.post(
"https://api.lakera.ai/v2/guard",
json={
"messages": [{"content": content, "role": "user"}],
"project_id": "project-XXXXXXXXXXX",
},
headers={"Authorization": f"Bearer {os.environ['LAKERA_GUARD_API_KEY']}"},
timeout=3,
)
response.raise_for_status()
return response.json()["flagged"]
if screen(user_prompt):
raise ValueError("Request rejected by the filter")Le champ flagged est un simple booléen et suffit pour démarrer. La réponse contient aussi le détail des détections individuelles, et s'y intéresser tout de suite est rentable, car il distingue des situations qui appellent des réactions totalement différentes : une tentative d'injection n'a rien à voir avec un numéro de carte qu'un utilisateur a collé par erreur.
Notez le délai d'expiration (timeout) de l'appel. Sans lui, une panne du service externe se transforme en application bloquée, et pour un filtre de sécurité c'est le pire résultat possible, car il bloque un trafic qui n'avait pas besoin de l'être.
Cinq familles de défense
Le service répartit les menaces en cinq familles, et les différences comptent, car chacune appelle une réaction différente.
Les attaques par prompt couvrent les injections d'instructions, les tentatives d'évasion des contraintes et la manipulation du contenu système. C'est l'usage principal et la raison la plus courante de recourir à l'outil.
La fuite de données couvre les données personnelles et les autres informations sensibles. Cette catégorie fonctionne dans les deux sens : elle protège contre l'envoi de quelque chose au modèle et contre l'affichage de quelque chose à l'utilisateur.
La violation de contenu désigne les contenus offensants, haineux, sexuels ou violents. On est là plus près de la modération classique que de la sécurité.
Les liens inconnus consistent à détecter les adresses situées en dehors d'une liste de domaines autorisés. C'est la catégorie la moins évidente, et avec des agents elle peut sauver la mise, car l'exfiltration de données par un lien dans une réponse est une vraie voie d'attaque.
La cinquième famille, ajoutée en dernier, couvre le comportement des agents. Elle comprend la détection d'actions hors tâche, c'est-à-dire d'appels d'outils qui ne correspondent pas à ce que l'utilisateur a demandé, ainsi qu'une liste d'autorisation et de refus d'outils appliquée au moment de l'appel. Cette couche surveille non pas le contenu mais ce que l'agent fait réellement, donc elle attrape les conséquences d'une injection qui a échappé aux filtres précédents. L'endpoint examine aussi les descriptions d'outils et les réponses d'outils, car les deux voies introduisent du texte étranger dans le contexte du modèle.
Politiques, projets et réglage
La configuration repose sur deux concepts à comprendre avant de lancer quoi que ce soit en production.
Un projet est votre application ou une partie de celle-ci. Vous transmettez l'identifiant du projet à chaque appel, et il détermine la politique appliquée.
Une politique indique quels mécanismes sont actifs et avec quelle sensibilité. L'éditeur fournit un ensemble prêt à l'emploi pour les applications exposées au public, et c'est un point de départ raisonnable, rarement un point d'arrivée.
La raison est toujours la même : la sensibilité est un compromis, et le bon réglage dépend de ce que vos utilisateurs écrivent réellement. Une application destinée aux développeurs reçoit des fragments de code, des descriptions de vulnérabilités et des contenus qui, à haute sensibilité, ressemblent à une attaque. Une application pour clients de banque en reçoit presque jamais, donc elle peut se permettre des réglages plus stricts.
Le chemin pratique ressemble à ceci. Lancez le filtre en mode observation, en enregistrant les verdicts sans rien bloquer. Collectez quelques milliers de requêtes réelles. Passez en revue les détections et comptez combien sont de fausses alertes. Ce n'est qu'ensuite que vous activez le blocage, en commençant par les catégories au taux d'erreur le plus bas.
Des projets séparés pour la préproduction et la production évitent bien des ennuis, car ils vous permettent de changer la sensibilité sans qu'un changement n'atteigne immédiatement les utilisateurs.
Où l'intégrer dans une application
L'emplacement décide de l'efficacité plus que les réglages.
L'entrée de l'utilisateur est l'endroit évident et généralement le premier. Vous vérifiez le texte avant qu'il n'atteigne le prompt.
La sortie du modèle compte autant et est souvent oubliée. Un modèle qui a accepté une instruction injectée la révèle dans sa réponse, et c'est là qu'on peut encore l'arrêter.
Le troisième endroit est le plus oublié et, avec des agents, le plus dangereux : le contenu récupéré à l'extérieur. Une page web, un document, un résultat de recherche ou une réponse d'outil entre dans le contexte du modèle exactement comme le texte de l'utilisateur. Une instruction cachée dans une page récupérée agit exactement comme une instruction tapée dans une zone de chat, et personne ne l'a tapée délibérément.
def ask_model(prompt: str, fetched_context: str) -> str:
if screen(prompt) or screen(fetched_context):
return "I cannot process this request."
answer = call_model(prompt, fetched_context)
if screen(answer):
return "The answer was withheld by the filter."
return answerCette disposition donne trois appels par interaction, et c'est un vrai coût à garder en tête pour budgétiser l'argent et la latence. Avec un trafic important, il vaut la peine de vérifier une fois le contenu récupéré et de mettre le verdict en cache, car la même page revient dans de nombreuses requêtes.
Que faire d'une détection
Le signal seul ne fait que la moitié du travail. La façon dont vous réagissez à une détection est une décision de produit plutôt que technique, et elle mérite d'être tranchée avant le déploiement plutôt que pendant un incident.
Le rejet strict est le plus simple et le plus courant. L'utilisateur reçoit un message, la requête ne va pas plus loin. Il convient aux attaques manifestes, mais en cas de fausse alerte il ressemble à une application cassée et est signalé comme tel.
Le rejet souple consiste à laisser passer la requête avec des limites : pas d'accès aux outils, pas de données de la base, une réponse générale seulement. L'utilisateur obtient quelque chose plutôt qu'un mur, et vous contenez les dégâts. C'est un bon réglage par défaut pour les catégories avec un taux de fausses alertes plus élevé.
Le marquage pour relecture sans blocage convient là où arrêter un utilisateur légitime coûte cher et où la conséquence de laisser passer une attaque est contenue. Vous enregistrez l'événement et quelqu'un le revoit plus tard.
Traitez à part le cas où le filtre s'est déclenché sur la sortie du modèle. Une détection à cet endroit signifie que quelque chose a déjà mal tourné plus tôt : au-delà de retenir la réponse, il est utile d'enregistrer tout le contexte, c'est-à-dire le prompt système, les données récupérées à l'extérieur et la réponse complète. Sans cela, vous ne pouvez ni reconstituer la séquence ni déterminer où l'instruction est entrée.
Le dernier point concerne les messages. Dire à un utilisateur quelle règle il a enfreinte et comment rend la défense plus facile à contourner, car cela transforme le filtre en outil d'expérimentation. Un message générique accompagné d'un identifiant d'événement dans le journal donne au support tout ce dont il a besoin et ne donne rien à un attaquant.
Lakera Guard face aux alternatives
| Option | Fonctionnement | Coût | À choisir quand |
|---|---|---|---|
| Lakera Guard | Service de l'éditeur ou conteneur à vous | Payant, vente aux entreprises | Vous voulez un filtre fini sans maintenance |
| Guardrails AI | Bibliothèque locale, validators sous forme de code | Gratuit, licence ouverte | Contrôle des règles et des données |
| NeMo Guardrails | Local, dialogue décrit par des règles | Gratuit | Piloter le déroulement de la conversation |
| Presidio | Local, détection de données personnelles | Gratuit, licence MIT | Seulement la fuite de données, rien d'autre |
| Modération du fournisseur du modèle | Intégrée à l'API | Généralement incluse | Modération de contenu de base |
Le choix entre la première ligne et les autres se résume à une question : voulez-vous maintenir votre propre couche de détection ? Un service externe se met à jour tout seul, et c'est sa principale valeur, car les techniques d'injection changent tous les quelques mois et une liste de motifs écrite une fois vieillit plus vite que la plupart du code.
Le prix, c'est la dépendance à un éditeur, un coût par appel, et le fait que dans la variante cloud le contenu du prompt passe par le serveur de quelqu'un d'autre. Ce dernier point est parfois décisif, mais il peut être levé sans changer d'outil : le même produit se déploie sous forme de conteneur dans votre propre infrastructure. Cela coûte une licence entreprise, donc avec un petit budget, une solution ouverte reste la voie.
La dernière ligne mérite un examen honnête avant tout achat. La modération intégrée à l'API d'un fournisseur de modèle attrape les contenus offensants, généralement sans frais supplémentaires, mais ne détecte aucune injection, car ce n'est pas son rôle.
Tarifs, limites et que faire
Les tarifs ne sont pas publiés, et depuis le passage sous Check Point le produit se vend par des canaux d'entreprise : un chiffre concret vient donc d'un échange commercial et dépend du volume.
Un compte gratuit existe pour les expériences, suffisant pour juger la qualité de détection sur vos propres données, et commencer par là est sensé quels que soient vos projets ultérieurs. Quelques centaines de vraies requêtes passées dans le filtre vous en apprendront plus que n'importe quelle comparaison de précision, car vos données ressemblent rarement à un jeu de référence.
L'auto-hébergement est un poste à part. Un conteneur exécuté sous Docker ou dans Kubernetes à partir d'un chart Helm, y compris une variante entièrement hors ligne, exige une licence entreprise et des identifiants de registre : vous ne pouvez donc pas l'activer vous-même depuis un compte gratuit. En échange, le contenu ne quitte jamais votre réseau, et l'endpoint de cette version n'utilise aucune autorisation, puisqu'il n'y a pas de clé d'API à proprement parler.
Considérez les chiffres que l'éditeur annonce, détection supérieure à quatre-vingt-dix-huit pour cent, latence inférieure à cinquante millisecondes et fausses alertes inférieures à un demi pour cent, comme une affirmation plutôt que comme une mesure dans votre environnement. Les vérifier prend un après-midi et c'est la seule base crédible pour décider.
Quand vous chiffrez le coût, souvenez-vous du multiplicateur. Une interaction avec trois vérifications fait trois appels et non un, et dans une application où un agent enchaîne plusieurs étapes, ce nombre croît plus vite que le nombre de conversations ne le laisse penser.
Erreurs fréquentes
La première est de ne vérifier que l'entrée de l'utilisateur. Un modèle qui a accepté une instruction venant d'un document récupéré la révèle dans sa réponse, et personne ne vérifie cela.
La deuxième est l'absence de timeout et de gestion des pannes. Un service externe finira par répondre lentement ou pas du tout, et vous devez alors décider délibérément si le trafic passe ou est bloqué. Les deux réponses sont parfois justes ; une application bloquée ne l'est jamais.
La troisième est d'activer le blocage dès le premier jour sans période d'observation. Les fausses alertes touchent alors de vrais utilisateurs, et vous l'apprenez par les tickets du support.
La quatrième est de traiter le filtre comme la seule protection. Aucun filtre n'attrape tout : un agent capable de supprimer des données ou de déplacer de l'argent a donc besoin de limites de permissions distinctes, indépendantes de ce que le modèle a reçu dans son prompt.
La cinquième est d'envoyer à un service externe un contenu qui ne doit pas sortir. Un filtre de sécurité qui exporte lui-même des données hors de votre infrastructure résout un problème et en crée un autre. Pour les données soumises à restriction, vous avez deux issues dans le même produit : confiner le traitement à une région choisie ou monter vous-même le conteneur.
La sixième est de ne pas journaliser les détections. Sans journaux, vous ne savez pas si le filtre fonctionne, combien il bloque, ni s'il bloque les bonnes choses : vous n'avez donc aucune base pour modifier les réglages.
FAQ
Lakera Guard est-il toujours Lakera ?
Formellement, le produit s'appelle désormais Check Point AI Guardrails, après un rachat annoncé en septembre 2025 et finalisé en octobre. La documentation et l'endpoint de l'API sont restés sous l'ancien domaine, donc le code existant fonctionne sans changement.
Combien ça coûte ?
Les tarifs ne sont pas publics, et depuis le rachat la vente passe par des canaux d'entreprise : vous connaissez le chiffre lors d'un échange commercial. Pour des expériences et pour juger la qualité de détection, l'offre gratuite suffit.
Le filtre arrêtera-t-il toute injection ?
Non. C'est un système statistique et certaines tentatives passent, en particulier les nouvelles ou celles taillées pour une défense précise. Considérez-le comme une couche plutôt que comme une garantie, et limitez séparément ce que le modèle a le droit d'exécuter.
Peut-il tourner en local ?
Oui. À côté de la version cloud, il existe un déploiement dans votre propre infrastructure : un conteneur sous Docker ou dans Kubernetes à partir d'un chart Helm, variante hors ligne comprise. Il exige une licence entreprise, donc ce n'est pas une voie pour un test d'après-midi, mais le contenu ne quitte alors jamais votre réseau. Si vous voulez quelque chose de gratuit, tournez-vous vers Guardrails AI, ou vers Presidio pour les seules données personnelles.
Comment régler la sensibilité sans bloquer les utilisateurs ordinaires ?
Lancez le filtre en mode observation, collectez quelques milliers de requêtes réelles, comptez les fausses alertes par catégorie et n'activez le blocage qu'ensuite, en commençant par la catégorie au taux d'erreur le plus bas. Un réglage choisi sans ces données sera soit trop laxiste, soit gênant.
La documentation de l'API se trouve sur la page de référence de l'endpoint, et les détails du rachat dans l'annonce de Check Point.