Governor AI — Gestion et sécurité de l’IA — Français

LawGuard bloque l’action, même si l’IA la tente.

Governor AI est en pilotes internes et externes actifs. Sa sécurité ne repose pas sur un modèle de langage qui obéirait à sa consigne. Le modèle peut ignorer les instructions et tenter une action non autorisée. LawGuard est un programme distinct, à l’extérieur du modèle, qui vérifie cette tentative à la limite protégée et la bloque avant son exécution.

Ici, un agent de rapports est autorisé à produire un résumé interne. Regardez-le passer le contrôle des règles et terminer automatiquement, selon une délégation existante. Personne n’a besoin d’approuver chaque étape de routine.

La consigne demande de garder le rapport à l’interne. Le modèle tente pourtant d’exporter des données privées. Il est sorti de ses instructions. LawGuard refuse cette action de façon indépendante, avant l’exécution : rien n’est envoyé. Le rapport interne autorisé reste disponible, et la console consigne la tentative refusée.

Votre propre console Governor AI.*

Chaque client reçoit son propre tableau de bord personnalisé. Les services, fonctions d’IA, règles de fonctionnement et vues de décision sont conçus pour cette organisation. Cet exemple reprend notre console Governor AI : vue d’ensemble, parc, LawGuard et audit.

Dans la vue d’ensemble, la santé des services et celle des contrôles Governor sont distinctes. Le fil d’activité évolue avec le travail reçu. Ouvrez le parc pour voir le service touché, l’âge de ses observations et les fonctions d’IA inscrites.

Un serveur en bon état ne signifie pas automatiquement qu’une action est autorisée. La console montre les deux. Vous passez d’un événement à sa règle, à son autorisation et à son résultat, tout en conservant le contexte d’origine.

LawGuard fonctionne à l’extérieur du modèle.

LawGuard n’est pas une consigne placée dans l’IA. C’est un programme de contrôle indépendant, à l’extérieur du modèle. Celui-ci peut encore produire un appel d’outil interdit, même après avoir reçu l’instruction contraire. Cet appel doit passer par LawGuard avant d’atteindre la fonction protégée. Sans autorisation valide, il n’y a pas d’exécution.

Examinez la demande de cet agent logiciel. Son identité, son action, sa cible et les conditions actuelles sont vérifiées. Un permis limité lie l’autorisation à la demande acceptée. Le point de réception le vérifie à nouveau avant que le connecteur puisse agir.

Changer la cible invalide cette permission. Un permis réutilisé ou expiré est également refusé. Dans un système mis en service, l’IA ne dispose d’aucune voie pour s’accorder des privilèges, réécrire les règles actives ou atteindre l’effet protégé par un autre outil. Ces voies sont vérifiées lors de la mise en service.

Des règles adaptées à chaque mission.

LawGuard n’applique pas une règle vague à toutes les IA. Un rapport, une publication logicielle et un ajustement de ressources ont des objectifs et des conséquences différents. Chaque fonction inscrite reçoit des règles adaptées à sa mission et à son système.

Dans LawGuard, sélectionnez une fonction. Son inspecteur explique pourquoi la règle existe, ce qu’elle permet et ce qu’elle interdit. Il précise l’appelant, les cibles, les données permises, les observations récentes, les limites et les vérifications exigées.

Regardez la fonction sélectionnée passer du rapport à la publication logicielle. Ses règles changent avec elle. Modifier ces règles demande un changement gouverné distinct. La sortie d’un modèle, un document importé ou une instruction mémorisée ne peuvent pas publier une nouvelle règle.

Une autonomie définie à l’avance.*

Governor AI permet une autonomie utile. Selon la gouvernance du client, les personnes habilitées peuvent préautoriser des actions, des cibles et des limites précises, avec expiration et révocation. LawGuard vérifie toujours chaque appel. À l’intérieur de cette délégation permanente, le travail avance sans nouveau clic humain.

Cette fonction de capacité peut ajuster une charge de test approuvée dans la limite de ressources convenue. La demande est conforme : elle s’exécute automatiquement. La console relie l’action à l’autorisation qui l’a permise.

Une autre fonction exige une décision individuelle. Sa demande exacte attend le bon opérateur. Une demande contraire aux règles reste refusée dans les deux modes. Seules les personnes habilitées peuvent modifier ou retirer une délégation. L’IA ne peut ni élargir ni renouveler sa propre autorité.

Lire n’autorise pas à exporter.*

La sécurité de l’IA concerne aussi l’information. Être autorisé à lire un jeu de données ne signifie pas pouvoir l’envoyer n’importe où. Les règles de fonction de LawGuard couvrent l’usage prévu, les champs permis et la destination approuvée.

Ici, un agent lit des totaux opérationnels approuvés et prépare un rapport interne. Le contenu autorisé est remis au public interne prévu. Les données privées des clients restent en dehors du parcours de données permis pour ce rapport.

Maintenant, deux étapes apparemment utiles sont combinées : lire une table privée, puis la joindre à un message externe. Cette exportation combinée est refusée. L’audit identifie la restriction sur les données et les destinataires. Enchaîner des outils gouvernés n’élargit donc pas les permissions.

Gouverner le logiciel et les activités métier.*

L’intérêt va bien au-delà de la réparation d’un serveur. Governor Code réunit plusieurs agents d’IA dans un espace de projet durable. Governor AI peut aussi être conçu autour de la livraison logicielle et des activités de l’entreprise. Chaque effet demande son intégration et ses règles adaptées.

Dans cet exemple de publication, l’agent propose une version candidate examinée pour un environnement de test approuvé. LawGuard vérifie l’artefact, la destination, la révision actuelle et l’autorisation. La version acceptée passe ensuite à l’exécution et à une vérification indépendante.

L’agent demande ensuite un déploiement en production avec un artefact différent. Cette demande est refusée. Chez un autre client, les limites pourraient concerner un compte, un destinataire approuvé ou un plafond d’achat. Le processus réel du client définit la règle.

Plusieurs spécialistes, une opération gouvernée.*

Governor AI organise des responsabilités qui coopèrent : observation, planification, coordination, exécution, vérification et preuves. Les spécialistes peuvent s’entraider tout en gardant une mission et un périmètre définis. Davantage d’agents ne signifie pas davantage d’autorité.

La vue de coordination confie un rapport, une vérification logicielle et une investigation de service à différents spécialistes. Chaque tâche conserve son contexte d’entreprise et ses permissions. LawGuard contrôle les effets, même lorsque le travail vient d’un autre agent.

Deux tâches demandent maintenant la même ressource. L’une attend pendant que l’autre la détient. Un coordinateur ou un conseil de modèles peut proposer un ordre de travail, mais ne peut pas contourner les règles, emprunter les privilèges d’un autre rôle ou ignorer une action non résolue.

Les connaissances survivent au changement de modèle.*

Governor Memory conserve les connaissances du projet en dehors d’un modèle de langage particulier. Il préserve les sources, les décisions et un historique durable, avec provenance et examen. Une nouvelle session ou un autre modèle peut reprendre le travail sans hériter d’une autorité imaginaire.

Ouvrez la vue Memory de l’incident. Un résultat vérifié renvoie à ses sources. Une explication de l’IA est conservée comme hypothèse, séparément d’un fait opérationnel accepté. Une observation plus récente peut remplacer une affirmation ancienne tout en conservant l’historique.

L’agent de remplacement retrouve le contexte autorisé et poursuit sa mission. Avant d’agir, il lui faut toujours des observations et une autorisation actuelles. Une note indiquant qu’une réparation a fonctionné la semaine passée reste une connaissance, jamais une permission réutilisable aujourd’hui.

Comprendre pourquoi une action a eu lieu — ou non.

Une décision de sécurité doit rester explicable après les faits. Governor AI relie l’observation, la proposition, la version des règles, l’autorisation, l’envoi et le résultat vérifié. Les responsables peuvent ainsi reconstituer toute la séquence.

Dans Audit, ouvrez le rapport interne vu plus tôt. La trace indique la fonction de rapport, la délégation exacte et le résultat observé. Ouvrez ensuite l’exportation refusée pour voir la restriction qui l’a arrêtée avant tout envoi.

Une décision favorable n’est pas considérée comme une preuve de réussite. L’exécution et la vérification ont leurs propres enregistrements. Les opérateurs, la direction et les réviseurs disposent ainsi d’un compte rendu clair : ce qui a été demandé, ce qui était permis et ce qui s’est réellement produit.

L’incertitude reste visible.*

Un fonctionnement sûr implique aussi de gérer les informations manquantes. Une réponse perdue ne prouve pas qu’une action a échoué. Governor AI garde l’incertitude visible, suspend les tâches incompatibles et vérifie la cible originale avant une nouvelle tentative.

Ici, l’action a été envoyée, mais sa réponse manque. La console indique un résultat inconnu. Une deuxième demande incompatible attend. Une réconciliation en lecture seule rassemble les reçus disponibles et les observations actuelles, au lieu de répéter aveuglément l’effet.

Les opérateurs peuvent arrêter les nouvelles actions dans un périmètre défini et examiner les accusés des appareils destinataires. Un arrêt n’annule pas le travail déjà commencé. Si des contrôles obligatoires ou des preuves manquent, les nouveaux effets gouvernés sont suspendus. Les services ordinaires et le rétablissement indépendant conservent leurs propres voies de fonctionnement.

Des entreprises aux systèmes nationaux.

Notre ambition s’étend aux entreprises, aux services essentiels, aux services publics et aux systèmes dont dépendent les nations. Le principe demeure : automatiser dans une autorité explicite, avec des règles appliquées hors du modèle. Chaque domaine demande ses experts, ses règles, ses intégrations et sa qualification.

Cette console illustrative de services publics présente des fonctions distinctes pour les bâtiments, la planification des transports et la coordination des services. Une tâche de planification approuvée avance dans sa délégation. Une demande de désactivation d’une fonction de sécurité protégée est refusée.

L’institution garde le contrôle de ses règles opérationnelles, des limites de ses données et de ses autorisations. Elle choisit son hébergement et ses fournisseurs d’IA. Son tableau de bord est conçu pour ses équipes et ses besoins de supervision, plutôt que d’imposer à une nation un écran générique de réparation.

Un système conçu pour chaque client.

Governor conçoit et construit le système de chaque client sur une base réutilisable. LawGuard, Memory et les programmes de soutien choisis gardent leurs responsabilités. Le tableau de bord, les règles de fonction, les intégrations, les identités et les données opérationnelles du client restent propres à cet engagement.

Comparez ces deux consoles d’exemple. Une entreprise voit ses publications logicielles et ses processus métier. Une institution publique voit ses services et ses responsabilités déléguées. Ces environnements clients ont des accès et des données séparés, tout en reposant sur les mêmes composants maintenus.

Le système peut fonctionner sur l’infrastructure du client avec l’intégration et le soutien de Governor, ou Governor peut exploiter le service géré convenu. Dans les deux cas, le client définit son autorité métier et les responsabilités sont explicites.

Progresser sans donner les clés à l’IA.*

Governor AI est conçu pour progresser par des changements contrôlés. Une IA peut proposer un meilleur processus, un changement de code ou une nouvelle règle. Proposer une amélioration ne l’autorise pas à déployer ce changement ni à réécrire ses propres limites.

Une version candidate passe dans un environnement de test isolé. Les résultats sont examinés indépendamment, puis le processus de publication autorisé décide de l’adopter ou non. La console consigne la version exacte, ses tests et son déploiement contrôlé.

Memory conserve les apprentissages. Audit conserve la trace des décisions. LawGuard continue d’appliquer les règles acceptées. Le client profite de meilleurs modèles et de composants réutilisables, tout en gardant l’autorité, les publications et le rétablissement entre des mains responsables.

Mettez l’IA au travail. Gardez le contrôle.

Pour un client, l’objectif est concret : une automatisation plus utile, moins d’actions incontrôlées, des connaissances durables et des preuves consultables. Pour un investisseur, la base est réutilisable, tandis que les règles et la livraison sont conçues pour chaque client.

Governor AI est développé au Canada et participe déjà à des pilotes internes et externes actifs. Nous l’utilisons à l’interne, et les pilotes externes nous aident à l’affiner. D’autres fonctionnalités poursuivent leur phase finale de recherche et développement. Chaque engagement définit les fonctions gouvernées, les limites de fonctionnement et la console dédiée au client.

Le modèle peut raisonner, proposer des idées et accomplir un travail préautorisé par des outils gouvernés. Il peut aussi tenter une étape qu’il n’a jamais été autorisé à réaliser. LawGuard vit à l’extérieur du modèle et refuse cette étape à la limite de l’action protégée. L’autorité reste à l’organisation, même si le modèle ignore sa consigne.

Pilotes internes et externes actifs. * Actuellement en phase finale de R-D. Scénarios illustratifs.
