Rendre l'IA gouvernée sûre et fiable
Governor Technologies Inc. a été fondée pour répondre à une question : comment laisser l'IA exploiter de vrais systèmes sans jamais avoir à compter sur le simple fait qu'elle suive sa consigne? Notre réponse : l'application des règles à l'extérieur du modèle. Nous commençons modestement, avec de grandes ambitions.
Governor AI est un système de gestion et de sécurité de l'IA. Il rend les opérations d'IA gouvernées sûres et fiables, pour que vous n'ayez jamais à compter sur une IA qui se contente de suivre sa consigne : l'application des règles se fait à l'extérieur du modèle.
Le problème que nous avons entrepris de résoudre
On confie déjà aux agents d'IA de vraies actions sur de véritables infrastructures : maintenance, remédiation, déploiement. La façon habituelle de les garder sûrs est de les instruire soigneusement et d'espérer qu'ils obéissent. Ce n'est pas un contrôle, et cela ne produit aucune preuve que quiconque puisse examiner ensuite.
Un confinement générique ne suffit pas non plus. Un robot de maintenance a besoin de lois de maintenance pour son propre parc; un agent de déploiement a besoin de lois de déploiement. La sécurité doit être propre au système, au programme et à la fonction.
Comment nous y répondons
Nous bâtissons la couche qui se place entre la proposition d'une IA et l'action qu'elle prendrait. LawGuard détient les lois propres à chaque fonction et décide, à l'extérieur du modèle, si une action proposée peut s'exécuter et sous quelle autorité. Memory garde les connaissances dont dépend un système gouverné indépendantes de tout modèle. Code apporte la même discipline au travail logiciel.
Autour du produit phare, nous bâtissons les produits dont les exploitants ont besoin : une console de gestion, un moniteur de collecte de preuves, un tableau de commande de machines virtuelles et une défense contre les rançongiciels. Et nous faisons de la recherche sur la protection des logiciels qu'ils livrent.
Les engagements qui guident tout ce que nous bâtissons
Application à l'extérieur du modèle
Les règles sont appliquées par un composant distinct au moment de l'action. Une consigne est une instruction; LawGuard est un contrôle. Les opérations ne dépendent jamais de l'obéissance d'une IA.
Autorité explicite
Pour chaque fonction, le client choisit l'approbation individuelle de chaque action ou une délégation permanente dans les limites de LawGuard. L'octroi est exact et consigné, et son application l'est aussi.
Des preuves, pas des assurances
Chaque proposition, décision, autorité et résultat est consigné. Les résultats de laboratoire sont étiquetés comme résultats de laboratoire. Une affirmation dont nous ne pouvons pas montrer la preuve est une affirmation que nous ne faisons pas.
Propre à la fonction, jamais générique
Les lois sont écrites pour les systèmes, programmes et fonctions réels qu'elles gouvernent. Le confinement générique seul est une description incomplète de la sécurité.
Une fondation, des systèmes sur mesure
Des programmes communs, autonomes et réutilisables, avec une source unique faisant autorité; les lois, la configuration et l'état propres au client tenus à part. Chaque système client est conçu et bâti pour ce client.
Commencer modestement, viser haut
Des projets pilotes délimités, avec des critères mesurables de réussite et d'échec, précèdent l'expansion. L'ambition est une IA gouvernée pour les systèmes dont dépendent les nations et les entreprises; la méthode est une étape prouvée à la fois.
Bâti sur des valeurs canadiennes
Governor Technologies Inc. est une entreprise canadienne. Les principes de transparence, de responsabilité et de confiance institutionnelle qui caractérisent l'approche du Canada en matière de technologie et de gouvernance sont les principes sur lesquels ses produits sont bâtis.
Stabilité et confiance
La réputation du Canada en matière de gouvernance stable, de développement technologique éthique et de respect de la primauté du droit est la fondation sur laquelle bâtir des systèmes auxquels les exploitants, les nations et les entreprises peuvent confier des infrastructures critiques.
Perspective mondiale
Nation multiculturelle aux liens profonds avec les marchés nord-américains et internationaux, le Canada apporte à la technologie une approche équilibrée et ouverte sur le monde, au service d'intervenants diversifiés.
Confidentialité et souveraineté
Les normes canadiennes de protection des données et le respect de la souveraineté numérique correspondent aux besoins des organisations qui veulent que le contrôle leur reste, plutôt qu'à une plateforme d'IA.
Innovation responsable
L'histoire du Canada, qui concilie progrès technologique et surveillance éthique, en fait le bon endroit pour bâtir une infrastructure d'IA gouvernée.
La discipline que les produits appliquent est celle que nous suivons
La discipline derrière les produits est la même que celle que les produits appliquent : des règles précises, une autorité explicite, des preuves consignées et une revue indépendante.
Versions reproductibles
Les versions de LawGuard sont reproductibles. L'artefact qualifié en laboratoire est l'artefact déployé.
Qualification en laboratoire avant l'usage réel
Les composants sont exercés sur des machines de laboratoire jetables et sur des répliques du parc d'un client avant que quoi que ce soit touche à un système réel.
Mode fantôme avant la bascule
Les décisions sont rejouées contre des enregistrements réels, en lecture seule, pour que l'on sache ce qu'un système gouverné aurait fait avant qu'il soit autorisé à agir.
Revue indépendante
Les résultats sont revus indépendamment des personnes qui les ont produits, et la revue conditionne chaque avancée d'un projet pilote.
Séparation par conception
Les programmes communs et les lois, la configuration, les identifiants et l'état propres au client sont tenus à part, dans les produits et dans notre façon de les bâtir.
Montrer ce qui est bâti
Nous décrivons chaque produit par ce qu'il fait et ce pour quoi il est conçu, avec des étiquettes de statut véridiques : en usage pilote interne, en développement actif, qualifié en laboratoire, pilote, initiative de R-D.
Governor Technologies Inc. en bref
Joignez-vous à la mission
Governor Technologies bâtit la couche de gestion et de sécurité de l'IA opérationnelle. Nous cherchons des exploitants, des partenaires, des évaluateurs et des investisseurs qui veulent voir cela fait correctement.