Le programme pilote
Governor AI fait ses preuves sur des projets pilotes délimités, chacun une preuve de concept avec des critères mesurables de réussite et d'échec. Chaque étape produit des preuves, chaque avancée est conditionnelle à une revue indépendante, et les pilotes restent anonymes.
Des preuves de concept délimitées
Aucun n'est un mandat payant ; chacun existe pour démontrer une amélioration mesurable de la sécurité et des opérations, ainsi qu'une livraison de produit réutilisable.
Pilote 1 : un exploitant d'infrastructure de confidentialité
Governor AI gouverne le robot de maintenance automatisé de l'exploitant, de sorte qu'il ne puisse pas exécuter une action destructrice hors des lois propres à sa fonction. Le robot de maintenance continue de faire son travail; LawGuard décide si chaque action proposée peut s'exécuter, sous quelle autorité, et consigne les preuves.
- Qualification en laboratoire : terminée. 14 cas de test (90 sous-cas) réussis sur des machines de laboratoire jetables et 19 cas réussis sur une réplique du parc de l'exploitant (résultats de laboratoire).
- Comparaison fantôme limitée aux décisions : terminée. Rejouée sur les données réelles du robot de maintenance de l'exploitant, sans modifier les systèmes de l'exploitant.
- Bascule vers la production : en préparation, conditionnelle à une revue indépendante et à l'approbation du propriétaire.
Pilote 2 : une plateforme logicielle de confidentialité
Une deuxième preuve de concept délimitée, qui applique la même fondation réutilisable Governor à un autre type de système, avec ses propres lois, sa configuration et ses octrois d'autorité propres au client.
- Étape : planification.
- Fondation : les programmes autonomes communs, avec la couche client tenue à part.
- Jalons : le même cycle de vie de qualification en laboratoire, comparaison fantôme, revue indépendante et bascule conditionnelle.
Un pilote d'effectif IA
Un autre type de déploiement Governor : une équipe de rôles de travailleurs IA spécialisés, exploitée pour une entreprise distincte, qui recherche, rédige et révise, et se coordonne par un tableau partagé et des réunions d'équipe consignées. Le cycle de qualification en laboratoire et de bascule décrit ci-dessous s'applique aux pilotes de gouvernance ; le pilote d'effectif mène son travail en mode consultatif et sous supervision humaine dès le départ.
- Type : un effectif IA gouverné, et non un pilote de gouvernance de l'automatisation.
- Étape : actif, consultatif, avec chaque action consignée et aucune action externe entreprise de sa propre initiative.
- En savoir plus : comment fonctionne l'effectif IA Governor.
| Étape | Pilote 1 : un exploitant d'infrastructure de confidentialité | Pilote 2 : une plateforme logicielle de confidentialité |
|---|---|---|
| Lois propres à chaque fonction | Écrites pour le robot de maintenance de l'exploitant | Planification |
| Qualification en laboratoire | Terminée (14 cas / 90 sous-cas; 19 cas sur réplique du parc, résultats de laboratoire) | À venir |
| Comparaison fantôme limitée aux décisions | Terminée (les données réelles de l'exploitant, en lecture seule) | À venir |
| Revue indépendante | Conditionne chaque avancée | À venir |
| Bascule conditionnelle | En préparation; revue indépendante et approbation du propriétaire d'abord | À venir |
| Jalons d'expansion | Après la bascule | À venir |
Comment un projet pilote avance
Chaque étape doit être réussie avant que la suivante commence. Rien n'est installé sur les systèmes d'un client tant que la bascule conditionnelle n'est pas approuvée.
-
1
Des lois propres à chaque fonction
Les systèmes, programmes et fonctions du client sont cartographiés, et des lois sont écrites pour les actions réelles que chaque fonction peut prendre. Les lois, la configuration et les octrois d'autorité forment un jeu propre au client, tenu à part du noyau commun.
Produit Un jeu de lois propre au client, la configuration et les octrois d'autorité consignés
-
2
Qualification en laboratoire
La version reproductible de LawGuard est exercée sur des machines de laboratoire jetables et sur une réplique du parc du client. Chaque cas de test porte un verdict, et l'artefact qualifié est celui qui sera déployé.
Produit Des verdicts par cas sur un artefact qualifié et reproductible
-
3
Comparaison fantôme limitée aux décisions
Les décisions de LawGuard sont rejouées contre les enregistrements réels du client, en lecture seule. La comparaison montre ce que LawGuard aurait décidé, sans rien changer sur les systèmes du client.
Produit Un enregistrement de ce que LawGuard aurait décidé, sans rien changer sur les systèmes du client
-
4
Revue indépendante
Les résultats sont revus indépendamment des personnes qui les ont produits, et les constats sont réglés un à la fois avant que le pilote avance.
Produit Des constats réglés un à la fois, chacun avec une acceptation indépendante
-
5
Bascule conditionnelle
La bascule vers la production suit un plan approuvé, avec l'exploitant du client aux commandes, et exige une revue indépendante et l'approbation du propriétaire avant que quoi que ce soit soit installé.
Exige Un plan approuvé, une revue indépendante et l'approbation du propriétaire
-
6
Jalons d'expansion
Après la bascule, la même discipline de preuves décide si le pilote s'étend à d'autres fonctions, programmes et systèmes. La réussite et l'échec sont mesurables à chaque jalon.
Décide S'il faut étendre à d'autres fonctions, programmes et systèmes
Ce que le premier pilote a produit jusqu'ici
Chaque chiffre est un résultat de laboratoire ou une comparaison en lecture seule, étiqueté comme tel.
Chaque étape jusqu'ici s'est déroulée hors des systèmes de l'exploitant. La qualification en laboratoire s'est déroulée sur des machines jetables et une réplique du parc; la comparaison fantôme était en lecture seule. La bascule vers la production est la prochaine étape, planifiée et conditionnelle à une revue indépendante et à l'approbation du propriétaire.
Ce qu'un projet pilote démontre
Un projet pilote Governor est conçu pour produire des preuves sur lesquelles un exploitant peut agir, pas un jeu de diapositives.
Amélioration de la sécurité et des opérations
- Les actions destructrices hors des lois d'une fonction ne peuvent pas être exécutées
- L'autorité de chaque fonction est explicite : approbation ou délégation permanente dans des limites
- Chaque proposition, décision et résultat est consigné comme preuve
- La console et le moniteur propres de l'exploitant restent une couche de sécurité supplémentaire
Livraison de produit réutilisable
- Une fondation commune de programmes autonomes
- Jeux de lois, configuration et état propres au client tenus à part
- Versions reproductibles : l'artefact qualifié est l'artefact déployé
- Un système sur mesure par client, hébergé chez le client ou géré par Governor
Décrits par type et par étape, jamais par nom
Un projet pilote est une relation de travail avec les systèmes réels d'un exploitant. Nous décrivons chaque pilote par son type d'organisation et son étape, jamais par son nom, et nous ne relions jamais un pilote à un autre. Les preuves qu'un pilote produit sont d'abord pour l'exploitant; ce qui figure sur ce site est l'étape atteinte et les résultats étiquetés.
Lancer un projet pilote délimité
Si vous exploitez des serveurs et des parcs et que vous dépendez d'une automatisation que vous aimeriez voir gouvernée, parlez-nous des fonctions que vous devez protéger.
Discuter d'un projet pilote