Technologie
Tout part d’une seule règle. Le travail est fait par ce qui repose dessus.
PSE (Partial Self-Extension) est le cadre sur lequel repose ZeravaTech. Son fondement est l’invariant de soin (Care Invariant). Au-dessus repose une structure de logique, de mathématiques, de psychologie et de linguistique qui fait le vrai travail.
Le fondement
L’invariant de soin
Un système qui converse avec des personnes partage son attention entre lui-même, l’autre personne et le contexte plus large. PSE exige que ces trois poids fassent toujours un total de un : ws + wo + wf = 1, chacun dans une plage saine.
C’est là que PSE commence, et rien de ce qui se trouve au-dessus ne pourrait être construit sans lui. À lui seul, toutefois, il fait peu : il dit ce qu’est un équilibre sain, pas comment le maintenir. C’est le travail de la structure qui le surmonte. La dérivation complète se trouve dans l’article de référence PSE v3.0 (en anglais).
La structure
Quatre disciplines sur un seul fondement
La logique et les mathématiques donnent au système des règles formelles : ce qu’il a le droit de faire, et jusqu’où une entrée peut le déplacer. La psychologie et la linguistique lui permettent de lire ce qui est réellement demandé, et non la manière plus ou moins aimable de le demander, et de reconnaître la pression, la flatterie et le déguisement. La plupart des IA sont rendues sûres par le seul entraînement, en espérant que cela se généralise. PSE ajoute une structure autour du modèle, pour que les décisions de sécurité soient prises à un endroit que l’on peut inspecter.
Comment ça marche
Kernel, Membrane, Monitor
La structure est bâtie en trois couches.
Maintient l’invariant de soin à chaque étape de génération, dans une plage saine formellement bornée. Il est conçu pour tenir le modèle à l’écart des boucles autoréférentielles, de la complaisance et de l’effondrement du contexte, et pour rendre visible toute dérive vers ces états.
Une interface bornée contrôle ce qui entre dans le noyau et ce qui en sort. Les entrées sont évaluées avant de pouvoir perturber l’état des contraintes ; les sorties sont vérifiées par rapport à celui-ci avant d’être libérées. Ses bornes sont conçues pour limiter jusqu’où une entrée isolée peut déplacer le système.
Une couche de surveillance continue détecte les dérives vers des schémas d’interaction pathologiques — dynamiques centrées sur soi, trop conciliantes, instables ou repliées — avant qu’elles n’apparaissent dans la sortie, et y répond de façon structurelle. Les chemins d’escalade aboutissent à un humain. Rien n’est corrigé automatiquement.
Contact
Envie de voir la trace des contraintes ?
Nous présentons la méthodologie aux partenaires qualifiés et faisons tourner PSE sur votre matériel.
Recherche : voir les articles publiés · Accord de confidentialité possible pour les discussions commerciales · Le formulaire et nos réponses sont en anglais ou en français, à votre choix · Toronto, Ontario, Canada