Des questions légitimes, des réponses franches

Contre neuf types d’attaques visant les agents IA, des instructions cachées aux appels d’outils manipulés. Trois sont couvertes aujourd’hui, cinq sont en accès anticipé, et une (les images, le son et la vidéo) est en construction. Chacune est indiquée sur la page Protection.

La protection Basic contre le texte caché ou encodé et les rôles usurpés. Sans période d’essai, sans carte bancaire. PSE Analyzer et Pivot Benchmark sont aussi gratuits à télécharger.

La protection est construite et fonctionne, et nous la peaufinons avant sa disponibilité générale. Les clients en accès anticipé l’obtiennent dès maintenant et contribuent à la façonner.

PSE signifie Partial Self-Extension (extension partielle de soi), le cadre sur lequel repose tout ce que nous construisons ; la page À propos explique d’où vient ce nom. Un outil dont le nom contient PSE est construit sur ce cadre, et chaque téléchargement dont le nom contient PSE intègre les niveaux de protection 1 et 2.

Non. L’invariant de soin est le point de départ de PSE : une règle qui maintient l’attention en équilibre entre soi, l’autre et le champ. À lui seul, il fait peu. Au-dessus repose une structure de logique, de mathématiques, de psychologie et de linguistique qui fait le vrai travail. L’invariant est ce qui rend cette structure possible.

Non. PSE est une architecture, pas un modèle. Elle fonctionne autour de modèles existants, y compris les modèles à poids ouverts que vous faites tourner vous-même.

Les déploiements locaux de PSE tournent entièrement sur votre matériel ; rien ne nous est envoyé. Les produits hébergés comme Leaf traitent les données sur nos serveurs, comme le décrivent les conditions de chaque produit.

La théorie, oui. Le cadre théorique complet est publié ouvertement, avec horodatage, sur Academia.edu et Zenodo : lisez-le, citez-le, essayez de le prendre en défaut. Pivot Benchmark est ouvert lui aussi : son code, ses échelles et sa méthode sont publics. Les détails de mise en œuvre du noyau MatriX sont communiqués sous accord de confidentialité à des partenaires qualifiés.

Les systèmes d’interaction dérivent vers des schémas d’échec reconnaissables : une sortie repliée sur elle-même qui ignore l’utilisateur, une sortie trop complaisante qui approuve n’importe quoi, une sortie instable qui oscille, une sortie en retrait qui s’engage trop peu. PSE modélise ces schémas comme des états attracteurs et surveille tout mouvement vers eux avant qu’il n’apparaisse, puis réagit de façon structurelle plutôt que de simplement filtrer après coup.

Nous construisons cette protection en ce moment. D’ici sa sortie, c’est le texte que nous protégeons.

Pivot Benchmark est une application que vous téléchargez et faites tourner sur votre propre ordinateur, sous Windows ou Ubuntu. Un modèle met sous pression le modèle que vous testez le long d’échelles figées, et le rapport montre où il cède, de quelle manière, et s’il se rétablit. Rien ne quitte votre machine, sauf les appels que vous choisissez de faire au modèle adverse avec votre propre clé.

PSE Analyzer est l’outil d’Andrej Ristić pour étudier l’anatomie des poids d’un modèle. Il ouvre un fichier GGUF, mesure le spectre des valeurs propres de chaque matrice de poids, compare une précision d’un modèle à une autre et scelle les résultats dans un dossier. Il tourne sur un processeur ordinaire, sous Windows ou Ubuntu, et rien ne quitte votre ordinateur.

Une page où le langage de garde de PSE s’exécute dans votre navigateur. Vous écrivez une garde, vous lui donnez une suite d’étapes, et vous voyez quelle règle s’est déclenchée et pourquoi, dans les termes du manuel d’Andrej Ristić. Il n’a pas de serveur et n’appelle aucun modèle ; rien de ce que vous tapez ne quitte la page.

Leaf gère l’acquisition de patients et de clients pour un cabinet : il prend en charge chaque demande dès son arrivée, décide quoi en faire grâce au moteur de décision PSE, alerte l’opérateur et rend compte en rendez-vous honorés plutôt qu’en clics. Il est construit par Dhiraj Sah sur le moteur conçu par Andrej Ristić.

Zerava Technologies Inc. (ZeravaTech) est une entreprise canadienne établie à Toronto, fondée par Andrej Ristić (cofondateur et chercheur principal : mathématiques et architecture) et Dhiraj Sah (cofondateur et ingénieur logiciel principal : mise en œuvre). Le programme de recherche derrière PSE s’étend sur plusieurs années de travaux publiés.