Bien opérer Perun
Un manuel pour les personnes qui répondent aux questions de Perun — et pour quiconque veut le devenir.
Zerava Technologies Inc. · Sous licence Creative Commons Attribution - Partage dans les mêmes conditions 4.0 International (CC BY-SA 4.0) : vous pouvez le copier, le partager et l’adapter, y compris à des fins commerciales, à condition d’en citer la source et de partager vos adaptations sous la même licence. Traduction de « Operating Perun well ».
Avant de commencer
Section titled “Avant de commencer”Ce livre ne demande aucune connaissance préalable en IA ni en sécurité. Il porte sur la manière de réfléchir quand vous répondez à une question qui compte : une question sur une seule action, posée par un système qui a arrêté quelque chose et qui veut qu’une personne décide.
Vous pouvez le lire avant même de voir Perun. Quand vous recevrez un accès, vous ferez d’abord un court exercice : une série d’appels retenus, de déclarations et de questions, conçus pour l’exercice et tenus à l’écart du vrai travail. L’exercice est mesuré, et vous le saurez ; il mesure les mêmes choses que ce livre enseigne. Rien dans l’exercice ne vous interroge sur vous-même. Il regarde seulement comment vous travaillez.
Chaque chapitre contient des exemples, une règle et des exercices. Les réponses se trouvent à la fin du livre.
1. Le travail de l’opérateur
Section titled “1. Le travail de l’opérateur”Un exemple. Perun retient un appel : l’agent d’IA de l’entreprise veut supprimer un dossier de vieilles factures. Quelqu’un doit dire oui ou non. Ce quelqu’un, c’est l’opérateur.
La mission. Perun tient une mémoire et un jugement appelés SHARED_LIB. Sa mission est de laisser travailler les agents d’IA de votre entreprise tout en arrêtant ce qui ne doit pas arriver. La plupart du temps, il décide seul. Quand il ne le peut pas — l’action est irréversible et la demande vient de quelqu’un qu’il ne connaît pas encore, ou la demande cache ce qu’elle veut dire —, il demande à un humain. Votre mission d’opérateur est de faire en sorte que cette mission continue d’avancer : répondre à ce qui est demandé, à temps, avec une raison, sur la chose précise qui a été demandée.
L’équilibre, pas la perfection. Perun mesure tout ce qui est vivant en lui avec un nombre appelé theta, normalement à 30, avec le droit de s’écarter de cinq dans un sens ou dans l’autre. Les opérateurs en ont un aussi. Vous dérivez dans un sens si vous laissez trop passer (approuver sans lire, décider trop vite, poser des questions vagues) ; vous dérivez dans l’autre sens si vous freinez trop (refuser presque tout, laisser des questions en attente, annuler vos propres réponses). Un bon opérateur oscille autour de 30 et y revient — comme un bon conducteur qui corrige sans cesse un peu le volant et ne donne jamais de coup brusque.
La règle. Vous n’êtes pas là pour avoir raison sur tout. Vous êtes là pour répondre à une question concrète à la fois, avec soin, pour que le travail continue.
Exercices 1.1 En une phrase, quelle est la mission d’un opérateur ? 1.2 Nommez deux façons dont un opérateur peut dériver vers laisser trop passer, et deux vers trop freiner.
2. Concret et abstrait
Section titled “2. Concret et abstrait”Un exemple. Deux opérateurs décrivent le même appel retenu.
- Le premier : « L’agent veut envoyer le fichier
Q3-salaries.xlsxàpay@unknown-domain.biz. » - Le second : « L’agent veut faire quelque chose avec des données sensibles. »
La première description est concrète : vous pouvez en désigner chaque partie — ce fichier, cette adresse, cette action. La seconde est abstraite : elle nomme une catégorie. Les deux sont vraies. Seule la première permet de décider.
Pourquoi c’est important. Perun pose des questions sur des actions concrètes. Ses déclarations sont concrètes elles aussi : cet outil peut supprimer des fichiers ; il ne peut toucher que le dossier /work/invoices. Un opérateur qui transforme des questions concrètes en questions abstraites — « est-ce sensible ? », « cette source est-elle correcte en général ? » — perd ce sur quoi portait la question et répond à autre chose.
Quand l’abstrait aide. Les mots abstraits sont utiles pour le pourquoi : « nous n’envoyons jamais de données salariales hors de l’entreprise » est une règle, et les règles sont abstraites. Servez-vous de la règle pour juger le cas concret — puis répondez sur le cas.
Transformer l’abstrait en concret. Demandez : lequel ?, vers où ?, combien ?, qui l’a demandé ?. Chacune de ces questions transforme une catégorie en une chose que vous pouvez désigner.
| Abstrait | Concret |
|---|---|
| « des données sensibles » | « le fichier Q3-salaries.xlsx » |
| « un tiers externe » | « l’adresse pay@unknown-domain.biz » |
| « faire attention aux fichiers » | « l’outil de fichiers ne peut toucher que /work/invoices » |
| « une source suspecte » | « une source que Perun a vue deux fois, et qui a demandé un paiement aujourd’hui » |
La règle. Décidez à propos de choses que vous pouvez désigner. Servez-vous des règles pour les juger, pas pour les remplacer.
Exercices 2.1 Rendez cette déclaration concrète : « L’outil de courriel ne devrait écrire qu’aux gens que nous connaissons. » 2.2 Lesquelles de ces questions permettent de décider telles qu’elles sont écrites ? (a) « L’agent devrait-il avoir le droit de manipuler de l’argent ? » (b) « L’agent devrait-il payer la facture 4471 de 1 200 EUR au compte DE44… ? » 2.3 Écrivez la règle (abstraite) derrière cette réponse concrète : « Non — l’agent ne peut pas envoyer la liste des clients à une adresse Gmail personnelle. »