Le premier jour

2. Le premier jour

Pour le premier opérateur. Environ une heure.

L’exemple. Ana gère l’informatique d’un petit cabinet comptable. Leur agent d’IA trie le courrier entrant, rédige des réponses et classe des documents. À la fin de sa première journée avec Perun, chaque appel de cet agent passe par Perun, Perun sait lesquels des outils de l’agent peuvent causer des dommages, et une attaque de test lui a montré ce que Perun intercepte.

Les étapes.

Installez Perun sur l’ordinateur où s’exécute votre agent. Sous Ubuntu ou Debian, installez le .deb que vous avez reçu ; sous Windows, lancez PerunSetup. Perun démarre de lui-même à chaque ouverture de session et continue de fonctionner en arrière-plan.
Devenez le premier opérateur. perun operator add <your name>, puis perun login <your name>. D’abord, perun mail setup : Perun envoie ses quelques courriels (codes et rapports aux supérieurs) uniquement par le serveur de messagerie de votre propre entreprise. Ensuite, Perun demande l’adresse courriel de votre supérieur. Chaque opérateur a un supérieur : lorsqu’un opérateur s’éloigne trop de sa mission, Perun le signale à cette personne. Si vous êtes propriétaire de l’entreprise, donnez l’adresse d’une autre personne responsable, comme un associé ou votre comptable. Perun envoie à cette personne un courriel contenant un code ; vous êtes inscrit dès que vous saisissez ce code. Le même courriel remet à votre supérieur un sceau : un mot court que porteront tous les rapports ultérieurs de votre Perun, afin qu’il sache qu’ils sont authentiques. L’ordre de première connexion établit la hiérarchie entre les opérateurs. Vous êtes le premier ; la personne suivante à se connecter est la deuxième, et ainsi de suite. Un rang inférieur ne peut jamais modifier la réponse d’un rang supérieur.

Faites ensuite l’exercice (perun practice, ou l’onglet Practice (Exercice)) : un exercice court et mesuré, avec des appels retenus inoffensifs, deux questions à SHARED_LIB et une déclaration. Il ne touche jamais au travail réel. Tant que vous ne l’avez pas fait, Perun ne vous laisse pas répondre à de vrais appels retenus. Le manuel de l’opérateur (téléchargeable gratuitement) vous y prépare. Chaque opérateur après vous fait de même ; vous et eux voyez leur profil.
Donnez à Perun votre clé de modèle. Inscrivez une fois la clé d’API de votre fournisseur de modèle dans les paramètres de Perun (perun paths indique où se trouve le fichier de paramètres). À partir de là, votre agent n’a plus besoin de détenir la vraie clé.
Faites pointer votre agent vers Perun. C’est le seul changement dans votre agent. Réglez son URL de base sur :
- http://127.0.0.1:8787/v1 pour les modèles compatibles OpenAI, ou
- http://127.0.0.1:8787/anthropic pour Anthropic. Rien d’autre ne change. Votre agent fonctionne comme avant ; ses appels passent désormais par Perun.
Laissez l’agent travailler quelques minutes, puis examinez ce que Perun propose : perun proposals, ou l’onglet Declarations (Déclarations) dans perun screen. Pour chaque outil proposé par votre agent, Perun rédige une déclaration à partir du nom et des paramètres de l’outil : peut-il être annulé ou non, et de quel type de destination s’agit-il (fichiers, shell, base de données, adresse Web, messages). Vérifiez chaque ébauche et acceptez-la, en ajoutant le mandat là où Perun le demande : quels dossiers l’outil de fichiers peut toucher, quels hôtes l’outil Web peut appeler, vers quels domaines le courriel peut être envoyé. Tant que vous n’acceptez pas les déclarations, Perun ne sait pas quelles actions sont irréversibles ; il ne retient donc rien. C’est cette étape qui fait de Perun non plus un observateur, mais un gardien.
Activez le compteur. perun meter init. Perun affiche l’empreinte de son SHARED_LIB ; confirmez-la. Dès lors, le compteur vérifie que SHARED_LIB est le vrai et qu’il fait son travail, et vous avertit si ce n’est pas le cas.
Ouvrez l’écran. perun screen. Dans Status (État), lisez les deux colonnes : ce que Perun protège et — tout aussi visible — ce qu’il ne protège pas. Dans Coverage (Couverture), chacun des neuf types d’attaque affiche configured (configuré) ou not configured (non configuré), avec la prochaine étape.
Lancez l’attaque de test. L’onglet Test attack (Attaque de test) envoie des échantillons inoffensifs de ce que Perun doit intercepter. Ils n’atteignent jamais votre agent ni votre modèle. Chaque ligne devrait indiquer caught (intercepté).

À quoi vous attendre les premiers jours. Perun traite chaque nouvelle source et chaque nouvel outil comme inconnus tant qu’il ne les a pas vus suffisamment (trente fois) ; pendant un certain temps, il retiendra donc les actions irréversibles et vous posera la question. C’est voulu : la première demande d’un inconnu visant à envoyer de l’argent ou à supprimer des fichiers doit parvenir à un humain. Vous pouvez raccourcir cette période pour une source que vous connaissez bien en la déclarant de confiance (perun trust <source>). Les questions se raréfient à mesure que Perun apprend le travail normal de votre agent.

La règle. Le premier jour, vous donnez à Perun trois choses qu’il ne peut pas deviner : qui répond de lui (vous et votre supérieur), ce que peuvent faire les outils de votre agent (les déclarations), et quel SHARED_LIB est le vôtre (le compteur). Tout ce que Perun décidera ensuite repose sur ces trois éléments.

Liste de vérification pour la fin du premier jour

☐ Je suis le premier opérateur ; mon supérieur a confirmé le code ; j’ai fait l’exercice.
☐ La clé de modèle est dans Perun ; l’URL de base de l’agent pointe vers Perun.
☐ Chaque proposition est acceptée ou écartée ; les outils irréversibles ont leur mandat.
☐ Le compteur est activé et j’ai confirmé l’empreinte.
☐ Status et Coverage sont lus ; l’attaque de test affiche caught partout.