Rendre visibles les fondements des décisions de sécurité | Mindtro

Présentation du programme

Un contrôle doit expliquer ce qu’il a examiné et les preuves qui soutiennent son résultat. Nous étudions l’utilisation de ces résultats par l’analyse textuelle, le masquage des données sensibles et les décisions de permission, avec des responsabilités claires.

Détecter les signaux de risque par règles, reconnaissance d’entités et analyse du sens
Scan rapporte les résultats ; Guard applique les règles organisationnelles pour décider de la suite
Le masquage cache le texte sensible tout en conservant la trace de la transformation

Programme de recherche · aucun résultat mesuré publié à ce jour

Ce que nous prévoyons d’évaluer

Nombre de risques réels détectés et fréquence des signalements erronés sur contenu inoffensif
Part du contrôle demandé achevée, ignorée ou échouée
Temps de réponse habituel, temps des requêtes lentes et mémoire utilisée
Impact sur les tâches inoffensives et cohérence face aux petites variations textuelles
Reproductibilité avec la même version du contrôle et les mêmes données de test

Définir le périmètre

Consignez texte, langue et version du contrôle utilisés. Fixez les limites de temps et de ressources avant l’exécution.

Consigner les résultats et leurs fondements

Conservez ensemble signal de risque, emplacement dans le texte et portion réellement examinée. Un contenu non contrôlé ne doit pas être déclaré sûr.

Appliquer les règles de l’organisation

Scan rapporte le résultat. Le masquage cache ou transforme le texte concerné. Guard applique les règles de l’organisation pour autoriser, bloquer ou demander une validation humaine.

Permettre une revue ultérieure

Consignez ensemble version du contrôle, règle appliquée et action résultante pour garder auditable la base de la décision.