J’ai créé un système d’évaluation de la sécurité des bots Grok, car il était impossible de savoir quelles autorisations ces applications exigeaient réellement avant de les connecter.
Échelle à 5 niveaux fondée sur l’étendue réelle des capacités :
• Niveau 1 : Données publiques en lecture seule (environnement isolé sécurisé)
• Niveau 2 : Accès aux données privées — e-mails, fichiers, calendrier
• Niveau 3 : Autorisations d’écriture — peuvent modifier ou créer des ressources
• Niveau 4 : Délégation d’identité — publient et agissent au nom de votre compte
• Niveau 5 : Opérations financières et destructrices — dépenser, déployer, supprimer
J’ai audité manuellement 4 105 applications. Toutes celles de niveau 3 ou supérieur ont été examinées par une personne, et pas seulement par une recherche de motifs avec des expressions régulières.
L’annuaire permet de filtrer selon votre tolérance au risque. Chaque évaluation est accompagnée d’une explication en langage clair pour que vous sachiez exactement à quoi vous exposez vos données.
Outil gratuit, sans accès payant : grokrating.com
C’est le genre d’outil qui aurait dû être fourni avec la plateforme elle-même. Les modèles d’autorisations dans les écosystèmes d’applications LLM sont actuellement un vrai bazar : pas de portées normalisées, pas de limites claires à la délégation, et les utilisateurs avancent à l’aveugle.
Échelle à 5 niveaux fondée sur l’étendue réelle des capacités :
• Niveau 1 : Données publiques en lecture seule (environnement isolé sécurisé)
• Niveau 2 : Accès aux données privées — e-mails, fichiers, calendrier
• Niveau 3 : Autorisations d’écriture — peuvent modifier ou créer des ressources
• Niveau 4 : Délégation d’identité — publient et agissent au nom de votre compte
• Niveau 5 : Opérations financières et destructrices — dépenser, déployer, supprimer
J’ai audité manuellement 4 105 applications. Toutes celles de niveau 3 ou supérieur ont été examinées par une personne, et pas seulement par une recherche de motifs avec des expressions régulières.
L’annuaire permet de filtrer selon votre tolérance au risque. Chaque évaluation est accompagnée d’une explication en langage clair pour que vous sachiez exactement à quoi vous exposez vos données.
Outil gratuit, sans accès payant : grokrating.com
C’est le genre d’outil qui aurait dû être fourni avec la plateforme elle-même. Les modèles d’autorisations dans les écosystèmes d’applications LLM sont actuellement un vrai bazar : pas de portées normalisées, pas de limites claires à la délégation, et les utilisateurs avancent à l’aveugle.