Comment Carbo calcule l'impact de mes usages IA ?
Vous utilisez l'IA dans le cadre professionnel et vous souhaitez intégrer vos données d'usage dans Carbo ? Par ici !
Sommaire
- 📌 Quelles sont les données à fournir ? - accès direct
- ⚙️ Quelle est la méthode de calcul utilisée ? - accès direct
- 🙋 Comment mesurer l'usage individuel des collaborateurs ? - accès direct
Le formulaire Carbo est en phase d'évolution pour vous permettre de saisir les données citées ci-dessous directement, actuellement vous devez les transmettre à votre coach à l'adresse support@hellocarbo.com.
📌 Quelles sont les données à fournir ?
A minima vous devez nous transmettre pour votre usage de l'IA :
-
Le nombre de tokens ou le nombre de requêtes ou le type/coût de votre abonnement IA,
-
Ainsi que votre provider et/ou modèle de LLM.
Le scénario idéal afin que notre calcul soit le plus précis possible est de nous transmettre également :
-
Le nombre de tokens d'entrée et le nombre de tokens de sortie (y compris les tokens de reasoning) ;
- Le provider et le modèle de LLM utilisé.
⚙️ Quelle est la méthode de calcul utilisée ?
L'IA générative consomme de l'électricité à deux moments : quand le modèle est entraîné (sa « fabrication ») et quand il vous répond (l'inférence).
L'entraînement mobilise des milliers de processeurs pendant des semaines. C'est un coût unique et très lourd, que nous répartissons sur l'ensemble des requêtes traitées par le modèle durant sa durée de vie. Vous n'avez rien à fournir sur cette partie : nous maintenons ces données pour les principaux modèles du marché.
L'inférence, c'est là qu'interviennent vos données d'usage. À partir du modèle utilisé, du nombre de requêtes et de la longueur des réponses, nous estimons le temps de calcul mobilisé sur les serveurs.
Ce temps de calcul est ensuite converti en consommation électrique, à laquelle s'ajoute celle du datacenter lui-même (refroidissement, alimentation). Nous appliquons enfin le facteur d'émission du mix électrique du pays d'hébergement — un levier déterminant, un même calcul émettant bien plus aux États-Unis qu'en France. Nous y ajoutons la part amortie de la fabrication des serveurs.
🙋 Comment mesurer l'usage individuel des collaborateurs ?
Grâce au questionnaire employés ! Vos collaborateurs indiquent directement quel usage ils font de l'IA en nombres de requêtes textes ou images.