Tests de consommation énergétique sur les #IA avec #ollama :
En utilisation normale mon ordi consomme 23W et 0,2A.
Je vais lancer 2 IA (#LLM) #openweight (ça veut dire un peu open source) qui sont sur mon ordi, elles peuvent fonctionner sans connexion internet. Est-ce la vérité vrai que les IA consomment beaucoup plus ? Résultat de l'expérience en réponse à ce message.
Synthèse test conso #énergie #IA avec #ollama :
Des IA (#LLM) très très légères (15 milliards de paramètres au lieu des 671 milliards de #Deepseek R1) consomment 5 fois plus d'énergie quand je les utilise sur mon ordi par rapport à un fonctionnement normal de mon ordi. Mieux choisir l'IA me permet dans cet exemple de diminuer de 60% la conso d'énergie supplémentaire à l'usage de l'IA pour un résultat similaire.