Tests de consommation énergétique sur les #IA avec #ollama :
En utilisation normale mon ordi consomme 23W et 0,2A.
Je vais lancer 2 IA (#LLM) #openweight (ça veut dire un peu open source) qui sont sur mon ordi, elles peuvent fonctionner sans connexion internet. Est-ce la vérité vrai que les IA consomment beaucoup plus ? Résultat de l'expérience en réponse à ce message.
Chronométrons la réponse à une même question :
#ollama run qwen2.5:14b
>>> Traduis en anglais :" Les IA consomment beaucoup d'énergie mais peuvent aussi faire économiser beaucoup d'énergie si elles sont bien utilisées. Mais est-ce que l'humanité est capable de bien les utiliser ?"
AI consumes a lot of energy, but it can also save a significant amount of energy if used properly. But is humanity capable of using them effectively?
-> 7 secondes.