Professional Documents
Culture Documents
energ
etique de data centers par utilisation
de liquides pour le refroidissement des baies
informatiques
Fabien Douchet
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Remerciements
Jaimerais tout dabord remercier mon directeur de thse, Patrick GLOUANNEC, pour
mavoir suivi avec un professionnalisme toute preuve tout au long de ce travail de re-
cherche. De plus, sa relecture finale mticuleuse de chacun des chapitres ma sans aucun
doute permis de mieux mettre en valeur les diffrents travaux que jai pu mens.
tant inscrit dans le programme dune thse CIFRE, je tiens galement remercier cha-
leureusement mon encadrant au sein dOrange Labs, David NORTERSHAUSER, pour son
immense partage de connaissances et son aide trs apprcie. Ce ft un rel plaisir de tra-
vailler avec une personne avec qui il ma t permis de nouer une certaine complicit durant
ces trois annes.
Ayant fait partie intgrante de lquipe REE dOrange Labs (Research on Energy and En-
vironment), je peux que souligner la gratitude que jprouve envers chacune des collgues
que je cite maintenant : Jacky GAUTIER, Gwenalle DELSART, Gilles NEGRE-AUSTRUY, Oli-
vier FOUCAULT, Alain PERAUDEAU et Michel CRENN. Je tiens galement remercier sp-
cialement mon manager Stphane LE MASSON pour son encadrement et ses conseils, mais
aussi un fier reprsentant de la Mayenne, Alain RINGNET, pour ses nombreuses anecdotes
et sa sympathie. Je tiens adresser une mention spciale Philippe LEVASSEUR, pour son
immense aide technique sur la fabrication de prototypes et son extrme gentillesse.
Bien que les travaux de thse sont gnralement synonymes de solitude, il est important
de pouvoir se changer les ides en discutant avec ses camarades doctorants et alternants.
Cest pourquoi je voudrais remercier Wafae BAKKALI, Florian OLIVEAU, Yazid KACED, Serge
Romaric TEMBO MOUAF et Audrey SEDJRO pour leur sympathie de tous les jours. Je vou-
drais galement adresser mes remerciements aux diffrents stagiaires que jai pu encadrer
et qui mont apport leur aide sur mes travaux de thse : Nicolas BROUANT, Yacine NOURI,
Ahlem ATMANI et Ilhem HASSANINE.
Je tiens galement mentionner les personnes qui mont soutenu dans la vie de tous les
jours, savoir en premier lieu ma moiti bien aime, Alexandra. Ma famille est aussi trs
chre mes yeux, cest pourquoi je remercie de tout cur mes parents, Christian et Martine,
et mon petit frre, Jrmy.
Jexprime tous mes remerciements lensemble des membres de mon jury : Messieurs
Yves LE GUER, Franois LANZETTA, Philippe MARTY et Herv NOL.
Pour finir, je tiens remercier sincrement les diffrentes personnes qui mont aid du-
rant ma thse, de prs comme de loin, qui nauraient pas t cites prcdemment.
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Table des matires
Introduction 1
1 Etat de lart 3
1.1 Les data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.1 Descriptif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.2 Bilan et enjeux nergtiques . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 Climatisation des data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 Production de froid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Free cooling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.3 Influence de lenveloppe du btiment . . . . . . . . . . . . . . . . . . . . . 13
1.2.4 Analyse critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Vers le refroidissement liquide . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Modes de refroidissement . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3.2 Refroidissement monophasique . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 Refroidissement diphasique . . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.3.4 Potentiels de rutilisation de la chaleur . . . . . . . . . . . . . . . . . . . . 27
1.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
i
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2.3 Relevs en rgime stationnaire et bilan nergtique . . . . . . . . . . . . 67
3.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3.1 Modlisation dun serveur et dune plaque froide . . . . . . . . . . . . . . 70
3.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . . 76
3.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
Annexes 104
A.1 Indicateurs defficacit nergtique complmentaires . . . . . . . . . . . . . . . 104
A.2 Serveur informatique avec dissipateurs thermiques . . . . . . . . . . . . . . . . . 105
A.3 Simulations de panne du systme de refroidissement . . . . . . . . . . . . . . . . 105
A.4 Dtail des matrices des modles numriques de la baie et de lchangeur . . . . 109
A.5 Dtail des matrices du modle numrique "plaque froide-serveur" . . . . . . . 110
A.6 Proprits thermiques des fluides dilectriques . . . . . . . . . . . . . . . . . . . 111
A.7 Visualisation des bulles lors du refroidissement diphasique . . . . . . . . . . . . 114
A.8 Tableau comparatif des diffrents modes de refroidissement . . . . . . . . . . . 115
A.9 Donnes pour le calcul du retour sur investissement . . . . . . . . . . . . . . . . 117
Rfrences 118
ii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Liste des figures
iii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.12 Tempratures des composants en fonction de la puissance dissipe et de la
temprature dair en entre . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
2.13 volution des tempratures dair dans les serveurs en fonction de la tempra-
ture dair en entre et de la puissance (avec changeur) . . . . . . . . . . . . . . 42
2.14 Bilans lectrique et thermique de la baie avec changeur . . . . . . . . . . . . . 44
2.15 Schma du modle nodal de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . 46
2.16 Schma du modle nodal de lchangeur . . . . . . . . . . . . . . . . . . . . . . . 47
2.17 Schma de principe de la procdure didentification . . . . . . . . . . . . . . . . 48
2.18 Squence didentification : variations des paramtres opratoires . . . . . . . . 49
2.19 Squence didentification : volutions des tempratures des serveurs . . . . . . 49
2.20 Squence didentification : volutions des tempratures de lchangeur . . . . . 50
2.21 Variations des conductances de la baie en fonction des paramtres opratoires 50
2.22 Variations des conductances de lchangeur en fonction des paramtres op-
ratoires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
2.23 Identification : comparaison exprimental/numrique du modle de la baie . . 53
2.24 Identification : comparaison exprimental/numrique du modle de lchan-
geur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
2.25 Squence de validation : paramtres opratoires . . . . . . . . . . . . . . . . . . 54
2.26 Validation du modle de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.27 Validation du modle de lchangeur . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.28 Sensibilit des tempratures du modle de la baie aux variations des conduc-
tances thermiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.29 Sensibilit des tempratures du modle de lchangeur aux variations des conduc-
tances thermiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
3.1 Description des changes thermiques lors du refroidissement par plaques froides 59
3.2 Description des plaques froides . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.3 Schma global de linstallation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.4 Placement global des thermocouples dans un serveur et une plaque froide . . . 62
3.5 Evolution de la temprature de la RAM et de la consommation des ventilateurs
en fonction du dbit dair (Taent r e ' 25C) . . . . . . . . . . . . . . . . . . . . . . 63
3.6 Influence du dbit dair sur les composants refroidis par contact en fonction
de la puissance (Taent r e ' 25C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.7 Evolution des tempratures dair le long des serveurs en fonction du dbit dair
et de la puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
3.8 Variations des paramtres opratoires au cours du temps . . . . . . . . . . . . . 65
3.9 Profils de tempratures des faces externes des plaques froides et des botiers
des serveurs au cours du temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3.10 Profils des tempratures des composants et de la plaque froide en fonction du
temps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.11 Influence du dbit deau sur les composants refroidis par contact en fonction
de la puissance (Taent r e ' 30C) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.12 Evolution des gradients de tempratures sous les composants . . . . . . . . . . 68
3.13 Evolution des tempratures dair le long des serveurs en fonction du dbit deau
et de la puissance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.14 Puissance thermique cde leau et lair en fonction du dbit deau et de la
puissance lectrique consomme (Taent r e ' 30C) . . . . . . . . . . . . . . . . . . 69
3.15 Schma du modle nodal dun serveur et dune plaque froide . . . . . . . . . . . 72
3.16 Squences didentification : variations des paramtres opratoires . . . . . . . . 73
3.17 Squences didentification : volutions des tempratures du systme . . . . . . 73
iv
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.18 Squences didentification : validation des tempratures du systme . . . . . . 76
3.19 Squences de validation : paramtres opratoires . . . . . . . . . . . . . . . . . . 77
3.20 Squence de validation : comparaison des tempratures . . . . . . . . . . . . . . 77
3.21 Sensibilit des tempratures du modle "plaque froide-serveur" . . . . . . . . . 78
v
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Liste des tableaux
vi
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Nomenclature
Symboles grecs
Acronymes
vii
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Introduction
1
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Aprs un descriptif des datas center et du contexte nergtique, le premier chapitre du
mmoire dresse un tat de lart des mthodes de refroidissement existantes qui utilisent
comme fluide caloporteur lair ou un liquide. La dernire partie de ce chapitre introduit les
possibilits de rcupration dnergie.
Le second chapitre est ddi lvaluation des performances dun systme de refroidis-
sement eau : un changeur air/eau est plac en sortie de baie afin de rcuprer les calories
du flux dair chaud. Afin de raliser des tests avec des quipements rels (baie informatique,
serveurs,...) une exprimentation consquente a t mise en uvre. Linstrumentation per-
met de suivre les tempratures au sein des serveurs et de disposer dun bilan nergtique
complet et prcis de cet quipement pilote.
Cet ensemble est test dans une enceinte, en faisant varier les diffrents paramtres op-
ratoires (puissance, tempratures dair et deau, dbits des fluides). Lanalyse et lexploitation
des squences de mesures permet la dtermination dindicateurs defficacit nergtique et
le dveloppement dun modle numrique pour la prdiction en transitoire de la rponse
thermique dun ensemble baie-changeur.
Le troisime chapitre est consacr au refroidissement localis des serveurs par le biais
de plaques froides mtalliques dont le refroidissement est assur par une circulation deau
interne. A chaque serveur est associe une plaque froide quipe de plots afin dobtenir un
contact direct avec les composants lectroniques de plus fortes puissances. Ces tudes ont
ncessit la dfinition et le dveloppement de prototypes dchangeurs. Une exprimen-
tation est mise en place pour plusieurs serveurs, avec une instrumentation complte afin
daboutir une analyse dtaille du fonctionnement. Ces exprimentations servent gale-
ment au dveloppement et la validation de modles numriques simplifis destins pr-
dire limpact nergtique du dploiement de cette seconde solution lchelle dune baie
complte, puis dune salle.
Le dernier chapitre est consacr la dfinition et lexprimentation de deux solutions de
refroidissement par immersion. La premire consiste immerger les quipements dans une
huile minrale dont la temprature est comprise entre 30 et 40C, tandis que la seconde met
en jeu un fluide diphasique qui va changer de phase au niveau des composants qui dissipent
le plus de chaleur. Un onglet technico-conomique vient en complment afin de dmontrer
lintrt de chacune des solutions tudies.
2
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1
Etat de lart
Sommaire
1.1 Les data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.1 Descriptif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.1.2 Bilan et enjeux nergtiques . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2 Climatisation des data centers . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.1 Production de froid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Free cooling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.2.3 Influence de lenveloppe du btiment . . . . . . . . . . . . . . . . . . . . 13
1.2.4 Analyse critique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3 Vers le refroidissement liquide . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Modes de refroidissement . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
1.3.2 Refroidissement monophasique . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 Refroidissement diphasique . . . . . . . . . . . . . . . . . . . . . . . . . 22
1.3.4 Potentiels de rutilisation de la chaleur . . . . . . . . . . . . . . . . . . . 27
1.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
Afin de cerner les diffrents enjeux de la thse, ce chapitre fait un tat de lart sur le re-
froidissement des data center en mettant laccent sur la problmatique nergtique.
La premire partie prsente un tat des lieux de larchitecture et des diffrents quipe-
ments prsents dans les centres de donnes. Les enjeux nergtiques et conomiques sont
galement prciss, notamment ceux relatifs au bon fonctionnement des quipements de
data centers.
Les mthodes et les moyens mis en uvre pour climatiser les data centers sont ensuite in-
troduits. Nous nous intressons en particulier aux procds de production de froid et aux
diffrents modes de fonctionnement de la climatisation. Linfluence de lenveloppe des b-
timents est galement analyse du fait de son incidence sur la consommation des data cen-
ters. Une analyse critique est alors mene pour bien apprhender lintrt de la recherche de
nouvelles solutions de refroidissement,
Aprs avoir dcrit les diffrents types dchanges thermiques qui existent lchelle dun
composant lectronique, une tude bibliographie centre sur le refroidissement liquide fait
lobjet de la dernire partie de ce chapitre. Nous nous intressons en particulier aux avan-
tages potentiels de lutilisation dun liquide comme fluide caloporteur.
3
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
1 interne Orange
Le btiment est aliment en lectricit par une ou plusieurs arrives Haute Tension, cou-
ples des groupes lectrognes utiliss lors de pannes de courant [5]. Cette Haute Tension
est ensuite convertie en Basse Tension par des transformateurs et des TGBT (Tableau Gn-
ral Basse Tension) prsents dans les salles dalimentation lectrique. Afin dassurer la scu-
rit des quipements informatiques, les data centers disposent donduleurs (UPS, Uninter-
ruptible Power Supply). Ces appareils permettent entre autres de protger les quipements
des surtensions, et de les secourir (une dizaine de minutes maximum) lors de pannes lec-
triques laide de nombreuses batteries de secours. Pour terminer, les onduleurs alimentent
les armoires lectriques des baies informatiques, ou Power Distribution Unit (PDU). Les
autres systmes (climatisation, auxiliaires) peuvent tre galement aliments par les UPS ou
branchs directement aux TGBT. A noter que chaque raccordement ou cblage peut induire
une baisse du rendement global des installations (pertes en ligne). En gnral, le rendement
des chanes dalimentation en nergie est compris entre 90 et 95%.
Les quipements informatiques (serveurs, stockage, rseau) consomment une grande
quantit dnergie lectrique. La quasi-totalit de la puissance consomme par ces qui-
pements est convertie en puissance thermique par effet Joule, ce qui induit des apports de
4
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers
chaleur importants au niveau des baies informatiques. Les puissances dissipes par les ser-
veurs peuvent varier dune centaine de watts plusieurs milliers en fonction de leur taille et
de leurs caractristiques [6]. Les densits de puissance dans les salles informatiques peuvent
alors dpasser les 3kW/m 2 pour les data centers les plus rcents [7, 8]. Afin dassurer le bon
fonctionnement des quipements informatiques, il est ncessaire de les refroidir et dva-
cuer la chaleur hors de ces salles. Il est intressant de noter que la densit de puissance em-
ploye pour le dimensionnement des alimentations lectriques est exprime en W/m 2 , alors
quil serait plus judicieux dexprimer la densit de puissance en W/m 3 pour le dimension-
nement de la climatisation (impact de la hauteur des plafonds).
Pour refroidir efficacement les quipements informatiques, il est ncessaire dagencer les
salles informatiques (disposition des baies et des climatiseurs) afin de permettre le passage
de lair froid et de limiter lapparition de points chauds, i.e. de tempratures trop leves en
face avant des baies, pouvant occasionner la dgradation et larrt des serveurs (non respect
des normes climatiques). Il est donc important de bien configurer les coulements dair afin
dempcher la prsence de ces points chauds, do une configuration en alles chaudes et
alles froides rgulirement utilise dans les data centers (cf. Figure 1.2). Lair froid issu de la
climatisation passe sous un faux plancher pour tre introduit dans la salle par des dalles per-
fores. Il est ensuite aspir en face avant des baies et est expuls en face arrire. Lair chaud
obtenu est repris par les climatiseurs, et les calories sont ensuite rejetes vers lextrieur.
Cette disposition des baies permet dviter les mlanges entre air froid et air chaud, limi-
tant ainsi le rchauffement de lair mis par les dalles perfores. Les recirculations nuisent
effectivement lefficacit nergtique car lair arrive une temprature plus haute en face
avant des baies, ce qui pousse abaisser les consignes de temprature en soufflage. Cette
opration entrane laugmentation de la consommation lectrique ddie la climatisation.
La disposition des baies informatiques en alles froides et alles chaudes peut tre ren-
force par la mise en place de confinements afin de rduire au maximum les recirculations
dair. Le confinement consiste isoler une zone regroupant un certain nombre de baies,
laide de parois physiques, pour empcher toute interaction entre lair froid et lair chaud
[10]. Les deux types de confinement possibles sont illustrs sur la figure 1.3, avec des perfor-
mances nergtiques meilleures dans le cas du confinement en alles chaudes [11].
5
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
F IGURE 1.3 Confinement des alles froides ( gauche) et des alles chaudes ( droite) [12]
4 interne Orange
F IGURE 1.4 Diagramme des normes des plages climatiques des quipements lectroniques
6
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers
5 interne Orange
Au niveau des climatiseurs, des dbits dair importants sont ncessaires afin dvacuer
efficacement la chaleur mise par les quipements informatiques, ce qui pse sur le bilan
nergtique de la climatisation en recyclage. Une autre consquence directe de cette venti-
lation importante est la gnration de bruit, qui peut devenir une gne importante pour les
employs dans certains cas [17]. La maintenance associe est galement trs coteuse. De
plus, ces units utilisent des fluides frigorignes souvent nocifs pour lenvironnement. Par
exemple, lemploi du rfrigrant R22, trs rpandu dans les anciens climatiseurs, est proscrit
depuis 2004 pour les nouveaux appareils, jusqu son interdiction totale en 2015 pour son
effet nfaste sur la couche dozone.
7
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
(a) Consommation nergtique des data centers (b) Densit de puissance installe
6 interne Orange
F IGURE 1.6 Prdictions de lvolution
7 des puissances consommes par les data centers
interne Orange
Limpact cologique est galement loin dtre ngligeable : publie en 2008 par Climate
Group, ltude Smart 2020 [19] soulignait que les missions de gaz effets de serre lies aux
data centers devraient augmenter de 7% par an jusquen 2020, et quelles devraient atteindre
12% des missions de C02 travers le monde. Le nombre de centres de donnes devrait lui
augmenter de 9% par an sur cette priode. Au niveau mondial, les data centers sont respon-
sables dune empreinte carbone plus importante que celles de certains pays comme lArgen-
tine ou les Pays-Bas.
Par dfinition, ce rapport ne peut tre infrieur 1. Dun point de vue nergtique, un
PUE de 1 reprsenterait une efficacit optimale pour le data center. Toutefois, cela sous-
entendrait que le data center en question ne dispose daucun quipement destin au re-
froidissement ou la scurit des quipements informatiques. De plus, cet indicateur est
critiquable [22, 23] car lnergie lectrique consomme par les ventilateurs des serveurs est
comptabilise dans lnergie consomme par les serveurs. Or dans le cas o il ny aurait plus
de ventilateurs, la valeur du PUE serait plus leve que dans le cas "avec ventilateurs", ce qui
est contradictoire du fait des conomies ralises en retirant les ventilateurs.
Le PUE prend galement en compte les diffrents niveaux de redondance et de dispo-
nibilits de linfrastructure, qui sont classs par niveau, nomms TIER, allant de I IV (cor-
respondant respectivement une disponibilit de 99, 671% et 99, 995%) selon lUptime Insti-
tute [24]. Daprs Garimella et al. [17], les valeurs typiques de PUE des data centers seraient
8
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.1. Les data centers
situes entre 1, 3 et 2, 7. Les valeurs typiques sont en moyenne autour de 1,6, et peuvent des-
cendre jusqu 1,2 [25]. Compte tenu des nombreux facteurs influenant le PUE, il est impor-
tant de soumettre le rsultat dun calcul de PUE certaines prcisions comme la localisation
du data center (en raison de limpact des conditions extrieures sur le systme de refroidis-
sement) et les plages de temprature et dhygromtrie maintenues [26].
Le Data Center infrastructure Efficiency (DCiE) est un second indicateur defficacit ner-
gtique qui exprime le rendement nergtique du data center et qui nest autre que linverse
du PUE.
Depuis janvier 2013, lETSI (European Telecommunications Standards Institute) a dfini
un nouvel indicateur defficacit pour les data centers appel le Data Center Energy Ma-
nagement (DCEM) [27]. Lindicateur defficacit nergtique KPIDCEM est compos de deux
grandeurs, DCG et DCP :
la premire, DCG , permet de dfinir la "taille" dun data center par rapport sa consom-
mation nergtique. Elle dpend uniquement du KPIEC ;
la seconde, DCP , dfinit la performance nergtique du data center pour une "taille"
donne. Elle est calcule par le biais de la formule suivante :
Pour mettre en place des solutions qui permettront de rduire la consommation des
data centers, il faut dabord sintresser la rpartition moyenne de cette consommation. Le
conditionnement de lair occupe une proportion importante de la consommation totale [29],
comme nous pouvons le constater sur la figure 1.8, illustrant le cas dun data center typique.
9
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Des tudes ont t menes afin de rendre les serveurs informatiques moins nergivores,
notamment par le biais de la rduction de la consommation des ventilateurs internes des
quipements [30], ou par des avances technologiques dans le domaine des composants
lectroniques.
Ce sont les processeurs qui consomment les plus grandes quantits dnergie dans un
serveur. Afin de rduire cette consommation, les constructeurs sorientent vers des volu-
tions plus conomes en nergie. La modification de larchitecture des processeurs permet
aux puces ARM de concurrencer les architectures x86 en termes de consommation nerg-
erne Orange
tique. Blem et al. [31] ont montr quun processeur Intel i7 consommait quinze fois plus
quun ARM-A8. Toutefois, les ARM ont des performances infrieures aux processeurs Intel,
comme lindique le tableau 1.1.
TABLEAU 1.1 Comparaison des performances nergtiques entre processeurs Intel et ARM [32]
Pour le stockage de donnes, les disques durs classiques (HDD, Hard Drive Disk) vo-
luent vers des SSD (Solid-State Drive). Les premiers sont constitus de pices mcaniques,
de ttes dcriture/lectures et de plateaux mobiles, tandis que les seconds permettent le sto-
ckage des donnes sur de la mmoire flash. Des tudes [33] ont t menes afin de com-
parer les performances nergtiques de chacun, notammant par Cheong et al. [34, 35] qui
ont montr quun SSD tait 22 fois plus performant quun HDD et 138% moins nergivore.
Des inconvnients majeurs subsistent nanmoins : le cot en capacit de stockage est net-
tement plus lev pour un SSD et le nombre de cycles possibles est infrieur compar un
10
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers
Limpact matriel peut galement tre rduit par la virtualisation, qui consiste installer
des serveurs virtuels sur un mme support physique afin de faire fonctionner un plus grand
nombre dapplications. Cela permet de minimiser les cots de maintenance et de refroidis-
sement quauraient engendrs la prsence de plusieurs serveurs physiques [37, 38, 39].
La figure 1.9.a reprsente le schma du circuit dune machine frigorifique cycles mono-
tags tandis que la figure 1.9.b reprsente lvolution des tempratures le long des chan-
geurs lors dun cycle de compression/vaporation. Lors dun cycle, le rfrigrant, basse
pression p F et sous forme gazeuse, entre dans le compresseur pour en ressortir la pression
p C , suprieure p F . Sa temprature C est suprieure la temprature de la source froide c1 .
11
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Il va alors se condenser son contact en lui cdant de la chaleur, on a alors C > c2 > c1 . Le
rfrigrant sous forme liquide passe ensuite dans le dtendeur, sa pression passant p C de
p F . Sa temprature F est maintenant infrieure celle de la source chaude f 1 , laquelle il
va soustraire de la chaleur en svaporant (F < f 2 < f 1 ) : il y a production de froid.
Le free cooling air est de loin le plus rpandu. Lair froid extrieur est directement in-
ject dans le circuit dair de refroidissement des quipements informatiques (voir Figure 1.10).
12
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers
13
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
parois multicouches dOrange Labs est illustre et ses avantages rappels (abaissement de
la consommation nergtique, maximisation du temps dintervention (dure avant laquelle
les serveurs steignent automatiquement en cas darrt de la climatisation pour viter la
surchauffe), rduction des gradients thermiques, quipements labri des poussires et des
polluants).
En 2009, Google a prsent un nouveau type de data center, introduisant ainsi le prin-
cipe de data center modulaires en container. HP, Microsoft, Sun, et Dell se sont galement
engags sur cette voie [50]. Diffrents types de containers existent, chacun ayant sa propre
configuration de baies informatiques, son type de refroidissement et sa densit de puissance
maximale, pouvant atteindre jusqu 14kW/m 2 [51].
Le concept est simple : il sagit de placer un maximum de serveurs dans des contai-
ners peu diffrents structurellement de ceux utiliss dans le transport de marchandises. Ces
containers sont ensuite disposs dans de grands hangars, ou lair libre. Ils sont quips
de systmes de refroidissement traditionnels, et sont livrs de telle sorte quil ne reste plus
que les divers raccordements effectuer (alimentation lectrique, eau glace, raccords tl-
coms).
14
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.2. Climatisation des data centers
Orange Labs travaille depuis quelques annes sur les effets de lenveloppe sur la consom-
mation nergtique de la climatisation. Des premires tudes ont t menes sur la climati-
sation simplifie ou ventilation optimise qui consiste utiliser le rafraichissement nocturne
des murs ou de la dalle bton des btiments [14]. Laccent a galement t port sur le d-
veloppement de modles prdictifs et sur lutilisation de matriaux changement de phase.
Lavantage majeur de cette innovation rside dans la rduction de production de froid, in-
duisant des consommations nergtiques importantes.
Le brevet de btiment exothermique [54] repose sur une paroi multicouches qui, travers
ses proprits, va permettre dobtenir des effets multiples :
lisolation thermique extrieure va permettre de limiter significativement les apports
externes (temprature, flux solaire). Celle-ci peut-tre obtenue avec tout matriau
dont la conductivit est suffisamment basse et qui rsiste aux agressions extrieures
(par exemple, du polystyrne extrud) ;
le matriau forte capacit de stockage thermique va permettre de stocker de la frai-
cheur qui pourra tre utilise pour passer les pics de temprature estivaux. Il pourra
sagir de bton ou dun matriau plus innovant incorporant des matriaux change-
ment de phase pour une capacit de stockage fortement accrue.
Plusieurs modes de fonctionnement doivent tre distingus. Le passage dun mode de
fonctionnement un autre se fait en fonction de la temprature de lair externe (comme
pour le free cooling).
Si la temprature externe est favorable (cf. figure 1.12.a), ie infrieure la temprature de
consigne, lnergie excdentaire des quipements est transporte par le flux dair interne, et
diffuse travers la paroi mtallique. Celle-ci cde alors cette nergie au flux dair externe
qui va lvacuer en partie haute (et le stocker dans une moindre proportion dans les murs et
le plafond en bton).
Dans le cas contraire, si la temprature extrieure est dfavorable (cf. figure 1.12.b), lin-
troduction dair externe dans la paroi multicouche est interdite (fermeture dun registre). Le
circuit dair interne reste inchang, par contre, lcoulement dair externe est mis en mouve-
ment par le biais de ventilateurs situs dans le faux-plancher afin de rcuprer la fraicheur
stocke dans la dalle, les murs et le plafond en bton.
14 14 interne Orange
interne Orange
15
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
16
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
hconv hrad
Dissipateur
Composant
Le transfert dnergie par conduction se produit au travers des milieux (solides, liquides
ou gazeux) en contact direct avec le composant, qui dissipe une certaine puissance ther-
mique. Le flux conductif surfacique est alors exprim en fonction de la conductivit du ma-
triau (qui dpend de la temprature) et du gradient de tempratures entre les diffrentes
lments :
TABLEAU 1.3 Ordres de grandeurs de la conductivit thermique pour diffrents matriaux [57]
Corps (W.m 1 .K 1 )
17
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Les changes thermiques entre le composant (ou son dissipateur) et le fluide environ-
nant se font par convection [58]. Le flux convectif surfacique peut alors sexprimer en fonc-
tion dun coefficient dchange convectif h conv , qui dpend de nombreux paramtres (go-
mtrie, fluide, etc...) :
Gr g TL
2
= Ri = (1.4)
Re v2
o et v sont respectivement le coefficient thermique dexpansion isobare et la vitesse du
fluide, T la diffrence de temprature travers la couche de fluide dpaisseur L et g lac-
clration de la pesanteur.
Ces phnomnes de convection apparaissent galement lorsque que les composants
lectroniques sont immergs dans un fluide dielectrique. Dans le cas dun fluide avec chan-
gement de phase, des phnomnes dbullition apparaissent, ce qui augmente de faon im-
portante la quantit de chaleur change entre le composant et le fluide environnant.
Les ordres de grandeur du coefficient h conv sont donnes dans le tableau 1.4.
Gaz 12 200
Convection force Eau 200 7500
Huile 30 3000
Gaz 3 30
Convection naturelle Eau 30 300
Huile 5 100
(Ti4 T 4j )
r ad = 1 j
(1.5)
1i
i S i + S 1F + j S j
i ij
18
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
r ad = i (Ti4 T 4j ) (1.6)
Un changeur est un systme au sein duquel un fluide chaud et un fluide froid changent
une quantit de chaleur, chaque fluide ayant une entre et une sortie distinctes [60]. Nous
pouvons classer les changeurs en fonction du mode dcoulement des deux fluides, selon
que lcoulement des fluides est parallle et de mme sens (cocourant), parallle et de sens
contraire (contre-courant) ou bien perpendiculaires (courants croiss).
Les changeurs tubes sont les plus usuels ; plusieurs configurations se distinguent en
fonction du nombre de tubes prsents et de leurs dispositions (voir figure 1.15).
Afin daugmenter lchange thermique entre deux fluides dont lun est moins bon ca-
loporteur que lautre, des ailettes sont ajoutes autour des tubes, ou mme lintrieur,
afin que la rsistance thermique globale ne soit pas principalement due au fluide ayant le
plus petit coefficient dchange thermique. Nous les retrouvons notamment dans le cas des
changeurs ayant comme fluides caloporteurs un liquide et un gaz (dans les machines frigo-
rifiques par exemple).
Les techniques de refroidissement liquide laide dun changeur sont dployes plu-
sieurs chelles. Il existe des systmes intgrant un changeur air/eau larrire des baies
19
14 interne Orange
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
20
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
cas dun change quasi-direct avec les composants, pour sassurer que la temprature de
jonction ne dpasse pas sa limite, de leau 45C suffit, ce qui rend toute production de froid
inutile. Les conomies engendres sont de lordre de 30% par rapport un refroidissement
avec une climatisation [64].
En 2012, Goth et al. [65] ainsi que Zimmermann et al. [66] ont publi des rsultats pro-
metteurs concernant le refroidissement de supercalculateurs par le biais dchangeurs en
contact direct avec les composants (cf. figure 1.17) sans employer de convection force, et
avec un circuit deau dont la temprature est comprise entre 35 et 60C. Cela permettrait en
plus une rutilisation de leau chaude pour des applications de chauffage pour des locaux.
Toutefois au vu des illustrations, le faible diamtre des canaux reliant chaque dissipateur
laisse penser que ce systme engendrerait une perte de charge assez importante, do un
choix de pompes de forte puissance qui viendrait entacher le bilan nergtique final.
Une des solutions de refroidissement par immersion consiste plonger les quipements
informatiques dans de lhuile minrale [67, 68]. Dans cette configuration, il ny a pas de chan-
16 internegement
Orange de phase. Lhuile qui maintient la temprature des composants est renouvele par
un systme de pompes, et le refroidissement de lhuile est assur par une boucle deau ou un
arorfrigrant externe. Eiland et al. [68] ont men des essais sur un seul serveur immerg
dans de lhuile minrale, avec une temprature dentre de 45C et une faible consommation
nergtique.
Haywood et al. [69] ont men des tudes sur le refroidissement par immersion avec de
lhuile minrale. La figure 1.18 montre le dispositif exprimental, qui comprend un conte-
nant isol dans lequel sont placs des serveurs informatiques. Ce contenant est lui-mme
plac dans un baril avec une pompe qui permet de faire circuler lhuile minrale jusqu un
radiateur pour vacuer la puissance dissipe par les quipements informatiques. Les rsul-
tats ont montr que le refroidissement des composants est bien assur et que la puissance
thermique issue des composants pourrait permettre de faire fonctionner une unit de pro-
duction frigorifique ( priori, 123 serveurs seraient capable dalimenter une climatisation
denviron 35 kW).
21
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Les caloducs, ou tubes de chaleur (heat pipes en anglais), sont des dispositifs capables de
transmettre des flux thermiques importants avec un trs faible gradient de temprature. Les
caloducs capillaires, les thermosiphons diphasiques ainsi que les caloducs oscillants sont les
trois grands groupes de caloducs employs de nos jours. Leur principe de fonctionnement
et leurs applications directes pour le refroidissement de composants lectroniques sont d-
taills.
Un caloduc est un systme dans lequel un liquide est en quilibre avec sa vapeur (ab-
sence totale dair ou de tout autre gaz) dans une enceinte tanche. Dans un tel systme, le
transport de la chaleur se fait depuis une source chaude, en contact avec lvaporateur, vers
une source froide, relie au condenseur. La diffrence de pression existante entre lvapora-
teur et le condenseur permet le dplacement de la vapeur, qui une fois condense, retourne
lvaporateur grce aux forces de capillarit ou de gravit (uniquement si le condenseur
se trouve au-dessus de lvaporateur) suivant quil sagisse dun caloduc capillaire (cf. fi-
gure 1.19.a) ou dun thermosiphon diphasique (cf. figure 1.19.b).
22
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
19 interne Orange
Pt h = q m L v (1.7)
Xu [71] a effectu une tude sur le refroidissement des serveurs informatiques par le biais
de caloducs. Lvaporateur est en contact avec les processeurs et le condenseur est plac sur
une plaque froide avec un circuit deau, ce qui permet au caloduc expriment de rcuprer
jusqu 450W de chaleur et dassurer le bon refroidissement des processeurs.
Diffrentes formes de caloducs ont t tudies par Elnaggar et al. [72] et Wang et al. [73]
afin de dterminer linfluence de la gomtrie des caloducs et des dissipateurs sur la quantit
de flux chaleur rcupre lors du refroidissement de composants lectroniques. Un exemple
de caloducs employ pour ce type de refroidissement est donn sur la figure 1.20.
23
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Les boucles fluides diphasiques pompage thermocapillaire (BFDPT) sont similaires aux
boucles prcdentes, except la prsence dune matrice poreuse situe dans lvaporateur
qui fournit la pression motrice assurant la mise en mouvement du fluide. Un second lment
24
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
22 interne Orange
Comme pour les caloducs, les boucles diphasiques sont employes pour le refroidisse-
ment des composants lectroniques. Orange a dj effectu des tudes sur le sujet, notam-
ment pour amliorer le refroidissement passif des armoires de tlcommunications [76, 77].
Les rsultats ont montr que la puissance des quipements installs ne peut excder 250 W
avec un refroidissement air traditionnel (convection force), tandis quelle peut atteindre
jusqu 600 W en utilisant un systme de boucles diphasiques.
Tian et al. [78] ont expriment le refroidissement dune baie informatique avec une
densit de puissance leve. La baie est refroidie par un flux dair canalis, traversant deux
changeurs comprenant des boucles diphasiques qui sont situs sur les parties infrieures et
suprieures de la baie. Le rejet de la puissance dissipe par les quipements informatiques
se fait par une boucle deau (en free cooling ou en utilisant une production de froid selon les
conditions de tempratures extrieures). Cette configuration permet alors de rduire la part
de la consommation de la climatisation de 46%.
Le refroidissement de super-ordinateurs par des boucles diphasiques a t tudi par
Chernysheva et al. [79]. Le procd de fonctionnement est montr sur la figure 1.23 et permet
de refroidir jusqu 600 W dquipements avec des tempratures en entre de la boucle deau
comprises entre 20 et 80C.
25
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
Des tudes sur lintgration de boucles diphasiques dans des serveurs ont t menes
par McGlen et al. [80], avec un refroidissement lchelle des composants avec un systme
coupl de boucles diphasiques et de convection force ( air ou eau en fonction de la puis-
24
sanceinterne
dissipe
Orange
au niveau de lvaporateur).
Ce type de refroidissement prsente de nombreux avantages par rapport aux autres modes
de refroidissement car il permet datteindre des densits de flux importantes [81]. De plus
il est possible de contrler la temprature dun composant en choisissant la temprature
dbullition de fluide adquate (le choix se porte alors sur les composants avec la temp-
rature limite la plus faible), et dimmerger tous les composants et leurs supports (excepts
les disques durs mcaniques non tanches). Il est toutefois important de vrifier la com-
patibilit chimique du fluide avec les diffrents matriaux constituants les quipements
immerger.
La figure 1.24 reprsente lun des deux principaux modes dbullition : lbullition libre
(ou en vase), dans lequel les vapeurs de fluide issues de lvaporation au niveau des sources
chaudes slvent vers le condenseur, puis retombent sous leffet de la gravit. Ce premier
mode de refroidissement est dit passif, par comparaison avec avec le second, qui est lbul-
lition en coulement forc, o le fluide est mis en mouvement par une action extrieure.
26
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.3. Vers le refroidissement liquide
lectroniques. La particularit de certains de ces fluides rside dans leur temprature dbul-
lition assez basse (plusieurs possibilits entre 34 et 76C). Par exemple, ils sont employs
dans le cadre du refroidissement par changement de phase dans des cuves o sont immer-
gs des serveurs informatiques (voir figure 1.25.a). Barnes et Tuma [82, 83] ont montr lin-
trt de cette solution, notamment au niveau des gains conomiques possibles sur le sys-
tme de refroidissement compar une climatisation air classique, ainsi que sur la densit
de puissance qui peut tre installe. Guess et al. [84] ont montr que la mise en place de
plaques micro-poreuses sur la surface des composants permet dintensifier les transferts. Ils
ont abouti une augmentation des changes de 300%.
La socit Iceotope et luniversit de Leeds emploient ce fluide lchelle dun serveur
[85, 86], comme le montre la figure 1.25.b : celui-ci est ferm hermtiquement et est rempli
dune certaine quantit de fluide dilectrique. Le systme de refroidissement situ en partie
suprieure du boitier permet via une circulation deau de condenser les vapeurs de fluide et
de rcuprer la chaleur dissipe par les composants.
26 interne Orange
F IGURE 1.25 Systmes dimmersion pour serveurs avec du 3M Novec [83, 86]
Warrier et al. [87] ont tudi plus de 30 fluides dilectriques afin didentifier lesquels
de ces fluides pourraient tre27 employs
interne Orange
dans le refroidissement par immersion des qui-
pements lectroniques.
27
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 1. Etat de lart
29 interne Orange
28 interne Orange
F IGURE 1.26 Exemples de systmes de revalorisation de lnergie des data centers [88]
Zimmermann et al. [89] ont galement mis en vidence diffrents procds de rutilisa-
tion directe de lnergie thermique produite par les data centers en introduisant un indica-
teur, nomm "valeur conomique de la chaleur" et dfini comme tant le ratio entre le cot
dun kWh de chaleur produit par les nergies fossiles et le cot dun kWh de chaleur produit
par les data centers. Leur tude a permis de quantifier cet indicateur en fonction de la tem-
prature de sortie deau du systme de refroidissement liquide dun centre de donnes (cf.
figure 1.27).
F IGURE 1.27 Valeur conomique de chaleur pour diffrents procds de refroidissement [89]
ou rsidentiels grce la rcupration de leau chaude issue des data centers. Brunschwiller
et al. [90] ont mis au point un concept qui permettrait de transformer en cinq ans un data
center en une architecture "zro-mission", dans le sens o chaque kWh dpens pour le
fonctionnement des serveurs serait rutilis pour le chauffage de locaux durant la saison
froide ou la production annuelle deau chaude.
Zachary Woodruff et al. [91] ont quant eux mis en place un rseau nodal permettant
de modliser un data center comme un centre distributeur de chaleur pour plusieurs bti-
ments, en fonction des besoins de chaque partie, et ainsi rduire la facture nergtique et les
missions de gaz effets de serre de chacun des acteurs.
28
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
1.4. Conclusion
1.4 Conclusion
Ce premier chapitre ddi ltat de lart a permis de voir que laugmentation de la
consommation nergtique des data centers nest pas prs de flchir. Les volutions tech-
nologiques des quipements ont tendance augmenter la puissance dissipe dans les salles
informatiques. Do la ncessit de refroidir les composants informatiques dans des plages
climatiques bien dfinies, qui impose lutilisation dune climatisation.
Une des voies pour rduire significativement la consommation des data centers devrait
tre lutilisation du refroidissement liquide. En effet, ltat de lart indique clairement des
gains importants au niveau de la consommation nergtique des systmes de refroidisse-
ment tout en maintenant les composants lectroniques en-dessous de leur temprature li-
mite. Les procds diffrent en fonction du mode de transfert de la chaleur qui leur est asso-
ci, ce qui permet denvisager un grand panel de nouvelles solutions. Un tat de lart sur le
refroidissement par immersion sans ou avec changement de phase est galement fait.
Par ailleurs, les possibilits de valorisation de la chaleur rcupre laide dun fluide
liquide sont en thorie plus intressante. Il est donc indispensable de prendre en compte cet
aspects afin daboutir une minimisation globale de limpact nergtique des data centers.
29
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2
Sommaire
2.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . 31
2.1.1 Equipements informatiques . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.1.2 Instrumentation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.1.3 Configurations tudies . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.2 Rsultats et discussions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.2.1 Refroidissement air sans changeur . . . . . . . . . . . . . . . . . . . . 36
2.2.2 Refroidissement air avec changeur . . . . . . . . . . . . . . . . . . . . 40
2.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
2.3.1 Modlisation de la baie et de lchangeur . . . . . . . . . . . . . . . . . . 45
2.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . 48
2.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . 53
2.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
2.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
30
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental
primentaux obtenus, une modlisation numrique par mthode nodale est entreprise
lchelle de la baie et de lchangeur.
Alimentations
Ventilateurs
Serveur
Alimentations
Serveur + ventilateurs
Alimentations
La figure 2.2 et le tableau 2.2 ci-dessous recensent les composants majeurs prsents dans
les serveurs sans leurs dissipateurs respectifs afin de mieux distinguer leurs emplacements
et dimensions. La photographie dun serveur avec ses dissipateurs est donne en annexe A.2.
Le sens de lcoulement dair qui va assurer le refroidissement des composants se fait de la
gauche vers la droite par rapport la figure. Les valeurs de temprature limite correspondent
aux tempratures maximales que peuvent atteindre les composants avant la dgradation de
leur fonctionnement. Les valeurs donnes dans le tableau 2.2 sont spcifiques aux compo-
sants des serveurs utiliss durant la thse. La puissance lectrique maximale consomme
par un serveur est de lordre de 220 Watts.
31
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
CPU Excute les instructions des programmes par le biais doprations 66C (en surface)
SAS Gre la lecture/criture des donnes du disque dur 115C (en surface)
Chipset Traduit les requtes de lecture ou dcriture de mmoire 105C (en surface)
Le systme dexploitation Linux a t install sur tous les serveurs afin de mettre en place
certains programmes destins faire varier la puissance dissipe par les composants. Deux
types de charge de travail des composants ont t retenues, qui serviront lors des expri-
mentations :
charge de travail minimale, qui sera note ultrieurement comme "PMIN " : les com-
posants sont ici sollicits au minimum, seul le systme dexploitation est lanc. La
chaleur vacuer par la ventilation est au plus faible ;
charge de travail maximale, qui sera note ultrieurement comme "PMAX " : dans ce
cas, les processeurs fonctionnent leur capacit maximale. Dautres composants comme
la mmoire vive (RAM) et les disques durs (HDD) sont sollicits. Le but est datteindre
la consommation lectrique maximale pour chaque serveur, permettant ainsi de d-
gager le maximum de chaleur possible par les quipements informatiques.
32
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental
baie au niveau de chaque bouche dextraction des ventilateurs centrifuges. En faisant lhy-
pothse que tous les serveurs sont refroidis de la mme manire, des thermocouples de type
K sont installs lintrieur de quatre serveurs afin de suivre lvolution des tempratures de
surface (ou ambiante locale) des composants de puissances leves (CPU, chipset, SAS, RAM
et HDD) (Figure 2.3). Pour rduire le caractre intrusif de ces mesures internes aux serveurs,
des fils de thermocouples de diamtre 0,1 mm sont utiliss, avec des jonctions comprises
entre 0,2 et 0,3 mm. Pour la mesure des tempratures de surface des composants, les ther-
mocouples sont placs entre les composants et leurs dissipateurs (fixation mcanique entre
les deux surfaces). Une instrumentation est galement mise en place pour visualiser les va-
riations de la temprature de lair lintrieur des serveurs (cf. figure 2.3). Les tempratures
dair lintrieur de lenceinte sont galement releves.
Deux types de centrales dacquisition sont utilises pour la majeur partie des mesures de
tempratures qui sont soit une Agilent 34972A LXI, soit des Fluke Hydra Series II. La temp-
rature de rfrence pour la compensation de soudure froide des thermocouples est directe-
ment intgre aux centrales.
Toute la chaine de mesures en temprature (thermocouples+centrales dacquisition) a
t pralablement talonne via un bain thermostat Lauda RE104 et une sonde PT-100
Pico SE012+PT-104 data logger, permettant ainsi dobtenir une incertitude de 0,1C sur les
mesures de temprature. Ltalonnage sest fait suivant quatre points (20, 45, 70 et 90C) qui
correspondent la plage de tempratures susceptibles dtre rencontres dans ltude. Une
rgression linaire est ensuite applique pour obtenir la valeur de la temprature corrige
pour chaque thermocouple. La priode dacquisition des tempratures est de 15 secondes.
Pour mesurer le taux dhumidit relative lors des essais, une sonde HygroFlex HF5 est instal-
le sur une des parois de lenceinte, proximit de la face avant des serveurs.
X X x (cm)
0 14 29 X 42
X
X
Thermocouples (air) X Thermocouples (surface)
Le moyen de mesure retenu pour calculer le dbit entrant dans les serveurs (en face avant
de la baie) est la mesure de vitesse laide de plusieurs anmomtre fil chaud. Pour ces me-
sures ponctuelles de vitesse, la surface dentre dair est maille du fait de la non-uniformit
du champ de vitesses. Des mesures de vitesses sont galement effectues larrire de la baie
au niveau des extractions dair chaud. Les surfaces de mesures sont divises en quatre sur-
faces gales et plus petites, puis les mesures de dbit sont effectues sur ces quatre surfaces
simultanment avec les quatre capteurs. Les capteurs de vitesse utiliss sont des Kimo CTV
210 et la priode dchantillonnage des mesures de vitesse est de 2 secondes.
Enfin, les puissances lectriques consommes par les ventilateurs centrifuges et par les
alimentations des serveurs (et des ventilateurs des alimentations) sont enregistres par un
nergimtre Fluke434. Un module de gestion interne permet de visualiser la puissance de
chaque lment de la baie, jusqu lchelle dun serveur. Dans le cadre du refroidissement
33
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
air sans changeur, les donnes utilises lors des comparaisons defficacit nergtique
seront celles issues de la littrature.
Les incertitudes des diffrents capteurs sont renseignes dans le tableau 2.3.
Temprature 0,1C
Anmomtre 3% VM 0,1m/s
Energimtre 1,5% VM 10W
Dans un premier temps, la baie est place dans une enceinte qui peut tre contrle
en temprature par un systme de climatisation (cf. figure 2.4). Cela nous permet dtudier
dans un premier temps le comportement des quipements dans le cas dun refroidissement
classique par air sans changeur.
Systme de climatisation
, Serveur informatique
T Mesure de temprature
Enceinte
34
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.1. Description du dispositif exprimental
limits aux pertes travers les parois. La pompe ainsi que les conduites deau de linstalla-
tion hydraulique ont t calorifuges.
Afin de raliser des bilans thermiques dans cette configuration, une instrumentation
complmentaire a t mise en uvre :
des thermocouples gains de type K et de diamtre 3 mm sont introduits dans le cir-
cuit deau en entre et en sortie dchangeur, de manire pouvoir dterminer la
puissance thermique cde leau dans lchangeur ;
des thermocouples sont placs dans lair de part et dautre de lchangeur (cf. figure
2.6), afin de pouvoir effectuer le bilan nergtique sur lair traversant lchangeur. Ces
derniers thermocouples ont t placs sur des supports de sorte mailler la surface
de passage de lair (8 thermocouples de part et dautre pour une surface de 0,3 m2 ).
Le maillage a t conu de faon ce quun thermocouple sur deux soit plac en face
dune sortie dair de ventilateur. Les valeurs donnes par les thermocouples en entre
et en sortie sont par la suite moyennes.
,
Serveur
, Flux dair
Alimentations T Mesure de temprature
Ventilateurs
P Mesure de puissance
Dbitmtre
Arotherme extrieur
Pompe
Enceinte
10 cm
11 cm
16 cm
15 cm
23 cm
16 cm
10 cm
35
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Les mesures de dbit deau sont assures par un dbitmtre magnto-inductif IFM ELEC-
TRONIC SM8050 plac entre lchangeur et la pompe, avec une priode dacquisition de 15s.
Lincertitude de mesure de cet appareil est indique dans le tableau suivant.
36
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions
Nous nous intressons dans un premier temps lvolution du dbit dair en fonction de
la temprature dair en entre de baie. La figure 2.7a montre lvolution du dbit dair total
traversant la baie (comprenant les alimentations et les serveurs), tandis que la figure 2.7b
montre uniquement le dbit dair travers un seul serveur. Le dbit dair augmente progres-
sivement avec la temprature dair en entre de manire non linaire, avec une trs faible
hausse entre 20 et 25C (+2%) et une forte augmentation entre 25 et 30C (+36%). Nous pou-
vons galement constater que le dbit dair nest pas fonction de la puissance dissipe par la
baie.
Des mesures de vitesses dair en face avant des serveurs montrent que 42% du dbit total
de la baie se retrouve au niveau des serveurs. Plus de la moiti du dbit dair permet donc de
refroidir les alimentations des serveurs, ce qui disproportionn par rapport aux puissances
dissipes par les alimentations. La vitesse moyenne dair en face avant des serveurs est com-
prise entre 2 m.s 1 et 3 m.s 1 . Nous nous attendons donc avoir des vitesses dair beaucoup
plus leves au niveau des composants, du fait des rductions des sections de passage dans
les serveurs.
2100 60
2000
55
1900
Dbit d'air (m /h)
50
1800
3
1700 45
1600
40
1500
35
1400
1300 30
20 22 24 26 28 30 32 20 22 24 26 28 30 32
entre entre
T (C) T (C)
a a
F IGURE 2.7 Dbits dair mesur en fonction de la temprature dair en entre (baie et serveur)
interne Orange 2 interne Orange
La figure 2.8 donne un rcapitulatif des mesures de tempratures des composants PMIN
et PMAX pour diffrentes valeurs de tempratures dair en entre. Nous constatons que le re-
froidissement des composants est bien assur, les tempratures limites de fonctionnement
ntant pas atteintes quel que soit le scnario.
Llvation des tempratures entre les deux puissances est notable, surtout pour les CPU
qui voient une hausse moyenne de leur temprature de surface denviron 12,4C. Les temp-
ratures augmentent de 5,8C pour le Chipset, de 4,4C pour le SAS et de 9,8C pour la RAM.
Nous remarquons que les tempratures de surface des composants sont plus faibles lors
des essais avec une temprature dair en entre de baie de 30C par rapport aux essais 25C.
Le dbit dair plus important dans le premier cas explique ce phnomne : lchange convec-
tif tant plus important et la puissance dissipe restant identique, lcart de temprature est
rduit mme avec une temprature dair en entre plus leve.
37
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Max=105C Max=95C
60 60
Max=115C
Temprature (C)
Temprature (C)
Max=66C Max=55C
40 40
30 30
20 20
10 10
0 0
CPUs Chipset SAS RAM HDDs CPUs Chipset SAS RAM HDDs
4 interne Orange
F IGURE 2.8 Tempratures
5
des composants en fonction de la puissance dissipe
interne Orange
et de la temprature dair en entre
La figure 2.9 montre lvolution de la temprature de lair dans les serveurs. Nous obser-
vons dans un premier temps que ces variations de tempratures permettent de visualiser
la distribution de puissance dans le serveur. En effet, la dissipation de puissance est plus
importante en entre des serveurs, o sont placs les composants les plus dissipatifs (CPU).
Entre x=0 et x=29cm, les temprature dair augmentent en moyenne de 9,8C PMIN et 15,0C
PMAX . Ensuite, la hausse des tempratures est plus faible entre x=29 et x=42cm avec une
augmentation de 3,8 et 1,7C pour chaque mode de puissance. Nous notons que lvolution
des tempratures est quasi-linaire, avec un cart moyen de temprature entre la sortie et
lentre des serveurs de 13,6C PMIN et de 16,7C PMAX .
Daprs le tableau 2.5, une diffrence de plusieurs degrs existe entre la temprature dair
en sortie de serveur labscisse x=42cm et la temprature dair en sortie de la baie. Cela
est d au mlange des flux dair des serveurs et des alimentations lors de laspiration des
ventilateurs centrifuges.
Nous pouvons galement noter que lhumidit relative dans lenceinte est trs faible, de
lordre de 15%. Cela provient du systme de rgulation de la temprature de lair dans len-
ceinte, qui le dshumidifie.
40
Temprature (C)
35
30
25
20
0 10 20 30 40
x (cm)
38
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions
PMIN PMAX
Tent
a
r ee
(C) 20.4 25.2 29.8 20.0 25.2 29.8
sor t i e
TB,a (C) 26.6 31.6 35.2 28.8 34.0 37.2
Afin de quantifier la puissance thermique dissipe par la baie, des bilans thermiques sur
lair sont effectus. Ils permettent galement de vrifier si linstrumentation en place est suf-
fisante, en comparant les rsultats obtenus aux mesures de puissance lectrique. La figure
2.10 expose les mesures de puissance lectrique consomme par les serveurs et les alimenta-
tions, les ventilateurs et la puissance thermique calcule sur lair. Les rsultats sont affichs
en fonction de la temprature en entre de baie pour les deux modes de puissance.
Nous constatons que la puissance lectrique de la baie augmente denviron 46% entre
PMIN et PMAX . Les bilans thermiques sont corrects, nous retrouvons une valeur similaire entre
la puissance thermique calcule et la puissance lectrique mesure. Les incertitudes sont
values 4% pour les mesures lectriques et 7% pour le calcul de la puissance thermique.
Nous notons toutefois une lgre augmentation de la puissance thermique lorsque la tem-
prature dair en entre est de lordre de 30C.
Nous avons galement vu prcdemment que le dbit dair est fonction de la temp-
rature dair en entre de baie, ce que confirme laugmentation de la puissance consomme
par les ventilateurs centrifuges. A 20C, ils consomment environ 319W, contre 682W 29,8C.
Cela reprsente une hausse de 114% de la consommation lectrique par rapport la valeur
minimale.
5000
4000
Puissance (W)
3000
2000
1000
0
18 20 22 24 26 28 30
entre
T (C)
a
7 interne Orange
39
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Des mesures de vitesses dair en sortie dchangeur ont t faites en faisant varier la tem-
prature dair en entre de baie sur une plage allant de 15 45C, afin de caractriser lvo-
lution du dbit dair en fonction de cette temprature. La vitesse dair a t mesure par pas
de 1C et est moyenne sur une priode de 2 minutes pour chaque point de mesure. Les
rsultats obtenus ont t reports sur la figure 2.11.
Entre 15C 25C, nous observons que le dbit dair est constant 1066 m3 /h. Lorsque la
temprature dair en entre de baie passe de 25 33C, le dbit dair crot jusqu atteindre
une valeur de 1894 m3 /h. Il est ensuite constant entre 33 et 39C, puis partir de 39C il
atteint sa valeur maximale de 2020 m3 /h. Les incertitudes sur les mesures du dbir dair sont
en moyenne de lordre de 5%.
Les mesures de vitesse dair en face avant des serveurs ont confirm cette tendance et
ont galement montr que 32% du dbit dair total de la baie passe travers les serveurs.
Par rapport au refroidissement air sans changeur, nous notons une baisse du dbit
dair total de lordre de 20% (10% de baisse au niveau des alimentations lectriques addi-
tionne aux 10% de pertes au niveau des serveurs). Cette baisse est due la mise en place de
lchangeur, qui induit une perte de charge supplmentaire pour les ventilateurs de la baie.
2200
2000
Dbit d'air (m /h)
1800
3
1600
1400
1200
1000
16 20 24 28 32 36 40 44
entre
T (C)
a
F IGURE 2.11 Dbit dair en fonction de la temprature dentre de la baie avec changeur
5Le dbit
internedair
Orange peut alors tre reprsent par en fonction de la temprature dentre de la
baie (cf. quation 2.1). Une rgression exponentielle a t applique sur la partie variable de
40
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions
la courbe. Cette fonction sera par la suite utilise dans les diffrents modles numriques
pour le calcul du dbit dair en fonction de la temprature dair en entre de baie.
0, 296 pour Taent r ee < 25C
0, 0517 exp(0, 07 T ent r ee ) pour 25 T ent r ee < 33C
a ent r ee a a
Q (Ta )= (2.1)
0, 526 pour 33 Taent r ee < 39C
0, 561 pour Taent r ee > 39C
La figure 2.12 montre les tempratures des composants en fonction de la puissance dis-
sipe et de la temprature dair en entre, avec un dbit deau constant de 15,7 l.min1 . Les
valeurs maximales recommandes pour les tempratures de chaque composant sont gale-
ment reportes sur la figure.
Une augmentation des tempratures est constate entre les deux modes de puissances.
En moyenne, les tempratures de surface des composants augmentent de 13,8C pour les
CPUs, 8,7C pour le chipset et le SAS, 12,6C pour la RAM et 7,7C pour les HDDs. Par rapport
aux rsultats obtenus avec un refroidissement sans changeur, nous notons que les tempra-
tures sont en moyenne suprieures de 2,5C dans le cas du refroidissement avec changeur,
avec un maximum de 8,1C pour le SAS. Cette disparit sexplique par laugmentation de
la perte de charge due lchangeur air/eau. Cette hausse des tempratures na aucune in-
cidence sur le bon fonctionnement des composants, qui sont encore trs loignes de leur
temprature limite recommande. Le refroidissement des composants est donc bien assur
avec la mise en place dun changeur en fond de baie.
Nous remarquons galement que dans certains cas, la temprature des composants avec
une temprature dair en entre de lordre de 25C est plus leve que dans le cas dune
temprature dair en entre proche de 30C. Ceci sexplique par le fait de la forte hausse de
la valeur du dbit dair dans cette plage de tempratures.
Temprature (C)
Max=66C Max=55C
40 40
30 30
20 20
10 10
0 0
CPUs Chipset SAS RAM HDDs CPUs Chipset SAS RAM HDDs
(a) PMIN (b) PMAX
Les variations des tempratures dair lintrieur des serveurs sont traces sur la figure 2.13.
Entre lentre et la sortie des serveurs, les temprature dair augmentent en moyenne de
13,1C PMIN et 20,7C PMAX avec des variations quasi linaires.
41
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Les profils de tempratures sont similaires aux rsultats obtenus avec un refroidissement
sans changeur air/eau. Toutefois, nous constatons un cart important entre les deux tech-
niques de refroidissement en sortie de serveur PMAX : en moyenne, lair est plus chaud de
5,8C dans le cas avec changeur cause pertes de charges supplmentaires.
45
Temprature (C)
40
35
30
25
20
0 10 20 30 40
x (cm)
Le tableau 2.6 donne les tempratures de lair et de leau en entre et sortie de baie et
dchangeur, ainsi que les valeurs de lefficacit de lchangeur. Les valeurs des tempra-
tures deau en entre dchangeur sont proches des tempratures de consigne fixes 17, 22
et 27C. La temprature dair en entre dchangeur est identique la temprature en sortie
de baie. Ces valeurs augmentent en fonction de la puissance dissipe par les quipements.
Entre la sortie et lentre des fluides au niveau de lchangeur, nous observons des carts de
tempratures PMIN de 7,4C pour lair et de 2,4C pour leau. A PMAX , les diffrences de tem-
pratures sont de lordre de 10,1C pour lair et de 3,6C pour leau. De plus, les tempratures
deau en sortie dchangeur sont trs proches des tempratures dair en sortie dchangeur.
En effet, la diffrence moyenne entre ces tempratures est de 0,2C PMIN et de 0,4C PMAX .
Par comparaison avec le systme de rfrence air, nous remarquons que la diffrence
de temprature dair entre la sortie et lentre de la baie est en moyenne plus leve de 1,3C
PMIN et de 1,8C PMAX .
Lors des essais PMAX , la temprature dair en entre de baie est suprieure denviron
1,5C par rapport PMIN pour une mme temprature deau en entre dchangeur. Cet cart
est d laugmentation de la temprature deau en sortie dchangeur lorsque la puissance
dissipe par la baie est plus grande.
Nous pouvons galement noter que lhumidit relative dans lenceinte est de lordre de
30 40%, soit deux trois fois plus que les valeurs mesures dans le cas du refroidissement
de la baie sans changeur. Comme la rgulation de la temprature de lair nest pas en fonc-
tionnement, il ny a pas de dhumidification de lair dans lenceinte.
42
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.2. Rsultats et discussions
Lefficacit dun changeur est donne par la relation ci-dessous (quation 2.2). Pour rap-
pel, les valeurs sont calcules pour un dbit deau constant de 15,7 l.min1 et un dbit dair
variant avec la temprature dair en entre de la baie. Lerreur sur le calcul de lefficacit est
de lordre de 4%.
sor t i e sor t i e
TB,a TE,a
= sor t i e
(2.2)
TB,a Teent r ee
PMIN PMAX
Tent
a
r ee
(C) 20,1 25,1 30,9 21,7 26,6 32,2
sor t i e
TB,a (C) 27,8 32,9 37,3 33,0 37,1 40,7
Tent
e
r ee
(C) 17,6 22,8 28,2 17,7 22,9 27,9
Tesor t i e (C) 20,0 25,1 30,8 21,2 26,4 31,8
sor t i e
TE,a (C) 20,0 25,0 30,8 21,6 26,6 32,2
Afin dvaluer la quantit de chaleur rcupre par lchangeur, des bilans thermiques
sont effectues sur chaque fluide. La figure 2.14 donne les puissances lectriques mesures
et les puissances thermiques calcules lors des diffrents essais. Les incertitudes sont res-
pectivement values 7% et 12% pour la puissance thermique sur lair et sur leau.
Dans un premier temps, les puissances lectriques consommes par la baie et les venti-
lateurs sont similaires celles mesures dans le cas de du refroidissement sans changeur.
La puissance consomme par les serveurs et les alimentations est de 2755 W PMIN et at-
teint 4150 W PMAX . La puissance thermique cde lair est de 2771 W PMIN et de 4103
W PMAX . En comparaison, la puissance thermique capte par lchangeur est de 2561 W
PMIN et de 3809 W PMAX . La puissance thermique rcupre par lchangeur Pe reprsente
donc plus de 90% de la puissance lectrique consomme par la baie.
Comme pour le refroidissement de la baie sans changeur, pour une temprature dair
en entre de baie proche de 30C, nous obtenons sur les bilans thermiques des rsultats plus
levs, qui sont nanmoins toujours compris dans lintervalle des incertitudes de mesures.
43
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
5000
4000
Puissance (W)
3000
2000
1000
0
20 22 24 26 28 30 32 34
entre
T (C)
a
PIT + Pcool i ng
pPUE = (2.3)
PIT
Cet indicateur ne prend donc pas en considration les autres lments dfinissant le
PUE, notamment le rendement de la chane dalimentation lectrique.
44
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
PMIN PMAX
Tent
ai r
r ee bai e
(C) 20,4 25,2 30,9 21,7 26,6 32,2
Les paramtres dentre pour ce modle sont la temprature dair en entre (Taent r ee ), la
temprature ambiante de lair (Taamb ) et la puissance dissipe par les quipements (PMIN ou
PMAX ) en fonction du temps. Le dbit dair total traversant la baie est divis en deux parties
distinctes afin de prendre en compte le dbit dair traversant les serveurs QSa et celui tra-
versant les alimentations lectriques (Qaal i m ). La valeur du dbit dair pour une temprature
dair en entre donne est obtenue partir des mesures exprimentales prsentes prc-
demment.
A partir des rsultats exprimentaux, les nuds du modle nodal ont t choisis afin de
S S
correspondre quelques points physiques. Les nuds 1 (Ta,1 ) et 2 (Ta,2 ) reprsentent les
tempratures dair situes x=29cm et x=42cm. Ils correspondent aux tempratures dair
quivalentes de la premire partie (de 0 29cm) et de la seconde partie (de 29 42cm) des
S S
serveurs. De plus, les nuds 3 (Tc,1 ) et 4 (Tc,2 ) reprsentent les tempratures quivalentes
des composants dans chaque zone. En se basant sur les fiches techniques des composants,
la puissance dissipe par les composants nest pas uniformment rpartie dans les serveurs.
En effet, la puissance P associe au noeud 3 reprsente 72,5% de la puissance totale des
serveurs PMIN et 80% PMAX . La puissance quivalente P 0 est quant elle associe au noeud
4 et reprsente la puissance restante dissipe par les autres composants.
Les transferts de chaleur par conduction et convection entre les nuds (1,3) et (2,4) sont
reprsents par les conductances thermiques quivalentes h 13 et h 24 . Les changes ther-
miques entre lair ambiant et la baie sont galement pris en compte.
45
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
, ,
, ,
, , , Modle
changeur
, ,
,
Le calcul des tempratures aux diffrents nuds du modle nodal passe par un bilan
des flux thermiques en chacun des points. Le systme dquations rgissant ce modle est
dtaill ci-dessous, avec par exemple, Ca,1 la capacit thermique du nud 1, m aS le dbit dair
massique travers les serveurs. h 100 et h 13 sont les conductances quivalentes modlisant
les changes thermiques entre lair ambiant, lair lintrieur des serveurs et la surface des
composants.
S
dTa,1
aS .Cpa (Taent r ee Ta,1 S
) + h 100 (Taamb Ta,1 S S S
C =m ) + h 13 (Tc,1 Ta,1 )
a,1
dt
S
dTa,2
aS .Cpa (Ta,1
S S
) + h 200 (Taamb Ta,2 S S S
C =m Ta,2 ) + h 24 (Tc,2 Ta,2 )
a,2
dt
S
dTc,1
S S
C
c,1
= P + h 13 (Ta,1 Tc,1 )
dt
(2.4)
S
dTc,2
0 S S
Cc,2 dt = P + h 24 (Ta,2 Tc,2 )
dTaal i m
= P 00 + m aal i m .Cpa (Taent r ee Taal i m )
C
a,3
dt
dT sor t i e
Ca,4 B,a
aS .Cpa (Ta,2
S sor t i e
aal i m .Cpai r (Taal i m TB,a
sor t i e
=m TB,a )+m )
dt
46
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
Les dtails des diffrentes matrices et vecteurs sont donns dans lannexe A.4.
Le modle nodal retenu pour lchangeur courants croiss est galement donn (cf.
figure 2.16). Le modle est compos de deux parties (pour chaque fluide) qui sont relies
aux diffrents nuds par trois conductances. Les paramtres dentre du modle sont la
temprature deau Teent r ee , le dbit massique deau m e , le dbit massique dair m a et la tem-
sor t i e
prature dair en entre dchangeur TB,a , qui est calcule partir du modle de la baie
dcrit prcdemment (nud 6). Deux nuds intermdiaires sont introduits, correspondant
moy
aux moyennes arithmtiques des tempratures dentre et sortie de lair (Ta ) et de leau
moy
(Te ). Ces nuds ne proviennent donc pas directement de points de mesures et ne repr-
sente en aucun cas les tempratures que lon serait susceptibles de retrouver au milieu de
sor t i e
lchangeur. Enfin, les nuds 10 et 11 reprsentent la temprature dair TE,a et la temp-
rature deau Tesor t i e en sortie dchangeur.
eau
, ,
, ,
Modle ,
baie
air , , ,
dT T(t ) T(t t )
= + O(t )
dt t
(2.7)
47
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
h = [h 100 , h 200 , h 13 , ...] et des capacits thermiques quivalentes C = [Ca,1 , Ca,2 , Cc,1 , ...]. En
notant m le nombre de points de mesures du modle et N le nombre de pas de temps, nous
aboutissons la relation :
1 Xm X N
f (
e j (
j
x )= (Ti Ti
x ))2 (2.8)
N i =1 j =1
Tairambiant
Tairentre Systme rel
P
Calcul de f
Optimisation
48
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
La squence de mesures utilise pour identifier les conductances est dtaille sur les fi-
gures 2.18 2.20. La fonctionnelle est calcule sur les six points de mesures pour le modle
de la baie et sur les quatre points de mesures pour le modle de lchangeur.
65
60
55
Temprature (C)
50
45
40
35
30
0 10 20 30 40 50 60 70 80
Temps (h)
49
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
45
40
Temprature (C)
35
30
25
0 10 20 30 40 50 60 70 80
Temps (h)
La figure 2.21 montre les valeurs des conductances quivalentes en fonction des para-
mtres opratoires pour le modle de la baie. Nous observons que la conductance h 13 d-
pend du dbit dair de la baie et de la dissipation de puissance des serveurs. En effet, les
valeurs sont proches de 150 W/K PMIN alors quelles atteignent 250 W/K PMAX . Les va-
leurs de h 100 et de h 200 sont assez faibles compares aux autres conductances et nont pas t
ngliges car elles sont ncessaires la convergence du modle numrique.
h -P h -P h -P h -P
13 min 24 min 10' min 20' min
h -P h -P h -P h -P
13 max 24 max 10' max 20' max
300
250
Conductance (W/K)
200
150
100
50
0
300 350 400 450 500 550 600 650
S 3
Q (m /h)
a
F IGURE 2.21 Variations des conductances de la baie en fonction des paramtres opratoires
1 interne Orange
Afin de modliser ces dpendances, les relations donne par le tableau 2.8 ont t obte-
nues par le biais de rgressions linaires et quadratiques.
50
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
600
Conductance (W/K)
500
400
300
200
100
1000 1200 1400 1600 1800 2000
3
Q (m /h)
a
F IGURE 2.22 Variations des conductances de lchangeur en fonction des paramtres opratoires
2 interne Orange
51
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Une fois les conductances quivalentes connues, nous recherchons par identification les
valeurs des capacits thermiques de chaque nud laide des quations en rgime tran-
sitoire. Les squences de mesures exploites sont celles utilises lors de lidentification des
conductances quivalentes. Le tableau 2.9 renseigne les rsultats obtenus lors de ce calcul.
Pour le modle de la baie, nous observons que les capacits des nuds 1 et 3 sont plus
leves que celles des autres nuds. Ces nuds correspondent aux points physiques pr-
sents lentre des serveurs. Le reste des capacits thermiques a des valeurs proches. En
considrant la masse totale de la baie, la somme de toutes les capacits thermiques de la
baie donne une valeur pertinente. En effet, en prenant la capacit thermique de lacier (465
J/kg/K) et la masse suppose des quipements informatiques (115 kg, daprs les donnes
constructeur), nous obtenons une valeur thorique de 53,5 kJ/K.
Valeurs obtenues (kJ/K) 16,8 3,5 14,6 4,1 5,9 5,6 50,5
Les conductances fluides et les capacits thermiques tant dtermines, il est possible de
vrifier dans un premier temps si la modlisation est correcte pour la squence de mesures
qui a permis didentifier ces paramtres. La figure 2.23 prsente les rsultats obtenus pour
le modle de la baie et la figure 2.24 ceux obtenus pour le modle de lchangeur. Les trs
faibles carts de tempratures entre les mesures de tempratures exprimentales et celles is-
sues du modle indiquent que les valeurs identifies pour chaque paramtre sont correctes.
52
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
S S S S alim sortie
T - exp T - exp T - exp T - exp T - exp T - exp
a,1 a,2 c,1 c,2 a B,a
S S S S alim sortie
T - num T - num T - num T - num T - num T - num
a,1 a,2 c,1 c,2 a B,a
60
55
50
Temprature (C)
45
40
35
30
25
0 10 20 30 40 50 60 70 80
Temps (h)
3 interne Orange
40
38
36
Temprature (C)
34
32
30
28
26
24
0 10 20 30 40 50 60 70 80
Temps (h)
4 interne Orange
F IGURE 2.24 Identification : comparaison exprimental/numrique du modle de lchangeur
53
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
Les figures 2.26 et 2.27 montrent la rponse des modles de la baie et de lchangeur
vis vis des paramtres dentre de la nouvelle squence de mesures. Nous observons que
lerreur moyenne entre les tempratures mesures et calcules est infrieure 7% pour le
modle de la baie, et est denviron 4% pour celui de lchangeur. Les tempratures simules
sont donc proches des donnes exprimentales avec toutefois la temprature en sortie de
sor t i e
baie (TB,a ) qui est surestime (+0.7C) PMAX et sous-estime (-0.6C) PMIN . Les rsultats
sont trs satisfaisants sur cette squence de validation.
S S S S alim sortie
T - exp T - exp T - exp T - exp T - exp T - exp
a,1 a,2 c,1 c,2 a B,a
S S S S alim sortie
T - num T - num T - num T - num T - num T - num
a,1 a,2 c,1 c,2 a B,a
60
55
50
Temprature (C)
45
40
35
30
25
0 40 80 120 160
Temps (h)
7 interne Orange
F IGURE 2.26 Validation du modle de la baie
54
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.3. Simulations numriques
34
32
30
Temprature (C)
28
26
24
22
0 40 80 120 160
Temps (h)
8 interne Orange
F IGURE 2.27 Validation du modle de lchangeur
T j
S i j (t , p) = k 6= i
p i p k
et comme la variable T j nest pas simplement drivable en p i , nous utilisons une ap-
proximation en diffrences centres pour rcrire la drive partielle :
S i j (t , p) = p i S i j (t , p)
Ce coefficient, qui est de mme unit que la variable T j , permet de quantifier lamplitude
de cette dernire provoque par une variation de 10% de p i .
Les paramtres p i sont ici les conductances thermiques quivalentes du modle. La fi-
gure 2.28 permet de visualiser limpact dune variation de 10% de ces conductances sur cha-
cune des tempratures du systme. Nous constatons que les tempratures dair dans les ser-
55
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 2. Refroidissement dune baie par un changeur air/eau
1 1
Sensibilit rduite ( C)
Sensibilit rduite ( C)
ST1 (h13 ) ST2 (h13 )
ST1 (h24 ) ST2 (h24 )
0 ST1 (h100 ) 0 ST2 (h100 )
ST1 (h200 ) ST2 (h200 )
1 1
2
2
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de T1 (b) Sensibilit de T2
0
Sensibilit rduite ( C)
Sensibilit rduite ( C)
ST3 (h13 ) 0 ST4 (h13 )
ST3 (h24 ) ST4 (h24 )
ST3 (h100 ) ST4 (h100 )
5 ST3 (h200 ) ST4 (h200 )
5
10
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de T3 (d) Sensibilit de T4
1
Sensibilit rduite ( C)
Sensibilit rduite ( C)
0.5
0.5
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(e) Sensibilit de T5 (f) Sensibilit de T6
56
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
2.4. Conclusion
1.5
0
Sensibilit rduite ( C)
Sensibilit rduite ( C)
ST8 (h6,11 ) ST9 (h6,11 )
ST8 (h89 ) 1 ST9 (h89 )
1 ST8 (h7,10 ) ST9 (h7,10 )
0.5
2
0
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de T8 (b) Sensibilit de T9
2
0
Sensibilit rduite ( C)
Sensibilit rduite ( C)
ST10 (h6,11 ) ST11 (h6,11 )
ST10 (h89 ) 1.5 ST11 (h89 )
1 ST10 (h7,10 ) ST11 (h7,10 )
1
0.5
2
0
0 20 40 60 80 0 20 40 60 80
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de T10 (d) Sensibilit de T11
2.4 Conclusion
Dans ce second chapitre, le refroidissement dquipements informatiques rels par un
changeur air/eau plac larrire de la baie a t tudi. Le flux dair chaud est alors direc-
tement refroidi la sortie des serveurs.
Les rsultats obtenus ont t compars des essais effectus sur la mme baie refroi-
die sans changeur. Nous avons observ que lajout de lchangeur a pour consquence une
diminution du dbit dair (pertes de charge changeur) qui se traduit par une lgre aug-
mentation des tempratures des composants, sans incidence sur leur fonctionnement. En
outre, linstrumentation mise en place a permis de montrer que la majorit de la puissance
dissipe par les quipements est rcupre par lchangeur. La consommation du systme
de refroidissement est trs faible par rapport un refroidissement air classique.
De plus, les squences de mesures ont permis de dfinir des modles numriques sim-
plifis sappuyant sur une approche nodale lchelle de la baie et de lchangeur. Les co-
efficients des diffrents modles ont t identifis par technique inverse partir des me-
sures exprimentales puis valids sur des squences de mesures additionnelles. Les carts
de tempratures entre les expriences et les simulations sont satisfaisants avec des valeurs
infrieures 10%. Ces modles pourront tre par la suite dupliqus lchelle dune salle
informatique pour estimer limpact du dploiement dune telle solution de refroidissement.
Des simulations de panne du systme de refroidissement de la baie sans et avec chan-
geur sont prsentes dans lannexe A.3.
57
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3
Sommaire
3.1 Description du dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . 59
3.1.1 Conception des plaques froides . . . . . . . . . . . . . . . . . . . . . . . 59
3.1.2 Adaptation de la baie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.1.3 Instrumentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
3.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.1 Etude prliminaire . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
3.2.2 Mesures en rgime transitoire . . . . . . . . . . . . . . . . . . . . . . . . 65
3.2.3 Relevs en rgime stationnaire et bilan nergtique . . . . . . . . . . . 67
3.3 Simulations numriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.3.1 Modlisation dun serveur et dune plaque froide . . . . . . . . . . . . . 70
3.3.2 Identification des paramtres . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.3.3 Comparaisons expriences/simulations . . . . . . . . . . . . . . . . . . 76
3.3.4 Etude de sensibilit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79
Le refroidissement des composants lectroniques par contact avec des sources froides
fait lobjet de nombreux dpts de brevets [103, 104, 105]. Gnralement, les diamtres des
canaux internes dans lesquels circulent le liquide de refroidissement sont de lordre du mi-
cromtre voire du nanomtre. En effet, dans le cas dun coulement en convection force
dans un tube de diamtre D, les coefficients dchanges convectifs varient en D1/3 en r-
gime laminaire et en D0,2 en rgime turbulent [55]. Toutefois, les pertes de charges dans
un tube sont plus importantes lorsque la valeur de D est petite, ce qui implique une forte
consommation nergtique du systme de pompage. Lobjectif de la thse est donc dtu-
dier le refroidissement de composants en contact avec des plaques froides, afin de limiter
lutilisation dune climatisation tout en ayant une consommation nergtique basse au ni-
veau du circuit hydraulique.
58
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.1. Description du dispositif exprimental
par conduction thermique est assur pour les composants lectroniques de plus fortes puis-
sances.
Dans un premier temps, le dimensionnement et la gomtrie des plaques froides sont
dcrits. Un paragraphe est ensuite consacr linstrumentation mise en place durant cette
tude puis nous analysons les rsultats exprimentaux obtenus. Dans la dernire partie, la
base de donnes exprimentales est exploite pour mettre en place un modle numrique
simplifi de la rponse thermique dun ensemble plaque froide-serveur .
F IGURE 3.1 Description des changes thermiques lors du refroidissement par plaques froides
59
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
des composants cibls et varient entre 14 et 20 mm. De la pte thermique (de conductivit
2,9 W/m/K) est place entre les surfaces des plots et des composants. Dautre part, un sys-
tme de fixation par vis permet dassurer un bon contact entre la plaque froide et le serveur.
Vis de Vis de
fixation fixation
4 1 4
Couvercle Couvercle
2 3
0mm eau
40mm
12mm Joint dtanchit 4 2 3 12mm Joint dtanchit
225mm
225mm
1 30mm
15mm 3 15mm
2
4 1 4
eau
m Plaque froide 395mm
60
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.1. Description du dispositif exprimental
Enceinte
T
T
T Serveur
Alimentations
Plaque froide
T Mesure de temprature
Alimentations
Dbitmtre (eau)
Arotherme extrieur
T T T Pompe
3.1.3 Instrumentation
Afin de suivre lvolution des tempratures des trois serveurs et des plaques froides cor-
respondantes, une instrumentation complmentaire est installe (figures 3.3 et 3.4). Plu-
sieurs thermocouples de type K (fils de diamtre 0,1mm) ont t implants entre la surface
des composants et les plots, de mme que sur la surface des barrettes mmoires refroidies
par air.
Pour mesurer la temprature de lair lintrieur des serveurs, six thermocouples sont
implants en diffrents points et deux anmomtres fil chaud placs directement en sortie
de serveurs permettent de mesurer la vitesse du flux dair (figure 3.4.a). La surface maille
est rectangulaire, de dimensions 40mm*20mm, chaque anmomtre mesurant la vitesse sur
une surface de 400 mm2 .
Sur le serveur n2, des thermocouples ont t placs sous les composants en contact
avec la plaque froide, au niveau du PCB et du botier du du serveur. Des thermocouples sont
galement colls sur les faces internes et externes des plaques froides (voir figure 3.4.b).
En ce qui concerne la comptabilit des puissances au niveau des plaques froides, des
thermocouples de type K chemiss de diamtre 3 mm sont introduit dans le circuit deau en
entre et en sortie de chaque plaque.
De plus, trois dbitmtres IFM ELECTRONIC SM7000 sont installs pour suivre le dbit
deau dans chaque plaque froide, tandis que le dbitmtre principal permet de suivre le dbit
total dans la boucle de refroidissement. Chaque boucle intermdiaire est dote dune vanne
qui permet de rguler le dbit deau de chaque plaque froide pour avoir un dbit identique
dans chacune des trois boucles.
Des mesures de puissance lectrique permettent de suivre la consommation de la pompe,
de larotherme extrieur, des serveurs et des ventilateurs axiaux. Les incertitudes de me-
sures des diffrents capteurs sont identiques celles prsentes dans le chapitre 2.
61
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
Thermocouples (air)
x (cm)
X X
X Thermocouples (surface)
0 8 11 28 X 36 42
Mesure ponctuelle de vitesse
X (fil chaud)
X
RAM
(a) Vue de dessus
Eau
Surface - composant
PCB - composant
Serveur (int.) - composant
Serveur (ext.) - composant
F IGURE 3.4 Placement global des thermocouples dans un serveur et une plaque froide
2 interne Orange
62
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux
faible de 1,0 L/min. Les tempratures dair et deau en entre sont de lordre de 25C pour se
placer dans des conditions moyennes de fonctionnement.
Dans un premier temps, les essais sont effectus la puissance PMIN . Nous faisons en-
suite varier la tension aux bornes des ventilateurs de 4 12V par pas de 2V. Les valeurs des
tempratures, des dbits dair et des puissances consommes par les ventilateurs sont re-
leves en rgime stationnaire. Lopration est rpte pour la puissance dissipe PMAX . Le
composant le plus fragile tant la mmoire vive, le suivi de temprature se fait sur ce com-
posant qui ne doit pas dpasser 95C en surface.
Les relevs de tempratures ont montr que les disparits de mesures entre les trois ser-
veurs sont faibles, avec des carts-types compris entre 0,3 et 1,0C en fonction des com-
posants. Nous faisons donc lhypothse que tous les serveurs ont le mme comportement
thermique. Tous les rsultats qui vont suivre sont obtenus partir des valeurs moyennes
des trois serveurs.
La figure 3.5 prsente les rsultats obtenus en fonction du dbit dair lintrieur du ser-
veur (la temprature dair en entre est mesure et gale 26C). Nous observons que la
temprature de surface du composant dcrot logiquement avec laugmentation du dbit
dair. Nous notons galement une diffrence de temprature denviron 12C entre PMIN et
PMAX . La consommation des ventilateurs varie entre 8 W et 89 W pour des dbits dair allant
de 6 17 m3 /h.
Pour un dbit dair denviron 13 m3 /h, la temprature maximale atteinte par le compo-
sant est de 73,5C avec une puissance de ventilateurs proche de 37 W. Cest ce point qui pr-
sente le meilleur compromis entre temprature de surface (infrieure 95C avec une marge
de scurit en cas de hausse de la temprature dair en entre) et puissance consomme par
la ventilation (qui doit tre la plus faible possible).
Par rapport au refroidissement air tudi dans le chapitre 2, pour une temprature dair
proche de 25C, le dbit dair est rduit de 69% et la consommation lectrique des ventila-
teurs est rduite de 50%. Il serait possible par la suite de moduler le dbit dair en fonction
de la puissance des serveurs pour rduire la consommation de ces ventilateurs.
T (P ) T (P ) P
RAM MIN RAM MAX ventil.
100 100
90 80
Puissance lectrique (W)
Temprature (C)
80 60
70 40
60 20
50 0
4 6 8 10 12 14 16 18
3
Dbit d'air (m /h)
Il est galement intressant de suivre lvolution des tempratures des composants lec-
troniques en contact avec les plaques froides en fonction de la valeur du dbit dair. En effet,
des changes convectifs peuvent apparaitre entre le flux dair et les plots mtalliques comme
63
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
le montre la figure 3.6. A PMIN , seule la temprature du SAS dcroit avec laugmentation du
dbit dair, tandis que les tempratures des autres composants sont stables. Nous observons
un comportement diffrent PMAX o toutes les tempratures baissent avec des dbits dair
plus importants. Ces phnomnes sexpliquent par le fait qu PMIN , les tempratures des
composants sont quasi gales la temprature dair en entre des serveurs.
33 33
Dbit
Dbitd'air
d'air(m
(m/h)
/h) Dbit
Dbitd'air
d'air(m
(m/h)
/h)
5,9
5,9 12,5
12,5 17,5
17,5 5,9
5,9 12,5
12,5 17,2
17,2
40
40 40
40
35
35 35
35
30
30 30
30
(C)
Temprature (C)
(C)
Temprature (C)
25
25 25
25
Temprature
Temprature
20
20 20
20
15
15 15
15
10
10 10
10
55 55
00 00
CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS
F IGURE 3.6 Influence du dbit dair sur les composants refroidis par contact
en fonction de la puissance (Taent r e ' 25C)
Dbit d'air
3 3 3
5,9 (m /h) 12,5 (m /h) 17,5 (m /h)
3 3 3
5,9 (m /h) 12,5 (m /h) 17,2 (m /h)
38
36
34
Temprature (C)
32
30
28
26
24
0 0,1 0,2 0,3 0,4
x (m)
F IGURE 3.7 Evolution des tempratures dair le long des serveurs en fonction
du dbit dair et de la puissance (avec PMIN en trait plein, PMAX en pointills)
64
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux
Dans un premier temps, il est intressant pour la comprhension des changes ther-
miques dobserver le comportement transitoire du systme afin dvaluer les changements
de tempratures en fonction des variations des paramtres opratoires. Un exemple est donn
pour un dbit deau constant de lordre de 1,0 L/min avec des variations des tempratures
dair et deau en entre, et de la puissance dissipe par les serveurs (figure 3.8).
entre entre
T T Puissance
a e
34 700
32 650
28 550
26 500
24 450
22 400
20 350
0 5 10 15 20 25 30 35
Temps (h)
La figure 3.9 donne lvolution des tempratures des faces externes des plaques froides
et des botiers des serveurs. Nous observons que les tempratures des faces externes des
plaques froides sont trs proches. Pour les botiers des serveurs, nous notons une petite dif-
frence de temprature (de 0,6C en moyenne) entre le serveur n1 et les deux autres. Cela
sexplique par le fait que le botier de ce serveur nest pas proximit dune plaque froide
pour le refroidir. De plus, du fait de la disposition des serveurs dans la baie, cette singularit
ne peut donc apparatre que sur le serveur se situant tout gauche.
Le faible cart de temprature enregistr par les diffrents thermocouples permet de cor-
roborer lhypothse que les tempratures des serveurs et des plaques froides sont similaires
quel que soit le serveur tudi.
65
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
35
Temprature (C)
30
25
20
0 5 10 15 20 25 30 35
Temps (h)
F IGURE 3.9 Profils de tempratures des faces externes des plaques froides
et des botiers des serveurs au cours du temps
La figure 3.10 prsente les profils moyens de tempratures des principaux composants
des serveurs. A PMIN , les composants refroidis par eau ont des tempratures proches, ex-
cept le SAS qui a une temprature plus leve denviron 5C. La faible diffrence de temp-
ratures entre les deux CPU (0,7C) rside vraisemblablement dans la disposition des entres
et des sorties deau des plaques froides et du parcours de leau travers celle-ci. Daprs la
figure 3.2, le premier CPU est plac prs de lentre deau. A PMAX , les carts de tempratures
entre leau et les composants deviennent plus importants. Laugmentation des tempratures
lors du changement de puissance est beaucoup plus marque pour les processeurs (+10,1C
en moyenne) que pour les autres composants (+1,4C pour le chipset et 1,0C pour le SAS).
Cela sexplique par le fait que les processeurs dissipent plus de puissance que les autres com-
posants.
Nous pouvons galement noter que la temprature dair en entre des serveurs un effet
sur la temprature des composants en contact avec les plaques froides. Par exemple, passer
dune temprature dair en entre de 26 30C fait augmenter la temprature des compo-
sants refroidis par eau de 2,4C en moyenne PMAX . La figure 3.10 montre galement les
profils de tempratures des composants seulement refroidis par le flux dair comme la RAM
et le HDD. Les tempratures maximales atteintes par ces composants sont respectivement
de 66C et 37C PMIN et de 77C et 39C PMAX .
Dans nos conditions dessais, nous constatons que tous les composants fonctionnement
en-dessous de leur temprature maximale recommande. Toutefois, les CPU sont les com-
posants qui ncessitent la plus grande attention si la temprature de consigne deau entre
de plaque venait tre augmente. En effet, lcart de temprature entre la surface des CPU
et la temprature deau en entre est denviron 13C PMAX .
La face interne de la plaque froide, qui est du ct des composants, a une temprature
qui volue essentiellement en fonction de la temprature dair en entre. Le passage de PMIN
PMAX a une lgre influence, avec une lvation moyenne de temprature de 1,8C.
66
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux
80
70
Temprature (C)
60
50
40
30
20
0 5 10 15 20 25 30 35
Temps (h)
F IGURE 3.10 Profils des tempratures des composants et de la plaque froide en fonction du temps
La figure 3.11 montre les tempratures de surface des composants en contact avec les
plaques froides pour diffrentes valeurs de dbits deau et pour une temprature dair en
entre de serveurs de lordre de 30C.
Nous observons que les tempratures baissent logiquement avec laugmentation de la
valeur du dbit deau. La baisse de temprature est plus marque lors du passage de 0,5
1 L/min avec une baisse moyenne de 1,8C PMIN et de 2,2C PMAX . En revanche, lors du
passage de 1 2 L/min, les tempratures ne baissent en moyenne que de 0,4C PMIN et
de 1,3C PMAX . Diminuer la valeur du dbit deau noccasionne pas de hausse importante
des tempratures des composants, dont les valeurs mesures sont toujours infrieures aux
valeurs maximales recommandes. Augmenter le dbit deau au-del de 2 L/min ne permet
donc pas de rduire la temprature de surface des composants de manire consquente du
fait de lefficacit dchange limite due la configuration gomtrique des plaques froides.
Dbit d'eau
Dbit (l/min)
d'eau (l/min) Dbit d'eau
Dbit (l/min)
d'eau (l/min)
0,5 0,5
l/min
l/min 1 l/min
1 l/min 2 l/min
2 l/min 0,5 0,5
l/min
l/min 1 l/min
1 l/min 2 l/min
2 l/min
45 45 45 45
35 35 35 35
Temprature (C)
Temprature (C)
Temprature (C)
Temprature (C)
25 25 25 25
15 15 15 15
5 5 5 5
CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS CPU
CPU CPU
CPU Chipset
Chipset SAS
SAS
F IGURE 3.11 Influence du dbit deau sur les composants refroidis par contact
en fonction de la puissance (Taent r e ' 30C)
67
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
Comme la temprature de la face suprieure des composants est impose par la plaque
froide, des mesures de tempratures complmentaires ont t effectues afin de visualiser le
gradient de temprature en-dessous des diffrents composants. Les rsultats de la figure 3.12
sont obtenus pour une temprature dair de 30C et un dbit deau de 1 L/min. Nous consta-
tons que les tempratures mesures sous les composants au niveau du PCB sont gnra-
lement suprieures aux tempratures de surface de lordre de 3C (except pour les CPU
PMAX o linverse est observ). Entre la surface du PCB et le botier du serveur, les tempra-
tures baissent de 1,6 5,7C pour les CPUs, de 4,5C pour le chipset et de 2,4 pour le SAS.
Sur la figure 3.13 sont reportes les tempratures dair le long des serveurs pour diff-
rentes valeurs du dbit deau et des deux niveaux de puissance. En premier lieu, la diffrence
de temprature dair entre la sortie et lentre des serveurs est assez leve, de lordre de 4C
PMIN et de 6C PMAX . Une partie de la puissance des serveurs se retrouve donc sur le flux
dair. Par rapport aux rsultats observs au chapitre 2, les profils des tempratures dair le
long des serveurs ne sont pas linaires. Laugmentation du dbit deau permet de rduire
faiblement les tempratures dair au sein des serveurs. En effet, multiplier la valeur du dbit
deau par 4 fait baisser la valeur des tempratures de moins de 1 degr en moyenne.
38
Temprature (C)
36
34
32
30
28
0 0,1 0,2 0,3 0,4
x (m)
68
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.2. Rsultats exprimentaux
Lorsque les composants sont utiliss au maximum de leurs capacits, la puissance lec-
trique des serveurs augmente de 73% par rapport PMIN (cf. tableau 3.2).
Sur la figure 3.14 sont reportes les puissances thermiques rcupres sur leau et sur
lair en fonction des principaux paramtres opratoires, pour des tempratures dair et deau
respectivement de lordre de 30C et 25C. Les rsultats indiquent que les puissances ther-
miques cdes aux deux fluides dpendent de la valeur du dbit deau.
La puissance thermique cde leau est assez proche de la puissance lectrique consom-
me par le serveur. En effet, le ratio entre ces deux quantits varie, selon le dbit deau, entre
69 et 91% PMIN et entre 65 et 78% PMAX . La plaque froide mise en place assure donc une
rcupration correcte des calories dissipes. Il est donc impratif de slectionner les points
de fonctionnement qui permettent de rcuprer un maximum de calories par le biais des
plaques froides. La puissance thermique sur lair reprsente environ 13% de la puissance
consomme par les serveurs. Malgr les lvations de tempratures dair au sein des ser-
veurs, les puissances sur lair sont faibles du fait de la valeur du dbit dair. Dans notre cas, la
prsence de quelques composants ne pouvant tre refroidis par un contact avec une plaque
froide rend ncessaire la prsence dune climatisation de faible puissance.
Les incertitudes sur les calculs de la puissance thermique sont de 20% sur leau et de 16%
sur lair.
P (P ) P (P ) P (P ) P (P )
eau MIN eau MAX air MIN air MAX
700
600
Puissance thermique (W)
500
400
300
200
100
0
0 0,5 1 1,5 2 2,5
Dbit d'eau (l/min)
Les relevs des puissances lectriques consommes dune part par les serveurs, et dautre
part par le systme de refroidissement, permettent de chiffrer lefficacit nergtique de
linstallation. Toutefois, compar au cas dun data center rel, nous ne pouvons calculer
quune efficacit partielle prenant uniquement en compte la consommation du systme de
refroidissement. Lindicateur partiel defficacit nergtique utilis dans notre cas est le par-
tial Power Usage Effectiveness (pPUE), dont lexpression est rappele ci-dessous :
Consommat i on t ot al e d e l 0 i nst al l at i on
pPUE = (3.1)
Consommat i on d es qui pement s i n f or mat i ques
La consommation lectrique du systme du refroidissement est compose de la consom-
mation de la pompe du circuit hydraulique et du ventilateur de lchangeur eau/air extrieur.
69
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
La consommation des ventilateurs qui assurent la circulation du flux dair au sein des ser-
veurs est comprise dans la consommation des quipements informatiques.
Le tableau 3.2 rcapitule les puissances lectriques consommes par les quipements.
La pompe consomme entre 10 et 70 Watts en fonction du dbit choisi, qui est compris entre
0,5 et 5 L/min. Nous obtenons des valeurs de pPUE proches de 1,1 PMIN et 1,06 PMAX .
Ces valeurs sont intressantes compares un refroidissement air classique et elles sont
susceptibles de baisser pour trois principales raisons :
en prenant en compte un plus grand nombre de serveurs, car linstallation hydrau-
lique utilise est surdimensionne pour refroidir uniquement trois serveurs ;
la dfinition du pPUE ne permet pas de prendre en compte la baisse de la consom-
mation des ventilateurs par rapport un refroidissement classique, qui est englo-
be dans la consommation des quipements informatiques. En effet, dans notre cas,
diminuer la consommation lectrique des ventilateurs permet de rduire la facture
nergtique (qui est lobjectif principal atteindre) mais donne un indicateur def-
ficacit nergtique plus mauvais. Si nous prenons le cas dune salle informatique
contenant 100 baies quipes des serveurs utiliss durant ltude (soit un total de
2800 serveurs), nous arrivons une conomie denviron 223 MWh par an ;
par ailleurs, nous pouvons supposer quavec des serveurs adapts, le problme de la
convection force pour les seules barrettes de mmoires pourrait ne plus se poser.
Pour les changes radiatifs, en faisant lhypothse que les tempratures des surfaces
mises en jeu sont du mme ordre de grandeur, le coefficient dchange radiatif h r ad peut
scrire sous la forme :
70
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques
Malgr la baisse du dbit dair au sein des serveurs, les coefficients dchange radiatif
sont moins levs que les coefficients dchange conductif, mais ils ne sont pas pour autant
ngligeables.
Nous dfinissons une temprature moyenne pour la face interne de la plaque froide
moy moy
(TPFI ) et une temprature moyenne deau (Te ) pour lensemble des changes thermiques
avec la plaque froide.
A partir des rsultats exprimentaux, les nuds du modle nodal ont t choisis. Pour
S S
le serveur deux zones sont retenues pour lair. Les nuds 3 (Ta,1 ) et 4 (Ta,2 ) correspondent
aux tempratures dair de la premire partie (de 0 11cm) et de la seconde partie (de 11
S S
42cm) des serveurs. De plus, les nuds 1 (Tc,1 ) et 2 (Tc,2 ) reprsentent les tempratures
quivalentes des composants dans chaque zone. La puissance dissipe par les composants
est rpartie de la mme faon que dans le chapitre 2. Au nud 1, la puissance P1 est la puis-
sance totale des processeurs en contact avec la premire range de plots de la plaque froide.
La puissance quivalente P2 associe au nud 2 correspond la puissance dissipe par les
autres composants.
Les transferts de chaleur par conduction directe dans les plots entre les nuds (1,5)
et (2,5) sont pris en compte par les conductances thermiques quivalentes h 15 et h 25 . Les
changes thermiques par convection entre lair traversant le serveur et la surface des plots
en contact avec les composants sont modliss par le biais des conductances h 13 et h 24 . Les
(conductances h 35 et h 45 ) et prennent en compte les changes par convection entre la face
interne de la plaque froide et le flux dair.
La puissance thermique cde leau travers la plaque froide est reprsente par la
conductance h 56 . La temprature deau en sortie de la plaque est obtenue par le calcul de
la temprature deau moyenne qui circule au sein de la plaque froide. Les conditions aux li-
mites extrieures sont prises en compte par le biais du noeud 9 qui reprsente la temprature
moy
de la face externe de la plaque froide (TPFE ).
Le transfert de chaleur entre leau et la face interne de la plaque froide est reprsente
par la conductance h 56 . La temprature deau en sortie de la plaque est obtenue par le calcul
de la temprature deau moyenne qui circule au sein de la plaque froide.
71
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Schma du modle
Chapitre 3. Refroidissement de serveurs par plaques froides
Calcul de
,
,
, ,
, ,
, ,
, ,
F IGURE 3.15 Schma du modle nodal dun serveur et dune plaque froide
Le calcul des tempratures aux diffrents nuds passe par un bilan thermique en cha-
cun des points. Le systme dquations rgissant ce modle est dtaill ci-dessous, avec par
S
exemple, Ca,1 la capacit thermique du nud Ta,1 ,m aS le dbit dair massique travers le
serveur. h 17 et h 28 sont les conductances thermiques quivalentes modlisant les changes
thermiques entre la surface des composants et le boitier des serveurs.
S
dTc,1 moy
S S S S S
C = P1 + h 13 (Ta,1 Tc,1 ) + h 15 (TPFI Tc,1 ) + h 17 (Tb,1 Tc,1 )
c,1
dt
S
dTc,2
S S moy S S S
C = P2 + h 24 (Ta,2 Tc,2 ) + h 25 (TPFI Tc,2 ) + h 28 (Tb,2 Tc,2 )
c,2
dt
S
dTa,1 moy
a .Cpa (Taent r ee Ta,1
S S S S
Ca,1 =m ) + h 13 (Tc,1 Ta,1 ) + h 35 (TPFI Ta,1 )
dt
S (3.3)
dTa,2 moy
Ca,2 =m a .Cpa (Ta,1
S S
Ta,2 S
) + h 24 (Tc,2 S
Ta,2 ) + h 45 (TPFI Ta,2S
)
dt
moy
dTPFI
S moy S moy S moy
CPF = h 15 (Tc,1 TPFI ) + h 25 (Tc,2 TPFI ) + h 35 (Ta,1 TPFI )
dt
moy moy moy
S
TPFI ) + h 56 (Te TPFI )
+h 45 (Ta,2
moy
dT
moy moy moy moy moy
Ce e e .Cpe (Teent r ee Te ) + h 56 (TPFI Te ) + h 69 (TPFE Te )
=m
dt
72
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques
La squence de mesures utilise pour identifier les conductances est dtaille sur les fi-
gures 3.16 3.17. La fonctionnelle est calcule sur les six points de mesures du fait du grand
nombre de paramtres identifier. Lestimation des conductances thermiques est lance
avec des valeurs initiales des paramtres pr-calcules (voir tableau 3.3).
entre S moy
entre S moy
T T T
entre S moy
T
entre
T
S
T
moy
Ta Tb,1 TPFE
Ta Tb,1 TPFE T
aentre
T
b,1S PFE
P
aentre b,1S PFE e entre b,2 S
T T P T T P
Te
entre
Tb,2
S 40 e b,2 225
P 225 225
40 e b,2 40
40 225
35 200
35 200 35 200
(C)
35 200
Puissance
(C)
(C)
Puissance
Puissance
(C)
Temprature
Puissance
Temprature
Temprature
30 175
Temprature
30 175 30 175
30 175
(W)
(W)
(W)
(W)
25 150
25 150 25 150
25 150
20 125
20 125 20 0 10 20 30125
20 0 8 16 24 32125 0 10 Temps (h)20 30
0 8 16 (h)
Temps 24 32 Temps (h)
Temps (h)
(a) Qe = 0, 5 L/mi n (b) Qe = 2 L/mi n
S S moy
S S moy S
T S
T T
moy PFI
c,1 a,1
S
T S
T T
moy PFI
T T T
c,1 a,1 c,1 a,1 PFI
T T T T
S
T
S
T
sortie
c,1 S a,1 S PFI sortie S S sortie e
c,2 a,2
T T T T T T
T
S c,2
T
S a,2
T
sortie e 40 c,2 a,2 e
c,2 a,2 e 40
40
40 36
36
Temprature (C)
Temprature (C)
Temprature (C)
Temprature (C)
35
35 32
32
30
30 28
28
25
25 24
24 0 10 20 30
0 4 8 12 16 20 24 28 32 0 10 Temps20(h) 30
0 4 8 12 16 20 (h)24
Temps 28 32 Temps (h)
Temps (h)
(a) Qe = 0, 5 L/mi n (b) Qe = 2 L/mi n
73
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
Conductances h 35 h 45 h 17 h 28 h 13 h 24 h 56 h 69 h 15 h 25
Afin daboutir une identification probante des conductances thermiques, les squences
de mesures utilises correspondent aux priodes durant lesquelles les gradients de temp-
rature sont les plus consquents. Le tableau 3.4 donne un ordre de grandeur des valeurs des
conductances quivalentes en fonction de certains paramtres opratoires. Dans le cas des
conductances thermiques des plots, il est possible de calculer des valeurs thoriques puis-
quelles reprsentent des changes par conduction pure (avec des contacts parfaits) :
t hor i que
um S CPU
h 15
= 2 al umieniCPU = 30, 6 W/K
(3.5)
h t hor i que = al umi ni um S Chi pset + al umi ni um S SAS = 23, 04 W/K
25 e Chi pset e SAS
Toutefois, les valeurs obtenues par identification sont beaucoup plus faibles du fait des
rsistances de contacts importantes entre les plots et les composants. En effet, de la pte
thermique conductrice ( = 2, 9W/m/K, donne fabricant) est insre entre les plots et les
composants. Lpaisseur est mesure laide de cales micromtriques et donne une valeur
denviron 0,3 mm. La rsistance de contact pour un processeur est alors de lordre 0,095 K/W.
Les coefficients dchanges convectifs entre la plaque et leau sont reprsents par les
conductances h 56 et h 69 sont trs proches et avec des valeurs importantes (convection for-
ce).
Conductances h 35 h 45 h 17 h 28 h 13 h 24 h 56 h 69 h 15 h 25
Valeurs identifies (W/K) 4,9 1,6 13,2 13,7 1,2 8,8 58,3 59,2 4,0 1,0
Les conductances varient fortement en fonction des paramtres opratoires lors de liden-
tification sur les squences de mesures en rgime stationnaire. Afin de rduire le nombre de
paramtres estimer, nous fixons les valeurs des conductances h 15 et h 25 celles obtenues
dans le tableau 3.4.
74
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques
Afin de modliser ces dpendances, les relations suivantes ont t obtenues par le biais
de rgressions au premier ordre en fonction des deux principaux paramtres opratoires Qe
et Taent r e (il sagit de la mthode employe pour la dfinition des conductances de lchan-
geur air/eau dans le chapitre 2) :
h 35 = 0, 14 Qe Taent r e 3, 5 Qe + 0, 32 Taent r e 4, 9
h 45 = 0, 11 Qe Taent r e 1, 2 Qe + 0, 03 Taent r e 0, 41
h 17 = 0, 33 Qe Taent r e 6, 2 Qe + 0, 14 Taent r e + 7, 0
h = 0, 87 Q T ent r e 20 Q + 0, 50 T ent r e 4, 2
28 e a e a
ent r e ent r e
(3.6)
h 13 = 0, 17 Q e T a 3, 7 Q e + 0, 01 T a + 0, 76
h 24 = 1, 9 Qe Taent r e 40 Qe 0, 39 Taent r e + 12
h 56 = 3, 4 Qe Taent r e 67 Qe + 0, 47 Taent r e + 26
h = 0, 64 Q T ent r e + 22 Q + 2, 5 T ent r e 18
69 e a e a
Une fois les conductances quivalentes connues, nous recherchons par identification les
valeurs des capacits thermiques de chaque nud laide des quations en rgime tran-
sitoire. Les squences de mesures exploites sont celles utilises lors de lidentification des
conductances quivalentes. Le tableau 3.5 donne les rsultats obtenus lors de ce calcul.
Nous observons que les capacits des nuds reprsentant les composants sont logique-
ment plus faibles que celles des autres nuds. Les capacits thermiques de la plaque froide
et de leau circulant lintrieur de celle-ci sont de lordre de 8000 J/K et 500 J/K. En consid-
rant les masses et les capacits thermiques de la plaque froide (7 kg, Cpal umi ni um =897 J/kg/K),
de leau (0,34 kg, Cpeau =4182 J/kg/K) et du serveur (3 kg, Cpaci er =465 J/kg/K), la somme de
toutes les capacits thermiques donne une valeur pertinente.
TABLEAU 3.5 Identification des capacits thermiques pour le modle dun serveur et dune plaque
froide
Les conductances fluides et les capacits thermiques tant dtermines, il est possible de
vrifier dans un premier temps si la modlisation est correcte pour la squence de mesures
qui a permis didentifier ces paramtres. La figure 3.18 prsente les rsultats obtenus. Les
faibles carts entre les tempratures mesures et celles issues du modle indiquent que le
modle permet une bonne reprsentation de la rponse thermique de lensemble "plaque
froide-serveur". Nous notons toutefois sur la figure 3.18.b quil existe des carts denviron
1,5C entre les tempratures Tc,2 mesures et calcules pour certains paramtres opratoires.
Ceci peut sexpliquer par les propagations derreur dans la dfinition des rgressions tablies
pour le calcul des conductances. Toutefois ces carts de tempratures reprsentent moins de
5% derreur relative sur le calcul des tempratures.
75
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T - exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e
40
Temprature (C)
35
30
25
0 4 8 12 16 20 24 28 32
Temps (h)
(a) Qe = 0, 5 L/mi n
S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T -exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e
40
38
36
Temprature (C)
34
32
30
28
26
24
0 5 10 15 20 25 30
Temps (h)
(b) Qe = 2 L/mi n
76
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.3. Simulations numriques
entre S moy
T entre T S T moy
Ta T b,1 T PFE Q
a entre b,1 S PFE Qe P
T entre T S 3,5 e P 240
Te T b,2 3,5 240
e b,2
40
40 3 220
3 220
36
36
2,5 200
Puissance
(C)
2,5 200
Puissance(W)
(C)
32
(l/min)
32
QQ(l/min)
Temprature
Temprature
2 180
28 2 180
28
e e
(W)
24 1,5 160
24 1,5 160
20
20 1 140
1 140
16
16
0,5 120
0 5 10 15 20 25 30 35 40
0 5 10 15Temps
20 (h)
25 30 35 40
0,5 0 5 10 15 20 25 30 35 40 120
0 5 10 15 Temps
20 25
(h) 30 35 40
Temps (h)
Temps (h)
(a) Tempratures (b) Dbit deau et puissance
S S S S moy sortie
T - exp T - exp T - exp T - exp T - exp T - exp
c,1 c,2 a,1 a,2 PFI e
S S S S moy sortie
T - num T - num T - num T - num T - num T - num
c,1 c,2 a,1 a,2 PFI e
40
35
Temprature (C)
30
25
20
15
0 5 10 15 20 25 30 35 40
Temps (h)
77
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 3. Refroidissement de serveurs par plaques froides
0
Sensibilit rduite ( C)
Sensibilit rduite ( C)
0
ST1 (h13 ) ST2 (h24 )
2 ST1 (h15 ) ST2 (h25 )
ST1 (h17 ) ST2 (h28 )
1
4
6 2
8
0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
(a) Sensibilit de Tc,1 (b) Sensibilit de Tc,2
Sensibilit rduite ( C)
Sensibilit rduite ( C)
0.5
4
0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
(c) Sensibilit de Ta,1 (d) Sensibilit de Ta,2
1
Sensibilit rduite ( C)
Sensibilit rduite ( C)
1
0
0 10 20 30 0 10 20 30
Temps (heures) Temps (heures)
1 1
moy moy
(e) Sensibilit de TPFI (f) Sensibilit de Te
78
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
3.4. Conclusion
3.4 Conclusion
Ce chapitre avait pour objectif dtudier un systme de refroidissement pour serveur in-
formatique lchelle des composants lectroniques. Les dimensions des plaques froides
sont aussi petites que possible afin de limiter la quantit daluminium utilise et de maximi-
ser les transferts thermiques par conduction directe par le biais de plots mtalliques. Les me-
sures ralises ont montr lefficacit de cette approche pour les composants qui dissipent le
plus de puissance. Un faible flux dair a t conserv afin de refroidir les autres composants.
Il est important de noter que les plaques testes ont t fabriques par usinage numrique.
Or ce procd de fabrication peut tre remplac par du moulage, qui reprsenterait un cot
beaucoup moins onreux que celui utilis pour la conception des prototypes.
Ltude mene lchelle de plusieurs serveurs a permis de mettre en vidence lint-
rt nergtique de cette solution de refroidissement. Par rapport aux rsultats obtenus au
chapitre 2, le remplacement des ventilateurs centrifuges de la baie par des ventilateurs plus
petits a un impact positif direct sur la consommation nergtique totale.
Un modle numrique par approche nodale a t mis lchelle dun serveur et dune
plaque froide. Lidentification des conductances et capacits thermiques quivalentes a t
mene partir de squences de mesures avec des variations des diffrents paramtres op-
ratoires. Les valeurs obtenues ont t valides sur une squence de mesures additionnelle
avec des rsultats satisfaisants.
Des simulations de panne du systme de refroidissement des serveurs et des plaques
froides sont prsentes dans lannexe A.3.
79
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4
Sommaire
4.1 Immersion dans un bain dhuile . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.1.2 Rsultats exprimentaux . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
4.2 Immersion dans un fluide changement de phase . . . . . . . . . . . . . . . 88
4.2.1 Dispositif exprimental . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
4.2.2 Squences de mesures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.3 Bilan comparatif des diffrents modes de refroidissement . . . . . . . . . . . 97
4.3.1 Rcapitulatif global . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
4.3.2 Etude technico-conomique . . . . . . . . . . . . . . . . . . . . . . . . . 98
4.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
Ce chapitre a pour but dapporter des lments de rponse sur lutilisation du refroi-
dissement par immersion pour les quipements informatiques des data centers. Nous nous
sommes en particulier intresss aux aspects lis lefficacit du refroidissement, la consom-
mation dnergie et la mise en uvre.
Du fait de laugmentation de la densit de puissance des quipements informatiques
dans les data centers, deux voies de refroidissement font lobjet dapplications industrielles
et dtudes. La premire repose sur des transferts de chaleur par convection naturelle ou
force sans changement de phase (huile minrale) tandis que la seconde exploite des fluides
dont la temprature de changement dtat se situe aux environs de 50C afin dintensifier les
mcanismes de transfert (bullition nucle).
Le refroidissement par immersion dans un bain dhuile fait lobjet dune premire tude
exprimentale. Les tests sont mens sur une installation disponible chez des quipemen-
tiers.
La seconde partie de ce chapitre dcrit le prototype mis en uvre et les tests raliss
pour tudier une solution de refroidissement dans le cas dun changement dtat du fluide.
Les rsultats exprimentaux permettent de quantifier la consommation nergtique des sys-
tmes de refroidissement et de vrifier si les transferts de chaleur sont suffisants pour refroi-
dir efficacement les composants lectroniques. Une tude finale comparative entre les diff-
rents modes de refroidissement tudis durant la thse et une tude technico-conomique
viennent clturer ce chapitre.
80
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile
Le dispositif exprimental comprend une cuve non isole de longueur 1,9 m et de 0,6
m de large pour une hauteur de 1 m. Elle contient environ 800 litres dhuile minrale dans
laquelle les quipements informatiques sont plongs (cf. figure 4.1). Un couvercle non her-
mtique permet de recouvrir la cuve.
Le renouvellement de lhuile lintrieur de la cuve est assur par des orifices dinjection
et daspiration de chaque ct du bac. Un filtre est install sur le circuit de recirculation pour
filtrer les impurets prsentes dans la cuve. A ce circuit est associ un changeur huile/air
afin de maintenir la temprature de lhuile. Lensemble est rgul automatiquement par le
biais de diffrents capteurs de tempratures. La temprature de consigne pour lhuile en
sortie de la cuve peut tre impose. Le rglage est effectu par un ajustement du dbit dhuile
et de la vitesse du ventilateur de larotherme. La valeur du dbit dhuile dans le circuit nest
pas accessible via la console du systme, et il na pas t possible dinstaller un dbitmtre.
Sept serveurs informatiques IBM HS21 et leurs alimentations ont t immergs dans
lhuile. Lorientation des serveurs et des alimentations est due aux dimensions du chssis
dans lequel ils sont placs. Les ventilateurs centrifuges des serveurs et les ventilateurs axiaux
des alimentations ont t retirs. Il a galement t ncessaire de dporter les disques durs
des serveurs lextrieur de la cuve car ils ne sont pas tanches.
81
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
4.1.1.2 Instrumentation
Les mesures de tempratures sont effectues avec des thermocouples de type K avec des
fils de diamtre 0,1 mm. La priode dacquisition des tempratures est de 10 secondes.
Au total, trois serveurs ont t instruments avec des thermocouples placs (fixation
mcanique) entre la surface des principaux composants et leur dissipateur (cf. figure 4.2).
Dautre part, des thermocouples mesurent la temprature de lhuile prs des serveurs. Dans
cette tude, nous faisons lhypothse que les tempratures des composants de chaque ser-
veur ont un comportement identique car la puissance dissipe est la mme. La duplication
de linstrumentation sur plusieurs serveurs permet aussi davoir une certaine redondance
au niveau des capteurs de tempratures.
Des thermocouples ont t installs diffrents endroits afin de mesurer les tempra-
tures de lhuile en entre et en sortie de la cuve. Ils ont t placs sur la droite (D), au milieu
(M) et sur la gauche (G) de la cuve (cf. figure 4.1).
bac
Un suivi de la temprature dair au-dessus de la surface libre de lhuile (Tai r
) et de lair
ambiant est galement ralis.
X X
X
X
X
RAM
Thermocouples (huile) X Thermocouples (surface)
La puissance consomme par les serveurs et leurs alimentations est mesure. Des me-
sures de puissances lectriques permettent de suivre lvolution de la consommation de
lensemble pompe et arotherme qui est la seule source de consommation nergtique du
systme de refroidissement. Toutefois, il nest pas possible de diffrencier la puissance consom-
me par chacun des deux organes.
Linjection de lhuile est assure par 60 buses rparties tout le long de la cuve. Comme la
vitesse de lhuile lintrieur de la cuve est a priori trs faible du fait de cette rpartition, les
transferts thermiques par convection naturelle sont vraisemblablement dominants avec des
coefficients dchanges que nous pouvons estimer.
En effet, les changes par convection naturelle sont rgis par le nombre de Rayleigh [55] :
g TL3
Ra = (4.1)
82
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile
Nu
= CRa m h= (4.2)
L L
avec m et C dpendant du rgime dcoulement et de la gomtrie de la surface. Dans notre
cas, m = 14 et C = 0, 59.
En se basant sur une gomtrie de type plaque verticale et en prenant les proprits
thermo-physiques de lhuile minrale utilise, nous pouvons donc estimer la valeur du co-
efficient dchange en fonction de la diffrence de temprature entre la surface dun com-
posant et la temprature de lhuile proche, pour diffrentes valeurs de L. La figure 4.3 donne
les rsultats obtenus et sont compars ceux calculs en prenant lair comme fluide calo-
porteur. Les valeurs des coefficients convectifs sont en moyenne 15 fois plus grandes dans le
cas de lhuile.
F IGURE 4.3 Estimations des coefficients dchanges convectifs pour diffrents fluides
Des tests prliminaires ont montr une lvation importante de la temprature de sur-
face des principaux composants lorsque ceux-ci sont utiliss sans leurs dissipateurs (larrt
des serveurs intervient au bout dune dizaine de secondes aprs leur dmarrage). Du fait des
faibles surfaces des composants (entre 180 et 1600 mm2 ), il est ncessaire de laisser les dis-
sipateurs sur les composants afin daugmenter la surface dchange. Les valeurs estimes de
h dans lhuile permettent de vrifier ce point, notamment pour les CPU qui peuvent dissiper
jusqu 80 W.
83
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
Lhypothse pralablement faite sur la similitude des profils de tempratures entre les
diffrents serveurs a bien t vrifie. Lcart-type entre les diffrentes mesures pour chaque
composant varie de 0,1 1,7C, avec une moyenne de 0,8C pour lensemble des composants.
La reproductibilit des mesures tant assure, les tempratures prsentes pour chaque com-
posant seront donc des moyennes effectues partir des relevs des trois serveurs.
Essai 40C
Les paramtres opratoires des essais avec une temprature de consigne dhuile de 40C
en sortie sont prsents sur la figure 4.4. Nous constatons que les tempratures dhuile sont
plus leves vers le milieu (M) et la gauche (G) du bac, ce qui concide avec la position des
serveurs dans le bac.
Durant les premires 24 heures, les serveurs sont la puissance PMIN puis PMAX du-
rant les dernires 24 heures. Une lgre baisse de la puissance apparat durant les dernires
heures du fait de larrt de lun des serveurs.
Les vitesses de fonctionnement de la pompe et du ventilateur de lchangeur huile/air
externe sont galement indiques (exprimes en pourcentage) et varient avec la puissance
consomme par les quipements.
Sortie
Sortie(G)
(G) Sortie
Sortie(M)
(M) Sortie
Sortie(D)
(D) Pompe
Pompe
Puissance Arotherme
55
55 3 Puissance Arotherme 100
3 3
2,8
2,5 80
2,5
(kW)
50
lectrique(kW)
50
Commande de vitesse
(C)
Temprature (C)
lectrique
2 2
Vitesse (%)
2,6 60
Temprature
45
45
1,5 1,5
Puissance
2,4 40
Puissance
1 1
40
40
2,2 20
0,5 0,5
35
35 2 0
00 88 16
16 24
24 32
32 40
40 48
48 00 8 16 24 32 40 48 0
Temps
Temps(h)
(h) 0 8 16 Temps
24 (h) 32 40 48
Temps (h)
(a) Tempratures dhuile (b) Puissance et fonctionnement du refroidisseur
84
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile
Les relevs de la figure 4.5 montrent lvolution des tempratures moyennes des com-
posants des serveurs au cours du temps pour une consigne de 40C. A charge minimale,
les tempratures des composants mesures par les thermocouples sont constantes et trs
proches autour de 55C pour tous les composants sauf la RAM qui atteint une temprature
denviron 73C. La temprature de lhuile prs des composants est de lordre de 42C.
Lorsque les serveurs sont mis puissance maximale (PMAX ), nous observons une hausse
importante de la temprature des diffrents composants (environ 18C), notamment pour
les processeurs qui dissipent le plus de puissance. Les autres composants ont une lvation
de temprature plus faible. La temprature dhuile prs des composants augmente quant
elle denviron de 2,5C.
Au cours de cette deuxime phase nous observons une baisse de temprature qui inter-
vient vers t=38h, qui est due larrt dun des serveurs. En effet, la temprature de surface
des CPU tant suprieure de prs de 7C la valeur limite recommande, lun des serveurs
sest mis en scurit et sest teint automatiquement. Cela a pour consquence de rduire la
puissance dissipe lintrieur du bac, do une baisse globale des tempratures.
Les tempratures dhuile en entre de la cuve sont quasi constantes PMIN et varient de
quelques degrs PMAX . La temprature de lair au-dessus de lhuile est galement indique,
dont les valeurs sont sensibles aux variations des tempratures de lair ambiant et de lhuile
dans la cuve.
80
70
Temprature (C)
60
50
40
30
0 8 16 24 32 40 48
Temps (h)
Essai 30C
Les paramtres opratoires des essais avec une temprature de consigne dhuile en sortie
de 30C sont prsents sur la figure 4.6. Par rapport au cas prcdent, la temprature dhuile
mesure en sortie vers le milieu de la cuve est plus leve que les deux autres mesures de
tempratures.
Durant les premires 24 heures, les serveurs sont la puissance PMIN puis PMAX durant
les dernires 24 heures.
Les vitesses de fonctionnement de la pompe et du ventilateur de lchangeur huile/air
externe sont reportes et montrent une hausse importante de ces valeurs lors du passage
85
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
PMAX afin de maintenir la temprature de consigne de 30C. De plus, compar au cas pr-
cdent, les vitesses de la pompe et du ventilateur externe sont plus importantes avec des
valeurs identiques et comprises entre 2,2 et 5. Nous avons donc une augmentation non n-
gligeable de la vitesse de ces deux organes, qui va induire une augmentation de la consom-
mation nergtique du systme de refroidissement.
2,8 4,5
Commande de vitesse
40 40
4
Temprature (C)
2,6
Temprature (C)
Vitesse (%)
2,6 60
35 35 2,4 3,5
2,4 40
2,2 3
30 30
22,2 2,520
25 25 2 0
1,8 2
0 0 8 8 16 16 24 24 32 32 40 40 48 48 0 0 8 8 16 16 24 24 32 32 40 40 48 48
Temps (h) (h) Temps
Temps(h)(h)
Temps
(a) Tempratures dhuile (b) Puissance et fonctionnement du refroidisseur
La figure 4.7 prsente les tempratures des composants et de lhuile prs des serveurs. Par
rapport au cas prcdent, nous observons une baisse des tempratures pour chaque com-
posant de 9C environ quel que soit le niveau de puissance, et la temprature dhuile a quant
elle baiss de 10C en moyenne. Durant les essais, aucun arrt des serveurs nest survenu.
Les composants sont largement en-dessous de leur temprature limite respective. En effet,
PMIN , la temprature de la RAM est en moyenne de 65C tandis que celles des autres com-
posants varient autour de 48C. A PMAX , les tempratures augmentent de quelques degrs
avec toujours une hausse plus importante pour les CPU. Malgr cette augmentation de la
temprature des CPU PMAX , la temprature de surface de ces composants est en dessous
de la valeur limite recommande.
Les trois tempratures dentre dhuile ont un comportement rgulier avec des valeurs
proches quelle que soit la localisation des capteurs de tempratures. En moyenne, elles sont
de 28,1C PMIN et de 25,5C PMAX .
86
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.1. Immersion dans un bain dhuile
70
60
Temprature (C)
50
40
30
20
0 8 16 24 32 40 48
Temps (h)
Dans le tableau 4.1 sont reportes les valeurs des puissances lectriques consommes
par les quipements immergs et par le systme de refroidissement. Les valeurs de lindi-
cateur defficacit nergtique partiel (pPUE, ratio de la puissance totale sur la puissance
consomme par les quipements informatique) sont galement calcules pour chaque cas.
Nous constatons que dans le cas 30C, laugmentation de la consommation du systme
du refroidissement induit une hausse du pPUE de 0,2 par rapport au cas 40C. De plus, la
puissance dissipe dans la cuve est faible par rapport au dimensionnement de linstallation
(20% de la charge maximale thorique). Les valeurs de pPUE sont donc susceptibles dtre
amliores dans le cas dune charge thermique plus importante.
87
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
En conclusion, nous avons tudi une solution de refroidissement par immersion dans
de lhuile minrale. Elle permet de refroidir des quipements informatiques avec une consom-
mation nergtique faible pour le systme de refroidissement, qui comprend une pompe et
un changeur huile/air externe pour le rejet des calories. Toutefois, lefficacit du refroidis-
sement des processeurs dans notre tude nest pas assure lorsque la temprature dhuile
est leve. Lutilisation de dissipateurs ddis au refroidissement par immersion dans des
liquides visqueux est tudier.
88
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase
Lobjectif de cette tude est de mettre en place un banc dessais exprimental afin de re-
froidir plusieurs serveurs immergs dans un fluide dilectrique changement de phase et
de visualiser le comportement thermique et nergtique de linstallation. Un premier para-
graphe prsente le dispositif exprimental mis en place ainsi que linstrumentation, puis les
rsultats exprimentaux sont analyss et discuts.
Sept serveurs IBM HS21 sont placs dans un contenant en inox fabriqu sur-mesure, avec
leurs alimentations respectives (cf. figure 4.9). Lorientation des serveurs est impose par leur
conception (connectiques et raccordements lectriques au fond du contenant). Une surface
transparente en plexiglas sur lun des cts permet de visualiser lun des serveurs immergs,
afin de se rendre compte du comportement du fluide et de la localisation des zones dbul-
lition. Les dimensions du contenant sont de 100 cm en hauteur, 43,5 cm en largeur et 42,5
cm en profondeur. Le volume total de fluide dans le contenant est de lordre de 70 litres.
Des orifices sont prsents sur les faces latrales (en hauteur au niveau du condenseur) pour
le passage des cbles dalimentation et des thermocouples. Ltanchit est assure par un
joint silicone. La partie suprieure du contenant est un couvercle sous lequel est fix un ser-
pentin en cuivre qui joue le rle de condenseur et dans lequel circule de leau. Il est reli
un circuit hydraulique compos dune pompe GRUNDFOS UPS 25-50 180 et dun changeur
eau/air externe. Les parois du contenant sont calorifuges afin de limiter les pertes travers
celles-ci et de rcuprer le maximum de la puissance thermique via le condenseur.
4.2.1.2 Instrumentation
Toutes les mesures sont releves avec une priode de 5 secondes. Au niveau de linstru-
mentation du contenant, des thermocouples chemiss de type K et de diamtre 3 mm sont
placs dans les conduites deau en entre et en sortie du condenseur. Le dbit deau lint-
rieur du circuit est donn par un dbitmtre magnto-inductif IFM ELECTRONIC SM8050.
Il est donc possible de dterminer la puissance thermique cde au condenseur.
Un capteur OMEGA PXM219 permet de suivre lvolution de la pression relative lin-
trieur du contenant. En effet, avec laugmentation de la temprature du fluide en phase
liquide (avec un coefficient dexpansion environ 5 fois suprieur celui de leau 40C) et
lapparition de la phase vapeur, la pression va augmenter lintrieur du contenant. Il est
donc intressant de suivre lvolution de la pression interne en fonction de la puissance dis-
sipe par les serveurs afin de dterminer la ncessit de systme de rgulation de pression
(soufflet, vase dexpansion, etc...).
La temprature du fluide en phase liquide est mesure laide de six thermocouples de
type K qui sont rpartis diffrents endroits et diffrents hauteurs (notes H, M et B) afin
de voir sil existe un gradient de tempratures (voir figure 4.9). Quatre thermocouples, nots
89
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
de A1 B2, sont galement placs dans la phase vapeur du fluide, entre le condenseur et la
surface du liquide. Un thermocouple permet de suivre les variations de la temprature en
surface du condenseur.
Quelques thermocouples fins (fils de diamtre 0,1 mm) de type K sont placs de part et
dautres des parois du calorifuge afin destimer les pertes thermiques travers lisolant. Le
flux de chaleur travers la surface vitre est galement estim grce deux thermocouples
placs de part et dautre de la paroi en plexiglass.
Vue de dessus
A2 B2
Condenseur
1 A1 B1
(H)
Alimentations
Alimentations
2 (M)
1 Phase vapeur
2 Phase liquide
(B)
Thermocouples (liquide)
Vue de profil Thermocouples (vapeur)
A lchelle des serveurs, linstrumentation est similaire celle effectue dans les prc-
dents essais. Des thermocouples fins de type K sont placs en surface des composants pour
vrifier si les tempratures sont infrieures aux tempratures maximales recommandes (cf.
figure 4.10). Les dissipateurs des principaux composants ont t retirs, les transferts de cha-
leur par bullition se font directement entre la surface des composants et le liquide. Des
thermocouples permettent galement de mesurer la temprature du liquide prs des pro-
cesseurs.
Liquide
Chipset
RAM
SAS
90
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase
Les rsultats dcrits ci-dessous sont obtenus dans le cadre dun essai charge minimale
(PMIN ) du refroidissement dun serveur et des alimentations prsentes dans le contenant. La
figure 4.11 montre les variations des paramtres opratoires durant les essais avec un seul
serveur en fonctionnement.
La hausse de puissance au dbut des essais correspond au dmarrage du serveur. Il est
important de noter que les alimentations consomment une certaine quantit dnergie mme
lorsquaucun serveur ne fonctionne.
Le dbit deau travers le condenseur est constant durant les essais avec une valeur de 6,3
L/min. La temprature de la boucle deau augmente au cours du temps car la temprature
de consigne de larotherme est fixe 30C. Nous constatons que lcart des tempratures
deau en sortie en entre de condenseur est trs faible la fin des essais, de lordre de 1C.
Les tempratures de lair ambiant et de lair extrieur sont galement reportes. La tem-
prature ambiante augmente cause dquipements prsents dans la salle o se trouve le
contenant.
La figure 4.12 permet dobserver la brusque monte des tempratures des principaux
composants lors du dmarrage du serveur. Au bout dune minute, les tempratures de sur-
face passent denviron 20C des valeurs comprises entre 37 et 43C. Un rgime quasi-
stationnaire est atteint aprs 4 heures de fonctionnement, durant lequel chaque composant
tend vers une temprature de surface diffrente. Lapparition de bulles est notable au niveau
des composants les plus dissipatifs comme le montre lannexe A.7.
Dans un premier temps, nous pouvons diffrencier les tempratures des deux proces-
seurs (qui sont des composants identiques avec une mme implantation). En effet, le pro-
cesseur de droite (CPU (D)) atteint une temprature de 54,4C tandis que celui de gauche
(CPU (G)) a une temprature de surface plus faible, gale 52,5C. Cet cart de temprature
sexplique par le fait que la fixation des thermocouples sur les processeurs est diffrente : le
thermocouple de droite est fix laide dun adhsif aluminium tandis que le second est fix
laide dune colle. Le collage ne couvre pas la mme surface du composant do une sur-
face dchange qui diffre et donc une temprature de surface plus leve dans un cas que
dans lautre.
Pour les autres composants, le chipset a une temprature en rgime stationnaire de 54,4C,
le SAS de 57,8C et la RAM de 63,0C. L encore, les diffrences de tempratures entre les
composants sexpliquent par les dimensions des surfaces des composants en change avec
le liquide. De plus, la rugosit des surfaces peut diffrer entre chaque composant et peut fa-
voriser ou non lbullition.
La figure 4.13 montre lvolution au cours du temps des tempratures du fluide en phase
liquide et en phase vapeur. Nous pouvons constater dans un premier temps que la monte
en temprature des deux phases diffre quelque peu lors du rgime transitoire. En effet, les
tempratures du liquide sont plus leves que celles de la phase vapeur de plusieurs degrs.
Aprs quelques heures, les tempratures mesures dans la phase vapeur augmentent rapi-
dement pour venir approcher les tempratures de la phase liquide. En rgime stationnaire,
91
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
les valeurs des tempratures des deux phases sont trs proches (aux alentours de 50C).
Le trac de lvolution de la pression relative montre augmentation durant les premires
heures avec des valeurs autour de 8,4 millibars suivie dune monte aprs 3 heures de fonc-
tionnement des quipements. La pression relative augmente jusqu atteindre la valeur maxi-
male de 84 millibars, puis perd la moiti de sa valeur en quelques minutes. Il est important de
noter que la monte en pression est aussi la consquence de llvation de plusieurs centi-
mtres du niveau de la phase liquide. Cette chute de pression est la preuve de la prsence de
fuites au niveau de la phase vapeur du fluide. Visuellement, les fuites sont identifiables par
la condensation hors du contenant du fluide par quelques passages de cbles et galement
lintrieur de certains cbles lectriques par capillarit.
Une seconde hypothse serait que le condenseur ne permet pas de maintenir le systme
dans une plage de tempratures, do des problmes pour condenser le fluide. Cela impli-
querait une augmentation de la pression dans le contenant et donc lapparition de fuites.
24 465
Temprature (C)
22 440
Puissance (W)
20 415
18 390
16 365
14 340
0 1 2 3 4 5
Temps(h)
92
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase
70
60
Temprature (C)
50
40
30
20
10
0 1 2 3 4 5
Temps (h)
F IGURE 4.12 Evolution des tempratures dun serveur et du condenseur en fonction du temps
2 interne Orange
60 0,1
50 0,08
Temprature (C)
Pression (bar)
40 0,06
30 0,04
20 0,02
10 0
0 1 2 3 4 5
Temps (h)
A partir des mesures de tempratures de surface des parois du bac, il a t possible desti-
mer les pertes thermiques travers la surface vitre et les faces isoles du bac (cf. figure 4.14).
La plaque transparente en plexiglas (vi t r e =0,19 W/K/m) a une surface de 0,13 m2 et une
paisseur de 8 mm tandis que les parois calorifuges (i sol ant =0,033 W/K/m) ont une sur-
face totale de 1,6 m2 et une paisseur de 20 mm.
En rgime stationnaire, les pertes thermiques travers le plexiglass sont estimes 21 W
tandis que celles travers lisolant sont de lordre de 50 W.
La puissance thermique cde au condenseur eau varie grandement, avec un maximum
de 415 W, ce qui reprsente 85% de la puissance dissipe par les quipements. Toutefois, ce
ratio diminue fortement durant la fin des essais. Cette chute est corrle la baisse de la
pression dans le bac, cause par des fuites du fluide hors du bac. Cela induit donc une baisse
important de la puissance cde au condenseur.
Les incertitudes sur le calcul des pertes travers les parois sont de 11%, et de 7% pour le
calcul de la puissance thermique sur leau.
93
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
P
vitre isolant eau serveurs
500 500
400 400
200 200
100 100
0 0
-100 -100
0 1 2 3 4 5
Temps (h)
Des essais ont galement t effectus avec un plus grand nombre de serveurs (sept au
total). Par rapport au cas prcdant, cela correspond une hausse de la puissance installe
dans le bac de 770 W. Les paramtres opratoires de cette srie de mesures sont donns par
la figure 4.15. Les serveurs et alimentations sont mis en fonctionnement durant quelques
heures, puis la puissance est mise zro par la suite. Le dbit deau dans le condenseur est
de 6,2 L/min durant toute la dure des essais. La temprature deau augmente continuel-
lement car larotherme extrieur nest pas en fonctionnement (temprature de consigne
30C).
La figure 4.16 montre que les montes des tempratures sont plus rapides par rapport
au cas avec un seul serveur. En effet, le rgime stationnaire est atteint en moins de 2 heures.
Les niveaux de tempratures des composants sont similaires aux essais prsents prcdem-
ment, except pour le SAS qui est quelques degrs plus bas. Lorsque la puissance des qui-
pements est remise zro, nous observons quil faut plusieurs heures avant de revenir aux
valeurs initiales des tempratures.
Les mmes phnomnes sont observs sur la figure 4.17 avec une hausse rapide des tem-
pratures des phases vapeur et liquide. En rgime stationnaire, toutes les tempratures sont
proches de 49C. Il est galement intressant de visualiser les baisses de tempratures de
chaque phase aprs larrt des quipements. Le condenseur est toujours en fonctionnement
durant cette phase de descente en temprature.
94
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.2. Immersion dans un fluide changement de phase
20 1200
Temprature (C)
Puissance (W)
15 900
10 600
5 300
0 0
0 4 8 12 16 20 24
Temps (h)
F IGURE
6
4.15 Refroidissement diphasique : paramtres opratoires avec sept serveurs
interne Orange
60
50
Temprature (C)
40
30
20
0 4 8 12 16 20 24
Temps (h)
7 interne Orange
45
40
Temprature (C)
35
30
25
20
15
10
0 4 8 12 16 20 24
Temps (h)
95
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
Dans le cas o sept serveurs sont utiliss, un total de 837 W est rcupr par le conden-
seur en rgime stationnaire (Figure 4.18). Cela reprsente 67% de la puissance des quipe-
ments. Malgr le fait que le suivi de la pression relative lintrieur du bac ne soit pas dis-
ponible pour ces essais, des fuites de fluide sont rapidement apparus durant les tests, avant
mme datteindre le rgime permanent. Cest pourquoi la puissance thermique calcule au
niveau du condenseur est faible compare au cas prcdent. Les pertes travers les parois
du bac sont estimes 84 W.
P
eau serveurs
1400 1400
1200 1200
Puissance thermique (W)
800 800
600 600
400 400
200 200
0 0
0 4 8 12 16 20 24
Temps (h)
Afin de comparer ces valeurs avec la puissance dissipe par les quipements, le tableau 4.2
rcapitule les diffrents bilans nergtiques (lectrique et thermique) du banc dessai. Les r-
sultats sont obtenus pour les deux essais charge minimale (PMIN ) pour lesquels le nombre
de serveurs en fonctionnement est diffrent. Pour rappel, dans le premier cas, un seul ser-
veur est allum ainsi que les alimentations prsentes dans le contenant. Les essais sont en-
suite effectus avec sept serveurs en fonctionnement.
En termes defficacit nergtique de linstallation, seule la consommation lectrique de
la pompe est retenue dans le bilan car larotherme extrieur ne sest jamais mis en marche
durant les essais. De ce fait, le bilan nergtique est trs bon, avec des pPUE compris entre
1,07 et 1,03.
En conclusion, nous avons mis en place un banc dessais pour le refroidissement par im-
mersion diphasique comprenant un ou plusieurs serveurs avec leurs alimentations, plongs
96
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.3. Bilan comparatif des diffrents modes de refroidissement
dans du Novec 649. Lensemble est plac dans un contenant isol dont la partie suprieure
est quipe dun condenseur dans lequel circule de leau. Linstrumentation mise en place
en place a permis de montrer que le refroidissement des composants est bien assur, avec
une consommation du systme de refroidissement trs faible.
97
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
Nombre de serveurs 14 14 3 7 7
Pour finir, il est important de considrer les limites dutilisation des solutions de refroidis-
2 interne Orange
sement prsentes durant la thse. En effet, en prenant en compte les variations climatiques
extrieures, certaines solutions vont voir leurs performances se dgrader. La temprature
deau en entre des systmes de refroidissement ne peut tre infrieure la temprature ex-
trieure sans une production de froid associe. Dans le cas de lchangeur en fond de baie,
la temprature dair en entre de la baie est trs proche de la temprature deau en sortie
dchangeur. Pour des conditions extrmes de tempratures extrieures (par exemple 40C),
il est ncessaire de refroidir leau en entre dchangeur afin davoir des tempratures com-
prises entre 20 et 30C pour assurer le bon fonctionnement des quipements.
Pour les autres systmes de refroidissement, cet aspect est moins contraignant car nous
avons des fluides qui sont des tempratures assez leves et avec des coefficients dchange
plus importants. Ce sont gnralement les processeurs qui sont les composants critiques du
fait de leur temprature maximale recommande et de la puissance quils dissipent. Dans
le cas des plaques froides (cf. chapitre 3), la temprature deau pourrait atteindre des va-
leurs de 40-45C (avec des serveurs entirement refroidis par eau, sans flux dair). Et pour
le refroidissement par immersion, le Novec ayant une temprature dbullition basse, nous
pouvons utiliser ces mmes tempratures deau en entre de condenseur. Toutefois, pour
limmersion dans le bain dhuile les rsultats sont nuancer du fait des tempratures de
processeurs rencontres lors des essais.
98
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.3. Bilan comparatif des diffrents modes de refroidissement
Pour notre tude, nous prenons le cas dune salle informatique comprenant 100 baies
quipes des serveurs tudis pendant la thse. Les principales hypothses sont listes ci-
dessous :
les puissances consommes par les quipements informatiques, la ventilation et les
systmes de refroidissement proviennent des mesures exprimentales ;
les cots en infrastructure pour le free cooling est suprieur de 25% par rapport
une production de froid car le dimensionnement des installations frigorifiques est le
mme mais le free cooling ncessite dautres installations pour utiliser lair extrieur
(filtres, ventilation, etc...) ;
le cot du dploiement et dinstallation du systme de refroidissement reprsente
50% du cot dacquisition de ce mme systme ;
la consommation lectrique annuelle du systme de refroidissement est calcule
partir des valeurs de pPUE exprimentales ;
les solutions de refroidissement liquide sont couples une production de froid re-
prsentant 10% de la puissance totale des quipements informatiques, afin de prendre
en compte les changes thermiques avec lair ambiant de la salle (cette fraction est
porte 20% pour le refroidissement par plaques froides) ;
le prix du kWh lectrique est fix 0,1 e ;
les cots de linstallation lectrique (onduleurs, groupes de secours, etc...) et de main-
tenance (vidange ou addition de liquides, changement de filtres...) ne sont pas pris en
compte.
La figure 4.19 montre les rsultats du calcul des cots annuels pour chaque solution de
refroidissement en fonction des annes dutilisation. Nous pouvons constater que les cots
dacquisition (qui correspondent lanne 0) sont trs proches pour la plupart des systmes
de refroidissement, seules les solutions de refroidissement par immersion ont un cot plus
lev.
Par rapport un refroidissement avec production de froid ou par free cooling, nous ob-
servons que le retour sur investissement se fait ds la premire anne pour les solutions de
refroidissement avec des changeurs en fond de baie, par immersion diphasique ou par des
plaques froides. Le refroidissement par immersion dans un bain dhuile permet davoir un
retour sur investissement au bout de 2 ans par rapport une production de froid et de 5 ans
par rapport au free cooling. Dans lensemble, les solutions de refroidissement liquide sont
rapidement rentables par rapport lutilisation dune production de froid ou du free cooling.
99
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Chapitre 4. Perspectives sur le refroidissement liquide
4.4 Conclusion
Dans ce chapitre, nous avons tudi le refroidissement par immersion des serveurs infor-
matiques dans un bain dhuile pour lequel les changes thermiques par convection naturelle
dominent, et dautre part dans un liquide diphasique.
Le refroidissement des composants est plus efficace dans le second cas, avec une temp-
rature dbullition du fluide qui permet davoir des tempratures de surface des composants
plus stable et proche du point dbullition du fluide. Toutefois, il est important de souligner
que le choix de la temprature de consigne dhuile est crucial pour le bon fonctionnement
des quipements. Il est noter que les quipements initialement plongs dans lhuile pr-
sentent toujours des traces de fluide aprs plusieurs semaines lair libre. La maintenance
des quipements informatiques peut se faire sans teindre le systme de refroidissement
avec des quipements de protection.
Dans le cas du refroidissement diphasique, les mesures de tempratures des compo-
sants, du fluide en phase liquide et vapeur et de pression ont permis de montrer un quilibre
des diffrentes tempratures en rgime stationnaire. Les mesures de puissance lectrique
des quipements informatiques ont t compares aux calculs de la puissance thermique
rcupre par le condenseur. Malgr les problmes dtanchits rencontrs, nous avons
constat que 65% de la puissance dissipe par les serveurs est vacue par le condenseur. Il
est donc ncessaire de bien dimensionner celui-ci. La maintenance des serveurs informa-
tiques devra galement se faire sous des conditions bien dfinies pour minimiser la perte de
fluide lors des interventions.
De plus, nos rsultats indiquent quune partie de la puissance thermique est vacue
travers les parois des contenants utiliss durant nos tudes. Il est probable que ce type de
solution soit employ dans des salles informatiques qui devront tre ventiles afin dvacuer
cette quantit de chaleur ou bien utiliser des contenants qui soient suffisamment isols.
En outre, les solutions de refroidissement par immersion permettent de rduire la consom-
mation nergtique des serveurs par rapport une autre solution de refroidissement du fait
100
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
4.4. Conclusion
101
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Conclusion gnrale
Les objectifs des travaux de thse taient de dfinir des solutions de refroidissement per-
mettant damliorer lefficacit nergtique des data centers. Une approche exprimentale
et numrique a t mise en uvre pour disposer dune base de donnes pertinente pour
comparer diffrentes solutions de refroidissement lchelle de baies informatiques et de
composants lectroniques.
Les tudes bibliographiques prsentes au chapitre 1 ont montr que la densit de puis-
sance consomme par les data centers, lie aux volutions technologiques constantes des
quipements informatiques, va augmenter significativement durant les annes venir. Le
refroidissement actuel des salles informatiques reposent en grande partie sur la climatisa-
tion et la production de froid qui sont trs nergivores. En outre, lutilisation de lair comme
fluide caloporteur va atteindre ses limites. Cest pourquoi le refroidissement liquide offre
une alternative prometteuse, avec des coefficients dchanges thermiques convectifs plus
importants. Une des approches possibles pour rduire les puissances consommes est de
disposer par le systme de refroidissement au plus prs des quipements informatiques.
Dans le chapitre 1, un tat de lart portant sur ce type de solutions de refroidissement a donc
t fait. Nous avons vu que les diverses applications existantes reposent sur diffrents types
dchanges thermiques. La rutilisation de la chaleur issue des quipements informatiques
a galement fait lobjet dune tude bibliographique.
102
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
solution de refroidissement.
Les travaux prsents au chapitre 4 ont permis de faire un tat des lieux sur le refroidis-
sement par immersion.
Une premire tape a consist immerger les serveurs dans une cuve remplie dhuile
minrale, qui est mise en mouvement par un circuit de pompage. Du fait des faibles vi-
tesses mises en jeu, les changes thermiques par convection naturelle sont dominants et
permettent de refroidir efficacement les composants informatiques avec une faible consom-
mation nergtique du systme. Les aspects de maintenance et de la dure de vie de lhuile
et des quipements immergs nont pu tre analyss durant la thse. Nous pouvons donc
mettre certaines rserves sur lefficacit du refroidissement long terme qui devra faire
lobjet dtudes futures. Le refroidissement par immersion dans un liquide diphasique a ga-
lement fait lobjet dune tude exprimentale. Le fluide utilis ayant une temprature dbul-
lition de 49C, des rgimes dbullition en bulles sont apparus au niveau des composants
dissipant le plus de chaleur. La puissance thermique est ensuite cde un condenseur qui
faisait retomber le fluide sous forme de gouttelettes sous leffet de la gravit. Les squences
de mesures ont montr des gains importants sur la consommation du systme de refroi-
dissement. Dimportantes difficults de mise en uvre ont t rencontres durant la thse,
notamment des problmes dtanchit au niveau du contenant et sur lefficacit de refroi-
dissement du condenseur utilis. Il est important de mettre en place des tudes de recherche
et dveloppement plus pousses lavenir afin de progresser sur ce mode de refroidissement
pour obtenir un systme de refroidissement efficace et industrialisable.
Enfin, une tude comparative des diffrentes solutions de refroidissement ainsi quune
tude technico-conomique ont permis de montrer que lvolution vers le refroidissement
liquide est justifie, que ce soit en termes defficacit du refroidissement des quipements,
de la rduction de la consommation nergtique ou en termes de cots industriels.
Cette thse constitue une premire tape pour disposer dune base de donnes expri-
mentales pertinente sur le refroidissement liquide et doutils de simulation numrique pour
anticiper son impact au sein de data centers. Diffrentes perspectives se dgagent pour les
annes venir :
mettre en place ce type de refroidissement lchelle dune salle informatique relle ;
approfondir les tudes de R& D lies au refroidissement par immersion (mise en
uvre, industrialisation,...)
tudier le potentiel de rcupration de lnergie issue des data centers qui utilisent le
refroidissement liquide.
103
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
Le GEC peut atteindre un maximum de 1, qui indique que le datacenter est entire-
ment aliment via des nergies renouvelables.
ERF (Energy Reuse Factor) : il sagit dun indicateur identifiant la proportion dner-
gie exporte pour une rutilisation quelconque en dehors du datacenter, par exemple
pour chauffer un batiment proche ou alimenter une usine situe proximit. Le cal-
cul de lERF est base sur la formule suivante, avec une valeur comprise entre 0 et
1:
Ener g i e r eut a` l 0 ext er
i l i s ee i eur d u d at acent er
ERF = (A.7)
Ener g i e t ot al e al i ment ant l e d at acent er
CUE (Carbon Usage Effectiveness) : il permet de traduire lempreinte carbone du da-
tacenter. Il sagit dun indicateur recommand car il value la production de gaz ef-
fets de serre par rapport lnergie consomme par les quipements informatiques.
De ce fait, lidal pour le CUE est de tendre vers 0, montrant ainsi quaucune mis-
sion de CO2 na t engendre pour alimenter les quipements informatiques du da-
tacenter. Pour obtenir linventaire complet des missions, le calcul du CUE doit in-
clure lensemble de celles mises par chacune des sources dnergie utilises comme
par exemple llectricit ou les sources dnergie primaire (gaz naturel, diesel, bio-
gaz,etc). Dans le cas o le datacenter est uniquement aliment en lectricit, lqua-
tion recommande pour le calcul du CUE est CUE = CEF PUE, o le PUE est lin-
dicateur introduit prcdemment et le CEF (Carbon dioxide Emission Factor) est le
facteur dmission de CO2 , en kg CO2 eq.kWh 1 du site. Cette valeur est dfinie dans
des tables dont voici un exemple :
104
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.2. Serveur informatique avec dissipateurs thermiques
Pour les data centers aliments par des sources dnergie diffrentes, la formule ap-
proprie pour le CUE est la suivante :
105
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
Nous dfinissons alors le temps critique (t cr i t ) qui dtermine le laps de temps ncessaire
pour viter un arrt des serveurs d aux fortes tempratures. Toutefois il faut rapporter ce
temps au volume dair prsent dans lenceinte.
La figure A.2 montre un exemple de monte en temprature lors dune simulation de
panne. Nous constatons que les tempratures voluent linairement tout au long de la si-
mulation.
Le tableau A.2 donne les diffrentes valeurs de t cr i t en fonction des paramtres opra-
toires utiliss.
60
55
entre
T
50 air
Temprature (C)
sortie
T
air
45 T
CPU
T
Chipset
40 T
SAS
T
RAM
35
30
25
0 5 10 15 20 25 30 35 40
Temps (min)
TABLEAU A.2 Panne du refroidissement sans changeur air/eau : dure critique avant arrt des
serveurs
PMIN PMAX
Tent
ai r
r e
( t=0) (C) 20,4 25,2 29,8 20,0 25,2 29,8
t cr i t (min) 97 65 32 65 38 22
106
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.3. Simulations de panne du systme de refroidissement
70
entre
T
air
sortie
60 T
B,air
T
Temprature (C)
CPU
50 T
Chipset
T
SAS
T
40 RAM
entre
T
eau
sortie
30 T
eau
sortie
T
E,air
20
5 10 15 20 25 30 35 40
Temps (min)
TABLEAU A.3 Panne du refroidissement avec changeur air/eau : dure critique avant arrt des
serveurs
PMIN PMAX
Tent
ai r
r e
( t=0) (C) 20,1 25,1 30,9 21,7 26,6 32,2
t cr i t (min) 128 90 37 74 34 15
107
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
80
entre
T
air
70 sortie
T
air
Temprature (C)
60 T
CPU
T
Chipset
50
T
SAS
40 T
RAM
entre
T
30 eau
sortie
T
eau
20
0 1 2 3 4 5 6 7 8
Temps (h)
90 entre
T
air
80 sortie
T
air
70
Temprature (C)
T
CPU
60 T
Chipset
T
50 SAS
T
RAM
40
entre
T
eau
30
sortie
T
eau
20
0 1 2 3 4 5 6
Temps (h)
108
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.4. Dtail des matrices des modles numriques de la baie et de lchangeur
aS .Cpa h 100 h 13
m h 13
0 0 0 0
Ca,1 Ca,1
m aS .Cpa aS .Cpa h 200 h 24
m h 24
0 0 0
Ca,2 Ca,2 Ca,2
h 13 h 13
0 0 0 0
Cc,1 Cc,1
A= ,
h 24 h 24
0 0 0 0
Cc,2 Cc,2
aal i m .Cpa
m
0 0 0 0 0
Ca,3
aS .Cpai r
m aal i m .Cpa
m a .Cpa
m
0 0 0
Ca,4 Ca,4 Ca,4
aS .Cpa
m h 100
S 0 0 0
Ta,1
Ca,1 Ca,1
T ent r ee
a
h 200
TS
a,2
0 0 0 0
Ca,2
Taamb
S
1
Tc,1 0 0 0 0
Cc,1
T= ,B= et U =
P
1
TS
c,2
0 0 0 0
Cc,2
P0
al i m a
a .Cp
m 1
T al i m
0 0 0
a
Ca,3 Ca,3
P 00
sor t i e
TB,a 0 0 0 0 0
109
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
a .Cpa h 89
m h 89
0 0
Ca,5 Ca,5
h 89 e .Cpe h 89
m
0 0
Ce,1 Ce,1
A0 =
,
a .Cpa a .Cpai r h 7,10
m m
0 0
Ca,6 Ca,6
e .Cpe
m e .Cpe h 6,11
m
0 0
Ce,2 Ce,2
moy a .Cpa
m
Ta
0
Ca,5
moy
e .Cpe
m
sor t i e
Te 0 TB,a
Ce,1
0 0 0
T = ,B = et U =
h 7,10
T sor t i e 0 ent r ee
Te
E,a
Ca,6
h 6,11
sor t i e
Te 0
Ce,2
h 13 h 15 h 17 h 24 h 25 h 28 a .Cpa h 13 h 35
m
= ;= ;= ;
Cc,1 Cc,2 Ca,1
110
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.6. Proprits thermiques des fluides dilectriques
a .Cpa h 24 h 45
m h 15 h 25 h 35 h 45 h 56 e .Cpe h 56 h 69
m
= ;= ;=
Ca,2 CPF Ce
P
1
1 h 17
S
Tc,1 0 0 0 0 0
Cc,1 Cc,1
P2
1 h 28
S
Tc,2 0 0 0 0 0
Cc,2 Cc,2
T ent r ee
a .Cpa
m
a
S
Ta,1 0 0 0 0 0 0
Ca,1
T= ,B= et U =
Teent r ee
S
Ta,2
0
0 0 0 0 0 0
TS
b,1
moy
TPFI 0
0 0 0 0 0 0
Tb,2
S
e .Cpe
moy
m h 69
Te 0 0 0 0 0
Ce Ce
moy
TPFE
Masse volumique
Pour lhuile minrale, la masse volumique est de = 862kg /m 3 T = 45C.
1600
Masse volumique (kg/m )
3
1500
1400
1300
1200
1100
1000
900
0 20 40 60 80 100
Temprature (C)
111
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
Chaleur spcifique
4000
Chaleur spcifique (J/kg.K)
3500
3000
2500
2000
1500
1000
0 20 40 60 80 100
Temprature (C)
Conductivit thermique
0,6
0,5
0,4
0,3
0,2
0,1
0
0 20 40 60 80 100
Temprature (C)
112
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.6. Proprits thermiques des fluides dilectriques
Viscosit cinmatique
-5
10
-6
10
-7
10
-100 -50 0 50 100
Temprature (C)
113
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Annexes
114
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.8. Tableau comparatif des diffrents modes de refroidissement
F IGURE A.11 Visualisation des bulles lors du refroidissement diphasique (ancienne configuration)
115
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
116
Annexes
Fluide(s) mis en jeu Air Air/Eau Air/Eau Huile minrale Novec 649
T du/des fluide(s) (C) 20 30 17 27 (eau) 25 (eau) 30 et 40 49
Dbit dair
40 57 32 48 13 0 0
par serveur (m3/h)
T CPU (C) * 22 20 14 32 10
T Chipset (C) * 28 30 7 19 8
T SAS (C) * 26 32 13 15 8
T RAM (C) * 34 40 52 37 13
*Ecarts maximum de tempratures mesurs entre la surface des composants et le fluide de refroidissement PMAX
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
dutiliser une climatisation de faible puissance pour rcuprer la puissance thermique cde
dune part la quantit de chaleur rcuprable, et dautre part de vrifier sil est ncessaire
Enfin, le ratio de la puissance rcupre sur le refroidissement liquide permet destimer
Salle informatique Nombre de baies considres 100
Rendement des alimentations 90%
Equipements Baie Chssis blade Serveurs Ventilateurs centrifuges Ventilateurs alimentations Nombre de serveurs par chssis 14
Nombre 100 400 5600 800 4800 Nombre de chssis par baie 4
Puissance/equipement (kW) 15,9 3,98 0,22 0,15 0,0035 Nombre de ventilateurs centrifuges par chssis 2
Puissance totale (kW) 1592 1592 1232 120 16,8 Nombre de ventilateurs alimentations par chssis 12
Dimensionnement
Nombre Prix/unit () Cot infrastructure (k) Cot dploiement (k) Total refroidissement initial (k)
Production de froid (kW) 640 425 272 136 408 Quantit de Novec par serveur (litres) 1,5
10% production de froid (kW) 64 425 27,2 13,6 41
Echangeur fond de baie 300 1000 300 150 450 Ratio "cout dploiement"/"cout achat infrastructure" 50%
Plaques froides 5600 50 280 140 420
Immersion huile 100 6500 650 325 975
Fluide Novec (litres) 8400 60 504 252 756
Cot de l'lectricit par solution de refroidissement Nombre d'heures par anne 8766
IT COOLING IT+COOLING Cot d'un kWh (/kWh) 0,1
Conso. lectrique/an (kWh) Conso. lectrique/an (kWh) Conso. lectrique/an (kWh) Conso. ventilateurs plaques froides/serveur (W) 13
Production de froid 1,40E+07 5,58E+06 1,95E+07 pPUE
Free cooling 1,40E+07 2,79E+06 1,67E+07 Production de froid 1,4
Echangeur fond de baie + 10% production de froid 1,40E+07 8,37E+05 1,48E+07 Free cooling 1,2
Plaques froides + 20% production de froid 1,32E+07 3,10E+06 1,63E+07 Echangeur fond de baie 1,02
Immersion huile + 10% production de froid 1,28E+07 1,83E+06 1,46E+07 Plaques froides 1,15
Immersion Novec + 10% production de froid 1,28E+07 1,83E+06 1,46E+07 Immersion huile 1,1
Immersion Novec 1,1
F IGURE A.13 Dtail des donnes utilises pour le calcul du retour sur investissement
A.9 Donnes pour le calcul du retour sur investissement
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
A.9. Donnes pour le calcul du retour sur investissement
117
Rfrences
118
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
Energy Conference, 2008. INTELEC 2008. IEEE 30th International, pp. 15, Sept. 2008.
6, 15
[15] M. Patterson, The effect of data center temperature on energy efficiency, in 11th
Intersociety Conference on Thermal and Thermomechanical Phenomena in Electronic
Systems, 2008. ITHERM 2008, pp. 11671174, May 2008. 6
[16] D. Moss, Energy Impact of Increased Server Inlet Temperature, APC" White Paper,
vol. 138, 2009. 6
[17] S. V. Garimella, L.-T. Yeh, and T. Persoons, Thermal Management Challenges in Te-
lecommunication Systems and Data Centers, IEEE Transactions on Components, Pa-
ckaging and Manufacturing Technology, vol. 2, pp. 13071316, Aug. 2012. 7, 8
[18] J. G. Koomey, Worldwide electricity used in data centers, Environmental Research
Letters, vol. 3, p. 034008, July 2008. 7
[19] M. Webb, Smart 2020 : Enabling the low carbon economy in the information age, The
Climate Group. London, 2008. 8
[20] E. Jaureguialzo, PUE : The Green Grid metric for evaluating the energy efficiency in
DC (Data Center). Measurement method using the power demand, in Telecommuni-
cations Energy Conference (INTELEC), 2011 IEEE 33rd International, pp. 18, Oct. 2011.
8
[21] A. H. Beitelmal and D. Fabris, Servers and data centers energy performance metrics,
Energy and Buildings, vol. 80, pp. 562569, Sept. 2014. 8
[22] G. A. Brady, N. Kapur, J. L. Summers, and H. M. Thompson, A case study and critical
assessment in calculating power usage effectiveness for a data centre, Energy Conver-
sion and Management, vol. 76, pp. 155161, Dec. 2013. 8
[23] J. Yuventi and R. Mehdizadeh, A critical analysis of Power Usage Effectiveness and
its use in communicating data center energy consumption, Energy and Buildings,
vol. 64, pp. 9094, Sept. 2013. 8
[24] R. Arno, A. Friedl, P. Gross, and R. Schuerger, Reliability of Data Centers by Tier Clas-
sification, IEEE Transactions on Industry Applications, vol. 48, pp. 777783, Mar. 2012.
8
[25] J. Cho, T. Lim, and B. S. Kim, Viability of datacenter cooling systems for energy effi-
ciency in temperate or subtropical regions : Case study, Energy and Buildings, vol. 55,
pp. 189197, Dec. 2012. 9
[26] V. Avelar, Mthode de calcul de lefficacit nergtique (PUE) dans les data centers,
American Power Conversion by Schneider Electric, White Paper, vol. 158, 2010. 9
[27] ETSI GS OEU 001 V2.1.1, Dec. 2014. 9
[28] Harmonizing Global Metrics for Data Center Energy Efficiency, Oct. 2012.
www.thegreengrid.org/. Consult le 24/04/2013. 9, 104, 105
[29] Emerson Network Power, Energy logic : Reducing data center energy consumption by
creating savings that cascade across systems, White paper, Emerson Electric Co, 2009.
9
[30] Y. Kodama, S. Itoh, T. Shimizu, S. Sekiguchi, H. Nakamura, and N. Mori, Imbalance of
CPU temperatures in a blade system and its impact for power consumption of fans,
Cluster Computing, vol. 16, pp. 2737, Mar. 2013. 10
[31] E. Blem, J. Menon, and K. Sankaralingam, Power struggles : Revisiting the RISC vs.
CISC debate on contemporary ARM and x86 architectures, in 2013 IEEE 19th Interna-
tional Symposium on High Performance Computer Architecture (HPCA2013), pp. 112,
Feb. 2013. 10
119
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
[32] Z. Ou, B. Pang, Y. Deng, J. Nurminen, A. Yl-Jski, and P. Hui, Energy- and Cost-
Efficiency Analysis of ARM-Based Clusters, in 2012 12th IEEE/ACM International Sym-
posium on Cluster, Cloud and Grid Computing (CCGrid), pp. 115123, May 2012. 10
[33] S. Rizvi and T.-S. Chung, Flash SSD vs HDD : High performance oriented modern
embedded and multimedia storage systems, in 2010 2nd International Conference on
Computer Engineering and Technology (ICCET), vol. 7, pp. V7297V7299, Apr. 2010.
10
[34] S.-K. Cheong, Y.-W. Jeong, J.-J. Jeong, and S.-H. Yang, DDR-SSD and HDD storage sys-
tem performance evaluation in unified storage system for cloud computing, in 2012
Fourth International Conference on Ubiquitous and Future Networks (ICUFN), pp. 394
397, July 2012. 10
[35] S.-K. Cheong, C. Lim, and B.-C. Cho, Database processing performance and energy
efficiency evaluation of DDR-SSD and HDD storage system based on the TPC-C, in
2012 International Conference on Cloud Computing and Social Networking (ICCCSN),
pp. 13, Apr. 2012. 10
[36] Y. Kim, A. Gupta, B. Urgaonkar, P. Berman, and A. Sivasubramaniam, HybridStore :
A Cost-Efficient, High-Performance Storage System Combining SSDs and HDDs, in
2011 IEEE 19th International Symposium on Modeling, Analysis Simulation of Compu-
ter and Telecommunication Systems (MASCOTS), pp. 227236, 2011. 11
[37] F. Kamoun, Virtualizing the Datacenter Without Compromising Server Performance,
Ubiquity, vol. 2009, Aug. 2009. 11
[38] Y. Jin, Y. Wen, and Q. Chen, Energy efficiency and server virtualization in data centers :
An empirical investigation, in 2012 IEEE Conference on Computer Communications
Workshops (INFOCOM WKSHPS), pp. 133138, Mar. 2012. 11
[39] Y. Gao, H. Guan, Z. Qi, B. Wang, and L. Liu, Quality of service aware power manage-
ment for virtualized data centers, Journal of Systems Architecture, vol. 59, pp. 245259,
Apr. 2013. 11
[40] G. I. Meijer, Cooling Energy-Hungry Data Centers, Science, vol. 328, pp. 318319, Apr.
2010. 11
[41] K. Kant, Data center evolution : A tutorial on state of the art, issues, and challenges,
Computer Networks, vol. 53, pp. 29392965, Dec. 2009. 11
[42] M. Duminil and J.-P. Domblides, Thorie des machines frigorifiques - Machine
compression mcanique. Cycles monotags | Techniques de lIngnieur BE9731,
Apr. 2012. 11, 12
[43] K.-P. Lee and H.-L. Chen, Analysis of energy saving potential of air-side free cooling for
data centers in worldwide climate zones, Energy and Buildings, vol. 64, pp. 103112,
Sept. 2013. 12
[44] T. Lu, X. L, M. Remes, and M. Viljanen, Investigation of air management and energy
performance in a data center in Finland : Case study, Energy and Buildings, vol. 43,
pp. 33603372, Dec. 2011. 12
[45] E. Or, V. Depoorter, N. Pflugradt, and J. Salom, Overview of direct air free cooling
and thermal energy storage potential energy savings in data centres, Applied Thermal
Engineering, vol. 85, pp. 100110, June 2015. 12
[46] J. Kim, M. Ruggiero, and D. Atienza, Free cooling-aware dynamic power management
for green datacenters, in 2012 International Conference on High Performance Compu-
ting and Simulation (HPCS), pp. 140 146, July 2012. 13
120
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
[47] Y. Udagawa, S. Waragai, M. Yanagi, and W. Fukumitsu, Study on free cooling systems
for data centers in Japan, in Telecommunications Energy Conference (INTELEC), 32nd
International, pp. 1 5, June 2010. 13
[48] D. Christy Sujatha and S. Abimannan, Energy Efficient Free Cooling System for Data
Centers, in 2011 IEEE Third International Conference on Cloud Computing Technology
and Science (CloudCom), pp. 646651, Nov. 2011. 13
[49] S. Le Masson, J. Gautier, and D. Nortershauser, Simplified Air-conditioning for tele-
communication switches, in Telecommunications Energy Conference, 2006. INTELEC
06. 28th Annual International, pp. 15, 2006. 13
[50] A. Qouneh, C. Li, and T. Li, A quantitative analysis of cooling power in container-based
data centers, in 2011 IEEE International Symposium on Workload Characterization
(IISWC), pp. 6171, Nov. 2011. 14
[51] J.-J. Hu, H.-C. Li, and H.-M. Tai, Thermal distribution monitoring of the container
data center by a fast infrared image fusion technique, Computers & Mathematics with
Applications, vol. 64, pp. 14841494, Sept. 2012. 14
[52] H. Endo, H. Kodama, H. Fukuda, T. Sugimoto, T. Horie, and M. Kondo, Effect of cli-
matic conditions on energy consumption in direct fresh-air container data centers,
Sustainable Computing : Informatics and Systems, vol. 6, pp. 1725, June 2015. 14
[53] S. Le Masson, D. Nortershauser, B. Deddy, and P. Glouannec, Thermal model for data
centre cooling, in Telecommunications Energy Conference (INTELEC), 2011 IEEE 33rd
International, pp. 16, 2011. 14
[54] D. Nortershauser, S. Le Masson, and J. Gautier, Exothermal Building, Apr. 2011. 15
[55] J. Taine, J.-P. Petit, and R. Smria, Transferts thermiques : mcanique des fluides ani-
sothermes : cours et donnes de base. Dunod Paris, 1995. 16, 58, 82, 83
[56] ASHRAE, Design considerations for datacom equipment centers, American Society
of Heating, Refrigerating and Air-conditioning Engineers, Inc, 2005. 16
[57] A. Degiovanni, Transmission de lnergie thermique conduction, Techniques de lin-
gnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. article :
be8200, 2015. fre. 17
[58] J. Padet, Convection thermique et massique principes gnraux, Techniques de lin-
gnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. article :
be8205, 2015. fre. 18, 88
[59] J. Crabol, Transfert de chaleur. Masson, 1989. 18
[60] changeurs de chaleur - Description | Techniques de lIngnieur BE9516, Jan. 2014.
19
[61] R. Schmidt, R. C. Chu, M. Ellsworth, M. Iyengar, D. Porter, V. Kamath, and B. Lehman,
Maintaining Datacom Rack Inlet Air Temperatures With Water Cooled Heat Exchan-
ger, pp. 663673, Jan. 2005. 20
[62] R. Udakeri, V. Mulay, and D. Agonafer, Comparison of Overhead Supply and Un-
derfloor Supply with Rear Heat Exchanger in High Density Data Center Clusters, in
Twenty-fourth Annual IEEE Semiconductor Thermal Measurement and Management
Symposium, 2008. Semi-Therm 2008, pp. 165172, Mar. 2008. 20
[63] M. Ellsworth, L. Campbell, R. Simons, and R. Iyengar, The evolution of water co-
oling for IBM large server systems : Back to the future, in 11th Intersociety Conference
on Thermal and Thermomechanical Phenomena in Electronic Systems, 2008. ITHERM
2008, pp. 266274, May 2008. 20
121
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
122
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
123
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
[93] D. J. Delia and W. M. Delia, Implementing a front door air to water heat exchan-
ger, Oct. 2013. U.S. Classification 165/11.1, 165/104.33 ; International Classification
F28D15/00, B60H1/00 ; Cooperative Classification H05K7/20781, G05D23/1931. 30
[94] A. Claassen, E. A. Eckberg, D. J. Hansen, V. Kamath, M. K. Iyengar, H. V. M.
Jr, M. S. Miller, and S. P. Mroz, Rack with integrated rear-door heat ex-
changer, Feb. 2010. U.S. Classification 361/696, 361/695, 454/184, 165/80.4 ;
International Classification H05K7/20 ; Cooperative Classification H05K7/2079,
G06F2200/201, H05K7/20736, G06F1/20, Y10T29/49826 ; European Classification
G06F1/20, H05K7/20S20D, H05K7/20S10C. 30
[95] D. Azevedo, J. Cooley, M. Patterson, and M. Blackburn, Data Center Efficiency Me-
trics : mPUE, Partial PUE, ERE, DCcE, tech. rep., GreenGrid, Tech. Rep, 2011. 44
[96] S.-W. Ham, M.-H. Kim, B.-N. Choi, and J.-W. Jeong, Simplified server model to simu-
late data center cooling energy consumption, Energy and Buildings, vol. 86, pp. 328
339, Jan. 2015. 45
[97] T. Gao, M. David, J. Geer, R. Schmidt, and B. Sammakia, Experimental and numerical
dynamic investigation of an energy efficient liquid cooled chiller-less data center test
facility, Energy and Buildings, vol. 91, pp. 8396, Mar. 2015. 45
[98] T. Gao, B. Murray, and B. Sammakia, Analysis of transient and hysteresis behavior of
cross-flow heat exchangers under variable fluid mass flow rate for data center cooling
applications, Applied Thermal Engineering, vol. 84, pp. 1526, June 2015. 45
[99] W. Tang, Q. Wu, and Z. Richardson, Equivalent heat circuit based power transformer
thermal model, Electric Power Applications, IEE Proceedings, vol. 149, pp. 8792, Mar.
2002. 45
[100] W. F. Ames, Numerical Methods for Partial Differential Equations. Academic Press, June
2014. 47
[101] J. V. Beck and K. J. Arnold, Parameter Estimation in Engineering and Science. James
Beck, 1977. 48
[102] R. H. Byrd, J. C. Gilbert, and J. Nocedal, A trust region method based on interior
point techniques for nonlinear programming, Mathematical Programming, vol. 89,
pp. 149185, Nov. 2000. 48
[103] S. B. Branton, Liquid cooling system for a server, June 2014. U.S. Classi-
fication 361/679.53, 361/697, 361/696, 165/80.4, 361/699, 361/698 ; International
Classification H05K7/20 ; Cooperative Classification H05K7/20781, H05K7/20754,
H05K7/20763. 58
[104] G. Upadhya, M. Munch, N. Chow, P. Tsao, D. E. Werner, M. McMaster, F. Lan-
dry, I. Spearing, and T. Schrader, Liquid cooling loops for server applications,
Oct. 2009. U.S. Classification 361/699, 361/704, 174/15.1, 361/695, 165/104.33,
165/80.4, 361/727 ; International Classification H05K7/20 ; Cooperative Classification
H05K7/20727, H05K7/20781, H05K7/20772, H01L2924/0002 ; European Classification
H05K7/20S20C, H05K7/20S10B, H05K7/20S20B. 58
[105] R. Chu, M. Ellsworth, R. Schmidt, and R. Simons, Composite cold plate assembly,
June 2005. U.S. Classification 361/699, 361/689, 257/E23.098 ; International Classifi-
cation H05K7/20, H01L23/473 ; Cooperative Classification H01L23/473, H01L2224/16,
H01L2224/73253 ; European Classification H01L23/473. 58
[106] S. Mahajan, D. Robalino, and V. Sivan, Thermal Modeling of an Inverted-Type
Oil-Immersed Current Transformer, IEEE Transactions on Power Delivery, vol. 25,
pp. 25112518, Oct. 2010. 81
124
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015
Rfrences
[107] N. Shiro, Memories of my research on boiling, International Journal of Heat and Mass
Transfer, vol. 27, pp. 955957, July 1984. 88
[108] M. S. El-Genk, Immersion cooling nucleate boiling of high power computer chips,
Energy Conversion and Management, vol. 53, pp. 205218, Jan. 2012. 88
[109] M. Lallemand, Transferts en changement de phase bullition libre, Techniques de
lingnieur Transferts thermiques, vol. base documentaire : TIB214DUO., no. ref. ar-
ticle : be8235, 2015. fre. 88
[110] 3M Novec 649 Engineered Fluid, 2009. multimedia.3m.com/mws/media/569865O/3mtm-
novectm-649-engineered-fluid.pdf. Consult le 01/01/2016. 111
125
Optimisation nergtique de data centers par utilisation de liquides pour le refroidissement des baies informatiques Fabien Douchet 2015