<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"><head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri",sans-serif;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.25in 1.0in 1.25in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">Hi All,<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">We have a parallel program running on a cluster.  We recently found a case, which decreases the CPU usage and increase the run-time when increases Nodes.   Below is the results table.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">The particular run requires a lot of data communication between nodes.
<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Any thoughts about this phenomena?  Or is there any way we can improve the CPU usage when using higher number of nodes?
<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<table class="MsoNormalTable" border="0" cellspacing="0" cellpadding="0" width="441" style="width:331.0pt;margin-left:-.15pt;border-collapse:collapse">
<tbody>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">Average CPU Usage (%)<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border:solid windowtext 1.0pt;border-left:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">Number of Nodes<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border:solid windowtext 1.0pt;border-left:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">Number of Threads/Node<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">100<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">1<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">92<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">2<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">50<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">3<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">40<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">4<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">35<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">5<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">30<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">6<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">25<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">7<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">20<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
</tr>
<tr style="height:15.0pt">
<td width="153" nowrap="" valign="bottom" style="width:115.0pt;border:solid windowtext 1.0pt;border-top:none;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">20<o:p></o:p></span></p>
</td>
<td width="119" nowrap="" valign="bottom" style="width:89.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">8<o:p></o:p></span></p>
</td>
<td width="169" nowrap="" valign="bottom" style="width:127.0pt;border-top:none;border-left:none;border-bottom:solid windowtext 1.0pt;border-right:solid windowtext 1.0pt;padding:0in 5.4pt 0in 5.4pt;height:15.0pt">
<p class="MsoNormal" align="center" style="text-align:center"><span style="color:black">4<o:p></o:p></span></p>
</td>
</tr>
</tbody>
</table>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks!<o:p></o:p></p>
</div>
</body>
</html>

<br>
______________________________<wbr>______________________________<wbr>_____________<br><br>The information transmitted is intended only for the person or entity to<br>which it is addressed and may contain confidential and/or privileged<br>material.  Any review, retransmission, dissemination or other use of, or<br>taking of any action in reliance upon, this information by persons or<br>entities other than the intended recipient is prohibited.   If you received<br>this in error, please contact the sender and delete the material from any<br>computer.<br>______________________________<wbr>______________________________<wbr>_____________<br>