<!-- BaNnErBlUrFlE-BoDy-start -->
<!-- Preheader Text : BEGIN -->
<div style="display:none !important;display:none;visibility:hidden;mso-hide:all;font-size:1px;color:#ffffff;line-height:1px;height:0px;max-height:0px;opacity:0;overflow:hidden;">
I am calling MPI_Reduce on a set of inter-communicators created by MPI_Comm_spawn, each with one process in the local group (the single manager) and two processes in the remote group (the workers). The inter- communicators are visited one at
</div>
<!-- Preheader Text : END -->
<!-- Email Banner : BEGIN -->
<div style="display:none !important;display:none;visibility:hidden;mso-hide:all;font-size:1px;color:#ffffff;line-height:1px;height:0px;max-height:0px;opacity:0;overflow:hidden;">ZjQcmQRYFpfptBannerStart</div>
<!--[if ((ie)|(mso))]>
<table border="0" cellspacing="0" cellpadding="0" width="100%" style="padding: 16px 0px 16px 0px; direction: ltr" ><tr><td>
<table border="0" cellspacing="0" cellpadding="0" style="padding: 0px 10px 5px 6px; width: 100%; border-radius:4px; border-top:4px solid #90a4ae;background-color:#D0D8DC;"><tr><td valign="top">
<table align="left" border="0" cellspacing="0" cellpadding="0" style="padding: 4px 8px 4px 8px">
<tr><td style="color:#000000; font-family: 'Arial', sans-serif; font-weight:bold; font-size:14px; direction: ltr">
This Message Is From an External Sender
</td></tr>
<tr><td style="color:#000000; font-weight:normal; font-family: 'Arial', sans-serif; font-size:12px; direction: ltr">
This message came from outside your organization.
</td></tr>
</table>
</td></tr></table>
</td></tr></table>
<![endif]-->
<![if !((ie)|(mso))]>
<div dir="ltr" id="pfptBanner45qdy18" style="all: revert !important; display:block !important; text-align: left !important; margin:16px 0px 16px 0px !important; padding:8px 16px 8px 16px !important; border-radius: 4px !important; min-width: 200px !important; background-color: #D0D8DC !important; background-color: #D0D8DC; border-top: 4px solid #90a4ae !important; border-top: 4px solid #90a4ae;">
<div id="pfptBanner45qdy18" style="all: unset !important; float:left !important; display:block !important; margin: 0px 0px 1px 0px !important; max-width: 600px !important;">
<div id="pfptBanner45qdy18" style="all: unset !important; display:block !important; visibility: visible !important; background-color: #D0D8DC !important; color:#000000 !important; color:#000000; font-family: 'Arial', sans-serif !important; font-family: 'Arial', sans-serif; font-weight:bold !important; font-weight:bold; font-size:14px !important; line-height:18px !important; line-height:18px">
This Message Is From an External Sender
</div>
<div id="pfptBanner45qdy18" style="all: unset !important; display:block !important; visibility: visible !important; background-color: #D0D8DC !important; color:#000000 !important; color:#000000; font-weight:normal; font-family: 'Arial', sans-serif !important; font-family: 'Arial', sans-serif; font-size:12px !important; line-height:18px !important; line-height:18px; margin-top:2px !important;">
This message came from outside your organization.
</div>
</div>
<div style="clear: both !important; display: block !important; visibility: hidden !important; line-height: 0 !important; font-size: 0.01px !important; height: 0px"> </div>
</div>
<![endif]>
<div style="display:none !important;display:none;visibility:hidden;mso-hide:all;font-size:1px;color:#ffffff;line-height:1px;height:0px;max-height:0px;opacity:0;overflow:hidden;">ZjQcmQRYFpfptBannerEnd</div>
<!-- Email Banner : END -->
<!-- BaNnErBlUrFlE-BoDy-end -->
<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head><!-- BaNnErBlUrFlE-HeAdEr-start -->
<style>
#pfptBanner45qdy18 { all: revert !important; display: block !important;
visibility: visible !important; opacity: 1 !important;
background-color: #D0D8DC !important;
max-width: none !important; max-height: none !important }
.pfptPrimaryButton45qdy18:hover, .pfptPrimaryButton45qdy18:focus {
background-color: #b4c1c7 !important; }
.pfptPrimaryButton45qdy18:active {
background-color: #90a4ae !important; }
</style>
<!-- BaNnErBlUrFlE-HeAdEr-end -->
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
{font-family:"Cambria Math";
panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
{font-family:Calibri;
panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
{margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
span.EmailStyle17
{mso-style-type:personal-compose;
font-family:"Calibri",sans-serif;
color:windowtext;}
.MsoChpDefault
{mso-style-type:export-only;
font-family:"Calibri",sans-serif;}
@page WordSection1
{size:8.5in 11.0in;
margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
{page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72" style="word-wrap:break-word">
<div class="WordSection1">
<p class="MsoNormal">I am calling MPI_Reduce on a set of inter-communicators created by MPI_Comm_spawn, each with one
<o:p></o:p></p>
<p class="MsoNormal">process in the local group (the single manager) and two processes in the remote group (the workers). The inter-<o:p></o:p></p>
<p class="MsoNormal">communicators are visited one at a time in the manager.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">All workers enter and exit MPI_Reduce without blocking, but the manager enters the first MPI_Reduce for the
<o:p></o:p></p>
<p class="MsoNormal">first inter-communicator and never returns. What am I doing wrong? I am using MPICH 4.1.2.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Here is my manager code:<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>#define N_PROC 4<o:p></o:p></b></p>
<p class="MsoNormal"><b>#define N_IN_GROUP 2<o:p></o:p></b></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>int main(int argc, char *argv[])<o:p></o:p></b></p>
<p class="MsoNormal"><b>{ <o:p></o:p></b></p>
<p class="MsoNormal"><b> int rank, world_size, error_codes[N_PROC];<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm intercoms[N_PROC];<o:p></o:p></b></p>
<p class="MsoNormal"><b> char hostname[64];<o:p></o:p></b></p>
<p class="MsoNormal"><b> <o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Init(&argc, &argv);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_rank(MPI_COMM_WORLD, &rank);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_size(MPI_COMM_WORLD, &world_size);<o:p></o:p></b></p>
<p class="MsoNormal"><b> <o:p></o:p></b></p>
<p class="MsoNormal"><b> gethostname(hostname, sizeof(hostname));<o:p></o:p></b></p>
<p class="MsoNormal"><b> char *p = strstr(hostname, ".");<o:p></o:p></b></p>
<p class="MsoNormal"><b> *p = '\0';<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Info info;<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Info_create(&info);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Info_set(info, "host", hostname);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Info_set(info, "bind_to", "core");<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> for (int i = 0; i < N_PROC; ++i)<o:p></o:p></b></p>
<p class="MsoNormal"><b> {<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_spawn("test_reduce_work", argv, N_IN_GROUP, info,<o:p></o:p></b></p>
<p class="MsoNormal"><b> 0, MPI_COMM_SELF, &intercoms[i], &error_codes[i]);<o:p></o:p></b></p>
<p class="MsoNormal"><b> }<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> sleep(10);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> unsigned array[100]{0};<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> for (int i = 0; i < N_PROC; ++i)<o:p></o:p></b></p>
<p class="MsoNormal"><b> {<o:p></o:p></b></p>
<p class="MsoNormal"><b> cout << "MANAGER: starting reduction " << i << "\n";<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Reduce(NULL, array, 100, MPI_UNSIGNED, MPI_SUM, MPI_ROOT,<o:p></o:p></b></p>
<p class="MsoNormal"><b> intercoms[i]);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> cout << "MANAGER: finished reduction " << i << "\n"; // we never reach this point<o:p></o:p></b></p>
<p class="MsoNormal"><b> }<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> for (int i = 0; i < 100; ++i) cout << array[i] << " ";<o:p></o:p></b></p>
<p class="MsoNormal"><b> cout << endl;<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Finalize();<o:p></o:p></b></p>
<p class="MsoNormal"><b>}<o:p></o:p></b></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">And here is my worker code:<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>int main(int argc, char *argv[])<o:p></o:p></b></p>
<p class="MsoNormal"><b>{ <o:p></o:p></b></p>
<p class="MsoNormal"><b> int rank, world_size;<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm manager_intercom;<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Init(&argc, &argv);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_rank(MPI_COMM_WORLD, &rank);<o:p></o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_size(MPI_COMM_WORLD, &world_size);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Comm_get_parent(&manager_intercom);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> unsigned array[100]{1};<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> cout << "WORKER: starting reduction\n";<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Reduce(array, NULL, 100, MPI_UNSIGNED, MPI_SUM, MPI_PROC_NULL,
<o:p></o:p></b></p>
<p class="MsoNormal"><b> manager_intercom);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> cout << "WORKER: finishing reduction\n";<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> sleep(10);<o:p></o:p></b></p>
<p class="MsoNormal"><b><o:p> </o:p></b></p>
<p class="MsoNormal"><b> MPI_Finalize();<o:p></o:p></b></p>
<p class="MsoNormal"><b>}<o:p></o:p></b></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Finally, here it the invocation:<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><b>$ mpiexec -launcher ssh -print-all-exitcodes -wdir /home/kmccall/test_dir -np 1 -ppn 1 test_reduce_man<o:p></o:p></b></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks,<o:p></o:p></p>
<p class="MsoNormal">Kurt<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
</body>
</html>