<div dir="ltr">Thank you Shigang. Your links are very helpful.<div><br></div><div>Sorry Muhammad I didn't answer your question at the first time. I have just read about HMPI briefly several days ago.<div><div><br></div>
</div></div><div class="gmail_extra"><br clear="all"><div><div dir="ltr">Huiwei Lu<div><a href="http://www.mcs.anl.gov/~huiweilu/" target="_blank">http://www.mcs.anl.gov/~huiweilu/</a><br></div></div></div>
<br><br><div class="gmail_quote">On Thu, Aug 29, 2013 at 1:53 PM, Shigang Li <span dir="ltr"><<a href="mailto:shigangli.cs@gmail.com" target="_blank">shigangli.cs@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div dir="ltr">Hi 
<span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap">Muhammad, Huiwei,</span><div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap"><br>

</span></div><div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap">There is a Hybrid MPI(HMPI) library which aims at implementing MPI </span><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap">efficiently on</span><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap"> both inter-node network and shared memory architecture. Here are some papers talking about this, which may give you some info.</span></div>

<div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap"><br></span></div><div><div style="font-family:arial,sans-serif;font-size:13px"><a href="http://htor.inf.ethz.ch/publications//img/friedley-ownership-passing.pdf" target="_blank">Ownership Passing: Efficient Distributed Memory Programming on Multi-core Systems</a><br>

</div><div style="font-family:arial,sans-serif;font-size:13px"><a href="http://dl.acm.org/citation.cfm?id=2462903" target="_blank">NUMA-Aware Shared Memory Collective Communication for MPI</a><br></div><div style="font-family:arial,sans-serif;font-size:13px">

<a href="http://htor.inf.ethz.ch/publications//img/friedley-hmpi-sc13.pdf" target="_blank">Hybrid MPI: Efficient Message Passing for Multi-core Systems</a></div></div><div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap"><br>

</span></div><div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap">Best Regards,</span></div><div><span style="font-family:arial,sans-serif;font-size:13px;font-weight:bold;white-space:nowrap">Shigang</span></div>

</div><div class="HOEnZb"><div class="h5"><div class="gmail_extra"><br><br><div class="gmail_quote">On Thu, Aug 29, 2013 at 12:31 PM, Muhammad Ansar Javed <span dir="ltr"><<a href="mailto:muhammad.ansar@seecs.edu.pk" target="_blank">muhammad.ansar@seecs.edu.pk</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><span style="font-family:arial,sans-serif;font-size:12.727272033691406px">Hi Huiwei,</span><br><div><font face="arial, sans-serif">Thank you so much for suggesting reading material. These are really useful papers but I am looking for models that provide seamless integration of two devices (Network device and Shared Memory device) into one hybrid device. Message passing mechanism should be exactly same  for end user at MPI layer. </font></div>


<div><font face="arial, sans-serif">Idea is to use to use Network Device for establishing network communication between nodes and Shared memory device should be responsible for Intra-node communication on each multi-core machine. Shared Memory device is implemented using Multi-threading approach. Both Network and Shared Memory device are in working state independently.</font></div>


<div><font face="arial, sans-serif"><br></font></div><div><font face="arial, sans-serif">I hope it explains what I am really looking for. Please suggest papers that can provide guidelines for achieving this goal.</font></div>


<div><font face="arial, sans-serif"><br></font></div><div class="gmail_extra"><div><div><br><br><div class="gmail_quote">On Wed, Aug 28, 2013 at 7:40 PM, Huiwei Lu <span dir="ltr"><<a href="mailto:huiweilu@mcs.anl.gov" target="_blank">huiweilu@mcs.anl.gov</a>></span> wrote:<br>


<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi, Muhammad,<div><br></div><div><div>As I am also starting to exploit this area, I would like to share with you some of my readings.</div>


<div><br></div><div>Following are a few papers to help you start:</div>
<div>1. Early Experiments with the OpenMP/MPI Hybrid Programming Model, <a href="http://www.mcs.anl.gov/~lusk/hybridpaper.pdf" target="_blank">http://www.mcs.anl.gov/~lusk/hybridpaper.pdf</a></div><div>2. Test Suite for Evaluating Performance of MPI Implementations That Support MPI THREAD MULTIPLE, <a href="http://www.mcs.anl.gov/~thakur/papers/thread-tests.pdf" target="_blank">http://www.mcs.anl.gov/~thakur/papers/thread-tests.pdf</a></div>



<div><br></div><div>In the second paper, you can also find some code examples for using hybrid programming model.</div><div><br></div><div>Best,</div></div></div><div class="gmail_extra"><br clear="all"><div><div dir="ltr">



Huiwei Lu<div><a href="http://www.mcs.anl.gov/~huiweilu/" target="_blank">http://www.mcs.anl.gov/~huiweilu/</a><br></div></div></div><div><div>
<br><br><div class="gmail_quote">On Wed, Aug 28, 2013 at 12:54 AM, Muhammad Ansar Javed <span dir="ltr"><<a href="mailto:muhammad.ansar@seecs.edu.pk" target="_blank">muhammad.ansar@seecs.edu.pk</a>></span> wrote:<br>



<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi,<div>I am looking for message passing models for Hybrid Parallelism that are being used in MPICH implementations for the Cluster of Multi-core machines. Can you please suggest me some papers or study material that can explain communication models that incorporate network communication as well as shared memory communication.  </div>




<div><br clear="all"><div>Thanks,</div><div>Ansar</div>
</div></div>
</blockquote></div><br></div></div></div>
</blockquote></div><br><br clear="all"><div><br></div></div></div><span><font color="#888888">-- <br><br>Regards:<br><b><br></b>Muhammad Ansar Javed<br>NUST SEECS<br>Contact: <a href="tel:%2B92%20334%20438%209394" value="+923344389394" target="_blank">+92 334 438 9394</a><br>

Email: <a href="mailto:muhammad.ansar@seecs.edu.pk" target="_blank">muhammad.ansar@seecs.edu.pk</a><br>

</font></span></div></div>
</blockquote></div><br></div>
</div></div></blockquote></div><br></div></div>