
<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">

<head>

<meta http-equiv="Content-Type" content="text/html; charset=gb2312">

<meta name="Generator" content="Microsoft Word 15 (filtered medium)">

<style><!--

/* Font Definitions */

@font-face

        {font-family:宋体;

        panose-1:2 1 6 0 3 1 1 1 1 1;}

@font-face

        {font-family:"Cambria Math";

        panose-1:2 4 5 3 5 4 6 3 2 4;}

@font-face

        {font-family:Calibri;

        panose-1:2 15 5 2 2 2 4 3 2 4;}

@font-face

        {font-family:"\@宋体";

        panose-1:2 1 6 0 3 1 1 1 1 1;}

@font-face

        {font-family:微软雅黑;

        panose-1:2 11 5 3 2 2 4 2 2 4;}

@font-face

        {font-family:"\@微软雅黑";

        panose-1:2 11 5 3 2 2 4 2 2 4;}

/* Style Definitions */

p.MsoNormal, li.MsoNormal, div.MsoNormal

        {margin:0cm;

        margin-bottom:.0001pt;

        font-size:12.0pt;

        font-family:宋体;}

a:link, span.MsoHyperlink

        {mso-style-priority:99;

        color:blue;

        text-decoration:underline;}

a:visited, span.MsoHyperlinkFollowed

        {mso-style-priority:99;

        color:purple;

        text-decoration:underline;}

p.MsoListParagraph, li.MsoListParagraph, div.MsoListParagraph

        {mso-style-priority:34;

        margin:0cm;

        margin-bottom:.0001pt;

        text-indent:21.0pt;

        font-size:12.0pt;

        font-family:宋体;}

span.EmailStyle18

        {mso-style-type:personal-reply;

        font-family:"Calibri",sans-serif;

        color:#1F497D;}

.MsoChpDefault

        {mso-style-type:export-only;

        font-size:10.0pt;

        font-family:"Calibri",sans-serif;}

@page WordSection1

        {size:612.0pt 792.0pt;

        margin:72.0pt 90.0pt 72.0pt 90.0pt;}

div.WordSection1

        {page:WordSection1;}

--></style><!--[if gte mso 9]><xml>

<o:shapedefaults v:ext="edit" spidmax="1026" />

</xml><![endif]--><!--[if gte mso 9]><xml>

<o:shapelayout v:ext="edit">

<o:idmap v:ext="edit" data="1" />

</o:shapelayout></xml><![endif]-->

</head>

<body lang="ZH-CN" link="blue" vlink="purple">

<div class="WordSection1">

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D">> one with baremetal GPU, one with passthrough, one with virtual GPUs on Nova directly, one with Cyborg<o:p></o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D">Agree with Sylvain Bauza, if you want to test the GPU performance you can use benchmarking, but performance may be related to the running business.<o:p></o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D">Whether it is through nova or cyborg, the GPU is bound, and there should be little difference in performance.<o:p></o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>

<p class="MsoNormal" style="text-align:justify;text-justify:inter-ideograph"><span lang="EN-US" style="font-size:10.5pt;font-family:"微软雅黑",sans-serif;color:#1F497D">brinzhang</span><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p></o:p></span></p>

<p class="MsoNormal" style="text-align:justify;text-justify:inter-ideograph"><span lang="EN-US" style="font-size:10.5pt;font-family:"微软雅黑",sans-serif;color:#1F497D">Inspur Electronic Information Industry Co.,Ltd.</span><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p></o:p></span></p>

<p class="MsoNormal"><span lang="EN-US" style="font-size:10.5pt;font-family:"Calibri",sans-serif;color:#1F497D"><o:p> </o:p></span></p>

<p class="MsoNormal"><b><span style="font-size:11.0pt;font-family:"微软雅黑",sans-serif">发件人<span lang="EN-US">:</span></span></b><span lang="EN-US" style="font-size:11.0pt;font-family:"微软雅黑",sans-serif"> Sylvain Bauza [mailto:sbauza@redhat.com]

<br>

</span><b><span style="font-size:11.0pt;font-family:"微软雅黑",sans-serif">发送时间<span lang="EN-US">:</span></span></b><span lang="EN-US" style="font-size:11.0pt;font-family:"微软雅黑",sans-serif"> 2021</span><span style="font-size:11.0pt;font-family:"微软雅黑",sans-serif">年<span lang="EN-US">8</span>月<span lang="EN-US">31</span>日<span lang="EN-US">

 23:21<br>

</span><b>收件人<span lang="EN-US">:</span></b><span lang="EN-US"> Ildiko Vancsa <ildiko.vancsa@gmail.com><br>

</span><b>抄送<span lang="EN-US">:</span></b><span lang="EN-US"> OpenStack Discuss <openstack-discuss@lists.openstack.org><br>

</span><b>主题<span lang="EN-US">:</span></b><span lang="EN-US"> Re: [nova][cyborg][gpu] GPU performance testing<o:p></o:p></span></span></p>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

<div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

<div>

<div>

<p class="MsoNormal"><span lang="EN-US">On Tue, Aug 31, 2021 at 5:10 PM Sylvain Bauza <<a href="mailto:sbauza@redhat.com">sbauza@redhat.com</a>> wrote:<o:p></o:p></span></p>

</div>

<blockquote style="border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt">

<div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

<div>

<div>

<p class="MsoNormal"><span lang="EN-US">On Tue, Aug 31, 2021 at 4:34 PM Ildiko Vancsa <<a href="mailto:ildiko.vancsa@gmail.com" target="_blank">ildiko.vancsa@gmail.com</a>> wrote:<o:p></o:p></span></p>

</div>

<blockquote style="border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt">

<p class="MsoNormal" style="margin-bottom:12.0pt"><span lang="EN-US">Hi,<br>

<br>

As we are approaching the end of the holiday season I wanted to surface back my question about GPU performance testing. Does anyone have any hints to find the best tools to do some benchmarking with?<o:p></o:p></span></p>

</blockquote>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">You made the point, Ildiko, I was on a long-running time-off so I didn't had time to look at your question yet.<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">Good concern tho, I have no knowledge about this, but I can ping a few other folks to get you an answer.<o:p></o:p></span></p>

</div>

</div>

</div>

</blockquote>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">Btw, I can understand this can be a frustrating by short answer, so I'll develop.<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">Technically, benchmarking is a huge word : depending on your usecase, performance can very differ for the same card (take the general example of CPU-bound vs. IO-bound tasks and you get the idea for GPUs)<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">For this reason, I'd recommend you to first consider the metrics you'd like to stress on and only then identify the tools than can sustain your needs.<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">For a standard test which can be errorprone but still a bit interesting, I'd propose you to run a couple of tensorflow examples against different environments (one with baremetal GPU, one with passthrough, one with virtual

 GPUs on Nova directly, one with Cyborg). This would give you the idea of the performance penalities but I suspect those to be less than minor.<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">For real benchmarking cases, I can't answer, hence my call to other folks. By the way, I know CERN invested a bit into HPC testing with GPUs, maybe someone from their team or someone from the related Scientific WG could

 provide more insights ?<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US">-Sylvain<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<blockquote style="border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt">

<div>

<div>

<div>

<p class="MsoNormal"><span lang="EN-US">-Sylvain<o:p></o:p></span></p>

</div>

<div>

<p class="MsoNormal"><span lang="EN-US"><o:p> </o:p></span></p>

</div>

<blockquote style="border:none;border-left:solid #CCCCCC 1.0pt;padding:0cm 0cm 0cm 6.0pt;margin-left:4.8pt;margin-top:5.0pt;margin-right:0cm;margin-bottom:5.0pt">

<p class="MsoNormal" style="margin-bottom:12.0pt"><span lang="EN-US">Thanks,<br>

Ildik</span>ó<span lang="EN-US"><br>

<br>

<br>

> On Aug 9, 2021, at 08:46, Ildiko Vancsa <<a href="mailto:ildiko.vancsa@gmail.com" target="_blank">ildiko.vancsa@gmail.com</a>> wrote:<br>

> <br>

> Hi,<br>

> <br>

> I got a question about tools and practices to check GPU performance in an OpenStack environment that I need some help to answer.<br>

> <br>

> The question is about recommended GPU performance testing/benchmarking tools if there are a few that people in the community are using and would recommend? The scope of the testing work is to check GPU performance in OpenStack VMs (both virtualized and passthrough).<br>

> <br>

> All the help and pointers are very much appreciated!<br>

> <br>

> Thanks,<br>

> Ildik</span>ó<span lang="EN-US"><br>

> <br>

> <br>

<br>

<o:p></o:p></span></p>

</blockquote>

</div>

</div>

</blockquote>

</div>

</div>

</div>

</body>

</html>