<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:"\@SimSun";
        panose-1:2 1 6 0 3 1 1 1 1 1;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri",sans-serif;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">Hi all<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">I was trying to setup a Devstack environment within an OpenStack VM(it’s host also neutron enabled), saying nested VM<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">My OpenStack VM is configure with IP (192.168.77.37 and floating IP 192.168.1.121) on eth0 , I can ping it from HOST namespace, or ping the floating IP, it has internet connectivity as well.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">After I tried to setup the devstack(with neutron enabled) on the OpenStack VM, the devstack failed due to network unreachable, and could not ping the 192.168.77.37 or 192.168.1.121<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="mso-element:para-border-div;border:none;border-bottom:double windowtext 2.25pt;padding:0in 0in 1.0pt 0in">
<p class="MsoNormal" style="border:none;padding:0in">Here is the OpenStack VM(not host’s) config:<o:p></o:p></p>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">sudo ovs-vsctl show<o:p></o:p></p>
<p class="MsoNormal">….<o:p></o:p></p>
<p class="MsoNormal">Bridge br-ex<o:p></o:p></p>
<p class="MsoNormal">     Port “eth0”<o:p></o:p></p>
<p class="MsoNormal">                  Interface “eth0”<o:p></o:p></p>
<p class="MsoNormal">     Port br-ex<o:p></o:p></p>
<p class="MsoNormal">                 Interface br-ex<o:p></o:p></p>
<p class="MsoNormal">                               Type: internal<o:p></o:p></p>
<p class="MsoNormal">….<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">And ip of eth0 is set to br-ex as expected.<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="mso-element:para-border-div;border:none;border-bottom:double windowtext 2.25pt;padding:0in 0in 1.0pt 0in">
<p class="MsoNormal" style="border:none;padding:0in"># I can arping the IP from HOST namespace<o:p></o:p></p>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">ip netns exec qdhcp-89caf1b4-27f9-4744-a4db-176453fac80e arping 192.168.77.37<o:p></o:p></p>
<p class="MsoNormal">ARPING 192.168.77.37 from 192.168.77.2 tap676cac8b-02<o:p></o:p></p>
<p class="MsoNormal">Unicast reply from 192.168.77.37 [5E:A8:F3:A3:68:46]  2.227ms<o:p></o:p></p>
<p class="MsoNormal">Unicast reply from 192.168.77.37 [5E:A8:F3:A3:68:46]  1.112ms<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="mso-element:para-border-div;border:none;border-bottom:double windowtext 2.25pt;padding:0in 0in 1.0pt 0in">
<p class="MsoNormal" style="border:none;padding:0in"># But ping will fail<o:p></o:p></p>
</div>
<p class="MsoNormal">ip netns exec qdhcp-89caf1b4-27f9-4744-a4db-176453fac80e ping 192.168.77.37<o:p></o:p></p>
<p class="MsoNormal">PING 192.168.77.37 (192.168.77.37) 56(84) bytes of data.<o:p></o:p></p>
<p class="MsoNormal">^C<o:p></o:p></p>
<p class="MsoNormal">--- 192.168.77.37 ping statistics ---<o:p></o:p></p>
<p class="MsoNormal">337 packets transmitted, 0 received, 100% packet loss, time 338680ms<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">I tcpdump a lot of interfaces, found the OpenStack VM did reply the outter ./st request, but the reply package stopped at  veth pair(qvod2a60161-b3 )of the OpenStack VM, while package could be dumped from the Linux bridge(qbrd2a60161-b3
 )<o:p></o:p></p>
<div style="mso-element:para-border-div;border:none;border-bottom:double windowtext 2.25pt;padding:0in 0in 1.0pt 0in">
<p class="MsoNormal" style="border:none;padding:0in">See following tcpdump output:<o:p></o:p></p>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">tcpdump -i qbrd2a60161-b3  -ne<o:p></o:p></p>
<p class="MsoNormal">tcpdump: WARNING: qbrd2a60161-b3: no IPv4 address assigned<o:p></o:p></p>
<p class="MsoNormal">tcpdump: verbose output suppressed, use -v or -vv for full protocol decode<o:p></o:p></p>
<p class="MsoNormal">listening on qbrd2a60161-b3, link-type EN10MB (Ethernet), capture size 65535 bytes<o:p></o:p></p>
<p class="MsoNormal">00:20:30.256200 fa:16:3e:2c:37:cc > 5e:a8:f3:a3:68:46, ethertype IPv4 (0x0800), length 98: 192.168.77.2 > 192.168.77.37: ICMP echo request, id 1369, seq 1, length 64<o:p></o:p></p>
<p class="MsoNormal">00:20:30.257176 5e:a8:f3:a3:68:46 > fa:16:3e:2c:37:cc, ethertype IPv4 (0x0800), length 98: 192.168.77.37 > 192.168.77.2: ICMP echo reply, id 1369, seq 1, length 64<o:p></o:p></p>
<p class="MsoNormal">00:20:31.264591 fa:16:3e:2c:37:cc > 5e:a8:f3:a3:68:46, ethertype IPv4 (0x0800), length 98: 192.168.77.2 > 192.168.77.37: ICMP echo request, id 1369, seq 2, length 64<o:p></o:p></p>
<p class="MsoNormal">00:20:31.264836 5e:a8:f3:a3:68:46 > fa:16:3e:2c:37:cc, ethertype IPv4 (0x0800), length 98: 192.168.77.37 > 192.168.77.2: ICMP echo reply, id 1369, seq 2, length 64<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">tcpdump -i qvod2a60161-b3  -ne<o:p></o:p></p>
<p class="MsoNormal">00:21:34.264419 fa:16:3e:2c:37:cc > 5e:a8:f3:a3:68:46, ethertype IPv4 (0x0800), length 98: 192.168.77.2 > 192.168.77.37: ICMP echo request, id 1369, seq 65, length 64<o:p></o:p></p>
<p class="MsoNormal">00:21:35.264450 fa:16:3e:2c:37:cc > 5e:a8:f3:a3:68:46, ethertype IPv4 (0x0800), length 98: 192.168.77.2 > 192.168.77.37: ICMP echo request, id 1369, seq 66, length 64<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">I wonder who can lead me out of the trap, or it’s just a OpenStack limitation?<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks<o:p></o:p></p>
<p class="MsoNormal">Peter<o:p></o:p></p>
</div>
</body>
</html>