<div><div style="font-family: 'lucida Grande', Verdana; line-height: normal;"><div style="line-height: normal;">Adrian,</div><div style="line-height: normal;"><br></div><div style="line-height: normal;">Let's say someone creates a Hyper bay. The bay will be sth. like BM+Hyper+Cinder+Neutron+k8s/mesos/swarm. This is exactly a mini HyperStack. What nova does in this scenario is to provision the Hyper+BM hosts. Things like LiveMigration, Multi-tenancy, Billing, VPC, Volume, etc., are handled by HyperStack, not nova. Therefore, a second core besides nova is inevitable. Speaking of duplication, HyperStack leverages Cinder and Neutron, which protects ROI.</div><div style="line-height: normal;"><br></div><div style="line-height: normal;">Looking at the overall puzzle, one of the biggest missing pieces is a solution of the native CaaS. And HyperStack wants to fill that gap. Hyper bay is a valid case, but more for someone who wants to provides CaaS within their IaaS (nova) platform.</div><div style="line-height: normal;"><br></div><div style="line-height: normal;">We plan to present a working beta of HyperStack on Tokyo summit. The next step is to integrate HyperStack with bay for more advanced deployment.</div><div style="line-height: normal;"><br></div><div style="line-height: normal;">Best,</div><div style="line-height: normal;">Peng</div></div></div><div><includetail><div> </div><div style="font:Verdana normal 14px;color:#000;"><div style="FONT-SIZE: 12px;FONT-FAMILY: Arial Narrow;padding:2px 0 2px 0;">------------------ Original ------------------</div><div style="FONT-SIZE: 12px;background:#efefef;padding:8px;"><div id="menu_sender"><b>From: </b> "Adrian Otto"<adrian.otto@rackspace.com>;</div><div><b>Date: </b> Sun, Jul 19, 2015 11:11 PM</div><div><b>To: </b> "OpenStack Development Mailing List (not for usage questions)"<openstack-dev@lists.openstack.org>; <wbr></div><div></div><div><b>Subject: </b> Re: [openstack-dev] [magnum][bp] Power Magnum to run onmetal     withHyper</div></div><div> </div>




<div>Peng,</div>
<div><br>
</div>
<div>You are not the first to think this way, and it's one of the reasons we did not integrate Containers with OpenStack in a meaningful way a full year earlier. Please pay attention closely.</div>
<div><br>
</div>
<div>1) OpenStack's key influences care about two personas: 1.1) Cloud Operators 1.2) Cloud Consumers. If you only think in terms of 1.2, then your idea will get killed. Operators matter.</div>
<div><br>
</div>
<div>2) Cloud Operators need a consistent way to bill for the IaaS services the provide. Nova emits all of the RPC messages needed to do this. Having a second nova that does this slightly differently is a really annoying problem that will make Operators hate
 the software. It's better to use nova, have things work consistently, and plug in virt drivers to it.</div>
<div><br>
</div>
<div>3) Creation of a host is only part of the problem. That's the easy part. Nova also does a bunch of other things too. For example, say you want to live migrate a guest from one host to another. There is already functionality in Nova for doing that.</div>
<div><br>
</div>
<div>4) Resources need to be capacity managed. We call this scheduling. Nova has a pluggable scheduler to help with the placement of guests on hosts. Magnum will not.</div>
<div><br>
</div>
<div>5) Hosts in a cloud need to integrate with a number of other services, such as an image service, messaging, networking, storage, etc. If you only think in terms of host creation, and do something without nova, then you need to re-integrate with all of
 these things.</div>
<div><br>
</div>
<div>Now, I probably left out examples of lots of other things that Nova does. What I have mentioned us enough to make my point that there are a lot of things that Magnum is intentionally NOT doing that we expect to get from Nova, and I will block all code
 that gratuitously duplicates functionality that I believe belongs in Nova. I promised our community I would not duplicate existing functionality without a very good reason, and I will keep that promise.</div>
<div><br>
</div>
<div>Let's find a good way to fit Hyper with OpenStack in a way that best leverages what exists today, and is least likely to be rejected. Please note that the proposal needs to be changed from where it is today to achieve this fit.</div>
<div><br>
</div>
<div>My fist suggestion is to find a way to make a nova virt driver for Hyper, which could allow it to be used with all of our current Bay types in Magnum.</div>
<div><br>
</div>
<div>Thanks,</div>
<div><br>
</div>
<div>Adrian</div>
<br>
<br>
-------- Original message --------<br>
From: Peng Zhao <peng@hyper.sh> <br>
Date: 07/19/2015 5:36 AM (GMT-08:00) <br>
To: "OpenStack Development Mailing List (not for usage questions)" <openstack-dev@lists.openstack.org>
<br>
Subject: Re: [openstack-dev] [magnum][bp] Power Magnum to run on metal withHyper <br>
<br>
<div>Thanks Jay.</div>
<div><br>
</div>
<div>Hongbin, yes, it will be a scheduling system, either swarm, k8s or mesos. I just think bay isn't a must in this case, and we don't need nova to provision BM hosts, which makes things more complicated imo.</div>
<div><br>
</div>
<div>Peng</div>
<div>
<div> </div>
<div><br>
</div>
<div style="font:Verdana normal 14px; color:#000">
<div style="font-size:12px; font-family:Arial Narrow; padding:2px 0 2px 0">------------------ Original ------------------</div>
<div style="font-size:12px; background:#efefef; padding:8px">
<div id="menu_sender"><b>From: </b> "Jay Lau"<jay.lau.513@gmail.com>;</div>
<div><b>Date: </b> Sun, Jul 19, 2015 10:36 AM</div>
<div><b>To: </b> "OpenStack Development Mailing List (not for usage questions)"<openstack-dev@lists.openstack.org>;
<wbr></div>
<div></div>
<div><b>Subject: </b> Re: [openstack-dev] [magnum][bp] Power Magnum to run on metal withHyper</div>
</div>
<div> </div>
<div dir="ltr">
<div>
<div>Hong Bin,<br>
<br>
</div>
I have some online discussion with Peng, seems hyper is now integrating with Kubernetes and also have plan integrate with mesos for scheduling. Once mesos integration finished, we can treat mesos+hyper as another kind of bay.<br>
<br>
</div>
Thanks<br>
</div>
<div class="gmail_extra"><br>
<div class="gmail_quote">2015-07-19 4:15 GMT+08:00 Hongbin Lu <span dir="ltr"><<a href="mailto:hongbin.lu@huawei.com">hongbin.lu@huawei.com</a>></span>:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex; border-left:1px #ccc solid; padding-left:1ex">
<div lang="EN-CA">
<div>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d">Peng,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d">Several questions Here. You mentioned that HyperStack is a single big “bay”. Then, who is doing the multi-host scheduling, Hyper or something else? Were you suggesting to integrate Hyper with
 Magnum directly? Or you were suggesting to integrate Hyper with Magnum indirectly (i.e. through k8s, mesos and/or Nova)?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d">Best regards,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d">Hongbin<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt; color:#1f497d"><u></u> <u></u></span></p>
<div style="border:none; border-top:solid #b5c4df 1.0pt; padding:3.0pt 0cm 0cm 0cm">
<p class="MsoNormal"><b><span lang="EN-US" style="font-size:10.0pt">From:</span></b><span lang="EN-US" style="font-size:10.0pt"> Peng Zhao [mailto:<a href="mailto:peng@hyper.sh">peng@hyper.sh</a>]
<br>
<b>Sent:</b> July-17-15 12:34 PM<span class=""><br>
<b>To:</b> OpenStack Development Mailing List (not for usage questions)<br>
</span></span></p>
<div>
<div class="h5"><b>Subject:</b> Re: [openstack-dev] [magnum][bp] Power Magnum to run on metal with Hyper<u></u><u></u></div>
</div>
<p></p>
</div>
<div>
<div class="h5">
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<p class="MsoNormal">Hi, Adrian, Jay and all,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">There could be a much longer version of this, but let me try to explain in a minimalist way.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Bay currently has two modes: VM-based, BM-based. In both cases, Bay helps to isolate different tenants' containers. In other words, bay is single-tenancy. For BM-based bay, the single tenancy is a worthy tradeoff, given the performance
 merits of LXC vs VM. However, for a VM-based bay, there is no performance gain, but single tenancy seems a must, due to the lack of isolation in container. Hyper, as a hypervisor-based substitute for container, brings the much-needed isolation, and therefore
 enables multi-tenancy. In HyperStack, we don't really need Ironic to provision multiple Hyper bays. On the other hand,  the entire HyperStack cluster is a single big "bay". Pretty similar to how Nova works.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Also, HyperStack is able to leverage Cinder, Neutron for SDS/SDN functionality. So when someone submits a Docker Compose app, HyperStack would launch HyperVMs and call Cinder/Neutron to setup the volumes and network. The architecture is
 quite simple.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Here are a blog I'd like to recommend: <a href="https://hyper.sh/blog/post/2015/06/29/docker-hyper-and-the-end-of-guest-os.html" target="_BLANK">https://hyper.sh/blog/post/2015/06/29/docker-hyper-and-the-end-of-guest-os.html</a><u></u><u></u></p>
</div>
</div>
</div>
<div>
<div>
<div class="h5">
<div>
<p class="MsoNormal"> <u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">Let me know your questions.<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
<div>
<p class="MsoNormal">Thanks,<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal">Peng<u></u><u></u></p>
</div>
<div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
</div>
</div>
<div>
<div>
<div class="h5">
<div>
<p class="MsoNormal"><span style="font-size:9.0pt; color:black">------------------ Original ------------------<u></u><u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="background:#efefef"><b><span style="font-size:9.0pt; color:black">From:
</span></b><span style="font-size:9.0pt; color:black"> "Adrian Otto"<<a href="mailto:adrian.otto@rackspace.com">adrian.otto@rackspace.com</a>>;<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="background:#efefef"><b><span style="font-size:9.0pt; color:black">Date:
</span></b><span style="font-size:9.0pt; color:black"> Thu, Jul 16, 2015 11:02 PM<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="background:#efefef"><b><span style="font-size:9.0pt; color:black">To:
</span></b><span style="font-size:9.0pt; color:black"> "OpenStack Development Mailing List (not for usage questions)"<<a href="mailto:openstack-dev@lists.openstack.org">openstack-dev@lists.openstack.org</a>>;
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="background:#efefef"><b><span style="font-size:9.0pt; color:black">Subject:
</span></b><span style="font-size:9.0pt; color:black"> Re: [openstack-dev] [magnum][bp] Power Magnum to run onmetalwith Hyper<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal"><span style="color:black"> <u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span style="color:black">Jay, <u></u><u></u></span></p>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black">Hyper is a substitute for a Docker host, so I expect it could work equally well for all of the current bay types. Hyper’s idea of a “pod” and a Kubernetes “pod” are similar, but different. I’m not yet convinced
 that integrating Hyper host creation direct with Magnum (and completely bypassing nova) is a good idea. It probably makes more sense to implement use nova with the ironic dirt driver to provision Hyper hosts so we can use those as substitutes for Bay nodes
 in our various Bay types. This would fit in the place were we use Fedora Atomic today. We could still rely on nova to do all of the machine instance management and accounting like we do today, but produce bays that use Hyper instead of a Docker host. Everywhere
 we currently offer CoreOS as an option we could also offer Hyper as an alternative, with some caveats.
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black">There may be some caveats/drawbacks to consider before committing to a Hyper integration. I’ll be asking those of Peng also on this thread, so keep an eye out.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black">Thanks,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal"><span style="color:black">Adrian<u></u><u></u></span></p>
</div>
</div>
</div>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
<div>
<blockquote style="margin-top:5.0pt; margin-bottom:5.0pt">
<div>
<div class="h5">
<div>
<p class="MsoNormal"><span style="color:black">On Jul 16, 2015, at 3:23 AM, Jay Lau <<a href="mailto:jay.lau.513@gmail.com">jay.lau.513@gmail.com</a>> wrote:<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
</div>
<div>
<div>
<div class="h5">
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><span style="color:black">Thanks Peng, then I can see two integration points for Magnum and Hyper:<u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><span style="color:black">1) Once Hyper and k8s integration finished, we can deploy k8s in two mode: docker and hyper mode, the end user can select which mode they want to use. For such case, we do not need
 to create a new bay but may need some enhancement for current k8s bay<u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><span style="color:black">2) After mesos and hyper integration,  we can treat mesos and hyper as a new bay to magnum. Just like what we are doing now for mesos+marathon.<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span style="color:black">Thanks!<u></u><u></u></span></p>
</div>
</div>
</div>
<div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
<div>
<div>
<div class="h5">
<p class="MsoNormal"><span style="color:black">2015-07-16 17:38 GMT+08:00 Peng Zhao <<a href="mailto:peng@hyper.sh">peng@hyper.sh</a>>:<u></u><u></u></span></p>
</div>
</div>
<div>
<table border="0" cellpadding="0" cellspacing="0" width="100%" style="width:100.0%">
<tbody>
<tr>
<td valign="top" style="padding:0cm 0cm 0cm 0cm">
<div>
<div class="h5">
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Hi Jay,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Yes, we are working with the community to integrate Hyper with Mesos and K8S. Since Hyper uses Pod as the default job unit, it is quite easy to integrate with K8S. Mesos takes a bit more
 efforts, but still straightforward.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">We expect to finish both integration in v0.4 early August.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Best,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:10.5pt; color:#222222">-----------------------------------------------------<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:10.5pt; color:#222222">Hyper - Make VM run like Container<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:10.5pt; color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div class="h5">
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">On Thu, Jul 16, 2015 at 3:47 PM, Jay Lau <<a href="mailto:jay.lau.513@gmail.com">jay.lau.513@gmail.com</a>> wrote:<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<div>
<div class="h5">
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#222222">Hi Peng,<br>
<br>
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#222222">Just want to get more for Hyper. If we create a hyper bay, then can I set up multiple hosts in a hyper bay? If so, who will do the scheduling, does mesos or some others integrate with hyper?
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">I did not find much info for hyper cluster management.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Thanks.<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</div>
</div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div class="h5">
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">2015-07-16 9:54 GMT+08:00 Peng Zhao <<a href="mailto:peng@hyper.sh">peng@hyper.sh</a>>:<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<div>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<div>
<div>
<div>
<div>
<table border="0" cellpadding="0" cellspacing="0" width="100%" style="width:100.0%">
<tbody>
<tr>
<td valign="top" style="padding:0cm 0cm 0cm 0cm">
<div>
<div>
<div class="h5">
<div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">------------------ Original ------------------<u></u><u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">From:
</span></b><span style="font-size:9.0pt; color:#222222"> “Adrian Otto”<<a href="mailto:adrian.otto@rackspace.com">adrian.otto@rackspace.com</a>>;<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">Date:
</span></b><span style="font-size:9.0pt; color:#222222"> Wed, Jul 15, 2015 02:31 AM<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">To:
</span></b><span style="font-size:9.0pt; color:#222222"> “OpenStack Development Mailing List (not for usage questions)“<<a href="mailto:openstack-dev@lists.openstack.org">openstack-dev@lists.openstack.org</a>>;
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">Subject:
</span></b><span style="font-size:9.0pt; color:#222222"> Re: [openstack-dev] [magnum][bp] Power Magnum to run onmetal withHyper<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng, <u>
</u><u></u></span></p>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<blockquote style="margin-top:5.0pt; margin-bottom:5.0pt">
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">On Jul 13, 2015, at 8:37 PM, Peng Zhao <<a href="mailto:peng@hyper.sh">peng@hyper.sh</a>> wrote:<u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Thanks Adrian!<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Hi, all,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Let me recap what is hyper and the idea of hyperstack.
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Hyper is a single-host runtime engine. Technically,
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Docker = LXC + AUFS<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Hyper = Hypervisor + AUFS<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">where AUFS is the Docker image.<u></u><u></u></span></p>
</div>
</div>
</blockquote>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">I do not understand the last line above. My understanding is that AUFS == UnionFS, which is used to implement a storage driver for Docker. Others exist for btrfs, and devicemapper. You
 select which one you want by setting an option like this:<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">DOCKEROPTS=”-s devicemapper”<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Are you trying to say that with Hyper, AUFS is used to provide layered Docker image capability that are shared by multiple hypervisor guests?<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
</blockquote>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng >>> Yes, AUFS implies the Docker images here.<u></u><u></u></span></p>
</div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">My guess is that you are trying to articulate that a host running Hyper is a 1:1 substitute for a host running Docker, and will respond using the Docker remote API. This would result
 in containers running on the same host that have a superior security isolation than they would if LXC was used as the backend to Docker. Is this correct?<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
</blockquote>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng>>> Exactly
<u></u><u></u></span></p>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><br>
<br>
<u></u><u></u></span></p>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Due to the shared-kernel nature of LXC, Docker lacks of the necessary isolation in a multi-tenant CaaS platform, and this is what Hyper/hypervisor is good at.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">And because of this, most CaaS today run on top of IaaS:
<a href="https://trello-attachments.s3.amazonaws.com/55545e127c7cbe0ec5b82f2b/388x275/e286dea1266b46c1999d566b0f9e326b/iaas.png" target="_BLANK">
https://trello-attachments.s3.amazonaws.com/55545e127c7cbe0ec5b82f2b/388x275/e286dea1266b46c1999d566b0f9e326b/iaas.png</a><u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Hyper enables the native, secure, bare-metal CaaS  <a href="https://trello-attachments.s3.amazonaws.com/55545e127c7cbe0ec5b82f2b/395x244/828ad577dafb3f357e95899e962651b2/caas.png" target="_BLANK">https://trello-attachments.s3.amazonaws.com/55545e127c7cbe0ec5b82f2b/395x244/828ad577dafb3f357e95899e962651b2/caas.png</a><u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">From the tech stack perspective, Hyperstack turns Magnum o run in parallel with Nova, not running on atop.<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">For this to work, we’d expect to get a compute host from Heat, so if the bay type were set to “hyper”, we’d need to use a template that can produce a compute host running Hyper. How would
 that host be produced, if we do not get it from nova? Might it make more sense to make a dirt driver for nova that could produce a Hyper guest on a host already running the nova-compute agent? That way Magnum would not need to re-create any of Nova’s functionality
 in order to produce nova instances of type “hyper”.<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng >>> We don’t have to get the physical host from nova. Let’s say<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">   OpenStack = Nova+Cinder+Neutron+Bare-metal+KVM, so “AWS-like IaaS for everyone else”<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">   HyperStack= Magnum+Cinder+Neutron+Bare-metal+Hyper, then “Google-like CaaS for everyone else”<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Ideally, customers should deploy a single OpenStack cluster, with both nova/kvm and magnum/hyper. I’m looking for a solution to make nova/magnum co-exist.<u></u><u></u></span></p>
</div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Is Hyper compatible with libvirt?<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</blockquote>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng>>> We are working on the libvirt integration, expect in v0.5<u></u><u></u></span></p>
</div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Can Hyper support nested Docker containers within the Hyper guest?<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</blockquote>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng>>> Docker in Docker? In a HyperVM instance, there is no docker daemon, cgroup and namespace (except MNT for pod). VM serves the purpose of isolation. We plan to support cgroup and
 namespace, so you can control whether multiple containers in a pod share the same namespace, or completely isolated. But in either case, no docker daemon is present.<u></u><u></u></span></p>
</div>
</div>
</div>
<div>
<blockquote style="border:none; border-left:solid #cccccc 1.0pt; padding:0cm 0cm 0cm 6.0pt; margin-left:4.8pt; margin-right:0cm">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Thanks,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Adrian Otto<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<blockquote style="margin-top:5.0pt; margin-bottom:5.0pt">
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Best,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Peng<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<div>
<div>
<div class="h5">
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">------------------ Original ------------------<u></u><u></u></span></p>
</div>
<div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">From:
</span></b><span style="font-size:9.0pt; color:#222222"> “Adrian Otto”<<a href="mailto:adrian.otto@rackspace.com">adrian.otto@rackspace.com</a>>;<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">Date:
</span></b><span style="font-size:9.0pt; color:#222222"> Tue, Jul 14, 2015 07:18 AM<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">To:
</span></b><span style="font-size:9.0pt; color:#222222"> “OpenStack Development Mailing List (not for usage questions)“<<a href="mailto:openstack-dev@lists.openstack.org">openstack-dev@lists.openstack.org</a>>;
<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt; background:#efefef"><b><span style="font-size:9.0pt; color:#222222">Subject:
</span></b><span style="font-size:9.0pt; color:#222222"> Re: [openstack-dev] [magnum][bp] Power Magnum to run on metal withHyper<u></u><u></u></span></p>
</div>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"> <u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Team, <u>
</u><u></u></span></p>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">I woud like to ask for your input about adding support for Hyper in Magnum:<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><a href="https://blueprints.launchpad.net/magnum/+spec/hyperstack" target="_BLANK">https://blueprints.launchpad.net/magnum/+spec/hyperstack</a><u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">We touched on this in our last team meeting, and it was apparent that achieving a higher level of understanding of the technology before weighing in about the directional approval of
 this blueprint. Peng Zhao and Xu Wang have graciously agreed to respond to this thread to address questions about how the technology works, and how it could be integrated with Magnum.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Please take a moment to review the blueprint, and ask your questions here on this thread.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Thanks,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">Adrian Otto<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
<div>
<blockquote style="margin-top:5.0pt; margin-bottom:5.0pt">
<div>
<div class="h5">
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">On Jul 2, 2015, at 8:48 PM, Peng Zhao <<a href="mailto:peng@hyper.sh">peng@hyper.sh</a>> wrote:<u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
<div>
<div>
<div class="h5">
<table border="0" cellpadding="0" cellspacing="0" width="743" style="width:557.25pt; text-align:start; word-spacing:0px">
<tbody>
<tr>
<td valign="top" style="padding:4.5pt 0cm 0cm 0cm">
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">Here is the bp of Magnum+Hyper+Metal integration:
<a href="https://blueprints.launchpad.net/magnum/+spec/hyperstack" target="_BLANK">
https://blueprints.launchpad.net/magnum/+spec/hyperstack</a><u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">Wanted to hear more thoughts and kickstart some brainstorming.<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">Thanks,<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">Peng<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">-----------------------------------------------------<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">Hyper - Make VM run like Container<u></u><u></u></span></p>
</div>
<div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222"><u></u> <u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222"><u></u><u></u></span></p>
</td>
</tr>
</tbody>
</table>
</div>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="font-size:9.0pt; color:#222222">__________________________________________________________________________</span></p>
<div>
<div class="h5"><br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: </div>
</div>
<span style="color:#222222"><a href="mailto:OpenStack-dev-request@lists.openstack.org"><span style="font-size:9.0pt">OpenStack-dev-request@lists.openstack.org</span></a></span><span style="font-size:9.0pt; color:#222222">?subject:unsubscribe<br>
</span><span style="color:#222222"><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK"><span style="font-size:9.0pt">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</span></a><u></u><u></u></span>
<p></p>
</div>
</blockquote>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222">__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="mailto:OpenStack-dev-request@lists.openstack.org">OpenStack-dev-request@lists.openstack.org</a>?subject:unsubscribe<br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><u></u><u></u></span></p>
</div>
</div>
</div>
</blockquote>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
</blockquote>
</div>
</div>
</td>
</tr>
</tbody>
</table>
</div>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
</div>
</div>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#222222">__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org/?subject:unsubscribe" target="_BLANK">
OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><u></u><u></u></span></p>
</div>
</div>
</blockquote>
</div>
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#222222"><u></u> <u></u></span></p>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#888888">-- <u></u><u></u></span></p>
<div>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#888888">Thanks,<u></u><u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#888888">Jay Lau (Guangya Liu)<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</div>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal" style="margin-right:0cm; margin-bottom:12.0pt; margin-left:0cm">
<span style="color:#222222"><br>
__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org/?subject:unsubscribe" target="_BLANK">
OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><u></u><u></u></span></p>
</div>
</div>
</blockquote>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><u></u> <u></u></span></p>
</div>
<p class="MsoNormal" style="margin-top:4.5pt"><span style="color:#222222"><img src="https://app.mixmax.com/api/track/v2/DrWziYtTJofqeDgT1/ig2cuIXZwlHaAdmblBnI/IyZy9mLrNWY0NnblB3buMHdzlGbAZXZk1yajFGdz5WZw9mI/iQ3cpxEIn5WaslWYNBCduVWbw9GblZXZEByajFGdT5WZw9kI?sc=false" border="0" id="1437317062112"><u></u><u></u></span></p>
</td>
</tr>
</tbody>
</table>
</div>
<div>
<div class="h5">
<p class="MsoNormal" style="margin-bottom:12.0pt"><span style="color:black"><br>
__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org/?subject:unsubscribe" target="_BLANK">
OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><u></u><u></u></span></p>
</div>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal"><span style="color:black"><br>
<br clear="all">
<br>
-- <u></u><u></u></span></p>
<div>
<div>
<div>
<div>
<div>
<p class="MsoNormal" style="margin-bottom:12.0pt"><span style="color:black">Thanks,<u></u><u></u></span></p>
</div>
<p class="MsoNormal"><span style="color:black">Jay Lau (Guangya Liu)<u></u><u></u></span></p>
</div>
</div>
</div>
</div>
</div>
</div>
</div>
<div>
<div class="h5">
<p class="MsoNormal"><span style="color:black">__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="mailto:OpenStack-dev-request@lists.openstack.org">OpenStack-dev-request@lists.openstack.org</a>?subject:unsubscribe<br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><u></u><u></u></span></p>
</div>
</div>
</div>
</blockquote>
</div>
<p class="MsoNormal"><span style="color:black"><u></u> <u></u></span></p>
</div>
</div>
</div>
</div>
</div>
<br>
__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_BLANK">
OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_BLANK">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br>
</blockquote>
</div>
<br>
<br clear="all">
<br>
-- <br>
<div class="gmail_signature">
<div dir="ltr">
<div>
<div dir="ltr">
<div>Thanks,<br>
<br>
</div>
Jay Lau (Guangya Liu)<br>
</div>
</div>
</div>
</div>
</div>
</div>
</div>


</div><!--<![endif]--></includetail></div>