<div dir="ltr">Just to chime in from an Octavia perspective as we were added to the subject.<div><br></div><div>We have not had issues with DIB.  There are things about the elements that could be improved, and we have been working on those over time.  Currently we build the image with DIB for our scenario test runs and devstack.</div><div><br></div><div>For images, we are investigating options to build smaller images, but again, I think DIB can support us in that and mostly it is work on elements.<br></div><div><br></div><div>Michael</div><div><br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, May 5, 2016 at 7:43 AM, Mariam John <span dir="ltr"><<a href="mailto:mariamj@us.ibm.com" target="_blank">mariamj@us.ibm.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><p><img width="16" height="16" src="cid:1__=8FBBF539DFDC104A8f9e8a93df938690918c8FB@" border="0" alt="Inactive hide details for Victoria Martínez de la Cruz ---05/05/2016 08:12:33 AM---Hi all, A few things:"><font color="#424282">Victoria Martínez de la Cruz ---05/05/2016 08:12:33 AM---Hi all, A few things:</font><br><br><font size="2" color="#5F5F5F">From:        </font><font size="2">Victoria Martínez de la Cruz <<a href="mailto:victoria@vmartinezdelacruz.com" target="_blank">victoria@vmartinezdelacruz.com</a>></font><span class=""><br><font size="2" color="#5F5F5F">To:        </font><font size="2">"OpenStack Development Mailing List (not for usage questions)" <<a href="mailto:openstack-dev@lists.openstack.org" target="_blank">openstack-dev@lists.openstack.org</a>></font><br></span><font size="2" color="#5F5F5F">Date:        </font><font size="2">05/05/2016 08:12 AM</font><span class=""><br><font size="2" color="#5F5F5F">Subject:        </font><font size="2">Re: [openstack-dev] [trove][sahara][infra][Octavia][manila] discussion of image building in Trove</font><br></span></p><hr width="100%" size="2" align="left" noshade style="color:#8091a5"><br><br><br><span class=""><font size="4">Hi all,</font><br><br><font size="4">A few things:</font><br><br></span><font size="4">- I agree that moving from DIB to libguestfs is a bold move and that we should try to avoid changing tools unless highly necessary. The downsides we found for DIB are detailed in this spec [0] and Ethan (in this same thread) also added valid points on the Sahara case. My concern here is, should we stick with DIB just because is the standard for image creation? Shouldn't we take in consideration that some projects, like Sahara, are moving away from?</font><br><br><i><font size="4" color="#0000FF">I think it would be worth trying to see if DIB can address the concerns raised by the different projects around image building and improve upon that. By improving DIB, I think all these projects and OpenStack in general can benefit from it. </font></i><br><div><div class="h5"><br><font size="4">- In the long term it would be ideal that we reach to a common solution for image creation for all the projects that need tailored images: Trove, Sahara, Octavia, Manila, and IIRC, Kolla and Cue.</font><br><font size="4">- In the short term, I'm on board or working on having tools based on DIB for image creation in Trove.</font><br><font size="4">- Amrith, Pete is working on the image creation process for Trove. The spec is up there [0]. I think is his work to kick-off that repository.</font><br><br><font size="4">Best,</font><br><br><font size="4">Victoria</font><br><br><font size="4">[0] </font><a href="https://review.openstack.org/#/c/295274/" target="_blank"><u><font size="4" color="#0000FF">https://review.openstack.org/#/c/295274/</font></u></a><br><br><font size="4">2016-05-04 23:20 GMT-03:00 Amrith Kumar <</font><a href="mailto:amrith@tesora.com" target="_blank"><u><font size="4" color="#0000FF">amrith@tesora.com</font></u></a><font size="4">>:</font><ul><font color="#1F497D">As we discussed at summit, (and consistent with all of the comments) we should move ahead with the project to advance the image builder for Trove and make it easier to build guest images for Trove by leveraging the DIB elements that we have in trove-integration.</font><p><font color="#1F497D"> </font></p><p><font color="#1F497D">To that end, the infra [1] and governance [2] changes have been submitted for review. The Launchpad tracker [3] has been registered.</font></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D">I am working on taking the existing DIB elements in trove-integration and putting them in the new repository (openstack/trove-image-builder). I am also going to continue to watch this conversation and record any shortcomings with the existing DIB elements in Launchpad [3] and work on fixing those as well. Pete mentions one in his earlier email and I’ve logged that in Launchpad [4].</font></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D">Thanks,</font></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D">-amrith</font></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D">[1] </font><a href="https://review.openstack.org/#/c/312805/" target="_blank"><u><font color="#0000FF">https://review.openstack.org/#/c/312805/</font></u></a></p><p><font color="#1F497D">[2] </font><a href="https://review.openstack.org/#/c/312806/" target="_blank"><u><font color="#0000FF">https://review.openstack.org/#/c/312806/</font></u></a></p><p><font color="#1F497D">[3] </font><a href="https://launchpad.net/trove-image-builder" target="_blank"><u><font color="#0000FF">https://launchpad.net/trove-image-builder</font></u></a></p><p><font color="#1F497D">[4] </font><a href="https://bugs.launchpad.net/trove-image-builder/+bug/1578454" target="_blank"><u><font color="#0000FF">https://bugs.launchpad.net/trove-image-builder/+bug/1578454</font></u></a></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D"> </font></p><p><font color="#1F497D"> </font></p><p><b><font face="Calibri">From:</font></b><font face="Calibri"> Mariam John [mailto:</font><a href="mailto:mariamj@us.ibm.com" target="_blank"><u><font color="#0000FF" face="Calibri">mariamj@us.ibm.com</font></u></a><font face="Calibri">] </font><b><font face="Calibri"><br>Sent:</font></b><font face="Calibri"> Wednesday, May 04, 2016 4:19 PM</font><b><font face="Calibri"><br>To:</font></b><font face="Calibri"> OpenStack Development Mailing List (not for usage questions) <</font><a href="mailto:openstack-dev@lists.openstack.org" target="_blank"><u><font color="#0000FF" face="Calibri">openstack-dev@lists.openstack.org</font></u></a><font face="Calibri">></font></p><p><b><font face="Calibri"><br>Subject:</font></b><font face="Calibri"> Re: [openstack-dev] [trove][sahara][infra][Octavia][manila] discussion of image building in Trove</font></p><p><font size="4" face="Times New Roman"> </font></p><p><font size="4" face="Times New Roman">The way I see this, these are the 2 main concerns I have been hearing regarding image building in Trove:<br>1) making the process simple and easy for users<br>2) addressing the issue of security <br><br>I dont think there is any argument regarding the benefits of moving the database elements to a seperate repository and packaging and managing them from there. <br><br>It looks like the case that we make for whether to use libguestfs or DIB for image building are in the technical details of how image building happens and their nuances - assuming that ease of use & having a simple interface to build secure images matters most, I wonder if the end-users would be concerned about these details.<br><br>By addressing some of the issues like:<br>- moving the Trove elements to a new repository <br>- adding support for new distros<br>- creating a wrapper script for building an image -getting the Trove guest agent code & configuration files <br>- managing environment variables better<br><br>I believe it will make a huge improvement in terms of simplifying and improving the ease of use for end users and hence could be the low hanging fruit that we can implement in the mean time. I agree that switching from DIB to any other tool is a big step and we need to put alot of thought into it like many others have suggested. Like Pete mentioned earlier in one of the links, there are couple of other tools available for building images. I am sure we could make the case for each of these tools and how it is easier/faster/better than the others. If we go down this route experimenting with libguestfs, is there anything stopping us couple of releases down the lane from wanting to experiment with some other tool because libguestfs doesn't perform well? The end user could use any tool they want to use to create images if they wish to do so but I agree and believe that Trove should support a standard way of building images (DIB being an OpenStack project, I would assume that would be the standard) and do it well keeping it simple and easy to use as opposed to what it is today. <br><br>I think we should split this into 2 tasks<br>- one for going forward with seperating image building into a seperate repository and putting all efforts into simplifying the current process, and <br>- second, to have a joint collaboration with the DIB/TripleO team to raise concerns regarding DIB and see if we can address them in turn OR if using a different tool like libguestfs makes sense at that point.<br><br>Thanks,<br>Mariam.<br><br></font><img src="cid:1__=8FBBF539DFDC104A8f9e8a93df938690918c8FB@" width="16" height="16" alt="Inactive hide details for Peter MacKinnon ---05/04/2016 12:39:15 PM---On 5/4/16 12:52 PM, Gregory Haynes wrote: > On Wed, May 4"><font size="4" color="#424282" face="Times New Roman">Peter MacKinnon ---05/04/2016 12:39:15 PM---On 5/4/16 12:52 PM, Gregory Haynes wrote: > On Wed, May 4, 2016, at 08:55 AM, Flavio Percoco wrote:</font><font size="4" face="Times New Roman"><br></font><font color="#5F5F5F"><br>From: </font>Peter MacKinnon <<a href="mailto:pmackinn@redhat.com" target="_blank"><u><font color="#0000FF">pmackinn@redhat.com</font></u></a>><font color="#5F5F5F"><br>To: </font><a href="mailto:openstack-dev@lists.openstack.org" target="_blank"><u><font color="#0000FF">openstack-dev@lists.openstack.org</font></u></a><font color="#5F5F5F"><br>Date: </font>05/04/2016 12:39 PM<font color="#5F5F5F"><br>Subject: </font>Re: [openstack-dev] [trove][sahara][infra][Octavia][manila] discussion of image building in Trove
</p><p></p><hr width="100%" size="2" align="left" noshade><p><font size="4" face="Times New Roman"><br><br></font><font face="Courier New"><br>On 5/4/16 12:52 PM, Gregory Haynes wrote:<br>> On Wed, May 4, 2016, at 08:55 AM, Flavio Percoco wrote:<br>>> On 04/05/16 15:05 +0000, Amrith Kumar wrote:<br>>>> I'm emailing the ML on the subject of a review ongoing in the Trove project regarding image building[1].<br>>>><br>>>> TL;DR<br>>>><br>>>> One of the most frequent questions that new users of Trove ask is how and where to get guest images with which to experiment with Trove, and how to build these images for themselves. While documentation about this exists in multiple places (including [2], [3]) this is still something that can do with some improvement.<br>>>><br>>>> Trove currently uses diskimage-builder for building images used in testing the product and these can serve as a good basis for anyone wishing to build an image for their own use of Trove. The review [1] makes the argument for the libguestfs based approach to building images and advocates that Trove should use this instead of diskimage-builder.<br>>> At the summit we discussed the possibility of providing an implementation<br>>> that<br>>> would allow for both DIB and libguestfs to be used but to give priority<br>>> to DIB.<br>>> Since there's no real intention of just switching tools at this point, I<br>>> believe<br>>> it'd be good to amend the spec so that it doesn't mention libguestfs<br>>> should be<br>>> used instead of DiB.<br>>><br>>> The goal at this stage is to provide both and help these move forward.<br>>><br>>>> I believe that a broader discussion of this is required and I appreciate Greg Haynes' proposal at the design summit to have this discussion on the ML. I took the action item to bring this discussion to the ML.<br>>>><br>>>> Details follow ...<br>>>><br>>>> Before going further, I will state my views on these matters.<br>>>><br>>>> 1. It is important for the Trove project to do things quickly to make it easier for end users who wish to use Trove and who wish to build their own images. I am not concerned what tool or tools a person will use to build these images.<br>> ++. One of the biggest issues I see users of DIB hit is ease of use for<br>> 'just make me an image, I don't care about twiddling knobs'. A wrapper<br>> script in trove is one way to help with this, but I am sure there are<br>> other solutions as well... maybe by rethinking some of our fear about<br>> using elements as entry points to an image build, or by simply making<br>> element's with better defaults.<br>><br>>>> 2. If we provide multiple alternatives to image building as part of the Trove project, we should make sure that images built with all sets of tools are equivalent and usable interchangeably. Failing to do this will make it harder for users to use Trove because we will be providing them with a false choice (i.e. the alternatives aren't really alternatives). This is harder than it sounds given the combination of tools, operating systems, and the source(s) from which you can get database software.<br>>> Maintaining both in the long run will be harder especially because, as<br>>> you<br>>> mentioned, the output must be usable interchangeably. However, I think<br>>> we're at<br>>> a point, based on the comments in [1] made by Pino Toscano, Luigi Toscano<br>>> and<br>>> some other folks that it'd be beneficial for us to have this discussion<br>>> and to<br>>> also experiment/test other options.<br>>><br>>> The Sahara team seems to be going in a direction that differs with the<br>>> one used<br>>> by the infra team and the one we're headed to (although they overlap in<br>>> some<br>>> areas).<br>>><br>> I would highly recommend against having two sets of image building code<br>> for Trove - given DIB's current design there should not be any need for<br>> this and there's a HUGE downside to maintaining two sets of code to do<br>> the same thing in-tree. Ideally a single set of code would be used while<br>> being able to be run in different environments if there are mutually<br>> exclusive requirements being proposed by users.<br><br>Well, certainly one downside in the case of Trove (and probably <br>elsewhere) with DIB is the src tree matrix of datastore-by-distro <br>elements required to support various guest image combinations, leading <br>to a proliferation of directories and files. We feel this can be greatly <br>simplified using a libguestfs approach using a minimal set of bash and <br>directly applicable data files (e.g., systemd unit files, conf files, <br>etc.).<br><br>><br>> What seemed very apparent to me in the summit session is that there are<br>> a set of issues for Trove relating to image building, mostly relating to<br>> reliability and ease of use. There was no one who even mentioned let<br>> alone strongly cared about the issues which actually differentiate the<br>> existing DIB build process from libguestfs (which is isolation). If that<br>> has changed for some reason, then my recommendation would be to use a<br>> tool like virt-dib which will allow for a single image building code<br>> base while solving all the raised issues in the spec. I suspect when<br>> this is tried out the downsides to booting a VM will highly outweigh the<br>> benefits for almost all users (especially in trove's gate),<br><br>Anecdotally, it takes the same amount of time for a CentOS7 MySQL build <br>(~ 7 minutes) with either toolchain.<br><br>> but if the<br>> libguestfs docs are to be believed this should be trivial to try out.<br><br>Not quite sure what you mean by "to be believed"?<br><br>><br>><br>>>> 3. Trove already has elements for all supported databases using DIB in the trove-integration project but these elements are not packaged for customer use. Making them usable by customers is a relatively small effort including providing a wrapper script (derived from redstack[4]) and providing an element to install the guest agent software from a fixed location in addition to the development and testing version that is better suited to Trove development [5] and [6].<br>>>><br>>>> 4. My comments on various patch sets in the review[1].<br>>>><br>>>> I agree with Monty and Greg Haynes that we should understand the deficiencies if any in DIB, and if it is in fact the case that they are "intractable/unsolvable", we should switch toolchains. This discussion should include issues faced by the Trove team as well as other teams that may have faced problems with DIB (such as the sahara team who described some of them in the past).<br>>> ++<br>>><br>>> Agreed with the above. I'm think collaboration should be the preferred<br>>> way. I<br>>> don't think I've enough technical insight on this topic to provide a<br>>> detailed<br>>> list of things that are good/bad on either of these tools but I wanted to<br>>> mention that I believe providing support for both in the short run is<br>>> good for<br>>> us and it helps to make a better decision on what tool works best for the<br>>> project.<br>> Rewriting image building code in order to find out if we want to use a<br>> tool seems completely backwards. Obviously, if some external team wants<br>> to do this there's nothing stopping them, but what we should focus on<br>> are what problems actually effect out user base and what we can do to<br>> solve them. We should *not* be focusing on finding ways to support<br>> various image building frameworks without a clear benefit to doing so.<br><br>The various image building frameworks have been noted here </font><u><font color="#0000FF" face="Courier New"><br></font></u><a href="http://docs.openstack.org/image-guide/create-images-automatically.html" target="_blank"><u><font color="#0000FF" face="Courier New">http://docs.openstack.org/image-guide/create-images-automatically.html</font></u></a><font face="Courier New"> <br>including libguestfs. So it's not like it is an unknown quantity. In the <br>interest of innovation I'm not sure I understand the hearty reluctance <br>to explore this path. We are proposing simply another Trove repo with an <br>alternate (and recognized) image build method. This is not displacing <br>any established tool for Trove; such a tool doesn't exist today. The <br>elements in trove-integration don't really count since they are largely <br>developed for Ubuntu only, inject Trove guestagent src from git only, <br>and, beyond MySQL 5.6, are not tested by the gate.<br><br>><br>>> There's someone willing to do the job and spend sometime doing the<br>>> research.<br>>> This same person will provide feedback in addition to the one already<br>>> provided<br>>> in [1].<br>>><br>>> Sorry for not providing much technical details now but I did want to<br>>> share the<br>>> above. Thanks for starting this thread, I believe this discussion in the<br>>> ML will<br>>> be beneficial.<br>>><br>>> Flavio<br>>><br>>>> Thanks,<br>>>><br>>>> -amrith<br>>>><br>>>><br>>>> [1] </font><a href="https://review.openstack.org/#/c/295274/" target="_blank"><u><font color="#0000FF" face="Courier New">https://review.openstack.org/#/c/295274/</font></u></a><font face="Courier New"><br>>>> [2] </font><a href="http://docs.openstack.org/developer/trove/dev/building_guest_images.html" target="_blank"><u><font color="#0000FF" face="Courier New">http://docs.openstack.org/developer/trove/dev/building_guest_images.html</font></u></a><font face="Courier New"><br>>>> [3] </font><a href="https://git.openstack.org/cgit/openstack/diskimage-builder/tree/README.rst#writing-an-element" target="_blank"><u><font color="#0000FF" face="Courier New">https://git.openstack.org/cgit/openstack/diskimage-builder/tree/README.rst#writing-an-element</font></u></a><font face="Courier New"><br>>>> [4] </font><a href="http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/redstack" target="_blank"><u><font color="#0000FF" face="Courier New">http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/redstack</font></u></a><font face="Courier New"><br>>>> [5] </font><a href="http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/files/trove-guest.systemd.conf" target="_blank"><u><font color="#0000FF" face="Courier New">http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/files/trove-guest.systemd.conf</font></u></a><font face="Courier New"><br>>>> [6] </font><a href="http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/files/trove-guest.upstart.conf" target="_blank"><u><font color="#0000FF" face="Courier New">http://git.openstack.org/cgit/openstack/trove-integration/tree/scripts/files/trove-guest.upstart.conf</font></u></a><font face="Courier New"><br>>>><br>>>> __________________________________________________________________________<br>>>> OpenStack Development Mailing List (not for usage questions)<br>>>> Unsubscribe: </font><a href="mailto:OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank"><u><font color="#0000FF" face="Courier New">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</font></u></a><font face="Courier New"><br>>>> </font><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank"><u><font color="#0000FF" face="Courier New">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</font></u></a><font face="Courier New"><br>>> -- <br>>> @flaper87<br>>> Flavio Percoco<br>>> __________________________________________________________________________<br>>> OpenStack Development Mailing List (not for usage questions)<br>>> Unsubscribe:<br>>> </font><a href="mailto:OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank"><u><font color="#0000FF" face="Courier New">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</font></u></a><font face="Courier New"><br>>> </font><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank"><u><font color="#0000FF" face="Courier New">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</font></u></a><font face="Courier New"><br>>> Email had 1 attachment:<br>>> + signature.asc<br>>>    1k (application/pgp-signature)<br>> __________________________________________________________________________<br>> OpenStack Development Mailing List (not for usage questions)<br>> Unsubscribe: </font><a href="mailto:OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank"><u><font color="#0000FF" face="Courier New">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</font></u></a><font face="Courier New"><br>> </font><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank"><u><font color="#0000FF" face="Courier New">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</font></u></a><font face="Courier New"><br><br><br>__________________________________________________________________________<br>OpenStack Development Mailing List (not for usage questions)<br>Unsubscribe: </font><a href="mailto:OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank"><u><font color="#0000FF" face="Courier New">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</font></u></a><u><font color="#0000FF" face="Courier New"><br></font></u><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank"><u><font color="#0000FF" face="Courier New">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</font></u></a><font face="Courier New"><br><br></font><br><font size="4"><br>__________________________________________________________________________<br>OpenStack Development Mailing List (not for usage questions)<br>Unsubscribe: </font><a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank"><u><font size="4" color="#0000FF">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</font></u></a><u><font size="4" color="#0000FF"><br></font></u><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank"><u><font size="4" color="#0000FF">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</font></u></a><font size="4"><br></font></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p><p></p></ul><tt>__________________________________________________________________________<br>OpenStack Development Mailing List (not for usage questions)<br>Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br></tt><tt><a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a></tt><tt><br></tt><br><br>
</div></div><p></p></div>
<br>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div><br></div>