<div dir="ltr">Folks<div><br></div><div>This is what we should discuss. Let's think of better testing coverage when we decide to switch to new tag. We MUST NOT skip a single bug which we fixed in downstream. So this means that for each bug fixed in downstream there should be a set of tests merged into our testing framework along with the fix. This should be an obligatory requirement for each change. This testing framework MUST test each change to <a href="http://review.fuel-infra.org">review.fuel-infra.org</a> or to fuel-library so that we can catch such issues immediately.</div><div><br></div><div>I would start with covering each bug with particular unit and/or puppet-noop test and then, when we have working data-driven testing, there should be a template of test for each environment. </div><div><br></div><div>Again, Sergey and Ivan, their MUST be 0 (zero) commits skipped by downstream if they are not in upstream, unless it is 100% proven that this commit is not needed anymore. And this can be proven only either by this bugfix test passing against upstream or by SME's consensus on it. </div><div><br></div><div>I strongly urge you not to skip such fixes silently and discuss them with Fuel Library core reviewers.</div></div><div class="gmail_extra"><br><div class="gmail_quote">On Tue, Oct 20, 2015 at 1:26 PM, Sergii Golovatiuk <span dir="ltr"><<a href="mailto:sgolovatiuk@mirantis.com" target="_blank">sgolovatiuk@mirantis.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi,<div><br></div><div class="gmail_extra"><div class="gmail_quote"><span class="">On Mon, Oct 19, 2015 at 10:46 PM, Sergey Kolekonov <span dir="ltr"><<a href="mailto:skolekonov@mirantis.com" target="_blank">skolekonov@mirantis.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div>Hi,</div><div><br></div><div>I agree with Ivan. Getting rid of forks and moving to puppet-librarian is complicated work and such problems are nearly unavoidable. It's hard to cover all possible corner cases with regular tests.</div></div></blockquote><div><br></div></span><div>This case shows the lack of integration tests. We do not validate if config files for all services are exactly the same before and after switching to librarian. We rely on deployment only. This way is not accurate.</div><span class=""><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div>openstacklib module provides basic functionality for many OpenStack modules, so reverting it to Kilo code means breaking the whole Liberty deployment.</div><div>Let's don't block development process and merge all lost fixes.</div></div></blockquote><div><br></div></span><div>The main problem is not breaking deployment but recurring regressions and how to address them.</div><div><div class="h5"><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div><br></div><div>Thanks Matthew for reporting this issue.</div><div class="gmail_extra"><div><div><br><div class="gmail_quote">On Mon, Oct 19, 2015 at 10:10 PM, Ivan Berezovskiy <span dir="ltr"><<a href="mailto:iberezovskiy@mirantis.com" target="_blank">iberezovskiy@mirantis.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi,<div><br></div><div>First of all, I want to mention (I don't blame anyone), that two patchsets in bug description</div><div>([0], [1]) were not merged into upstream puppet-openstacklib module (and commit</div><div>messages don't contain links to upstream review). I see only one proposed patch [2]</div><div>from Dmitry Ilyin, which was abandoned at Sep 18. Now it's restored and</div><div>those issues should be fixed using it.</div><div><br></div><div>Second, our patches (moving to librarian) were tested several times under Fuel CI jobs,</div><div>on BVTs, smoke_neutron tests with Kilo and Liberty code. Unfortunately, we didn't find</div><div>problems with deployment.</div><div><br></div><div>Third, two weeks passed after merging of our patches for librarian, and only now</div><div>we are speaking about regressions.</div><div><br></div><div>Patch [2] covers missing two commits [0], [1], that's why I suggest to get it merged</div><div>and then recheck issues, because it's very late for reverting.</div><div><br></div><div><br></div><div>[0] - <a href="https://review.openstack.org/#/c/219668/" target="_blank">https://review.openstack.org/#/c/219668/</a></div><div>[1] - <a href="https://review.openstack.org/#/c/223676/" target="_blank">https://review.openstack.org/#/c/223676/</a></div><div>[2] - <a href="https://review.openstack.org/#/c/220224/" target="_blank">https://review.openstack.org/#/c/220224/</a></div></div><div class="gmail_extra"><div><div><br><div class="gmail_quote">2015-10-19 20:59 GMT+03:00 Sergii Golovatiuk <span dir="ltr"><<a href="mailto:sgolovatiuk@mirantis.com" target="_blank">sgolovatiuk@mirantis.com</a>></span>:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi,<div><br></div><div>The policy should be revert, IMHO. cherry-pick doesn't guarantee the consistency, so it will take more time... Also this way gives time to write tests to exclude the regression in future.</div><div><br></div></div><div class="gmail_extra"><br clear="all"><div><div><div dir="ltr">--<br>
Best regards,<br>
Sergii Golovatiuk,<br>
Skype #golserge<br>
IRC #holser<br></div></div></div>
<br><div class="gmail_quote"><div><div>On Mon, Oct 19, 2015 at 6:52 PM, Matthew Mosesohn <span dir="ltr"><<a href="mailto:mmosesohn@mirantis.com" target="_blank">mmosesohn@mirantis.com</a>></span> wrote:<br></div></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div><div dir="ltr"><div><div><div><div><div><div>Hi Fuelers,<br><br></div>It seems we have a regression on two critical bugs because of switching Fuel to puppet-openstacklib:<br><a href="https://bugs.launchpad.net/fuel/+bug/1507685" target="_blank">https://bugs.launchpad.net/fuel/+bug/1507685</a><br><br></div>This regressed to patches that were in Fuel Library that addressed two bugs marked as Critical.<br><br></div>We should improve the acceptance criteria for moving to upstream modules to ensure no bugs are regressed that relate to the particular Puppet module being migrated.<br><br></div>Secondly, what should our policy be? Revert the switch to upstream module? Or just work on cherry-picking the appropriate fixes?<br><br></div>Best Regards,<br></div>Matthew Mosesohn<br></div>
<br></div></div>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div><br></div>
<br>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div></div></div><span><font color="#888888">-- <br><div><div dir="ltr"><div><div dir="ltr"><font face="verdana, sans-serif">Thanks, Ivan Berezovskiy</font><div><font face="verdana, sans-serif">MOS Puppet Team Lead</font></div><div><font face="verdana, sans-serif">at <a href="https://www.mirantis.com/" target="_blank">Mirantis</a></font></div><div><font face="verdana, sans-serif"><br></font></div><div><font face="verdana, sans-serif">slack: iberezovskiy</font></div><div><font face="verdana, sans-serif">skype: bouhforever</font></div><div><font face="verdana, sans-serif">phone: <a href="tel:%2B%207-960-343-42-46" value="+79603434246" target="_blank">+ 7-960-343-42-46</a></font></div><div><font face="verdana, sans-serif"><br></font></div></div></div></div></div>
</font></span></div>
<br>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div>-- <br></div></div><div><div dir="ltr"><div><div dir="ltr">Regards,<div>Sergey Kolekonov</div></div></div></div></div>
</div></div>
<br>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div></div></div><br></div></div>
<br>__________________________________________________________________________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.openstack.org?subject:unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div>-- <br><div class="gmail_signature"><div dir="ltr"><div><div dir="ltr">Yours Faithfully,<br>Vladimir Kuklin,<br>Fuel Library Tech Lead,<br>Mirantis, Inc.<br>+7 (495) 640-49-04<br>+7 (926) 702-39-68<br>Skype kuklinvv<br>35bk3, Vorontsovskaya Str.<br>Moscow, Russia,<br><a href="http://www.mirantis.ru/" target="_blank">www.mirantis.com</a><br><a href="http://www.mirantis.ru/" target="_blank">www.mirantis.ru</a><br><a href="mailto:vkuklin@mirantis.com" target="_blank">vkuklin@mirantis.com</a></div></div></div></div>
</div>