<div dir="ltr"><a href="https://review.openstack.org/575264">https://review.openstack.org/575264</a> just landed (and didn't timeout in check nor gate without recheck, so good sigh it helped to mitigate).<br><div><br></div><div>I've restore and rechecked some patches that I evacuated from the gate, please do not restore others or recheck or approve anything for now, and see how it goes with a few patches.</div><div>We're still working with Steve on his patches to optimize the way we deploy containers on the registry and are investigating how we could make it faster with a proxy.</div><div><br></div><div>Stay tuned and thanks for your patience.</div></div><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Jun 13, 2018 at 5:50 PM, Emilien Macchi <span dir="ltr"><<a href="mailto:emilien@redhat.com" target="_blank">emilien@redhat.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">TL;DR: gate queue was 25h+, we put all patches from gate on standby, do not restore/recheck until further announcement.<div><br></div><div>We recently enabled the containerized undercloud for multinode jobs and we believe this was a bit premature as the container download process wasn't optimized so it's not pulling the mirrors for the same containers multiple times yet.</div><div>It caused the job runtime to increase and probably the load on <a href="http://docker.io" target="_blank">docker.io</a> mirrors hosted by OpenStack Infra to be a bit slower to provide the same containers multiple times. The time taken to prepare containers on the undercloud and then for the overcloud caused the jobs to randomly timeout therefore the gate to fail in a high amount of times, so we decided to remove all jobs from the gate by abandoning the patches temporarily (I have them in my browser and will restore when things are stable again, please do not touch anything).<br clear="all"><div><br></div><div>Steve Baker has been working on a series of patches that optimize the way we prepare the containers but basically the workflow will be:</div><div>- pull containers needed for the undercloud into a local registry, using infra mirror if available</div><div>- deploy the containerized undercloud</div><div>- pull containers needed for the overcloud minus the ones already pulled for the undercloud, using infra mirror if available</div><div>- update containers on the overcloud</div><div>- deploy the containerized undercloud</div><div><br></div><div>With that process, we hope to reduce the runtime of the deployment and therefore reduce the timeouts in the gate.</div><div>To enable it, we need to land in that order: <a href="https://review.openstack.org/#/c/571613/" target="_blank">https://review.<wbr>openstack.org/#/c/571613/</a>, <a href="https://review.openstack.org/#/c/574485/" target="_blank">htt<wbr>ps://review.openstack.org/#/c/<wbr>574485/</a>, <a href="https://review.openstack.org/#/c/571631/" target="_blank">https://review.<wbr>openstack.org/#/c/571631/</a> and <a href="https://review.openstack.org/#/c/568403" target="_blank">https://review.openstack.<wbr>org/#/c/568403</a>.</div><div><br></div><div>In the meantime, we are disabling the containerized undercloud recently enabled on all scenarios: <a href="https://review.openstack.org/#/c/575264/" target="_blank">https://review.<wbr>openstack.org/#/c/575264/</a> for mitigation with the hope to stabilize things until Steve's patches land.</div><div>Hopefully, we can merge Steve's work tonight/tomorrow and re-enable the containerized undercloud on scenarios after checking that we don't have timeouts and reasonable deployment runtimes.</div><div><br></div><div>That's the plan we came with, if you have any question / feedback please share it.</div><span class="HOEnZb"><font color="#888888"><div>-- <br></div><div class="m_6423698452322616991gmail_signature">Emilien, Steve and Wes</div>
</font></span></div></div>
</blockquote></div><br><br clear="all"><div><br></div>-- <br><div class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr">Emilien Macchi<br></div></div>
</div>