<div dir="ltr">TL;DR: gate queue was 25h+, we put all patches from gate on standby, do not restore/recheck until further announcement.<div><br></div><div>We recently enabled the containerized undercloud for multinode jobs and we believe this was a bit premature as the container download process wasn't optimized so it's not pulling the mirrors for the same containers multiple times yet.</div><div>It caused the job runtime to increase and probably the load on <a href="http://docker.io">docker.io</a> mirrors hosted by OpenStack Infra to be a bit slower to provide the same containers multiple times. The time taken to prepare containers on the undercloud and then for the overcloud caused the jobs to randomly timeout therefore the gate to fail in a high amount of times, so we decided to remove all jobs from the gate by abandoning the patches temporarily (I have them in my browser and will restore when things are stable again, please do not touch anything).<br clear="all"><div><br></div><div>Steve Baker has been working on a series of patches that optimize the way we prepare the containers but basically the workflow will be:</div><div>- pull containers needed for the undercloud into a local registry, using infra mirror if available</div><div>- deploy the containerized undercloud</div><div>- pull containers needed for the overcloud minus the ones already pulled for the undercloud, using infra mirror if available</div><div>- update containers on the overcloud</div><div>- deploy the containerized undercloud</div><div><br></div><div>With that process, we hope to reduce the runtime of the deployment and therefore reduce the timeouts in the gate.</div><div>To enable it, we need to land in that order: <a href="https://review.openstack.org/#/c/571613/">https://review.openstack.org/#/c/571613/</a>, <a href="https://review.openstack.org/#/c/574485/">https://review.openstack.org/#/c/574485/</a>, <a href="https://review.openstack.org/#/c/571631/">https://review.openstack.org/#/c/571631/</a> and <a href="https://review.openstack.org/#/c/568403">https://review.openstack.org/#/c/568403</a>.</div><div><br></div><div>In the meantime, we are disabling the containerized undercloud recently enabled on all scenarios: <a href="https://review.openstack.org/#/c/575264/">https://review.openstack.org/#/c/575264/</a> for mitigation with the hope to stabilize things until Steve's patches land.</div><div>Hopefully, we can merge Steve's work tonight/tomorrow and re-enable the containerized undercloud on scenarios after checking that we don't have timeouts and reasonable deployment runtimes.</div><div><br></div><div>That's the plan we came with, if you have any question / feedback please share it.</div><div>-- <br></div><div class="gmail_signature">Emilien, Steve and Wes</div>
</div></div>