<div dir="ltr"><div>Hi,</div><div><br></div><div>We're currently in the progress of using the <a href="http://quay.ceph.io" target="_blank">quay.ceph.io</a> registry [1] with a copy of the ceph container images from <a href="http://docker.io" target="_blank">docker.io</a> and consumed by the ceph-ansible CI [2].</div><div><br></div><div>Official ceph images will still be updated on <a href="http://docker.io" target="_blank">docker.io</a>.</div><div><br></div><div>Note that from a ceph-ansible point of view, switching to the <a href="http://quay.ceph.io" target="_blank">quay.ceph.io</a> registry isn't enough to get rid of the <a href="http://docker.io" target="_blank">docker.io</a> registry when deploying with the Ceph dashboard enabled.</div><div>The whole monitoring stack (alertmanager, prometheus, grafana and node-exporter) coming with the Ceph dashboard is still using <a href="http://docker.io" target="_blank">docker.io</a> by default [3][4][5][6].<br></div><div><br></div><div>As an alternative, you can use the official quay registry (<a href="http://quay.io" target="_blank">quay.io</a>) for altermanager, prometheus and node-exporter images [7] from the prometheus namespace like we're doing in [2].</div><div>Only the grafana container image will still be pulled from <a href="http://docker.io" target="_blank">docker.io</a>.</div><div><br></div><div>Regards,</div><div><br></div><div>Dimitri</div><div><br></div><div><br></div><div>[1] <a href="https://quay.ceph.io/repository/ceph-ci/daemon?tab=tags" target="_blank">https://quay.ceph.io/repository/ceph-ci/daemon?tab=tags</a></div><div>[2] <a href="https://github.com/ceph/ceph-ansible/pull/5726" target="_blank">https://github.com/ceph/ceph-ansible/pull/5726</a></div><div>[3] <a href="https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L802" target="_blank">https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L802</a></div><div>[4] <a href="https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L793" target="_blank">https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L793</a></div><div>[5] <a href="https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L767" target="_blank">https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L767</a></div><div>[6] <a href="https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L757" target="_blank">https://github.com/ceph/ceph-ansible/blob/master/roles/ceph-defaults/defaults/main.yml#L757</a></div><div>[7] <a href="https://quay.io/organization/prometheus">https://quay.io/organization/prometheus</a></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Sep 4, 2020 at 12:42 PM John Fulton <<a href="mailto:johfulto@redhat.com" target="_blank">johfulto@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Sep 4, 2020 at 12:13 PM Wesley Hayutin <<a href="mailto:whayutin@redhat.com" target="_blank">whayutin@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Sep 4, 2020 at 7:23 AM Giulio Fidente <<a href="mailto:gfidente@redhat.com" target="_blank">gfidente@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On 9/2/20 1:54 PM, Wesley Hayutin wrote:<br>
> Greetings,<br>
> <br>
> Some of you have contacted me regarding the recent news regarding<br>
> <a href="http://docker.io" rel="noreferrer" target="_blank">docker.io</a> <<a href="http://docker.io" rel="noreferrer" target="_blank">http://docker.io</a>>'s new policy with regards to container pull<br>
> rate limiting [1].  I wanted to take the opportunity to further<br>
> socialize our plan that will completely remove <a href="http://docker.io" rel="noreferrer" target="_blank">docker.io</a><br>
> <<a href="http://docker.io" rel="noreferrer" target="_blank">http://docker.io</a>> from our upstream workflows and avoid any rate<br>
> limiting issues.<br>
<br>
thanks; I guess this will be a problem for the ceph containers as well<br>
<br>
> We will continue to upload containers to <a href="http://docker.io" rel="noreferrer" target="_blank">docker.io</a> <<a href="http://docker.io" rel="noreferrer" target="_blank">http://docker.io</a>><br>
> for some time so that individuals and the community can access the<br>
> containers.  We will also start exploring other registries like quay and<br>
> newly announced github container registry. These other public registries<br>
> will NOT be used in our upstream jobs and will only serve the<br>
> communities individual contributors.<br>
<br>
I don't think ceph found alternatives yet, but Guillaume or Dimitri<br>
might know more about it<br>
-- <br></blockquote><div><br></div><div>talk to Fulton.. I think we'll have ceph covered from a tripleo perspective.  Not sure about anything else.</div></div></div></blockquote><div><br></div><div>Yes, thank you Wes for your help on the plan to cover the TripleO CI perspective. A thread similar to this one has been posted on ceph-dev [1] the outcome so far is that some Ceph projects are using <a href="http://quay.ceph.com" target="_blank">quay.ceph.com</a> to store temporary CI images to deal with the <a href="http://docker.io" target="_blank">docker.io</a> rate limits.</div><div><br></div><div>As per an IRC conversation I had with Dimitri, ceph-ansible is not using <a href="http://quay.ceph.com" target="_blank">quay.ceph.com</a> but has made some changes to deal with current rate limits [2]. I expect they'll need to make further changes for November but my understanding is that they're still looking to push the authoritative copy of the Ceph container image [3] we use to <a href="http://docker.io" target="_blank">docker.io</a>. <br></div><div><br></div><div>On the TripleO side we change that image rarely so provided it can be cached for CI jobs we should be safe. When we do change the image to the newer version we use a DNM patch [4] to pull it directly from docker. We could continue to do this as only that patch would be vulnerable to the rate limit. If we then see by way of the CI to the DNM patch that the new image is good, we can pursue getting it cached as the new image for TripleO CI Ceph jobs. One thing that's not clear to me is the mechanism to do this.<br></div><div><br></div><div>  John<br></div><div><br></div><div>[1] <a href="https://lists.ceph.io/hyperkitty/list/dev@ceph.io/thread/BYZOGN3Y3CJLY35QLDL7SX6SOX74YZCE/#BYZOGN3Y3CJLY35QLDL7SX6SOX74YZCE" target="_blank">https://lists.ceph.io/hyperkitty/list/dev@ceph.io/thread/BYZOGN3Y3CJLY35QLDL7SX6SOX74YZCE/#BYZOGN3Y3CJLY35QLDL7SX6SOX74YZCE</a></div><div>[2] <a href="https://github.com/ceph/ceph-container/blob/master/tests/tox.sh#L86-L110" target="_blank">https://github.com/ceph/ceph-container/blob/master/tests/tox.sh#L86-L110</a></div><div>[3] <a href="https://hub.docker.com/r/ceph/daemon" target="_blank">https://hub.docker.com/r/ceph/daemon</a> <br></div><div>[4] <a href="https://review.opendev.org/#/c/690036/" target="_blank">https://review.opendev.org/#/c/690036/</a></div><div><br></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Giulio Fidente<br>
GPG KEY: 08D733BA<br>
<br>
</blockquote></div></div>
</blockquote></div></div>
</blockquote></div>