<div dir="ltr">Hi Nikhil,<div><br></div><div>Thanks so much for you response.</div><div><br></div><div>1) No, this is a private cloud.</div><div>2) Glance v1 (this problem has manifested itself in one of our oldest deployments, which is running Icehouse).</div><div>3) No, location is not exposed.</div><div>4) Glance is setup with the filesystem backend drive, using a Gluster volume mounted on the host..</div><div>5.1) Images were in active state, even though the image file had zero bytes.</div><div>5.2) very low, it may have happened only twice in the last year.</div><div><br></div><div>Even if the location is not exposed, there are a number of things that can happen to the actual images files after they've been uploaded to Glance, without Glance noticing, depending how reliable your storage backend is. That's why I thought, in some circumstances, it would be useful to have some sort of background service checking that image files haven't been corrupted or gone missing altogether.</div><div><br></div><div>Sergio</div><div><br></div><div><div class="gmail_extra"><br><div class="gmail_quote">On Mon, Sep 12, 2016 at 7:27 PM, Nikhil Komawar <span dir="ltr"><<a href="mailto:nik.komawar@gmail.com" target="_blank">nik.komawar@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><br>
Hi Sergio,<br>
<br>
Thanks for reaching out. And this is an excellent question.<br>
<br>
Firstly, I'd like to mention that Glance is built-in (and if deployed<br>
correctly) is self-resilient in ensuring that you do NOT need an audit<br>
of such files. In fact, if any operator (particularly large scale<br>
operator) needs such a system we have a serious issue where potentially<br>
important /user/ data is likely to be lost resulting in legal issues (so<br>
please beware).<br>
<br>
Having said that, I'd like to start investigating more into your<br>
particular issue and see where we may be missing out in ensuring data<br>
integrity in Glance. Let me ask you a first few set of questions that<br>
will help us get an initial understanding:-<br>
<br>
1) Are you a public cloud vendor; in particular, have you deployed<br>
glance to potentially non-trusted users? or is the case otherwise?<br>
2) Are you deploying Glance v1 or Glance v2?<br>
3) Have you exposed the "location" feature set (CRUD) to regular users?<br>
(if using API v2, have you enabled ``show_multiple_locations``<br>
configuration)<br>
4) What backends have you configured Glance with and who has access to<br>
them? What is the resiliency or rotation (of disks) (for say capacity<br>
management) of your backend store system?<br>
5) Sanity check on your issue:-<br>
5.1) What are the image statues for which the image data files are missing?<br>
5.2) What is the rate of error approximately (if you don't have<br>
specifics, info like rare, medium, often will help)<br>
<br>
<br>
We may have to dig a bit further into the issue but this set of info<br>
should help us narrow down the issue and determine if there are any gaps<br>
in Glance.<br>
<br>
P.S. Please use the tag "[glance]" in the subject line to help us get to<br>
your email faster.<br>
<div><div class="h5"><br>
On 9/12/16 12:48 PM, Sergio A. de Carvalho Jr. wrote:<br>
> Hi all,<br>
><br>
> Is there (or was there ever) any plans to implement in Glance a<br>
> service that would periodically check that the image files are still<br>
> available on the file system (or in whatever storage system being<br>
> used) and have the correct checksum?<br>
><br>
> We had a few issues where an image file was removed from the<br>
> filesystem and that can go undetected for a long time until someone<br>
> tries to access that image, so we were wondering if it would be<br>
> possible (and if it would make sense) to implement some sort of<br>
> background service to periodically check if all images found in the<br>
> database can be retrieved successfully.<br>
><br>
> Thoughts?<br>
><br>
> Sergio<br>
><br>
><br>
><br>
><br>
</div></div>> ______________________________<wbr>______________________________<wbr>______________<br>
> OpenStack Development Mailing List (not for usage questions)<br>
> Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" rel="noreferrer" target="_blank">OpenStack-dev-request@lists.<wbr>openstack.org?subject:<wbr>unsubscribe</a><br>
> <a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" rel="noreferrer" target="_blank">http://lists.openstack.org/<wbr>cgi-bin/mailman/listinfo/<wbr>openstack-dev</a><br>
><br>
><br>
<span class="HOEnZb"><font color="#888888"><br>
<br>
--<br>
<br>
Thanks,<br>
Nikhil<br>
<br>
<br>
</font></span></blockquote></div><br></div></div></div>