<div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div>Arne,<br></div><div><br></div><div>I saw the messages like ''moving volume to trash"  in the cinder-volume logs and the peridic task also reports <br></div><div>like "Deleted <vol-uuid> from trash for backend '<backends-name>'"</div><div><br></div><div>The patch worked well when clearing a small number of volumes. This happens only when I am deleting a large <br></div><div>number of volumes.<br></div><br></div><div dir="ltr">I will try to adjust the number of thread pools by adjusting the environment variables with your advices<br></div><div dir="ltr"><div><br></div><div>Do you know why the cinder-volume hang does not occur when create a volume, but only when delete a volume?<br></div><div><br></div><div><br></div><div>Thanks.<br></div><div><br></div></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">2019년 2월 11일 (월) 오후 6:14, Arne Wiebalck <<a href="mailto:Arne.Wiebalck@cern.ch">Arne.Wiebalck@cern.ch</a>>님이 작성:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">



<div style="overflow-wrap: break-word;">
Jae,
<div><br>
</div>
<div>To make sure deferred deletion is properly working: when you delete individual large volumes</div>
<div>with data in them, do you see that</div>
<div>- the volume is fully “deleted" within a few seconds, ie. not staying in ‘deleting’ for a long time?</div>
<div>- that the volume shows up in trash (with “rbd trash ls”)?</div>
<div>- the periodic task reports it is deleting volumes from the trash?</div>
<div><br>
</div>
<div>Another option to look at is “backend_native_threads_pool_size": this will increase the number</div>
<div>of threads to work on deleting volumes. It is independent from deferred deletion, but can also</div>
<div>help with situations where Cinder has more work to do than it can cope with at the moment.</div>
<div><br>
</div>
<div>Cheers,</div>
<div> Arne</div>
<div><br>
</div>
<div><br>
<div><br>
<blockquote type="cite">
<div>On 11 Feb 2019, at 09:47, Jae Sang Lee <<a href="mailto:hyangii@gmail.com" target="_blank">hyangii@gmail.com</a>> wrote:</div>
<br class="gmail-m_4954915783202618609Apple-interchange-newline">
<div>
<div dir="auto">Yes, I added your code to pike release manually.
<div dir="auto"><br>
</div>
<div dir="auto"><br>
</div>
</div>
<br>
<div class="gmail_quote">
<div dir="ltr">2019년 2월 11일 (월) 오후 4:39에 Arne Wiebalck <<a href="mailto:Arne.Wiebalck@cern.ch" target="_blank">Arne.Wiebalck@cern.ch</a>>님이 작성:<br>
</div>
<blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
Hi Jae,<br>
<br>
You back ported the deferred deletion patch to Pike?<br>
<br>
Cheers,<br>
 Arne<br>
<br>
> On 11 Feb 2019, at 07:54, Jae Sang Lee <<a href="mailto:hyangii@gmail.com" rel="noreferrer" target="_blank">hyangii@gmail.com</a>> wrote:<br>
> <br>
> Hello,<br>
> <br>
> I recently ran a volume deletion test with deferred deletion enabled on the pike release.<br>
> <br>
> We experienced a cinder-volume hung when we were deleting a large amount of the volume in which the data was actually written(I make 15GB file in every volumes), and we thought deferred deletion would solve it.<br>
> <br>
> However, while deleting 200 volumes, after 50 volumes, the cinder-volume downed as before. In my opinion, the trash_move api does not seem to work properly when removing multiple volumes, just like remove api.<br>
> <br>
> If these test results are my fault, please let me know the correct test method.<br>
> <br>
<br>
--<br>
Arne Wiebalck<br>
CERN IT<br>
<br>
</blockquote>
</div>
</div>
</blockquote>
</div>
<br>
<div>--<br>
Arne Wiebalck<br>
CERN IT </div>
<br>
</div>
</div>

</blockquote></div></div></div></div></div>