<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Apr 1, 2015 at 8:20 AM, Ian Wienand <span dir="ltr"><<a href="mailto:iwienand@redhat.com" target="_blank">iwienand@redhat.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On 03/27/2015 08:47 PM, Alan Pevec wrote:<br>
</span><span class=""><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
But how come that same recent pyOpenSSL doesn't consume more memory on Ubuntu?<br>
</blockquote>
<br></span>
Just to loop back on the final status of this ...<br>
<br>
pyOpenSSL 0.14 does seem to use about an order of magnitude more<br>
memory than 0.13 (2mb -> 20mb).  For details see [1].<br>
<br>
This is due to the way it now goes through "cryptography" (the<br>
package, not the concept :) which binds to openssl using cffi.  This<br>
ends up parsing a bunch of C to build up the ABI representation, and<br>
it seems pycparser's model of this consumes most of the memory [2].<br>
If that is a bug or not remains to be seen.<br>
<br>
Ubuntu doesn't notice this in our CI environment because it comes with<br>
python-openssl 0.13 pre-installed in the image.  Centos started<br>
hitting this when I merged my change to start using as many libraries<br>
from pip as possible.<br>
<br>
I have a devstack workaround for centos out (preinstall the package)<br>
[3] and I think a global solution of avoiding it in requirements [4]<br>
(reviews appreciated).<br>
<br>
I'm also thinking about how we can better monitor memory usage for<br>
jobs.  Being able to see exactly what change pushed up memory usage by<br>
a large % would have made finding this easier.  We keep some overall<br>
details for devstack runs in a log file, but there is room to do<br>
better.<br></blockquote><div><br></div><div>Interesting debug, and good to see this was finally nailed.<br></div><div><br>Few questions:<br></div><div><br>1) So why did this happen on rax VM only, the same (Centos job)on hpcloud<br></div><div>didn't seem to hit it even when we ran hpcloud VM with 8GB memory.<br><br></div><div>2) Should this also be sent to centos-devel folks so that they don't upgrade/update<br></div><div>the pyopenssl in their distro repos until the issue is resolved ?<br><br></div><div>thanx,<br></div><div>deepak<br></div><div><br></div><div> <br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
-i<br>
<br>
[1] <a href="https://etherpad.openstack.org/p/oom-in-rax-centos7-CI-job" target="_blank">https://etherpad.openstack.<u></u>org/p/oom-in-rax-centos7-CI-<u></u>job</a><br>
[2] <a href="https://github.com/eliben/pycparser/issues/72" target="_blank">https://github.com/eliben/<u></u>pycparser/issues/72</a><br>
[3] <a href="https://review.openstack.org/168217" target="_blank">https://review.openstack.org/<u></u>168217</a><br>
[4] <a href="https://review.openstack.org/169596" target="_blank">https://review.openstack.org/<u></u>169596</a><div class="HOEnZb"><div class="h5"><br>
<br>
______________________________<u></u>______________________________<u></u>______________<br>
OpenStack Development Mailing List (not for usage questions)<br>
Unsubscribe: <a href="http://OpenStack-dev-request@lists.openstack.org?subject:unsubscribe" target="_blank">OpenStack-dev-request@lists.<u></u>openstack.org?subject:<u></u>unsubscribe</a><br>
<a href="http://lists.openstack.org/cgi-bin/mailman/listinfo/openstack-dev" target="_blank">http://lists.openstack.org/<u></u>cgi-bin/mailman/listinfo/<u></u>openstack-dev</a><br>
</div></div></blockquote></div><br></div></div>