<div dir="ltr">This ended up being a cleanup issue in the management of the tmp file.  I will be submitting a PR for it.<br clear="all"><div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div style="color:rgb(0,0,0);font-size:16px;font-family:Calibri"><div style="font-family:"Century Gothic",sans-serif"><div style="word-wrap:break-word"><div style="word-wrap:break-word"><div style="word-wrap:break-word"><div style="margin:0px"><br></div></div></div></div></div></div></div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Feb 27, 2019 at 2:30 PM Tyler Bishop <<a href="mailto:tyler.bishop@beyondhosting.net">tyler.bishop@beyondhosting.net</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">Trying to deploy a new cluster using the bootstrapping for ceph but running into issues with the admin keys being incorrectly deployed.<div><br></div><div>Successful ansible deploy up until:</div><div><br></div><div><div>TASK [ceph : Getting ceph mgr keyring] ******************************************************************************************************************************</div><div>failed: [<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a> -> <a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>] (item=<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>) => {"changed": false, "item": "<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>", "msg": "Failed to call command: ['docker', 'exec', 'ceph_mon', 'ceph', '--format', 'json', 'auth', 'get-or-create', '<a href="http://mgr.osctlr.home.visualbits.net" target="_blank">mgr.osctlr.home.visualbits.net</a>', 'mds', 'allow *', 'mon', 'allow profile mgr', 'osd', 'allow *'] returncode: 1 output: stdout: \"\", stderr: \"[errno 1] error connecting to the cluster\n\""}</div></div><div><br></div><div><br></div><div>Errors in log from ceph:</div><div><div>TASK [ceph : Getting ceph mgr keyring] ******************************************************************************************************************************</div><div>failed: [<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a> -> <a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>] (item=<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>) => {"changed": false, "item": "<a href="http://osctlr.home.visualbits.net" target="_blank">osctlr.home.visualbits.net</a>", "msg": "Failed to call command: ['docker', 'exec', 'ceph_mon', 'ceph', '--format', 'json', 'auth', 'get-or-create', '<a href="http://mgr.osctlr.home.visualbits.net" target="_blank">mgr.osctlr.home.visualbits.net</a>', 'mds', 'allow *', 'mon', 'allow profile mgr', 'osd', 'allow *'] returncode: 1 output: stdout: \"\", stderr: \"[errno 1] error connecting to the cluster\n\""}</div></div><div><br></div><div>keyrings look proper:</div><div><br></div><div><div>(openstack) [root@osctlr ~]# md5sum /etc/kolla/ceph-mon/ceph.client.admin.keyring</div><div>4658c01282c791bce9c75678df9e21c9  /etc/kolla/ceph-mon/ceph.client.admin.keyring</div><div>(openstack) [root@osctlr ~]# md5sum /var/lib/docker/volumes/ceph_mon_config/_data/ceph.client.admin.keyring</div><div>4658c01282c791bce9c75678df9e21c9  /var/lib/docker/volumes/ceph_mon_config/_data/ceph.client.admin.keyring</div></div><div><br></div><div>I've removed the docker container, volume and kolla config directories multple times with the same error.  I can't even run ceph status from the container bash itself.</div><div><br></div><div>Any ideas?</div></div></div></div></div>
</blockquote></div>