<div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">Trying to deploy a new cluster using the bootstrapping for ceph but running into issues with the admin keys being incorrectly deployed.<div><br></div><div>Successful ansible deploy up until:</div><div><br></div><div><div>TASK [ceph : Getting ceph mgr keyring] ******************************************************************************************************************************</div><div>failed: [<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a> -> <a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>] (item=<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>) => {"changed": false, "item": "<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>", "msg": "Failed to call command: ['docker', 'exec', 'ceph_mon', 'ceph', '--format', 'json', 'auth', 'get-or-create', '<a href="http://mgr.osctlr.home.visualbits.net">mgr.osctlr.home.visualbits.net</a>', 'mds', 'allow *', 'mon', 'allow profile mgr', 'osd', 'allow *'] returncode: 1 output: stdout: \"\", stderr: \"[errno 1] error connecting to the cluster\n\""}</div></div><div><br></div><div><br></div><div>Errors in log from ceph:</div><div><div>TASK [ceph : Getting ceph mgr keyring] ******************************************************************************************************************************</div><div>failed: [<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a> -> <a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>] (item=<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>) => {"changed": false, "item": "<a href="http://osctlr.home.visualbits.net">osctlr.home.visualbits.net</a>", "msg": "Failed to call command: ['docker', 'exec', 'ceph_mon', 'ceph', '--format', 'json', 'auth', 'get-or-create', '<a href="http://mgr.osctlr.home.visualbits.net">mgr.osctlr.home.visualbits.net</a>', 'mds', 'allow *', 'mon', 'allow profile mgr', 'osd', 'allow *'] returncode: 1 output: stdout: \"\", stderr: \"[errno 1] error connecting to the cluster\n\""}</div></div><div><br></div><div>keyrings look proper:</div><div><br></div><div><div>(openstack) [root@osctlr ~]# md5sum /etc/kolla/ceph-mon/ceph.client.admin.keyring</div><div>4658c01282c791bce9c75678df9e21c9  /etc/kolla/ceph-mon/ceph.client.admin.keyring</div><div>(openstack) [root@osctlr ~]# md5sum /var/lib/docker/volumes/ceph_mon_config/_data/ceph.client.admin.keyring</div><div>4658c01282c791bce9c75678df9e21c9  /var/lib/docker/volumes/ceph_mon_config/_data/ceph.client.admin.keyring</div></div><div><br></div><div>I've removed the docker container, volume and kolla config directories multple times with the same error.  I can't even run ceph status from the container bash itself.</div><div><br></div><div>Any ideas?</div></div></div></div></div>