<div dir="ltr">Hi,<div>My RMQ version is: 3.8.32</div><div>I deployed the xena version using kolla-ansible on Ubuntu 20.04.</div><div>Right now my cluster running no ha + amqp_durable_queues = False, when I shut 1 controller and create instance I got the error on nova-scheduler:</div><div>2022-07-25 10:36:41.496 688 ERROR root oslo_messaging.exceptions.MessageDeliveryFailure: Unable to connect to AMQP server on x.x.x.x:5672 after inf tries: Queue.declare: (404) NOT_FOUND - home node 'rabbit@control02' of durable queue <br>'scheduler' in vhost '/' is down or inaccessible<br></div><div><br></div><div>Regards,</div><div>Tan</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Jul 24, 2022 at 1:20 AM Satish Patel <<a href="mailto:satish.txt@gmail.com">satish.txt@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">Something is wrong with your version or rabbitMQ version. Make sure you are not dealing with bug. I have 3 node cluster and it always survive if I shutdown one of controller node. It works prefect fine without issue. Even with HA or nonHA config. <div><br></div><div>What version of openstack and rabbitMQ are you running ? <br><br><div dir="ltr">Sent from my iPhone</div><div dir="ltr"><br><blockquote type="cite">On Jul 23, 2022, at 1:29 PM, Tan Tran Trong <<a href="mailto:gk.coltech@gmail.com" target="_blank">gk.coltech@gmail.com</a>> wrote:<br><br></blockquote></div><blockquote type="cite"><div dir="ltr"><div dir="ltr">Hello,<div>Thank you guys for your links. Actually I moved from no durable queues + no HA policy to  durable queues + ha-all policy. The result is still the same. Tried to turning using <a href="https://wiki.openstack.org/wiki/Large_Scale_Configuration_Rabbit" target="_blank">https://wiki.openstack.org/wiki/Large_Scale_Configuration_Rabbit</a> but still missing something I guess.</div><div>@Albert: Have you tested the case when you shutdown 1 controller -> thing works -> power it on -> shutdown another controller? In my case the cluster is not stable after that.<br></div><div>And by "work fine" you mean you don't have to do anything (restart rabbitmq, restart openstack services) when 1 controller is down, do you? I know it sounds silly, but we end up using internal keepalived VIP only for all transport settings which remove loadbalancing but keep my cluster stable when 1 node down, really don't know if it will cause trouble later when the cluster grows.</div><div><br></div><div>Regards,</div><div>Tan</div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Jul 22, 2022 at 10:53 PM Albert Braden <<a href="mailto:ozzzo@yahoo.com" target="_blank">ozzzo@yahoo.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div>                The default RMQ config is broken. You're on the right track with setting durable_queues, but there's more to do. I'm running kolla Train with mirrored/durable queues and my clusters work fine with a controller down. One issue that we faced after setting durable was that we weren't running redis, and then when we tried to run it the network was blocking the port, but eventually we got it working.<br><br>Some have recommended not mirroring queues; I haven't tried that. If anyone has successfully setup HA without mirrored queues, I'd be interested to hear about how you did it.<br><br>Here are some helpful links:<br><br><a href="https://wiki.openstack.org/wiki/Large_Scale_Configuration_Rabbit" target="_blank">https://wiki.openstack.org/wiki/Large_Scale_Configuration_Rabbit</a><br><a href="https://lists.openstack.org/pipermail/openstack-discuss/2021-November/026074.html" target="_blank">https://lists.openstack.org/pipermail/openstack-discuss/2021-November/026074.html</a><br><a href="https://lists.openstack.org/pipermail/openstack-discuss/2020-August/016362.html" target="_blank">https://lists.openstack.org/pipermail/openstack-discuss/2020-August/016362.html</a><br><a href="https://lists.openstack.org/pipermail/openstack-discuss/2020-August/016524.html" target="_blank">https://lists.openstack.org/pipermail/openstack-discuss/2020-August/016524.html</a><br><a href="https://review.opendev.org/c/openstack/kolla-ansible/+/822191" target="_blank">https://review.opendev.org/c/openstack/kolla-ansible/+/822191</a><br><a href="https://review.opendev.org/c/openstack/kolla-ansible/+/824994" target="_blank">https://review.opendev.org/c/openstack/kolla-ansible/+/824994</a><br>            </div>            <div style="margin:10px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">                        <div style="font-family:"Helvetica Neue",Helvetica,Arial,sans-serif;font-size:13px;color:rgb(38,40,42)">                                <div>                    On Thursday, July 21, 2022, 02:42:42 PM EDT, Tan Tran Trong <<a href="mailto:gk.coltech@gmail.com" target="_blank">gk.coltech@gmail.com</a>> wrote:                </div>                <div><br></div>                <div><br></div>                <div><div id="gmail-m_567358851473172802gmail-m_6911226030382258161yiv7947313570"><div dir="ltr">Hello,<div>I'm trying to figure out how to configure RabbitMQ to make it high available. I have 3 controller nodes and 2 compute nodes, deployed with kolla with mostly default configuration. The RabbitMQ set to ha-all for all queues on all nodes, amqp_durable_queues = True</div><div>My problem is when I shutdown 1 controller node (or 1 RabbitMQ container) (master or slave) the whole cluster becomes unstable. Some instances can not be created, it is stuck on Scheduling, Block Device Mapping, the volumes not shown or are stuck on creating, the compute node reported dead randomly,...</div><div>I'm looking for documentation to know how Openstack using RabbitMQ, Openstack behavior when RabbitMQ node down and way to make RabbitMQ HA in a stable way. Do you have any recommendation?</div><div><br></div><div>TIA,</div><div>Tan</div></div></div></div>            </div>                </div></blockquote></div>
</div></blockquote></div></div></blockquote></div>