<div dir="ltr">Hi Brendan,<div>Apologies for this delay, i had to redo the setup to reach  this point, and also this time just to eliminate my Doubt i removed SSL for overcloud. Now I am only using DNS Server. In this case also I am getting the same error. </div><div><blockquote style="margin:0 0 0 40px;border:none;padding:0px"><div> | 0:13:20.198877 | 1.86s<br>2022-07-25 14:37:29.657118 | 525400a7-0932-2ed1-d313-000000007193 |       TASK | Create identity internal endpoint<br>2022-07-25 14:37:31.995131 | 525400a7-0932-2ed1-d313-000000007193 |      FATAL | Create identity internal endpoint | undercloud | error={"changed": false, "extra_data": {"data": null, "details": "The request you have made requires authentication.", "response": "{\"error\":{\"code\":401,\"message\":\"The request you have made requires authentication.\",\"title\":\"Unauthorized\"}}\n"}, "msg": "Failed to list services: Client Error for url: http://[fd00:fd00:fd00:9900::a0]:5000/v3/services, The request you have made requires authentication."}</div></blockquote><br></div><div>To answer your question please note:</div><div><br></div><div>"<span style="color:rgb(80,0,80);font-family:monospace">OS_CLOUD=overcloud openstack endpoint list"</span></div><blockquote style="margin:0 0 0 40px;border:none;padding:0px"><div>[root@GGNLABPM4 ~]# ssh <a href="mailto:stack@10.0.1.29">stack@10.0.1.29</a><br><a href="mailto:stack@10.0.1.29">stack@10.0.1.29</a>'s password:<br>Activate the web console with: systemctl enable --now cockpit.socket<br><br>Last login: Mon Jul 25 14:38:44 2022 from 10.0.1.4<br>[stack@undercloud ~]$ OS_CLOUD=overcloud openstack endpoint list<br>+----------------------------------+-----------+--------------+--------------+---------+-----------+---------------------------------------+<br>| ID                               | Region    | Service Name | Service Type | Enabled | Interface | URL                                   |<br>+----------------------------------+-----------+--------------+--------------+---------+-----------+---------------------------------------+<br>| 1ecd328b5ea1426bb411d157b8339dd2 | regionOne | keystone     | identity     | True    | public    | http://[fd00:fd00:fd00:9900::a0]:5000 |<br>| 518cfa0f2ece43b684710006c9fa5b25 | regionOne | keystone     | identity     | True    | admin     | <a href="http://30.30.30.181:35357">http://30.30.30.181:35357</a>             |<br>| 8cda413052c24718b073578bb497f483 | regionOne | keystone     | identity     | True    | internal  | http://[fd00:fd00:fd00:2000::a0]:5000 |<br>+----------------------------------+-----------+--------------+--------------+---------+-----------+---------------------------------------+<br>[stack@undercloud ~]$<br></div></blockquote><div><br></div>it is giving us only keystone endpoints. <div><br></div><div>Also note that I am trying to deploy the end to end setup with FQDN only. and in this case as well I am facing the same issue as old. </div><div><br></div><div>thanks once again for your inputs. </div><div><br></div><div>-Lokendra</div><div><br><div><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jul 20, 2022 at 3:07 PM Brendan Shephard <<a href="mailto:bshephar@redhat.com">bshephar@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hey,<div><br></div><div>I think it's weird that you got a response at all when you run the openstack endpoint list, since you said haproxy isn't running. So there should be nothing serving that endpoint.</div><div><br></div><div>I noticed you have the stackrc file sourced. Try it again without that file sourced, so:</div><div><font face="monospace">$ su - stack</font></div><div><font face="monospace">$ OS_CLOUD=overcloud openstack endpoint list</font></div><div><br></div><div>I would suspect that nothing should be responding. It could be the stackrc file causing issues with some of the environment variables. If the above command doesn't return anything, then my suggestion would be to re-run the deployment like this:</div><div><br></div><div>$ su - stack</div><div>$ export OS_CLOUD=undercloud</div><div># Then run your deployment script again</div><div>$ bash overcloud_deploy.sh</div><div><br></div><div>The OS_CLOUD variable tells the openstackclient to lookup the details about that cloud from your clouds.yaml file. Which will be located in <font face="monospace">/home/stack/.config/openstack/clouds.yaml. </font></div><div><font face="monospace"><br></font></div><div><font face="arial, sans-serif">This method is preferable to the sourcing of RC files.</font></div><div><font face="monospace"><br></font></div><div><font face="arial, sans-serif">Reference:</font></div><div><a href="https://docs.openstack.org/openstacksdk/latest/user/guides/connect_from_config.html" target="_blank">https://docs.openstack.org/openstacksdk/latest/user/guides/connect_from_config.html</a><font face="monospace"><br></font></div><div><br></div><div>Regarding the HAProxy warnings. I don't think they should be fatal. afaik, HAProxy should still be starting. If it's not, there might be another error that you will need to look for in the log files under /var/log/containers/haproxy/</div><div><br></div><div>I wasn't able to reproduce that warning by following the documentation for enabling TLS though. So it seems like an odd error to be getting.</div><div><br clear="all"><div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div>
        <p style="font-weight:bold;margin:0px;padding:0px;font-size:14px;text-transform:capitalize;font-family:RedHatText,sans-serif">
          <span>Brendan</span> <span>Shephard</span><span style="color:rgb(170,170,170);margin:0px"></span>
        </p>
        
        <p style="font-weight:normal;font-size:12px;margin:0px;text-transform:capitalize;font-family:RedHatText,sans-serif">
          <span>Software Engineer</span>
        </p>
        <p style="font-weight:normal;margin:0px 0px 4px;font-size:12px;font-family:RedHatText,sans-serif">
          <a style="color:rgb(0,136,206);font-size:12px;margin:0px;text-decoration:none;font-family:RedHatText,sans-serif" href="https://www.redhat.com" target="_blank">Red Hat <span>APAC</span></a>
        </p>
    <div style="margin-bottom:4px">
      <span>
        <p style="font-size:12px;margin:0px;font-family:RedHatText,sans-serif">193 N Quay</p>
      </span>
      <span>
        <p style="font-size:12px;margin:0px;font-family:RedHatText,sans-serif">Brisbane City QLD 4000</p>
      </span>
    </div>
    
    
    <div style="font-weight:normal;font-size:12px;font-family:RedHatText,sans-serif;margin-bottom:8px">
      <div>
        <a href="https://twitter.com/redhat" title="twitter" style="background:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/3780bd4ede961ef3cd4108b8c0e80186/web-icon-twitter.png") 0px 50%/13px no-repeat scroll transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:13px" target="_blank">
          <span style="margin-left:2px">@RedHat</span>
        </a>  
        <a href="https://www.linkedin.com/company/red-hat" title="LinkedIn" style="background:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/8d3507e3c6b6c9ad10e301accf1a4af0/web-icon-linkedin.png") 0px 50%/12px no-repeat scroll transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:12px;margin:0px 4px 0px 3px;padding-top:1px" target="_blank">
          <span style="margin-left:4px">Red Hat</span>
        </a> 
        <a href="https://www.facebook.com/RedHatInc" title="Facebook" style="background:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/220b85e2f100025e94cb1bcd993bd51d/web-icon-facebook.png") 0px 50%/11px no-repeat scroll transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:13px" target="_blank">
          <span>Red Hat</span>
        </a>
      </div>
      
    </div>

    <div style="margin-top:12px">
      <table border="0">
        <tbody><tr>
          <td width="100px"><a href="https://red.ht/sig" target="_blank"> <img src="https://static.redhat.com/libs/redhat/brand-assets/latest/corp/logo.png" width="90" height="auto"></a> </td>
          <td style="font-weight:normal;font-size:12px">
            <div><a href="https://redhat.com/summit" style="text-decoration:none" target="_blank"><img style="outline: currentcolor none 0px;" src="https://static.redhat.com/libs/redhat/brand-assets/latest/events/red-hat-summit.png" width="53px" height="auto"></a></div>
          </td>
        </tr>
      </tbody></table>
    </div>

  </div><span></span></div></div></div></div></div></div></div></div></div></div></div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jul 20, 2022 at 7:02 PM Lokendra Rathour <<a href="mailto:lokendrarathour@gmail.com" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Brendan / Team,<div>Any lead for the issue raised?</div><div><br></div><div>-Lokendra</div><div><br></div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 19, 2022 at 11:46 AM Lokendra Rathour <<a href="mailto:lokendrarathour@gmail.com" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Brendan,,<div>Thanks for the inputs. </div><div>when i run the command as you suggested I get this:</div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div><font size="1">(undercloud) [stack@undercloud ~]$ OS_CLOUD=overcloud openstack endpoint list</font></div><div><font size="1">+----------------------------------+-----------+--------------+--------------+---------+-----------+----------------------------------------+</font></div><div><font size="1">| ID                               | Region    | Service Name | Service Type | Enabled | Interface | URL                                    |</font></div><div><font size="1">+----------------------------------+-----------+--------------+--------------+---------+-----------+----------------------------------------+</font></div><div><font size="1">| 1bfe43c9cf174bd8a01a3a681538766a | regionOne | keystone     | identity     | True    | internal  | http://[fd00:fd00:fd00:2000::326]:5000 |</font></div><div><font size="1">| 707e92fc11df4a74bceb5e48f2561357 | regionOne | keystone     | identity     | True    | admin     | <a href="http://30.30.30.173:35357" target="_blank">http://30.30.30.173:35357</a>              |</font></div><div><font size="1">| fab4e66170c8402f899c5f43fd4c39fe | regionOne | keystone     | identity     | True    | public    | <a href="https://overcloud-hsc.com:13000" target="_blank">https://overcloud-hsc.com:13000</a>        |</font></div><div><font size="1">+----------------------------------+-----------+--------------+--------------+---------+-----------+----------------------------------------+</font></div><div><font size="1">(undercloud) [stack@undercloud ~</font>]$</div></blockquote><br><div>On the other note that i notices was as below:</div><div><ul><li>HAproxy container is not running.</li><ul><li>[root@overcloud-controller-2 stdouts]# podman ps -a | grep haproxy<br>e91dbde042db  undercloud.ctlplane.localdomain:8787/tripleowallaby/openstack-haproxy:current-tripleo                                    24 hours ago  Exited (1) Less than a second ago          container-puppet-haproxy\<br></li></ul><li>Checking logs:</li><ul><li>2022-07-19T08:47:00.496212294+05:30 stderr F + ARGS=<br>2022-07-19T08:47:00.496300242+05:30 stderr F + [[ ! -n '' ]]<br>2022-07-19T08:47:00.496323705+05:30 stderr F + . kolla_extend_start<br>2022-07-19T08:47:00.496578173+05:30 stderr F + echo 'Running command: '\''bash -c $* -- eval if [ -f /usr/sbin/haproxy-systemd-wrapper ]; then exec /usr/sbin/haproxy-systemd-wrapper -f /etc/haproxy/haproxy.cfg; else exec /usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -Ws; fi'\'''<br>2022-07-19T08:47:00.496605469+05:30 stdout F Running command: 'bash -c $* -- eval if [ -f /usr/sbin/haproxy-systemd-wrapper ]; then exec /usr/sbin/haproxy-systemd-wrapper -f /etc/haproxy/haproxy.cfg; else exec /usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -Ws; fi'<br>2022-07-19T08:47:00.496895618+05:30 stderr F + exec bash -c '$*' -- eval if '[' -f /usr/sbin/haproxy-systemd-wrapper '];' then exec /usr/sbin/haproxy-systemd-wrapper -f '/etc/haproxy/haproxy.cfg;' else exec /usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg '-Ws;' fi<br>2022-07-19T08:47:00.513182490+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:28] : 'bind fd00:fd00:fd00:9900::81:13776' :<br>2022-07-19T08:47:00.513182490+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.513182490+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>automatically2022-07-19T08:47:00.513967576+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:45] : 'bind fd00:fd00:fd00:9900::81:13292' :<br>2022-07-19T08:47:00.513967576+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.513967576+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.514736662+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:69] : 'bind fd00:fd00:fd00:9900::81:13004' :<br>2022-07-19T08:47:00.514736662+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.514736662+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.515461787+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:89] : 'bind fd00:fd00:fd00:9900::81:13005' :<br>2022-07-19T08:47:00.515461787+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.515461787+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.516167406+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:108] : 'bind fd00:fd00:fd00:2000::326:443' :<br></li><li>2022-07-19T08:47:00.517937930+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.518534123+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:172] : 'bind fd00:fd00:fd00:9900::81:13000' :<br>2022-07-19T08:47:00.518534123+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.518534123+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.519127743+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:201] : 'bind fd00:fd00:fd00:9900::81:13696' :<br>2022-07-19T08:47:00.519127743+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.519127743+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.519734281+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:233] : 'bind fd00:fd00:fd00:9900::81:13080' :<br>2022-07-19T08:47:00.519734281+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.519734281+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.520285158+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:250] : 'bind fd00:fd00:fd00:9900::81:13774' :<br>2022-07-19T08:47:00.520285158+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.<br>2022-07-19T08:47:00.520285158+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.520830405+05:30 stderr F [WARNING] 199/084700 (7) : parsing <span style="background-color:rgb(255,255,0)">[/etc/haproxy/haproxy.cfg:266] : 'bind fd00:fd00:fd00:9900::81:13778' :<br>2022-07-19T08:47:00.520830405+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.</span><br>2022-07-19T08:47:00.520830405+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.521517271+05:30 stderr F [WARNING] 199/084700 (7) : parsing [/etc/haproxy/haproxy.cfg:281] : 'bind fd00:fd00:fd00:9900::81:13808' :<br><span style="background-color:rgb(255,255,0)">2022-07-19T08:47:00.521517271+05:30 stderr F   unable to load default 1024 bits DH parameter for certificate '/etc/pki/tls/private/overcloud_endpoint.pem'.</span><br>2022-07-19T08:47:00.521517271+05:30 stderr F   , SSL library will use an automatically generated DH parameter.<br>2022-07-19T08:47:00.524065508+05:30 stderr F [WARNING] 199/084700 (7) : Setting tune.ssl.default-dh-param to 1024 by default, if your workload permits it you should set it to at least 2048. Please set a value >= 1024 to make this warning disappear.<br></li></ul><li>pcs status also show that proxy is down for the controller with VIP:</li><ul><li>Failed Resource Actions:<br>  * haproxy-bundle-podman-2_start_0 on overcloud-controller-2 'error' (1): call=139, status='complete', exitreason='podman failed to launch container (rc: 1)', last-rc-change='Mon Jul 18 15:14:34 2022', queued=0ms, exec=1222ms<br>  * haproxy-bundle-podman-1_start_0 on overcloud-controller-1 'error' (1): call=191, status='complete', exitreason='podman failed to launch container (rc: 1)', last-rc-change='Mon Jul 18 23:54:17 2022', queued=0ms, exec=1171ms<br>  * haproxy-bundle-podman-2_start_0 on overcloud-controller-1 'error' (1): call=193, status='complete', exitreason='podman failed to launch container (rc: 1)', last-rc-change='Mon Jul 18 23:54:20 2022', queued=0ms, exec=1256ms</li></ul></ul><div>do let me know in case we need anything more around it. </div></div><div>thanks once again for the support. </div><div>-Lokendra</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 19, 2022 at 11:07 AM Brendan Shephard <<a href="mailto:bshephar@redhat.com" target="_blank">bshephar@redhat.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hey,<br><br>Doesn't look like there is anything wrong with the certificate there. You would be getting a TLS error if that was the problem. <br><br>What does your clouds.yaml file look like now? What happens if you run this command from the Undercloud node:<br><font face="monospace">$ OS_CLOUD=overcloud openstack endpoint list</font><div><br>Do you get the same error?<br><br clear="all"><div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div>
        <p style="font-weight:bold;margin:0px;padding:0px;font-size:14px;text-transform:capitalize;font-family:RedHatText,sans-serif">
          <span>Brendan</span> <span>Shephard</span><span style="color:rgb(170,170,170);margin:0px"></span>
        </p>
        
        <p style="font-weight:normal;font-size:12px;margin:0px;text-transform:capitalize;font-family:RedHatText,sans-serif">
          <span>Software Engineer</span>
        </p>
        <p style="font-weight:normal;margin:0px 0px 4px;font-size:12px;font-family:RedHatText,sans-serif">
          <a style="color:rgb(0,136,206);font-size:12px;margin:0px;text-decoration:none;font-family:RedHatText,sans-serif" href="https://www.redhat.com" target="_blank">Red Hat <span>APAC</span></a>
        </p>
    <div style="margin-bottom:4px">
      <span>
        <p style="font-size:12px;margin:0px;font-family:RedHatText,sans-serif">193 N Quay</p>
      </span>
      <span>
        <p style="font-size:12px;margin:0px;font-family:RedHatText,sans-serif">Brisbane City QLD 4000</p>
      </span>
    </div>
    
    
    <div style="font-weight:normal;font-size:12px;font-family:RedHatText,sans-serif;margin-bottom:8px">
      <div>
        <a href="https://twitter.com/redhat" title="twitter" style="background-image:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/3780bd4ede961ef3cd4108b8c0e80186/web-icon-twitter.png");background-size:13px;background-color:transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:13px;background-position:0px 50%" target="_blank">
          <span style="margin-left:2px">@RedHat</span>
        </a>  
        <a href="https://www.linkedin.com/company/red-hat" title="LinkedIn" style="background-image:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/8d3507e3c6b6c9ad10e301accf1a4af0/web-icon-linkedin.png");background-size:12px;background-color:transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:12px;margin:0px 4px 0px 3px;padding-top:1px;background-position:0px 50%" target="_blank">
          <span style="margin-left:4px">Red Hat</span>
        </a> 
        <a href="https://www.facebook.com/RedHatInc" title="Facebook" style="background-image:url("https://marketing-outfit-prod-images.s3-us-west-2.amazonaws.com/220b85e2f100025e94cb1bcd993bd51d/web-icon-facebook.png");background-size:11px;background-color:transparent;text-decoration:none;color:rgb(0,0,0);display:inline-block;line-height:20px;padding-left:13px;background-position:0px 50%" target="_blank">
          <span>Red Hat</span>
        </a>
      </div>
      
    </div>

    <div style="margin-top:12px">
      <table border="0">
        <tbody><tr>
          <td width="100px"><a href="https://red.ht/sig" target="_blank"> <img src="https://static.redhat.com/libs/redhat/brand-assets/latest/corp/logo.png" width="90" height="auto"></a> </td>
          <td style="font-weight:normal;font-size:12px">
            <div><a href="https://redhat.com/summit" style="text-decoration:none" target="_blank"><img style="outline: currentcolor none 0px;" src="https://static.redhat.com/libs/redhat/brand-assets/latest/events/red-hat-summit.png" width="53px" height="auto"></a></div>
          </td>
        </tr>
      </tbody></table>
    </div>

  </div><span></span></div></div></div></div></div></div></div></div></div></div></div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 19, 2022 at 1:28 PM Lokendra Rathour <<a href="mailto:lokendrarathour@gmail.com" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Swogat and Vikarna,<div>We have tried adding the DNS entry for the overcloud domain. we are getting the same error:</div><div><br></div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div>022-07-19 00:09:41.491498 | 525400ae-089b-c832-8e34-00000000704f |     TIMING | tripleo_keystone_resources : Create identity public endpoint | undercloud | 0:11:18.785769 | 2.16s</div><div>2022-07-19 00:09:41.507319 | 525400ae-089b-c832-8e34-000000007050 |       TASK | Create identity internal endpoint</div><div>2022-07-19 00:09:43.778910 | 525400ae-089b-c832-8e34-000000007050 |      FATAL | Create identity internal <span style="background-color:rgb(255,255,0)">endpoint | undercloud | error={"changed": false, "extra_data": {"data": null, "details": "The request you have made requires authentication.", "response": "{\"error\":{\"code\":401,\"message\":\"The request you have made requires authentication.\",\"title\":\"Unauthorized\"}}\n"}, "msg": "Failed to list services: Client Error for url: <a href="https://overcloud-hsc.com:13000/v3/services" target="_blank">https://overcloud-hsc.com:13000/v3/services</a>, The request you have made requires authentication."}</span></div><div>2022-07-19 00:09:43.780306 | 525400ae-089b-c832-8e34-000000007050 |     TIMING | tripleo_keystone_resources : Create identity internal endpoint | undercloud | 0:11:21.074605 | 2.</div></blockquote><div><br></div><div>Certificate configs:</div><div><br></div><div>[stack@undercloud oc-domain-name]$ cat server.csr.cnf<br>[req]<br>default_bits = 2048<br>prompt = no<br>default_md = sha256<br>distinguished_name = dn<br>[dn]<br>C=IN<br>ST=UTTAR PRADESH<br>L=NOIDA<br>O=HSC<br>OU=HSC<br>emailAddress=<a href="mailto:demo@demo.com" target="_blank">demo@demo.com</a><br>CN=<a href="http://overcloud-hsc.com" target="_blank">overcloud-hsc.com</a><br>[stack@undercloud oc-domain-name]$ cat v3.ext<br>authorityKeyIdentifier=keyid,issuer<br>basicConstraints=CA:FALSE<br>keyUsage = digitalSignature, nonRepudiation, keyEncipherment, dataEncipherment<br>subjectAltName = @alt_names<br>[alt_names]<br>DNS.1=<a href="http://overcloud-hsc.com" target="_blank">overcloud-hsc.com</a><br>[stack@undercloud oc-domain-name]$<br></div><div><br></div><div>the difference we see from others is that we are using self-signed certificates. </div><div><br></div><div>please let me know in case we need to check something else. Somehow this issue remains stuck. </div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Jul 15, 2022 at 2:17 AM Swogat Pradhan <<a href="mailto:swogatpradhan22@gmail.com" target="_blank">swogatpradhan22@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">I was facing a similar kind of issue.<div><a href="https://bugzilla.redhat.com/show_bug.cgi?id=2089442" target="_blank">https://bugzilla.redhat.com/show_bug.cgi?id=2089442</a><br><div>Here is the solution that helped me fix it. </div><div>Also make sure the cn that you will use is reachable from undercloud (maybe) script should take care of it.</div><div><br></div><div>Also please follow Mr. Tathe's mail to add the cn first.</div></div><div><br></div><div>With regards</div><div>Swogat Pradhan</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Jul 14, 2022 at 8:49 AM Vikarna Tathe <<a href="mailto:vikarnatathe@gmail.com" target="_blank">vikarnatathe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">Hi Lokendra,<div dir="auto"><br></div><div dir="auto">The CN field is missing. Can you add that and generate the certificate again. </div><div dir="auto"><br></div><div dir="auto">CN=ipaddress </div><div dir="auto"><br></div><div dir="auto">Also add dns.1=ipaddress under alt_names for precaution.</div><div dir="auto"><br></div><div dir="auto">Vikarna</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, 13 Jul, 2022, 23:02 Lokendra Rathour, <<a href="mailto:lokendrarathour@gmail.com" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">HI Vikarna,<div>Thanks for the inputs. </div><div>I am note able to access any tabs in GUI. </div><div><img src="cid:ii_l5jvkp6u0" alt="image.png" width="472" height="163"><br></div><div><br></div><div>to re-state, we are failing at the time of deployment at step4 :</div><div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div><br>PLAY [External deployment step 4] **********************************************<br>2022-07-13 21:35:22.505148 | 525400ae-089b-870a-fab6-0000000000d7 |       TASK | External deployment step 4<br>2022-07-13 21:35:22.534899 | 525400ae-089b-870a-fab6-0000000000d7 |         OK | External deployment step 4 | undercloud -> localhost | result={<br>    "changed": false,<br>    "msg": "Use --start-at-task 'External deployment step 4' to resume from this task"<br>}<br>[WARNING]: ('undercloud -> localhost', '525400ae-089b-870a-fab6-0000000000d7')<br>missing from stats<br>2022-07-13 21:35:22.591268 | 525400ae-089b-870a-fab6-0000000000d8 |     TIMING | include_tasks | undercloud | 0:11:21.683453 | 0.04s<br>2022-07-13 21:35:22.605901 | f29c4b58-75a5-4993-97b8-3921a49d79d7 |   INCLUDED | /home/stack/overcloud-deploy/overcloud/config-download/overcloud/external_deploy_steps_tasks_step4.yaml | undercloud<br>2022-07-13 21:35:22.627112 | 525400ae-089b-870a-fab6-000000007239 |       TASK | Clean up legacy Cinder keystone catalog entries<br>2022-07-13 21:35:25.110635 | 525400ae-089b-870a-fab6-000000007239 |         OK | Clean up legacy Cinder keystone catalog entries | undercloud | item={'service_name': 'cinderv2', 'service_type': 'volumev2'}<br>2022-07-13 21:35:25.112368 | 525400ae-089b-870a-fab6-000000007239 |     TIMING | Clean up legacy Cinder keystone catalog entries | undercloud | 0:11:24.204562 | 2.48s<br>2022-07-13 21:35:27.029270 | 525400ae-089b-870a-fab6-000000007239 |         OK | Clean up legacy Cinder keystone catalog entries | undercloud | item={'service_name': 'cinderv3', 'service_type': 'volume'}<br>2022-07-13 21:35:27.030383 | 525400ae-089b-870a-fab6-000000007239 |     TIMING | Clean up legacy Cinder keystone catalog entries | undercloud | 0:11:26.122584 | 4.40s<br>2022-07-13 21:35:27.032091 | 525400ae-089b-870a-fab6-000000007239 |     TIMING | Clean up legacy Cinder keystone catalog entries | undercloud | 0:11:26.124296 | 4.40s<br>2022-07-13 21:35:27.047913 | 525400ae-089b-870a-fab6-00000000723c |       TASK | Manage Keystone resources for OpenStack services<br>2022-07-13 21:35:27.077672 | 525400ae-089b-870a-fab6-00000000723c |     TIMING | Manage Keystone resources for OpenStack services | undercloud | 0:11:26.169842 | 0.03s<br>2022-07-13 21:35:27.120270 | 525400ae-089b-870a-fab6-00000000726b |       TASK | Gather variables for each operating system<br>2022-07-13 21:35:27.161225 | 525400ae-089b-870a-fab6-00000000726b |     TIMING | tripleo_keystone_resources : Gather variables for each operating system | undercloud | 0:11:26.253383 | 0.04s<br>2022-07-13 21:35:27.177798 | 525400ae-089b-870a-fab6-00000000726c |       TASK | Create Keystone Admin resources<br>2022-07-13 21:35:27.207430 | 525400ae-089b-870a-fab6-00000000726c |     TIMING | tripleo_keystone_resources : Create Keystone Admin resources | undercloud | 0:11:26.299608 | 0.03s<br>2022-07-13 21:35:27.230985 | 46e05e2d-2e9c-467b-ac4f-c5f0bc7286b3 |   INCLUDED | /usr/share/ansible/roles/tripleo_keystone_resources/tasks/admin.yml | undercloud<br>2022-07-13 21:35:27.256076 | 525400ae-089b-870a-fab6-0000000072ad |       TASK | Create default domain<br>2022-07-13 21:35:29.343399 | 525400ae-089b-870a-fab6-0000000072ad |         OK | Create default domain | undercloud<br>2022-07-13 21:35:29.345172 | 525400ae-089b-870a-fab6-0000000072ad |     TIMING | tripleo_keystone_resources : Create default domain | undercloud | 0:11:28.437360 | 2.09s<br>2022-07-13 21:35:29.361643 | 525400ae-089b-870a-fab6-0000000072ae |       TASK | Create admin and service projects<br>2022-07-13 21:35:29.391295 | 525400ae-089b-870a-fab6-0000000072ae |     TIMING | tripleo_keystone_resources : Create admin and service projects | undercloud | 0:11:28.483468 | 0.03s<br>2022-07-13 21:35:29.402539 | af7a4a76-4998-4679-ac6f-58acc0867554 |   INCLUDED | /usr/share/ansible/roles/tripleo_keystone_resources/tasks/projects.yml | undercloud<br>2022-07-13 21:35:29.428918 | 525400ae-089b-870a-fab6-000000007304 |       TASK | Async creation of Keystone project<br>2022-07-13 21:35:30.144295 | 525400ae-089b-870a-fab6-000000007304 |    CHANGED | Async creation of Keystone project | undercloud | item=admin<br>2022-07-13 21:35:30.145884 | 525400ae-089b-870a-fab6-000000007304 |     TIMING | tripleo_keystone_resources : Async creation of Keystone project | undercloud | 0:11:29.238078 | 0.72s<br>2022-07-13 21:35:30.493458 | 525400ae-089b-870a-fab6-000000007304 |    CHANGED | Async creation of Keystone project | undercloud | item=service<br>2022-07-13 21:35:30.494386 | 525400ae-089b-870a-fab6-000000007304 |     TIMING | tripleo_keystone_resources : Async creation of Keystone project | undercloud | 0:11:29.586587 | 1.06s<br>2022-07-13 21:35:30.495729 | 525400ae-089b-870a-fab6-000000007304 |     TIMING | tripleo_keystone_resources : Async creation of Keystone project | undercloud | 0:11:29.587916 | 1.07s<br>2022-07-13 21:35:30.511748 | 525400ae-089b-870a-fab6-000000007306 |       TASK | Check Keystone project status<br>2022-07-13 21:35:30.908189 | 525400ae-089b-870a-fab6-000000007306 |    WAITING | Check Keystone project status | undercloud | 30 retries left<br>2022-07-13 21:35:36.166541 | 525400ae-089b-870a-fab6-000000007306 |         OK | Check Keystone project status | undercloud | item=admin<br>2022-07-13 21:35:36.168506 | 525400ae-089b-870a-fab6-000000007306 |     TIMING | tripleo_keystone_resources : Check Keystone project status | undercloud | 0:11:35.260666 | 5.66s<br>2022-07-13 21:35:36.400914 | 525400ae-089b-870a-fab6-000000007306 |         OK | Check Keystone project status | undercloud | item=service<br>2022-07-13 21:35:36.402534 | 525400ae-089b-870a-fab6-000000007306 |     TIMING | tripleo_keystone_resources : Check Keystone project status | undercloud | 0:11:35.494729 | 5.89s<br>2022-07-13 21:35:36.406576 | 525400ae-089b-870a-fab6-000000007306 |     TIMING | tripleo_keystone_resources : Check Keystone project status | undercloud | 0:11:35.498771 | 5.89s<br>2022-07-13 21:35:36.427719 | 525400ae-089b-870a-fab6-0000000072af |       TASK | Create admin role<br>2022-07-13 21:35:38.632266 | 525400ae-089b-870a-fab6-0000000072af |         OK | Create admin role | undercloud<br>2022-07-13 21:35:38.633754 | 525400ae-089b-870a-fab6-0000000072af |     TIMING | tripleo_keystone_resources : Create admin role | undercloud | 0:11:37.725949 | 2.20s<br>2022-07-13 21:35:38.649721 | 525400ae-089b-870a-fab6-0000000072b0 |       TASK | Create _member_ role<br>2022-07-13 21:35:38.689773 | 525400ae-089b-870a-fab6-0000000072b0 |    SKIPPED | Create _member_ role | undercloud<br>2022-07-13 21:35:38.691172 | 525400ae-089b-870a-fab6-0000000072b0 |     TIMING | tripleo_keystone_resources : Create _member_ role | undercloud | 0:11:37.783369 | 0.04s<br>2022-07-13 21:35:38.706920 | 525400ae-089b-870a-fab6-0000000072b1 |       TASK | Create admin user<br>2022-07-13 21:35:42.051623 | 525400ae-089b-870a-fab6-0000000072b1 |    CHANGED | Create admin user | undercloud<br>2022-07-13 21:35:42.053285 | 525400ae-089b-870a-fab6-0000000072b1 |     TIMING | tripleo_keystone_resources : Create admin user | undercloud | 0:11:41.145472 | 3.34s<br>2022-07-13 21:35:42.069370 | 525400ae-089b-870a-fab6-0000000072b2 |       TASK | Assign admin role to admin project for admin user<br>2022-07-13 21:35:45.194891 | 525400ae-089b-870a-fab6-0000000072b2 |         OK | Assign admin role to admin project for admin user | undercloud<br>2022-07-13 21:35:45.196669 | 525400ae-089b-870a-fab6-0000000072b2 |     TIMING | tripleo_keystone_resources : Assign admin role to admin project for admin user | undercloud | 0:11:44.288848 | 3.13s<br>2022-07-13 21:35:45.212674 | 525400ae-089b-870a-fab6-0000000072b3 |       TASK | Assign _member_ role to admin project for admin user<br>2022-07-13 21:35:45.252884 | 525400ae-089b-870a-fab6-0000000072b3 |    SKIPPED | Assign _member_ role to admin project for admin user | undercloud<br>2022-07-13 21:35:45.254283 | 525400ae-089b-870a-fab6-0000000072b3 |     TIMING | tripleo_keystone_resources : Assign _member_ role to admin project for admin user | undercloud | 0:11:44.346479 | 0.04s<br>2022-07-13 21:35:45.270310 | 525400ae-089b-870a-fab6-0000000072b4 |       TASK | Create identity service<br>2022-07-13 21:35:46.928715 | 525400ae-089b-870a-fab6-0000000072b4 |         OK | Create identity service | undercloud<br>2022-07-13 21:35:46.930167 | 525400ae-089b-870a-fab6-0000000072b4 |     TIMING | tripleo_keystone_resources : Create identity service | undercloud | 0:11:46.022362 | 1.66s<br>2022-07-13 21:35:46.946797 | 525400ae-089b-870a-fab6-0000000072b5 |       TASK | Create identity public endpoint<br>2022-07-13 21:35:49.139298 | 525400ae-089b-870a-fab6-0000000072b5 |         OK | Create identity public endpoint | undercloud<br>2022-07-13 21:35:49.141158 | 525400ae-089b-870a-fab6-0000000072b5 |     TIMING | tripleo_keystone_resources : Create identity public endpoint | undercloud | 0:11:48.233349 | 2.19s<br>2022-07-13 21:35:49.157768 | 525400ae-089b-870a-fab6-0000000072b6 |       TASK | Create identity internal endpoint<br>2022-07-13 21:35:51.566826 | 525400ae-089b-870a-fab6-0000000072b6 |      FATAL | Create identity internal endpoint | undercloud | error={"changed": false, "extra_data": {"data": null, "details": "The request you have made requires authentication.", "response": "{\"error\":{\"code\":401,\"message\":\"The request you have made requires authentication.\",\"title\":\"Unauthorized\"}}\n"}, "msg": "Failed to list services: Client Error for url: https://[fd00:fd00:fd00:9900::81]:13000/v3/services, The request you have made requires authentication."}<br>2022-07-13 21:35:51.568473 | 525400ae-089b-870a-fab6-0000000072b6 |     TIMING | tripleo_keystone_resources : Create identity internal endpoint | undercloud | 0:11:50.660654 | 2.41s<br><br>PLAY RECAP *********************************************************************<br>localhost                  : ok=1    changed=0    unreachable=0    failed=0    skipped=2    rescued=0    ignored=0<br>overcloud-controller-0     : ok=437  changed=103  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-controller-1     : ok=435  changed=101  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-controller-2     : ok=432  changed=101  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-novacompute-0    : ok=345  changed=82   unreachable=0    failed=0    skipped=198  rescued=0    ignored=0<br>undercloud                 : ok=39   changed=7    unreachable=0    failed=1    skipped=6    rescued=0    ignored=0<br></div><div><br></div></blockquote>Also :</div><div>(undercloud) [stack@undercloud oc-cert]$ cat server.csr.cnf<br>[req]<br>default_bits = 2048<br>prompt = no<br>default_md = sha256<br>distinguished_name = dn<br>[dn]<br>C=IN<br>ST=UTTAR PRADESH<br>L=NOIDA<br>O=HSC<br>OU=HSC<br>emailAddress=<a href="mailto:demo@demo.com" rel="noreferrer" target="_blank">demo@demo.com</a><br><br></div><div>v3.ext:</div><div>(undercloud) [stack@undercloud oc-cert]$ cat v3.ext<br>authorityKeyIdentifier=keyid,issuer<br>basicConstraints=CA:FALSE<br>keyUsage = digitalSignature, nonRepudiation, keyEncipherment, dataEncipherment<br>subjectAltName = @alt_names<br>[alt_names]<br>IP.1=fd00:fd00:fd00:9900::81<br></div><div><br></div><div>Using these files we create other certificates.</div><div>Please check and let me know in case we need anything else.  </div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jul 13, 2022 at 10:00 PM Vikarna Tathe <<a href="mailto:vikarnatathe@gmail.com" rel="noreferrer" target="_blank">vikarnatathe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Lokendra, <div><br></div><div>Are you able to access all the tabs in the OpenStack dashboard without any error? If not, please retry generating the certificate. Also, share the openssl.cnf or server.cnf.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, 13 Jul 2022 at 18:18, Lokendra Rathour <<a href="mailto:lokendrarathour@gmail.com" rel="noreferrer" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">Hi Team,<div>Any input on this case raised. </div><div><br></div><div>Thanks,</div><div>Lokendra</div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 12, 2022 at 10:18 PM Lokendra Rathour <<a href="mailto:lokendrarathour@gmail.com" rel="noreferrer" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">Hi Shephard/Swogat,<div>I tried changing the setting as suggested and it looks like it has failed at step 4 with error:</div><div><br></div><div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div><font size="1">:31:32.169420 | 525400ae-089b-fb79-67ac-0000000072ce |     TIMING | tripleo_keystone_resources : Create identity public endpoint | undercloud | 0:24:47.736198 | 2.21s<br>2022-07-12 21:31:32.185594 | 525400ae-089b-fb79-67ac-0000000072cf |       TASK | Create identity internal endpoint<br>2022-07-12 21:31:34.468996 | 525400ae-089b-fb79-67ac-0000000072cf |      FATAL | Create identity internal endpoint | undercloud | error={"changed": false, "extra_data": {"data": null, "details": "The request you have made requires authentication.", "response": "{\"error\":{\"code\":401,\"message\":\"The request you have made requires authentication.\",\"title\":\"Unauthorized\"}}\n"}, "msg": "Failed to list services: Client Error for url: https://[fd00:fd00:fd00:9900::81]:13000/v3/services, The request you have made requires authentication."}<br>2022-07-12 21:31:34.470415 | 525400ae-089b-fb79-67ac-000000</font></div></blockquote><font size="1"><br></font></div><div>Checking further the endpoint list:</div><div>I see only one endpoint for keystone is gettin created. </div><div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div>  DeprecationWarning<br><font size="1">+----------------------------------+-----------+--------------+--------------+---------+-----------+-----------------------------------------+<br>| ID                               | Region    | Service Name | Service Type | Enabled | Interface | URL                                     |<br>+----------------------------------+-----------+--------------+--------------+---------+-----------+-----------------------------------------+<br>| 4378dc0a4d8847ee87771699fc7b995e | regionOne | keystone     | identity     | True    | admin     | <a href="http://30.30.30.173:35357" rel="noreferrer" target="_blank">http://30.30.30.173:35357</a>               |<br>| 67c829e126944431a06ed0c2b97a295f | regionOne | keystone     | identity     | True    | internal  | http://[fd00:fd00:fd00:2000::326]:5000  |<br>| 8a9a3de4993c4ff7903caf95b8ae40fa | regionOne | keystone     | identity     | True    | public    | https://[fd00:fd00:fd00:9900::81]:13000 |<br>+----------------------------------+-----------+--------------+--------------+---------+-----------+-----------------------------------------+</font><br></div></blockquote><br></div><div>it looks like something related to the SSL, we have also verified that the GUI login screen shows that Certificates are applied.</div><div>exploring more in logs, meanwhile any suggestions or know observation would be of great help. </div><div>thanks again for the support. </div><div><br></div><div>Best Regards,</div><div>Lokendra</div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Jul 9, 2022 at 11:24 AM Swogat Pradhan <<a href="mailto:swogatpradhan22@gmail.com" rel="noreferrer" target="_blank">swogatpradhan22@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="auto"><div>I had faced a similar kind of issue, for ip based setup you need to specify the domain name as the ip that you are going to use, this error is showing up because the ssl is ip based but the fqdns seems to be <a href="http://undercloud.com" rel="noreferrer" target="_blank">undercloud.com</a> or <a href="http://overcloud.example.com" rel="noreferrer" target="_blank">overcloud.example.com</a>.</div><div>I think for undercloud you can change the undercloud.conf.</div><div><br></div><div>And will it work if we specify clouddomain parameter to the IP address for overcloud? because it seems he has not specified the clouddomain parameter and <a href="http://overcloud.example.com" rel="noreferrer" target="_blank">overcloud.example.com</a> is the default domain for <a href="http://overcloud.example.com" rel="noreferrer" target="_blank">overcloud.example.com</a>.</div><div><br></div><div><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, 8 Jul 2022, 6:01 pm Swogat Pradhan, <<a href="mailto:swogatpradhan22@gmail.com" rel="noreferrer" target="_blank">swogatpradhan22@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">What is the domain name you have specified in the undercloud.conf file?<div dir="auto">And what is the fqdn name used for the generation of the SSL cert?</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, 8 Jul 2022, 5:38 pm Lokendra Rathour, <<a href="mailto:lokendrarathour@gmail.com" rel="noreferrer noreferrer" target="_blank">lokendrarathour@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Team,<div>We were trying to install overcloud with SSL enabled for which the UC is installed, but OC install is getting failed at step 4:</div><div><br></div><div>ERROR</div><div>:<font size="1">nectionPool(host='fd00:fd00:fd00:9900::2ef', port=13000): Max retries exceeded with url: / (Caused by SSLError(CertificateError(\"hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://undercloud.com" rel="noreferrer noreferrer noreferrer" target="_blank">undercloud.com</a>'\",),))\n", "module_stdout": "", "msg": "MODULE FAILURE\nSee stdout/stderr for the exact error", "rc": 1}</font></div><font size="1">2022-07-08 17:03:23.606739 | 5254009a-6a3c-adb1-f96f-0000000072ac |      FATAL | Clean up legacy Cinder keystone catalog entries | undercloud | item={'service_name': 'cinderv3', 'service_type': 'volume'} | error={"ansible_index_var": "cinder_api_service", "ansible_loop_var": "item", "changed": false, "cinder_api_service": 1, "item": {"service_name": "cinderv3", "service_type": "volume"}, "module_stderr": "Failed to discover available identity versions when contacting https://[fd00:fd00:fd00:9900::2ef]:13000. Attempting to parse version from URL.\nTraceback (most recent call last):\n  File \"/usr/lib/python3.6/site-packages/urllib3/connectionpool.py\", line 600, in urlopen\n    chunked=chunked)\n  File \"/usr/lib/python3.6/site-packages/urllib3/connectionpool.py\", line 343, in _make_request\n    self._validate_conn(conn)\n  File \"/usr/lib/python3.6/site-packages/urllib3/connectionpool.py\", line 839, in _validate_conn\n    conn.connect()\n  File \"/usr/lib/python3.6/site-packages/urllib3/connection.py\", line 378, in connect\n    _match_hostname(cert, self.assert_hostname or server_hostname)\n  File \"/usr/lib/python3.6/site-packages/urllib3/connection.py\", line 388, in _match_hostname\n    match_hostname(cert, asserted_hostname)\n  File \"/usr/lib64/python3.6/ssl.py\", line 291, in match_hostname\n    % (hostname, dnsnames[0]))\nssl.CertificateError: hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://undercloud.com" rel="noreferrer noreferrer noreferrer" target="_blank">undercloud.com</a>'\n\nDuring handling of the above exception, another exception occurred:\n\nTraceback (most recent call last):\n  File \"/usr/lib/python3.6/site-packages/requests/adapters.py\", line 449, in send\n    timeout=timeout\n  File \"/usr/lib/python3.6/site-packages/urllib3/connectionpool.py\", line 638, in urlopen\n    _stacktrace=sys.exc_info()[2])\n  File \"/usr/lib/python3.6/site-packages/urllib3/util/retry.py\", line 399, in increment\n    raise MaxRetryError(_pool, url, error or ResponseError(cause))\nurllib3.exceptions.MaxRetryError: HTTPSConnectionPool(host='fd00:fd00:fd00:9900::2ef', port=13000): Max retries exceeded with url: / (Caused by SSLError(CertificateError(\"hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://undercloud.com" rel="noreferrer noreferrer noreferrer" target="_blank">undercloud.com</a>'\",),))\n\nDuring handling of the above exception, another exception occurred:\n\nTraceback (most recent call last):\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/session.py\", line 1022, in _send_request\n    resp = self.session.request(method, url, **kwargs)\n  File \"/usr/lib/python3.6/site-packages/requests/sessions.py\", line 533, in request\n    resp = self.send(prep, **send_kwargs)\n  File \"/usr/lib/python3.6/site-packages/requests/sessions.py\", line 646, in send\n    r = adapter.send(request, **kwargs)\n  File \"/usr/lib/python3.6/site-packages/requests/adapters.py\", line 514, in send\n    raise SSLError(e, request=request)\nrequests.exceptions.SSLError: HTTPSConnectionPool(host='fd00:fd00:fd00:9900::2ef', port=13000): Max retries exceeded with url: / (Caused by SSLError(CertificateError(\"hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://undercloud.com" rel="noreferrer noreferrer noreferrer" target="_blank">undercloud.com</a>'\",),))\n\nDuring handling of the above exception, another exception occurred:\n\nTraceback (most recent call last):\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/generic/base.py\", line 138, in _do_create_plugin\n    authenticated=False)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/base.py\", line 610, in get_discovery\n    authenticated=authenticated)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/discover.py\", line 1452, in get_discovery\n    disc = Discover(session, url, authenticated=authenticated)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/discover.py\", line 536, in __init__\n    authenticated=authenticated)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/discover.py\", line 102, in get_version_data\n    resp = session.get(url, headers=headers, authenticated=authenticated)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/session.py\", line 1141, in get\n    return self.request(url, 'GET', **kwargs)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/session.py\", line 931, in request\n    resp = send(**kwargs)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/session.py\", line 1026, in _send_request\n    raise exceptions.SSLError(msg)\nkeystoneauth1.exceptions.connection.SSLError: SSL exception connecting to https://[fd00:fd00:fd00:9900::2ef]:13000: HTTPSConnectionPool(host='fd00:fd00:fd00:9900::2ef', port=13000): Max retries exceeded with url: / (Caused by SSLError(CertificateError(\"hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://undercloud.com" rel="noreferrer noreferrer noreferrer" target="_blank">undercloud.com</a>'\",),))\n\nDuring handling of the above exception, another exception occurred:\n\nTraceback (most recent call last):\n  File \"<stdin>\", line 102, in <module>\n  File \"<stdin>\", line 94, in _ansiballz_main\n  File \"<stdin>\", line 40, in invoke_module\n  File \"/usr/lib64/python3.6/runpy.py\", line 205, in run_module\n    return _run_module_code(code, init_globals, run_name, mod_spec)\n  File \"/usr/lib64/python3.6/runpy.py\", line 96, in _run_module_code\n    mod_name, mod_spec, pkg_name, script_name)\n  File \"/usr/lib64/python3.6/runpy.py\", line 85, in _run_code\n    exec(code, run_globals)\n  File \"/tmp/ansible_openstack.cloud.catalog_service_payload_7ikyjf7t/ansible_openstack.cloud.catalog_service_payload.zip/ansible_collections/openstack/cloud/plugins/modules/catalog_service.py\", line 185, in <module>\n  File \"/tmp/ansible_openstack.cloud.catalog_service_payload_7ikyjf7t/ansible_openstack.cloud.catalog_service_payload.zip/ansible_collections/openstack/cloud/plugins/modules/catalog_service.py\", line 181, in main\n  File \"/tmp/ansible_openstack.cloud.catalog_service_payload_7ikyjf7t/ansible_openstack.cloud.catalog_service_payload.zip/ansible_collections/openstack/cloud/plugins/module_utils/openstack.py\", line 407, in __call__\n  File \"/tmp/ansible_openstack.cloud.catalog_service_payload_7ikyjf7t/ansible_openstack.cloud.catalog_service_payload.zip/ansible_collections/openstack/cloud/plugins/modules/catalog_service.py\", line 141, in run\n  File \"/usr/lib/python3.6/site-packages/openstack/cloud/_identity.py\", line 517, in search_services\n    services = self.list_services()\n  File \"/usr/lib/python3.6/site-packages/openstack/cloud/_identity.py\", line 492, in list_services\n    if self._is_client_version('identity', 2):\n  File \"/usr/lib/python3.6/site-packages/openstack/cloud/openstackcloud.py\", line 460, in _is_client_version\n    client = getattr(self, client_name)\n  File \"/usr/lib/python3.6/site-packages/openstack/cloud/_identity.py\", line 32, in _identity_client\n    'identity', min_version=2, max_version='3.latest')\n  File \"/usr/lib/python3.6/site-packages/openstack/cloud/openstackcloud.py\", line 407, in _get_versioned_client\n    if adapter.get_endpoint():\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/adapter.py\", line 291, in get_endpoint\n    return self.session.get_endpoint(auth or self.auth, **kwargs)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/session.py\", line 1243, in get_endpoint\n    return auth.get_endpoint(self, **kwargs)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/base.py\", line 380, in get_endpoint\n    allow_version_hack=allow_version_hack, **kwargs)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/base.py\", line 271, in get_endpoint_data\n    service_catalog = self.get_access(session).service_catalog\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/base.py\", line 134, in get_access\n    self.auth_ref = self.get_auth_ref(session)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/generic/base.py\", line 206, in get_auth_ref\n    self._plugin = self._do_create_plugin(session)\n  File \"/usr/lib/python3.6/site-packages/keystoneauth1/identity/generic/base.py\", line 161, i<span style="background-color:rgb(255,255,0)">n _do_create_plugin\n    'auth_url is correct. %s' % e)\nkeystoneauth1.exceptions.discovery.DiscoveryFailure: Could not find versioned identity endpoints when attempting to authenticate. Please check that your auth_url is correct. SSL exception connecting to https://[fd00:fd00:fd00:9900::2ef]:13000: HTTPSConnectionPool(host='fd00:fd00:fd00:9900::2ef', port=13000): Max retries exceeded with url: / (Caused by SSLError(CertificateError(\"hostname 'fd00:fd00:fd00:9900::2ef' doesn't match '<a href="http://overcloud.example.com" rel="noreferrer noreferrer noreferrer" target="_blank">overcloud.example.com</a>'\",),)</span>)\n", "module_stdout": "", "msg": "MODULE FAILURE\nSee stdout/stderr for the exact error", "rc": 1}<br>2022-07-08 17:03:23.609354 | 5254009a-6a3c-adb1-f96f-0000000072ac |     TIMING | Clean up legacy Cinder keystone catalog entries | undercloud | 0:11:01.271914 | 2.47s<br>2022-07-08 17:03:23.611094 | 5254009a-6a3c-adb1-f96f-0000000072ac |     TIMING | Clean up legacy Cinder keystone catalog entries | undercloud | 0:11:01.273659 | 2.47s<br><br>PLAY RECAP *********************************************************************<br>localhost                  : ok=0    changed=0    unreachable=0    failed=0    skipped=2    rescued=0    ignored=0<br>overcloud-controller-0     : ok=437  changed=104  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-controller-1     : ok=436  changed=101  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-controller-2     : ok=431  changed=101  unreachable=0    failed=0    skipped=214  rescued=0    ignored=0<br>overcloud-novacompute-0    : ok=345  changed=83   unreachable=0    failed=0    skipped=198  rescued=0    ignored=0<br><span style="background-color:rgb(255,255,0)">undercloud                 : ok=28   changed=7    unreachable=0    failed=1    skipped=3    rescued=0    ignored=0</span><br>2022-07-08 17:03:23.647270 | ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ Summary Information ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~<br>2022-07-08 17:03:23.647907 | ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ Total Tasks: 1373       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~</font><div><div><br></div><div><br></div><div>in the deploy.sh:</div><div><br></div><div>openstack overcloud deploy --templates \<br>    -r /home/stack/templates/roles_data.yaml \<br>    --networks-file /home/stack/templates/custom_network_data.yaml \<br>    --vip-file  /home/stack/templates/custom_vip_data.yaml \<br>    --baremetal-deployment  /home/stack/templates/overcloud-baremetal-deploy.yaml \<br>    --network-config \<br>    -e /home/stack/templates/environment.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/services/ironic-conductor.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/services/ironic-inspector.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/services/ironic-overcloud.yaml \<br>    -e /home/stack/templates/ironic-config.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/external-ceph.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/services/ptp.yaml \<br><span style="background-color:rgb(255,255,0)">    -e /usr/share/openstack-tripleo-heat-templates/environments/ssl/enable-tls.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/ssl/tls-endpoints-public-ip.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/ssl/inject-trust-anchor.yaml \</span><br>    -e /usr/share/openstack-tripleo-heat-templates/environments/docker-ha.yaml \<br>    -e /usr/share/openstack-tripleo-heat-templates/environments/podman.yaml \<br>    -e /home/stack/containers-prepare-parameter.yaml<br></div><div><br></div><div>Addition lines as highlighted in yellow were passed with modifications:</div><div><span style="background-color:rgb(255,255,0)">tls-endpoints-public-ip.yaml:</span><br></div><div><span style="background-color:rgb(255,255,0)">Passed as is in the defaults.</span></div><div><span style="background-color:rgb(255,255,0)">enable-tls.yaml:</span><br></div></div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div><div># *******************************************************************<br># This file was created automatically by the sample environment<br># generator. Developers should use `tox -e genconfig` to update it.<br># Users are recommended to make changes to a copy of the file instead<br># of the original, if any customizations are needed.<br># *******************************************************************<br># title: Enable SSL on OpenStack Public Endpoints<br># description: |<br>#   Use this environment to pass in certificates for SSL deployments.<br>#   For these values to take effect, one of the tls-endpoints-*.yaml<br>#   environments must also be used.<br>parameter_defaults:<br>  # Set CSRF_COOKIE_SECURE / SESSION_COOKIE_SECURE in Horizon<br>  # Type: boolean<br>  HorizonSecureCookies: True<br><br>  # Specifies the default CA cert to use if TLS is used for services in the public network.<br>  # Type: string<br>  PublicTLSCAFile: '/etc/pki/ca-trust/source/anchors/overcloud-cacert.pem'<br><br>  # The content of the SSL certificate (without Key) in PEM format.<br>  # Type: string<br>  SSLRootCertificate: |<br>    -----BEGIN CERTIFICATE-----<br>    ----*** CERTICATELINES TRIMMED **<br>    -----END CERTIFICATE-----<br><br>  SSLCertificate: |<br>    -----BEGIN CERTIFICATE-----<br>    

----*** CERTICATELINES TRIMMED **<br>    -----END CERTIFICATE-----<br>  # The content of an SSL intermediate CA certificate in PEM format.<br>  # Type: string<br>  SSLIntermediateCertificate: ''<br><br>  # The content of the SSL Key in PEM format.<br>  # Type: string<br>  SSLKey: |<br>    -----BEGIN PRIVATE KEY-----<br>    

----*** CERTICATELINES TRIMMED **<br>    -----END PRIVATE KEY-----<br><br>  # ******************************************************<br>  # Static parameters - these are values that must be<br>  # included in the environment but should not be changed.<br>  # ******************************************************<br>  # The filepath of the certificate as it will be stored in the controller.<br>  # Type: string<br>  DeployedSSLCertificatePath: /etc/pki/tls/private/overcloud_endpoint.pem<br><br>  # *********************<br>  # End static parameters<br>  # *********************<br></div></div></blockquote><div><div><span style="background-color:rgb(255,255,0)">inject-trust-anchor.yaml</span><span style="background-color:rgb(255,255,0)"><br></span></div></div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div><div># *******************************************************************<br># This file was created automatically by the sample environment<br># generator. Developers should use `tox -e genconfig` to update it.<br># Users are recommended to make changes to a copy of the file instead<br># of the original, if any customizations are needed.<br># *******************************************************************<br># title: Inject SSL Trust Anchor on Overcloud Nodes<br># description: |<br>#   When using an SSL certificate signed by a CA that is not in the default<br>#   list of CAs, this environment allows adding a custom CA certificate to<br>#   the overcloud nodes.<br>parameter_defaults:<br>  # The content of a CA's SSL certificate file in PEM format. This is evaluated on the client side.<br>  # Mandatory. This parameter must be set by the user.<br>  # Type: string<br>  SSLRootCertificate: |<br>    -----BEGIN CERTIFICATE-----<br>  

----*** CERTICATELINES TRIMMED **<br>    -----END CERTIFICATE-----<br><br>resource_registry:<br>  OS::TripleO::NodeTLSCAData: ../../puppet/extraconfig/tls/ca-inject.yaml<br></div></div></blockquote><div><div><br></div><div><br></div><div><br></div><div>The procedure to create such files was followed using: </div><div><a href="https://docs.openstack.org/project-deploy-guide/tripleo-docs/latest/features/ssl.html" rel="noreferrer noreferrer noreferrer" target="_blank">Deploying with SSL — TripleO 3.0.0 documentation (openstack.org)</a><br></div><div><br></div><div>Idea is to deploy overcloud with SSL enabled i.e<b> <span style="color:rgb(51,51,51);font-family:-apple-system,BlinkMacSystemFont,"Segoe UI",Roboto,Oxygen-Sans,Ubuntu,Cantarell,"Helvetica Neue",sans-serif;font-size:14px">Self-signed IP-based certificate, without DNS. </span></b></div><div><span style="color:rgb(51,51,51);font-family:-apple-system,BlinkMacSystemFont,"Segoe UI",Roboto,Oxygen-Sans,Ubuntu,Cantarell,"Helvetica Neue",sans-serif;font-size:14px"><br></span></div><div><span style="color:rgb(51,51,51);font-family:-apple-system,BlinkMacSystemFont,"Segoe UI",Roboto,Oxygen-Sans,Ubuntu,Cantarell,"Helvetica Neue",sans-serif;font-size:14px">Any idea around this error would be of great help.</span></div><div><br></div>--<br><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div>skype: lokendrarathour</div><div dir="ltr"><img src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg" width="200" height="41"><br></div><div dir="ltr"><br></div></div></div></div></div></div></div>
</blockquote></div>
</blockquote></div></div></div>
</div>
</blockquote></div><br clear="all"><div><br></div><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div dir="ltr"><br></div></div></div></div></div></div>
</blockquote></div><br clear="all"><div><br></div>--</div>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">~ Lokendra<br></div><div>skype: lokendrarathour</div><div dir="ltr"><img width="200" height="41" src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg"><br></div><div dir="ltr"><br></div></div></div></div></div>
</blockquote></div>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">~ Lokendra<br></div><div>skype: lokendrarathour</div><div dir="ltr"><img width="200" height="41" src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg"><br></div><div dir="ltr"><br></div></div></div></div>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">~ Lokendra<br></div><div>skype: lokendrarathour</div><div dir="ltr"><img width="200" height="41" src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg"><br></div><div dir="ltr"><br></div></div></div></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">~ Lokendra<br></div><div>skype: lokendrarathour</div><div dir="ltr"><img width="200" height="41" src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg"><br></div><div dir="ltr"><br></div></div></div></div>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div dir="ltr"><div dir="ltr">~ Lokendra<br></div><div>skype: lokendrarathour</div><div dir="ltr"><img width="200" height="41" src="https://ci3.googleusercontent.com/mail-sig/AIorK4zyd6LpJOGqagxmzUlY59eMQx0-FN0t8HtjdtGE7VLZSKIxBUz3bI7z-MBqbgDVg1-XbtvHgN_ATJ10N6bonyO-JSGTtl5s_mNSbDoXBg"><br></div><div dir="ltr"><br></div></div></div></div>