<div dir="ltr">Hello,<div><br></div><div>I just resolved an issue where migrating instances with iSCSI volumes would occasionally fail. There's a bug report here:</div><div><br></div><div><a href="https://bugs.launchpad.net/nova/+bug/1423772">https://bugs.launchpad.net/nova/+bug/1423772</a><br></div><div><br></div><div>The core cause ended up being libvirt transferring the volume paths verbatim. For example, take the situation where:</div><div><br></div><div>compute node 1: has luns 0-5 in use for volumes</div><div>compute node 2: has luns 0-2 in use for volumes</div><div>instance 1: hosted on compute node 1 with a volume using lun 5</div><div><br></div><div>If this instance was moved from node 1 to 2, it would fail with:</div><div><br></div><div>Live Migration failure: Failed to open file '/dev/disk/by-path/ip-192.168.1.1:blah-blah-lun-5': No such file or directory<br></div><div><br></div><div>Meanwhile, compute node 2 tried creating an iSCSI connection at lun 3, which is the next lun in line for use.</div><div><br></div><div>Two other situations would happen: </div><div><br></div><div>* If lun 5 was already in use on the destination node, the migration would think it's available and try connecting to it. </div><div>* If lun 5 was the natural next available lun, the migration would work and everything would be fine.</div><div><br></div><div>I found this blueprint which resolves the problem:</div><div><br></div><div><a href="https://blueprints.launchpad.net/nova/+spec/iscsi-live-migration-different-target">https://blueprints.launchpad.net/nova/+spec/iscsi-live-migration-different-target</a><br></div><div><a href="https://review.openstack.org/#/c/137466/">https://review.openstack.org/#/c/137466/</a><br></div><div><br></div><div>The patch will rewrite the libvirt xml file to use the correct luns on the destination server rather than the luns from the source server.</div><div><br></div><div>Since I'm using Icehouse, I backported the changes -- fortunately it was pretty easy.</div><div><br></div><div>This environment jumped from Grizzly to Icehouse. I'm not sure if it was just dumb luck that I never saw this on Grizzly or something changed that introduced it between Grizzly and Icehouse.</div><div><br></div><div>Anyway, I wanted to post a message because iSCSI-backed volumes are fairly common. </div><div><br></div><div>Thanks,</div><div>Joe</div></div>