
<html><body><div><div>Hi Everyone,<br></div><div><br></div><div>thanks for the many replies and hints. I think I will go for an NVIDIA T4 for now and try to get it working in our OpenStack cluster by following your guidelines @Gene. I will report back on the progress.<br></div><div><br></div><div>Cheers,<br></div><div>Oliver<br></div><div><br></div><blockquote type="cite"><div>On Jan 13, 2023, at 4:20 PM, Dmitriy Rabotyagov <noonedeadpunk@gmail.com> wrote:<br></div><div><br></div><div><br></div><div><div><div>You are saying that, like Nvidia GRID drivers are open-sourced while<br></div><div>in fact they're super far from being that. In order to download<br></div><div>drivers not only for hypervisors, but also for guest VMs you need to<br></div><div>have an account in their Enterprise Portal. It took me roughly 6 weeks<br></div><div>of discussions with hardware vendors and Nvidia support to get a<br></div><div>proper account there. And that happened only after applying for their<br></div><div>Partner Network (NPN).<br></div><div>That still doesn't solve the issue of how to provide drivers to<br></div><div>guests, except pre-build a series of images with these drivers<br></div><div>pre-installed (we ended up with making a DIB element for that [1]).<br></div><div>Not saying about the need to distribute license tokens for guests and<br></div><div>the whole mess with compatibility between hypervisor and guest drivers<br></div><div>(as guest driver can't be newer then host one, and HVs can't be too<br></div><div>new either).<br></div><div><br></div><div>It's not that I'm protecting AMD, but just saying that Nvidia is not<br></div><div>that straightforward either, and at least on paper AMD vGPUs look<br></div><div>easier both for operators and end-users.<br></div><div><br></div><div>[1] <a rel="noopener noreferrer" href="https://github.com/citynetwork/dib-elements/tree/main/nvgrid">https://github.com/citynetwork/dib-elements/tree/main/nvgrid</a><br></div><div><br></div><blockquote type="cite"><div><br></div><div>As for AMD cards, AMD stated that some of their MI series card supports SR-IOV for vGPUs. However, those drivers are never open source or provided closed source to public, only large cloud providers are able to get them. So I don't really recommend getting AMD cards for vGPU unless you are able to get support from them.<br></div></blockquote></div></div></blockquote></div><div><br></div></body></html>