Movidius es una subsidiaria de Intel, que continúa brindándonos noticias de los campos de inteligencia artificial, visión por computadora y redes neuronales.
Ahora en el campo de la visión por computadora y la inferencia de redes neuronales, los dispositivos MyriadX e Intel NCS2 basados en ellos están ganando mucha popularidad.
Intel Neural Compute Stick 2 con MyriadX Intel Neural Compute Stick 2 con MyriadX
Hay muchas soluciones para usar en el centro de datos, por ejemplo, UP AI Corel X4 / 8 de AAEON:
AAEON UP AI Corel X4 / 8
Pero, ¿qué pasa si necesitas una densidad más alta?
Tarjeta ComBox PCIe 64x MyriadX
Esta solución es una placa de soporte PCIe x4 de tamaño completo y 8 blades, cada uno de los cuales tiene instalados 8 chips Myriad X MA2485. De hecho, este es un sistema de cuchillas de bus PCIe donde se pueden instalar de 1 a 8 lamas con 8 aceleradores de inferencia en cada placa de soporte. El resultado final es una solución de VPU escalable, de alta densidad y líder en la industria para el segmento empresarial. Todas las cuchillas del sistema se muestran como múltiples placas HDDL con 8 aceleradores cada una. Esto le permite utilizar muchos como inferencia de una tarea con muchos flujos entrantes y para muchas tareas diferentes.
La solución utiliza PLX para 12 líneas PCIe, 8 de las cuales van a 8 blades, una línea para cada una y 4 a la placa base. A continuación, cada línea va al conmutador PCIe-USB, donde se utiliza 1 puerto para la conexión, y se envían 8 a cada Myriad X conectado.
El consumo total de energía de una placa con 64 chips no excede los 100 W, pero también se permite la conexión en serie del número requerido de blades, lo que afecta proporcionalmente el consumo de energía.
En total, dentro de una placa PCIe de tamaño completo, tenemos 64 Myriad X, y en el marco de una solución de servidor en la plataforma, por ejemplo, de Supermicro 1029GQ-TRT, 4 placas en el factor de forma 1U, es decir. 256 chips Myriad X para inferencia de 1U.
Supermicro 1029GQ-TRT
Si comparamos la solución basada en Myriad X con nVidia Tesla T4, entonces tiene sentido considerar la topología ResNet50, en la que la VPU proporciona 35 FPS. En total, tenemos 35 FPS / Myriad X * 64 piezas = 2240 FPS / placa y 8960 FPS / 1U servidor, que es comparable al lote = 1 nVidia Tesla V100, con el costo del acelerador en Myriad X mucho menor. No solo el costo muestra la viabilidad de usar Myriad X en inferencia, sino también la posibilidad de inferencia paralela de varias redes neuronales, así como la eficiencia en términos de consumo de calor y energía.
Más detalles: https://combox.io/projects/8SBC/