Nos dedicamos a la analítica de vídeo de objetos y utilizamos redes neuronales para detectar y clasificar objetos. Me gustaría compartir nuestra solución en aceleradores de hardware y una placa para inferencia (ejecución) de redes neuronales en el centro de datos. Inicialmente, al usar Intel Movidius VPU (MyriadX) en soluciones de borde que ejecutan OpenVINO, notamos su alto rendimiento y eficiencia al trabajar con redes convolucionales, CNN (nuestra opción de uso frecuente es SSD Mobilenet v.2). Entonces nació la idea de implementar una placa de servidor PCIe con VPU colocadas a alta densidad. El resultado y el primer lote de prueba se muestran en la foto, ahora viene el proceso de depuración. El rendimiento esperado es de 45 * 64 = 2880 FPS / placa, que se pueden colocar hasta 4 piezas en un servidor 1U (en nuestro caso, las plataformas Supermicro), es decir, se pueden conseguir hasta 11520 FPS en 1U.
Tarjeta ComBox x64 Movidius PCIe para inferencia de redes neuronales Tarjeta ComBox x64 Movidius PCIe para inferencia de redes neuronales Tarjeta ComBox x64 Movidius PCIe para inferencia de redes neuronales Tarjeta ComBox x64 Movidius PCIe para inferencia de redes neuronales