A veces, las tareas complejas se pueden resolver de manera simple y, al mejorar la solución inicial en el futuro, puede obtener opciones previstas, incluso para la operación industrial. Nos dedicamos a la analítica de vídeo de objetos, en particular, a la detección y clasificación de objetos mediante redes neuronales de diversas topologías. La ejecución (inferencia) de redes neuronales se puede realizar en varios hardware: GPU, CPU, FPGA, VPU y otros dispositivos. Elegimos convertir los modelos entrenados a Intel OpenVINO y ejecutarlos en núcleos de procesador o gráficos iGPU integrados.
El alto rendimiento con una relación precio / calidad óptima (en nuestro caso, $ / FPS en redes convolucionales SSD Mobilenet v.2) mostró Intel NUC de octava generación con procesadores Core i5, incluso debido a los gráficos integrados Iris Plus 655. Después de las pruebas, Llegué a la conclusión de que al utilizar estas computadoras en un factor de forma de servidor y con una alta densidad de ellas, se puede reducir significativamente el costo de inferencia en el segmento corporativo o centro de datos. El resultado del desarrollo fue un servidor de factor de forma de 1U con 8 Intel NUC en el interior, 2 PSU intercambiables en caliente y un sistema de monitoreo de estado integrado. Un solo servidor puede procesar hasta 2000 FPS SSD Mobilenet v.2, lo que es comparable a soluciones 2 o más veces más caras que la implementada. Más información sobre el historial de creación de la solución: https://habr.com/ru/post/477430/
Servidor ComBox NUC para inferencia de redes neuronales Servidor ComBox NUC para inferencia de redes neuronales Servidor ComBox NUC para inferencia de redes neuronales