---------------------------------------------------

La IA de NVIDIA es líder en la industria: ¿más GPU que CPU?

La plataforma informática de inteligencia artificial de NVIDIA ha batido récords de rendimiento una vez más durante la última ronda de pruebas de inferencia alojadas a través del consorcio de evaluación comparativa de la industria llamado MLPerf, según un comunicado de prensa compartido bajo embargo con Interesting Engineering.

Por primera vez, hay más GPU que CPU en rendimiento de inferencia activa en plataformas de servicios en la nube.

En conjunto, esto amplía sustancialmente el liderazgo de NVIDIA como el único líder independiente de la industria en rendimiento, servicios y software de inteligencia artificial, ya que las aplicaciones de inteligencia artificial se están moviendo hacia aplicaciones más convencionales que nunca.

RELACIONADO: NVIDIA CONSTRUYE UNA SUPERCOMPUTADORA DE $ 52 MILLONES PARA INVESTIGACIÓN DE SALUD DE AI

Las GPU A100 y T4 de NVIDIA limpiaron el piso con todas las pruebas de inferencia del centro de datos. Fuente: NVIDIA

NVIDIA supera el estándar de computación de IA, las GPU superan a las CPU

Las GPU NVIDIA ganaron todas las pruebas de inferencia de IA en centros de datos y sistemas informáticos de borde en la ronda más reciente de los únicos puntos de referencia revisados ​​por pares basados ​​en consorcios en la industria. La computación perimetral implica la inteligencia artificial adjunta al punto de acción, donde, por ejemplo, un dron de seguridad de inteligencia artificial necesitaría tomar decisiones en tiempo real sin el retraso de la conexión o el control remoto.

Las GPU A100 Tensor Core de NVIDIA superaron los resultados anteriores demostrados en las primeras pruebas de inferencia de IA realizadas el año pasado, cortesía de MLPERF, un consorcio de evaluación comparativa para la industria establecido en mayo de 2018.

Otra GPU llamada A100 y presentada en mayo de este año mostró rivales de CPU, en un múltiplo de hasta 237 veces mejor rendimiento en la inferencia del centro de datos, de acuerdo con los puntos de referencia 0.7 de MLPerf Inference.

Los nuevos niveles de rendimiento ayudarán a mejorar la rentabilidad para que las empresas lleven la IA desde la investigación a las etapas de producción. Fuente: NVIDIA

Las GPU de factor de forma pequeño y de bajo consumo de energía NVIDIA T4 eclipsaron el rendimiento de la CPU en un múltiplo de 28 veces mejor. Como referencia, un sistema NVIDIA DGX A100 con ocho GPU A100 puede ofrecer el mismo rendimiento que casi 1000 servidores de CPU de dos sockets en aplicaciones de inteligencia artificial importantes.

En particular, esta última ronda de pruebas de referencia a través de MLPerf tuvo más participación, con presentaciones de 23 organizaciones, lo que representa un aumento de las 12 que presentaron en la última ronda. Fundamentalmente, los socios de IA de NVIDIA que ejecutan la plataforma de IA de la compañía impulsaron más del 85% de todas las presentaciones.

Jetson AGX Xavier alcanzó una posición de liderazgo en el mercado a través del rendimiento de las GPU A100 y T4 de NVIDIA en el borde. Fuente: NVIDIA

GPU A100, Jetson AGX Xavier, Edge Performance

Además, NVIDIA Jetson AGX Xavier también amplió el liderazgo en los dispositivos periféricos basados ​​en SoC con potencia limitada, con soporte para todos los casos de uso prácticos.

Los últimos resultados representan un “punto de inflexión” de distribución en el ecosistema de IA, que registró 1.029 resultados que se enviaron ejecutando productos NVIDIA. Las presentaciones incluyeron socios como Cisco, Fujitsu, Cisco, Altos, Alto, Dividiti, Lenovo, QCT, Gigabyte, Nettrix e Inspur.

MLPerf disfruta de un amplio apoyo en la academia y varias industrias, estableciendo puntos de referencia para organizaciones como Facebook, Google, Microsoft, Arm, Baidu, Harvard, Lenovo, Intel, Stanford y la Universidad de Toronto.

Los últimos puntos de referencia incluyen imágenes médicas, reconocimiento de voz

Los últimos puntos de referencia ofrecidos a través de MLPerf incluyen cuatro nuevas pruebas, una prueba del panorama en expansión de la IA. El nuevo conjunto de pruebas ahora puntúa el rendimiento en imágenes médicas, reconocimiento de voz, procesamiento del lenguaje natural, sistemas de recomendación y también casos de uso de IA en visión por computadora.

“Los recientes avances de la inteligencia artificial en la comprensión del lenguaje natural están haciendo que un número creciente de servicios de inteligencia artificial como Bing sea más natural para interactuar, brindando resultados, respuestas y recomendaciones precisas y útiles en menos de un segundo”, dijo el vicepresidente de búsqueda e inteligencia artificial de Microsoft. Rangan Majumder.

“Los puntos de referencia MLPerf estándar de la industria proporcionan datos de rendimiento relevantes en redes de IA ampliamente utilizadas y ayudan a tomar decisiones informadas de compra de plataformas de IA”, agregó Majumder.

Las aplicaciones de inteligencia artificial salvan vidas en medio de la crisis del COVID-19

Se observó un impacto sustancial donde la IA desempeñó un papel en las imágenes médicas. Por ejemplo, una startup llamada Caption Health usa IA para simplificar la tarea de recuperar ecocardiogramas, un procedimiento que se ha demostrado que salva vidas en hospitales de EE. UU. Durante los primeros días de la crisis del COVID-19.

Esta es la razón por la que los modelos de vista de IA como 3D U-Net, utilizados durante los recientes puntos de referencia de MLPerf, se consideran cruciales.

“Hemos trabajado en estrecha colaboración con NVIDIA para llevar innovaciones como 3 U-Net al mercado de la salud”, dijo Klaus Maier-Hein, director de computación de imágenes médicas del Centro Alemán de Investigación del Cáncer en DKFZ.

“La visión por computadora y las imágenes son el núcleo de la investigación de la IA, impulsando el descubrimiento científico y representando los componentes centrales de la atención médica. Y los puntos de referencia MLPerf estándar de la industria brindan datos de rendimiento relevantes que ayudan a las organizaciones y desarrolladores de TI a acelerar sus proyectos y aplicaciones específicos”, agregó Maier. -Hein.

Los casos de uso de IA en entornos comerciales ya han tenido gran repercusión. Por ejemplo, Alibaba usó sistemas de recomendación en noviembre de 2019 para una transacción de $ 38 mil millones en ventas en línea durante su Día de los Solteros, el día de compras más grande del año para la compañía.

Las GPU activas en los principales servicios en la nube ahora representan más rendimiento de inferencia que las CPU, por primera vez. Fuente: NVIDIA

La adopción de NVIDIA AI Inference ha superado el ‘punto de inflexión’

Atravesando el ruido técnico de un sinfín de puntos de referencia, la IA Inference de NVIDIA supera un hito significativo este año: sus GPU entregaron un total de más de 100 exaflops de rendimiento de inferencia de IA en la nube pública durante el último año.

En otras palabras, la capacidad total de computación de inferencia de IA en la nube que se ejecuta en las GPU de NVIDIA superó a las CPU en la nube por primera vez, siguiendo una tendencia de crecimiento en un factor de aproximadamente 10 cada dos años.

A medida que la IA continúa creciendo en organizaciones e industrias entrelazadas con la infraestructura pública, las empresas que lideran el camino como NVIDIA seguramente se convertirán en una faceta omnipresente de la vida diaria. El software acelerado por GPU que ejecuta sistemas OEM certificados por NVIDIA en todos los sistemas en la nube se está convirtiendo rápidamente en una inevitabilidad futura menor que en un estándar actual.