La computadora más poderosa del mundo, Fugaku, en el Centro RIKEN para Ciencias Computacionales en Kobe, Japón, construida por Fujitsu. La computadora, y muchas otras supercomputadoras importantes, están incorporando cada vez más redes neuronales utilizadas en la inteligencia artificial para trabajar en los tipos más sofisticados de problemas de investigación científica. fujitsu
La tecnología de la inteligencia artificial se ha vuelto tan frecuente incluso en los dominios más complejos de la ciencia que ahora tiene su propio conjunto de pruebas para medir su tiempo de cómputo en las computadoras más poderosas del mundo.
MLPerf, el consorcio de la industria que sirve a la industria informática al medir cuánto tiempo lleva ejecutar el aprendizaje automático, un subconjunto de la inteligencia artificial, ofreció el miércoles un conjunto inaugural de resultados de pruebas para sistemas informáticos de alto rendimiento, o HPC, que ejecutan el aprendizaje automático. Tareas.
Los resultados de las pruebas, presentados por una variedad de laboratorios de investigación, incluyen resultados de la computadora más rápida del mundo, Fugaku.
El esfuerzo refleja el hecho de que las supercomputadoras están incorporando cada vez más formas de aprendizaje profundo de IA en su cálculo de problemas científicos tradicionales.
«Vimos una omisión en el sentido de que no teníamos más cargas de trabajo orientadas científicamente en un momento en que las personas comienzan a ver la capacitación como una carga de trabajo potencial de HPC, o acoplada a ellas o un componente de ellas», dijo David Kanter, el jefe de MLPerf, en una rueda de prensa con los periodistas.
Los nuevos resultados se unen a dos resultados de pruebas comparativas existentes, uno que mide la capacitación en sistemas de servidores ordinarios y otro que mide la inferencia de aprendizaje automático, haciendo predicciones, en servidores y dispositivos móviles.
También: Nvidia hace un barrido limpio del punto de referencia de predicciones de MLPerf para inteligencia artificial
El personal de MLPerf que diseñó las pruebas organizará una sesión el miércoles por la tarde para discutir el esfuerzo en SC20, una conferencia de supercomputación que se lleva a cabo en una ciudad diferente cada año, pero este año se lleva a cabo como un evento virtual debido a la pandemia de COVID-19.
Las pruebas miden específicamente cuántos minutos tardan las supercomputadoras en entrenar una red de aprendizaje profundo hasta que alcanza la competencia en dos tareas, llamadas CosmoFlow y DeepCAM.
CosmoFlow, una colaboración entre Intel y la unidad Cray de Hewlett Packard Enterprise, y el Centro Nacional de Computación Científica de Investigación Energética del Departamento de Energía, o NERSC, utiliza una red neuronal convolucional tridimensional para determinar los parámetros cosmológicos del universo.
DeepCAM, una colaboración entre Nvidia, el Laboratorio Nacional Lawrence Berkeley y el Laboratorio Nacional Oak Ridge, es una aplicación de red neuronal de segmentación de imágenes que aprende a predecir fenómenos meteorológicos «extremos».
Parte del ímpetu para las nuevas pruebas proviene de laboratorios que querían usar puntos de referencia para especificar toda la tecnología vendida por proveedores de equipos de supercomputación, incluidos los fabricantes de chips Intel y Nvidia y Advanced Micro Devices.
«Habíamos sido contactados por un par de centros de supercomputación que estaban interesados en usar la capacitación MLPerf para ofertas, calificación y aceptación», dijo Kanter. «Más de mil millones de dólares en ofertas han utilizado componentes MLPerf en el proceso de licitación».
También: Nvidia y Google reclaman el derecho a fanfarronear en los puntos de referencia de MLPerf a medida que las computadoras con IA se hacen cada vez más grandes
Los sistemas que participaron incluyen algunos de los más rápidos del mundo, según la lista Top 500 de supercomputadoras. Incluyen el sistema Fugaku en el Centro RIKEN para Ciencias Computacionales en Kobe, Japón, que fue construido por Fujitsu y que es el número uno en la lista Top 500. Otro participante fue Frontera-RTX, en el Centro de Computación Avanzada de Texas en la Universidad de Texas, número nueve en la lista.
Los puntos de referencia tuvieron que adaptarse a algunos cambios en la forma en que se miden las cosas.
A diferencia del entrenamiento de MLPerf en servidores, donde la métrica habitual es la cantidad de imágenes que se pueden procesar por segundo, donde más es mejor, las tareas de la supercomputadora cuentan el tiempo de pared para alcanzar la precisión, donde menos es mejor.
La menor cantidad de tiempo para desarrollar una red neuronal para resolver el problema de CosmoFlow fue de trece minutos, logrado por AI Bridging Cloud Infrastructure Computer, o ABCI, como se le llama, ubicado en el Instituto Nacional de Ciencia y Tecnología Industrial Avanzada en Japón. La máquina, la decimocuarta más poderosa del mundo, también fue desarrollada por Fujitsu y cuenta con una combinación de 1024 microprocesadores Intel Xeon y 2048 GPU Nvidia V100.
Un segundo sistema ABCI, que utilizó la mitad de la potencia informática, logró el tiempo más bajo para entrenar la tarea de segmentación de imágenes en DeepCAM, con solo diez minutos y medio.
Pero hay otros cambios más específicos relacionados con la naturaleza de las supercomputadoras y su trabajo.
Por ejemplo, la entrada-salida debe medirse con más cuidado en los puntos de referencia de las supercomputadoras porque puede tener una mayor influencia en los resultados. A diferencia de las pruebas en tareas típicas de MLPerf como ImageNet, «tenemos grandes conjuntos de datos científicos, estructuras de datos complejas, conjuntos de datos espacio-temporales que pueden provenir de grandes simulaciones de HPC», dijo Steve Farrell, ingeniero de aprendizaje automático de NERSC que es co -presidente del esfuerzo de HPC para MLPerf.
«El movimiento de datos, esa parte de la historia, es muy importante para HPC», dijo Farrell. CosmoFlow y DeepCAM tienen conjuntos de datos que miden cinco terabytes y nueve terabytes, señaló.
«Lo que agregamos a las reglas es que cualquier movimiento de datos de un sistema de archivos general tenía que incluirse en el tiempo informado de referencia, y capturamos el tiempo invertido en el proceso de preparación», dijo.
