La Inteligencia Artificial, que a menudo requiere ejecutar cálculos en gigabytes de datos, necesita una enorme potencia informática en comparación con las cargas de trabajo ordinarias.
La tecnología tradicional de los centros de datos no es lo suficientemente potente para proyectos de inteligencia artificial (IA) ambiciosos, por lo que las empresas están agregando grupos de unidades de procesamiento gráfico.
La madurez creciente de la inteligencia artificial es la tendencia empresarial más importante que he visto en muchos años, con profundas implicaciones en todas las industrias. Cada líder empresarial y de TI debería priorizar responder una pregunta: ¿Cómo podemos aprovechar el poder de la IA para mejorar la competitividad y rentabilidad de nuestra organización?.
Las empresas han descubierto que no pueden operar de manera efectiva aplicaciones impulsadas por IA con sus centros de datos existentes o entornos en la nube. De hecho, la IA requiere tanta potencia informática que simplemente agregar un par de servidores o aumentar marginalmente el presupuesto en la nube de la organización no será suficiente.
Lo que se requiere para las cargas de trabajo de IA es el tipo de potencia que proviene de la informática de alto rendimiento, en forma de unidades de procesamiento gráfico (GPU). De hecho, las GPU están reemplazando a las unidades de procesamiento central (CPU) tradicionales en nuestro mundo impulsado por la IA.
Las empresas pueden acceder a las GPU comprándolas e instalándolas en las instalaciones o a través de la nube, pero estamos viendo que la mayoría de las organizaciones eligen el enfoque anterior.
Adquirir un clúster de GPU externo es quizás la mejor manera en que una organización puede adquirir el nivel más elite de potencia de procesamiento, y es más adecuado para aquellas que tienen grandes necesidades en este momento o proyectos ambiciosos planeados.
Estas organizaciones tienen algunas opciones en cuanto a cómo compran dichos clústeres, que vienen en grupos de ocho: Una empresa que necesite más puede unir dos o más clústeres o comprar un «superpod», que incluye 256 GPU.
Esta no es una inversión pequeña, pero estos clústeres cuentan con la red de alto rendimiento y baja latencia que las organizaciones necesitan para proyectos significativos basados en IA, así como el software necesario para el cálculo de la IA.
Fuente: https://biztechmagazine.com/article/2023/12/why-artificial-intelligence-requires-high-performance-computing