Table of Contents
La creciente demanda de procesamiento debido a la IA Generativa obliga a los centros de datos a evolucionar rápidamente.
Este fenómeno se discutirá en profundidad en el BICSI ICT SUMMIT COLOMBIA 2024, con la participación del experto Jonathan Jew (en la foto), secretario del Comité de Ingeniería TIA TR-42.
Adaptación a la IA Generativa
La inteligencia artificial generativa, abarca desde bots básicos hasta complejas aplicaciones de analítica y multimedia.
Además, requiere recursos sustanciales de datos y procesamiento para generar resultados avanzados en audio y video.
Esto plantea desafíos significativos para los centros de datos, que deben adaptarse para manejar estas exigencias sin precedentes.
Incremento en la demanda de recursos
Los centros de datos deben enfrentar una demanda creciente y casi exponencial de recursos.
Según un estudio de Gartner para la firma de investigaciones Daon, los modelos de IA generativa pasarán de representar el 1 por ciento de las soluciones de IA en 2023 a más del 60 por ciento en 2026, desplazando a los modelos monomodales de IA.
Además, la demanda por servicios de AIaaS (Inteligencia Artificial como Servicio) está en aumento, incluyendo soluciones como AI TRiSM (Gestión de Confianza, Riesgo y Seguridad), detectores de procedencia y IA sostenible.
Transformación de los Centros de Datos
Jonathan Jew, experto en la materia, destaca que los centros de datos están en una fase de transformación para satisfacer las nuevas demandas de la IA.
Desde la pandemia, estas instalaciones han adaptado sus infraestructuras, pero el auge de la IA requiere aún más cambios.
Los usuarios buscan más espacio para colocation, lo que incrementa la necesidad de energía y capacidad de enfriamiento, con consumos que pasan de 8KW a 30KW por gabinete.
Necesidades de las GPU
Las unidades de procesamiento de gráficos (GPU) son esenciales para las aplicaciones de IA, pero requieren formas más eficientes de conectividad y alimentación energética.
Los centros de datos de hyperscale buscan crear grandes clústeres de GPU, con hasta 64K GPU, para adaptarse a diversas cargas de trabajo de entrenamiento de IA generativa.
La conectividad de red sin bloqueo y la topología optimizada son cruciales para maximizar el potencial de estas GPU.
Mejoras en conectividad y enfriamiento
Para enfrentar estos desafíos, los centros de datos están adoptando fibras ópticas multimodo para mejorar la velocidad de conectividad, alcanzando velocidades de 8,6 TB y más.
Jonathan Jew explica que los sistemas de energía y enfriamiento también deben ajustarse, soportando una alta densidad de servidores GPU.
Un centro de datos moderno puede requerir entre 30 y 40 KW por gabinete solo para empezar.
Impacto futuro
La transición a fibras ópticas multimodales permitirá una transmisión más rápida y eficiente de datos, esencial para la IA.
Jew destaca que esta evolución es clave para atender de forma confiable y oportuna la creciente demanda de procesamiento en los próximos años.
Estos temas y más se discutirán en el evento BICSI ICT SUMMIT COLOMBIA 2024, que se llevará a cabo el 28 y 29 de mayo en el Centro de Convenciones Ágora en Bogotá.
En conclusión, la IA generativa está marcando un antes y un después en la infraestructura de los centros de datos.
La necesidad de mayores recursos y la adopción de tecnologías avanzadas como la fibra óptica y las GPU están impulsando esta transformación, preparándolos para un futuro de demanda creciente y complejidad tecnológica.
TAMBIÉN PUEDES LEER 👋 DATA CENTERS, LOS “TITANES” DE LA ERA DIGITAL
