El ritmo del cambio tecnológico nunca ha sido tan rápido y los altos ejecutivos están tratando de entender cómo estas disrupciones reconfigurarán el sector. La IA generativa es el principal impulsor de la actual ola de cambio, pero se ve complicada por los cambios posteriores a la globalización y la necesidad de adaptar los procesos de negocios para generar valor.

Así lo determina un informe de Bain & Company en el que resume el potencial con una frase del CEO de Nvidia, Jensen Huang: “La IA generativa es la mayor expansión del mercado total direccionable de software y hardware que hemos visto en varias décadas”.

Bain estima que el mercado total relacionado con la IA crecerá entre un 40% y un 55% anual durante al menos los próximos tres años, alcanzando entre US$ 780 mil millones y US$990 mil millones en 2027 . «Las fluctuaciones en la oferta y la demanda crearán volatilidad en el camino, pero parece que la trayectoria duradera a largo plazo ha llegado para quedarse», sentencia.

Hasta ahora, los proveedores de servicios en la nube (CSP, por sus siglas en inglés) más grandes o «hiperescaladores», han liderado el mercado en cuanto a gasto en I+D y, según Bain, seguirán liderando, pero buscarán más innovación en el siguiente nivel de CSP, proveedores de software como servicio, gobiernos y empresas, así como empresas independientes, para impulsar la próxima ola de crecimiento.

Lo que anticipa

• Gama alta: modelos más grandes, mejor inteligencia, más computación.  Los grandes actores seguirán adelante, desarrollando modelos más grandes y más potentes y ganancias continuas en rendimiento e inteligencia. Sus modelos requerirán más potencia computacional, infraestructura y energía, lo que llevará la escala de los centros de datos desde la gama alta actual (alrededor de 100 megavatios) a centros de datos mucho más grandes medidos en gigavatios. Esto sobrecargará la red eléctrica y creará desafíos de preparación y resiliencia en la cadena de suministro para un amplio espectro de insumos, incluidas las unidades de procesamiento gráfico (GPU), sustratos, fotónica de silicio y equipos de generación de energía y muchos otros.
• Empresas y gobiernos: modelos más pequeños, implementaciones RAG, dispositivos, silicio a medida . La inferencia de IA generativa se convertirá en la aplicación estrella para la informática de borde a medida que las empresas intentan administrar proveedores, proteger datos y controlar el costo total de propiedad. La latencia, la seguridad y el costo se vuelven cada vez más relevantes para las cargas de trabajo de inferencia que necesitan procesamiento en tiempo real y utilizan conjuntos de datos propios. Los algoritmos que utilizan RAG (generación aumentada por recuperación) e incrustaciones vectoriales (representaciones numéricas de datos) manejan muchas de las tareas de computación, redes y almacenamiento cerca de donde se almacenan los datos. Esto puede reducir la latencia, bajar los costos y mantener los datos privados y seguros. Los modelos de lenguaje pequeños que se han entrenado o ajustado para un dominio o tarea específicos serán cada vez más importantes en este contexto, ya que pueden ser menos costosos y más eficientes energéticamente para ejecutar que los modelos de lenguaje de propósito general grandes. El rápido crecimiento de nuevos modelos, tanto de código abierto (Llama de Meta, Mistral, Falcon de TII) como propietarios (Claude de Anthropic, Gemini de Google AI), está ampliando la gama de opciones de eficiencia energética y de costos.

• Los proveedores de software independientes (ISV) compiten por incorporar capacidades de IA.  El software como servicio habilitado con modelos de lenguaje extenso (LLM) ya ofrece aplicaciones impulsadas por IA en Adobe, Microsoft, Salesforce y muchas otras empresas. Esto creará una avalancha de nuevas capacidades en los próximos años, lo que dará a las empresas la opción de implementar IA generativa como parte de su conjunto de aplicaciones existente en lugar de desarrollar aplicaciones personalizadas.

Carga de trabajo

Bain advierte que la carga de trabajo de IA «es desafiante y seguirá creciendo», sostiene que el álgebra matricial subyacente y la computación con gran cantidad de datos ponen a prueba el paralelismo, la memoria y el ancho de banda del sistema, la red, la infraestructura y el software de aplicación.

Otras disrupciones

• Modelos de lenguaje de gran tamaño (LLM): ChatGPT de OpenAI mantuvo un monopolio casi absoluto entre las soluciones de IA generativa de nivel de producción hasta 2023. Desde entonces, el crecimiento de los modelos de código abierto y propietarios ha mejorado para ofrecer muchas más opciones diversas, incluidas versiones segmentadas de las ofertas de OpenAI.
• Almacenamiento: la tecnología de almacenamiento avanzará para adaptarse a las necesidades de la IA generativa, incluida la consolidación acelerada de silos de datos, el aumento del uso de almacenamiento de objetos frente a archivos y bloques, y actualizaciones seleccionadas para capacidades de bases de datos altamente vectorizadas.
• Gestión y virtualización de datos: la creciente necesidad de preparación y movilidad de datos estimulará el crecimiento del software de gestión de datos. Esto será especialmente importante a medida que las aplicaciones de IA, que consumen muchos datos, movilicen los datos almacenados en nubes públicas con tarifas de entrada y salida.
• Servicios tecnológicos: a mediano plazo, los servicios tecnológicos tendrán una gran demanda, mientras que los clientes carecerán de las habilidades y la experiencia necesarias para la implementación de la IA y la modernización de los datos. Con el tiempo, una parte importante de los servicios tecnológicos serán reemplazados por software. Los clientes de estos dominios se apresuran a diseñar los nuevos servicios para sostener sus trayectorias de crecimiento.

Según Bain el crecimiento disruptivo de la IA seguirá transformando el sector tecnológico, a medida que la innovación se extienda más allá de los «hiperescaladores» (donde se centra hoy) a los CSP más pequeños, las empresas, los gobiernos, los proveedores de software y más allá.

Sostiene que Los modelos más grandes seguirán ampliando los límites, mientras que los más pequeños crearán oportunidades nuevas y más centradas en sectores y dominios verticales específicos. Las demandas de carga de trabajo de la IA también impulsará la innovación en almacenamiento, computación, memoria y centros de datos.

«A medida que el mercado se vuelva más competitivo y complejo, las empresas deberán adaptarse rápidamente para capturar su parte de este mercado potencial de un billón de dólares», acota.

Aquí puedes leer el informe completo