Elegir modelos de gran tamaño para tareas simples

Muchas organizaciones adoptan los modelos de IA más recientes y de mayor tamaño: pensando que cuanto más grande, mejor. Sin embargo, ejecutar inferencias en modelos masivos puede consumir entre 10 y 100 veces más energía por consulta que alternativas más pequeñas y optimizadas. Usar un modelo de 175 mil millones de parámetros para clasificar correos electrónicos de clientes o extraer datos básicos es como usar un camión de carga para hacer la compra. Considere si su caso de uso realmente requiere capacidades de vanguardia, o si un modelo más pequeño y eficiente—o incluso el aprendizaje automático tradicional—podría ofrecer resultados similares con una fracción del costo ambiental.