Modular obtiene 100 millones de dólares para crear herramientas que optimicen y creen modelos de IA

Modular, una startup que crea una plataforma para desarrollar y optimizar sistemas de inteligencia artificial, ha recaudado 100 millones de dólares en una ronda de financiación liderada por General Catalyst con la participación de GV (Google Ventures), SV Angel, Greylock y Factory.

Con lo que el total recaudado por Modular asciende a 130 millones de dólares, las ganancias se destinarán a la expansión del producto, el soporte de hardware y la expansión del lenguaje de programación de Modular, dice Mojo, CEO Chris Lattner.

"Debido a que operamos en un espacio profundamente técnico que requiere experiencia altamente especializada, tenemos la intención de utilizar estos fondos para respaldar el crecimiento de nuestro equipo", dijo Lattner en una entrevista por correo electrónico con TechCrunch. "Esta financiación no se gastará principalmente en computación de IA, sino en mejorar nuestros productos principales y escalarlos para satisfacer la increíble demanda de nuestros clientes".

Lattner, un ex Google, cofundó Modular, con sede en Palo Alto, en 2022 con Tim Davis, un ex colega de Google en la división de investigación Google Brain del gigante tecnológico. Tanto Lattner como Davis sintieron que la IA estaba siendo frenada por una infraestructura técnica demasiado complicada y fragmentada, y fundaron Modular con el objetivo de eliminar la complejidad de construir y mantener sistemas de IA a gran escala.

Modular proporciona un motor que intenta mejorar el rendimiento de inferencia de los modelos de IA en las CPU (y, a partir de finales de este año, en las GPU), al mismo tiempo que ofrece ahorros de costos. Compatible con entornos de nube existentes, marcos de aprendizaje automático como TensorFlow de Google y PyTorch de Meta e incluso otros motores aceleradores de IA, el motor de Modular, actualmente en versión preliminar cerrada, permite a los desarrolladores importar modelos entrenados y ejecutarlos hasta 7,5 veces más rápido en comparación con sus marcos nativos, Lattner reclamos.

El otro producto estrella de Modular, Mojo, es un lenguaje de programación que pretende combinar la usabilidad de Python con características como el almacenamiento en caché, técnicas de compilación adaptativa y metaprogramación. Actualmente disponible en versión preliminar para “cientos” de los primeros usuarios, Modular planea lanzar Mojo en disponibilidad general a principios del próximo mes.

"Nuestra plataforma de desarrollo permite a nuestros clientes, y a los desarrolladores de todo el mundo, desfragmentar sus pilas de tecnología de IA, impulsando más innovaciones a la producción más rápidamente y obteniendo más valor de su inversión en IA", dijo Lattner. "Estamos atacando la complejidad que frena el desarrollo de la IA hoy en día resolviendo los problemas de fragmentación que afectan a la pila de IA, empezando por el punto donde el software de IA se encuentra con el hardware de IA".

¿Muy ambicioso? Tal vez. Pero nada de lo que Modular, con aproximadamente 70 empleados, está proponiendo está fuera de lo posible.

Deci, respaldada por Intel, se encuentra entre las nuevas empresas que ofrecen tecnología para hacer que los modelos de IA entrenados sean más eficientes y eficaces. Otro en esa categoría es OctoML, que optimiza, compara y empaqueta modelos automáticamente para una variedad de hardware diferente.

En cualquier caso, según lo que señala Lattner, la demanda de IA se está acercando rápidamente a los límites de la sostenibilidad, lo que hace que cualquier tecnología que reduzca sus requisitos informáticos sea enormemente deseable. Los modelos de IA generativa que están de moda hoy en día son de 10 a 100 veces más grandes que los modelos de IA más antiguos, como señala un artículo reciente en The Wall Street Journal, y gran parte de la infraestructura de la nube pública no fue construida para ejecutar estos sistemas, al menos no al principio. esta escala.

Ya ha tenido un impacto. Microsoft se enfrenta a una escasez tan grave del hardware de servidor necesario para ejecutar la IA que podría provocar interrupciones en el servicio, advirtió la compañía en un informe de resultados. Mientras tanto, el enorme apetito por el hardware de inferencia de IA (principalmente GPU) ha llevado la capitalización de mercado del proveedor de GPU Nvidia a 1 billón de dólares. Pero Nvidia se ha convertido en víctima de su propio éxito; Según los informes, los chips de IA de mejor rendimiento de la compañía están agotados hasta 2024.

Por estas y otras razones, más de la mitad de los tomadores de decisiones de IA en las principales empresas informan que enfrentan barreras para implementar las últimas herramientas de IA, según una encuesta de 2023 de S&P Global.

"La potencia informática necesaria para los programas de IA actuales es enorme e insostenible con el modelo actual", afirmó Lattner. “Ya estamos viendo casos en los que no hay suficiente capacidad informática para satisfacer la demanda. Los costos se están disparando y sólo las grandes y poderosas empresas tecnológicas tienen los recursos para crear este tipo de soluciones. Modular resuelve este problema y permitirá que los productos y servicios de IA se impulsen de una manera mucho más asequible, sostenible y accesible para cualquier empresa”.

Lenguaje de programación Mojo de Modular, un “superconjunto rápido” de Python.Créditos de imagen:Modular

Es razonable. Pero estoy menos convencido de que Modular pueda impulsar la adopción generalizada de su nuevo lenguaje de programación, Mojo, cuando Python está tan arraigado en la comunidad de aprendizaje automático. Según una encuesta, en 2020, el 87% de los científicos de datos utilizaban Python de forma regular.

Pero Lattner sostiene que los beneficios de Mojo impulsarán su crecimiento.

"Una cosa que comúnmente se malinterpreta acerca de las aplicaciones de IA es que no son sólo un problema de acelerador de alto rendimiento", dijo. “Hoy en día, la IA es un problema de datos de un extremo a otro, que implica cargar y transformar datos, preprocesarlos, posprocesarlos y establecer redes. Estas tareas auxiliares generalmente se realizan en Python y C++, y solo el enfoque de Modular con Mojo puede reunir todos estos componentes para que funcionen en una única base tecnológica unificada sin sacrificar el rendimiento y la escalabilidad”.

Puede que tenga razón. La comunidad de Modular creció a más de 120.000 desarrolladores en los cuatro meses transcurridos desde la presentación del producto de Modular a principios de mayo, afirma Lattner, y las "empresas tecnológicas líderes" ya están utilizando la infraestructura de la startup, con 30.000 en la lista de espera.

"El enemigo más importante de Modular es la complejidad: complejidad en las capas de software que sólo funcionan en casos especiales, software vinculado a hardware específico y complejidad impulsada por la naturaleza de bajo nivel de los aceleradores de alto rendimiento", dijo. “Lo que hace que la IA sea una tecnología tan poderosa y transformadora es la razón por la que requiere tanto esfuerzo para alcanzar escala, tanto talento invertido en la creación de soluciones personalizadas y tanta potencia informática para ofrecer resultados consistentes. El motor Modular y Mojo juntos nivelan el campo de juego, y esto es sólo el comienzo”.

Y, al menos desde el punto de vista de la financiación, qué comienzo tan auspicioso es.