Ted Hisokawa
23 de julio de 2024 18:50 h.
NVIDIA lanza AI Foundry Service y NIM Microservices, que permiten a las empresas crear modelos personalizados de IA generativa Llama 3.1 para aplicaciones específicas de la industria.
NVIDIA anunció el lanzamiento de su nuevo servicio NVIDIA AI Foundry junto con los microservicios de inferencia NVIDIA NIM™, con el objetivo de revolucionar las capacidades de IA generativa para empresas de todo el mundo. La iniciativa incluye la colección Llama 3.1 de modelos de acceso abierto, introducida para proporcionar a las empresas herramientas avanzadas de inteligencia artificial.
Soluciones de IA personalizadas para empresas
Gracias a NVIDIA AI Foundry, las empresas y los países ahora pueden crear “supermodelos” personalizados y adaptados a las necesidades específicas de su industria utilizando Llama 3.1 y la tecnología NVIDIA. Estos modelos se pueden entrenar con datos patentados y sintéticos generados a partir de Llama 3.1 405B y el modelo NVIDIA Nemotron™ Reward.
AI Foundry funciona con la plataforma de IA en la nube NVIDIA DGX™, creada en colaboración con proveedores líderes de nube pública, y ofrece recursos informáticos escalables para satisfacer las demandas cambiantes de la IA. Este servicio tiene como objetivo ayudar a empresas y países a desarrollar estrategias soberanas de IA y modelos de lenguaje extendido (LLM) personalizados para aplicaciones de dominios específicos.
Adopción clave de la industria
Accenture es el primero en utilizar NVIDIA AI Foundry para crear modelos Llama 3.1 personalizados para los clientes. Empresas como Aramco, AT&T y Uber se encuentran entre las primeras en adoptar los nuevos microservicios Llama NVIDIA NIM, lo que demuestra un gran interés en diversas industrias.
“Los modelos Llama 3.1 de Meta, disponibles gratuitamente, marcan un punto de inflexión en la adopción de la IA generativa en empresas de todo el mundo”, afirmó Jensen Huang, fundador y director ejecutivo de NVIDIA. “Llama 3.1 abre las compuertas para que todas las empresas e industrias creen aplicaciones de IA generativa de vanguardia. NVIDIA AI Foundry ha integrado Llama 3.1 en todas sus aplicaciones y está lista para ayudar a las empresas a crear e implementar modelos Llama personalizados. »
Capacidades de IA mejoradas
Los microservicios de inferencia NIM de NVIDIA para Llama 3.1 ya están disponibles para descargar y prometen un rendimiento hasta 2,5 veces mejor que los métodos de inferencia tradicionales. Las empresas también pueden combinarlos con los nuevos microservicios NIM NVIDIA NeMo Retriever para crear canales avanzados de recuperación de IA para asistentes digitales y avatares humanos.
Accenture, utilizando su marco AI Refinery™, es pionero en el uso de NVIDIA AI Foundry para desarrollar modelos personalizados de Llama 3.1. “Las empresas más grandes del mundo están viendo cómo la IA generativa está transformando todas las industrias y están ansiosas por implementar aplicaciones basadas en modelos personalizados”, afirmó Julie Sweet, presidenta y directora ejecutiva de Accenture. “Accenture ha estado trabajando con los microservicios de inferencia NIM de NVIDIA para nuestras aplicaciones internas de IA y ahora, con NVIDIA AI Foundry, podemos ayudar a nuestros clientes a construir e implementar rápidamente modelos Llama 3.1 personalizados para impulsar aplicaciones de IA transformadoras adaptadas a sus propias prioridades comerciales. »
Servicios integrales de modelos de IA
NVIDIA AI Foundry ofrece un servicio de extremo a extremo que incluye curación de modelos, generación de datos sintéticos, ajuste, recuperación y evaluación. Las empresas pueden utilizar los modelos Llama 3.1 y la plataforma NVIDIA NeMo para crear modelos de dominio específico, con la capacidad de generar datos sintéticos para mejorar la precisión del modelo.
NVIDIA y Meta han colaborado para proporcionar una receta de destilación para Llama 3.1, permitiendo a los desarrolladores crear modelos personalizados más pequeños adecuados para una variedad de infraestructura, desde estaciones de trabajo con IA hasta computadoras portátiles.
Empresas líderes en salud, energía, servicios financieros, comercio minorista, transporte y telecomunicaciones ya están integrando microservicios NVIDIA NIM para Llama 3.1, capacitados en más de 16.000 GPU NVIDIA H100 Tensor Core.
Perspectivas de futuro
El soporte de producción para los microservicios NIM Llama 3.1 y NeMo Retriever está disponible a través de NVIDIA AI Enterprise. Además, los miembros del Programa de desarrolladores de NVIDIA pronto tendrán acceso gratuito a los microservicios NIM para investigación, desarrollo y pruebas.
Para más información visite Sala de prensa de NVIDIA.
Fuente de la imagen: Shutterstock