Advantech presenta el sistema distribuido de IA generativa MIC-733-AO

Advantech anuncia la demostración de IA generativa con el MIC-733-AO de Advantech, que se basa en NVIDIA Jetson AGX Orin. Esta solución muestra a los desarrolladores de IA la mayor inmediatez, la seguridad mejorada y sus costes reducidos de internet al compararlos con la IA generativa basada en la nube. Los modelos de IA generativa del laboratorio Jetson AI ofrecen un modelo de IA fundacional y gratuito a medida que permite reducir significativamente el tiempo de desarrollo con el sistema distribuido de IA generativa MIC-733-AO.

IA generativa en el MIC-733-AO

El sistema distribuido de IA generativa MIC-733-AO de Advantech, que es compatible con los modelos de IA generativa de NVIDIA del laboratorio Jetson AI, ahora ejecuta de manera eficiente modelos LLM (large language models) y VLM (vision language model), así como transformadores de visión (ViT), generación de imágenes y Llamaspeak distribuidas, todo ello gracias a su NVIDIA Jetson AGX Orin. Las funciones exclusivas de la plataforma abarcan varias capas, como procesamiento acelerado, software vital de IA y modelos previamente entrenados, por lo que facilitan la creación, la adaptación y el despliegue de modelos de IA generativa apropiados para varias aplicaciones y ubicaciones.

Con los modelos de IA generativa del laboratorio Jetson AI, los desarrolladores pueden aprovechar la técnica RAG (retrieval-augmented generation) para conectar los modelos LLM y VLM a la base de conocimientos de una empresa. Este planteamiento acaba con la necesidad del entrenamiento tradicional de modelos de IA y permite unas interacciones conversacionales sencillas con el sistema para obtener inferencias de IA, acortando así de modo significativo el tiempo de desarrollo.

El MIC-733-AO de Advantech proporciona un elevado rendimiento de IA e incorpora diversos interfaces de vídeo, como cámaras IP, cámaras industriales USB/gigE, cámaras GMSL y LiDAR, entre otros, permitiendo así el funcionamiento de un modelo distribuido de IA generativa. Su excepcional diseño térmico previene fallos debidos al calor, incluso cuando el NVIDIA Jetson AGX Orin funciona a su máxima capacidad.