Las últimas soluciones de IA de Oracle integran y administran sus datos de manera efectiva

Oracle está presentando un caso convincente para mantener tus datos justo donde están, especialmente si están dentro de sus bases de datos, cuando buscas adentrarte en el mundo de la inteligencia artificial generativa. Este enfoque podría cambiar las reglas del juego, particularmente para los usuarios empresariales que ya están invertidos en el ecosistema de Oracle.

Durante un reciente evento para socios en Dubái, Oracle anunció la disponibilidad general de sus Servicios de IA Generativa OCI. Este servicio de IA gestionado, que inicialmente se lanzó en versión beta en septiembre, ahora está listo para su uso principal. Junto con esto, Oracle presentó dos nuevas ofertas aún en beta: Agentes de IA Generativa OCI y Acciones Rápidas de Ciencia de Datos AI OCI.

El argumento de Oracle es claro: construir tus aplicaciones de IA generativa empresarial en tu infraestructura de datos existente no solo aprovecha tus datos únicos de manera más efectiva, sino que también te evita gastar dinero extra en infraestructura adicional. OCI, que significa Oracle Cloud Infrastructure, abarca la red global y los recursos de cómputo, incluyendo la Base de Datos Autónoma de Oracle y los "superclústeres" de GPU de Nvidia, en los que Oracle ha invertido miles de millones.

Erik Bergenholtz, vicepresidente de estrategia y operaciones de Oracle, enfatizó el enfoque de la compañía: "Básicamente, estamos llevando la IA a los datos." Destacó cómo las aplicaciones Fusion de Oracle, como ERP y HCM, albergan exabytes de datos, y la compañía ahora está integrando IA generativa en estos vastos conjuntos de datos.

Los beneficios prácticos de construir sobre la base de datos, el middleware y las aplicaciones Fusion de Oracle son significativos, según Bergenholtz. Señaló que, aunque las empresas podrían optar por comprar software adicional como una base de datos vectorial como Pine Cone, este enfoque añade costo y complejidad. "El inconveniente, por supuesto, es que tienes otra pieza de infraestructura que aumenta el costo de la nube, y ahora tienes que mover y potencialmente sincronizar datos entre tu almacén de datos original," explicó. Sin embargo, usar los servicios OCI "simplemente elimina esa barrera, esa fricción, para nuestros clientes."

Steve Zivanic, vicepresidente de marketing de bases de datos y servicios autónomos de Oracle, añadió: "No queremos que los clientes muevan datos, porque lo último que quieren es mover 500 terabytes solo para aprovechar las ventajas de la IA generativa."

El servicio de IA Generativa OCI, ahora disponible, incluye modelos de lenguaje grandes (LLMs) pre-construidos, como el modelo de código abierto Llama 2 de 70 mil millones de parámetros de Meta. Oracle también se ha asociado con Cohere, una startup respaldada por capital de riesgo en la que Oracle ha invertido, para incluir tres modelos en su servicio: Command para funciones de texto-lenguaje principales, Summarize para resúmenes de documentos y Embed para funciones multilingües.

Bergenholtz destacó la importancia de la privacidad de los datos, señalando que los datos de los clientes utilizados en OCI para entrenamiento o ajuste fino de modelos permanecen confidenciales e inaccesibles para otros clientes de Oracle. Desde su fase beta, el servicio ha añadido capacidades como la moderación de contenido, que se realiza antes de que se envíen las solicitudes al modelo de lenguaje y después de que se generen las respuestas del modelo.

El servicio también se integra con el marco de desarrollo LangChain, mejorando su utilidad para los desarrolladores que trabajan con LLMs.

El producto de Agentes de IA Generativa OCI busca conectar LLMs con otros recursos, como los datos propietarios de un cliente. El primer agente, para generación aumentada por recuperación (RAG), permite que el modelo de lenguaje acceda a fuentes de datos como OpenSearch de OCI y, pronto, la Búsqueda Vectorial AI de la Base de Datos 23c de Oracle y el Almacén Vectorial de MySQL Heatwave. El servicio de agentes de IA comenzará las pruebas beta este mes.

Las Acciones Rápidas de Ciencia de Datos OCI, derivadas de la adquisición de DataScience por parte de Oracle en 2018, ofrecen un enfoque sin código para implementar y ajustar modelos de lenguaje. Soporta varios marcos para entrenamiento distribuido y utiliza almacenamiento de objetos y archivos para gestionar los pesos de los modelos. Las Acciones Rápidas entrarán en pruebas beta el próximo mes.

Oracle ha observado varios casos de uso durante la fase beta de su servicio de IA Generativa OCI. Una aplicación común es la automatización de respuestas a preguntas de políticas de recursos humanos, como calcular los días de vacaciones restantes basándose en la política de la empresa y el uso individual. Aplicaciones similares incluyen responder preguntas sobre beneficios de seguros médicos. Otro caso de uso prevalente es en el soporte al cliente, donde RAG puede ayudar a resumir casos y proporcionar guiones para los próximos pasos, mejorando la experiencia del usuario.

Para aquellos que dudan en integrar la IA generativa con sus datos, Zivanic describió el enfoque de Oracle: al incorporar capacidades como la búsqueda vectorial directamente en la base de datos de Oracle y Heatwave, están llevando la tecnología a los clientes. Reconoció que algunas organizaciones podrían comenzar con proyectos paralelos para familiarizarse con la tecnología, pero predijo que con el tiempo, las ventajas de una base de datos convergente se harían evidentes, superando las complejidades de gestionar múltiples bases de datos.