Lanza Oracle solución para crear aplicaciones de IA generativa
Se trata de HeatWave GenAI, que incluye modelos de lenguaje LLM, un almacén de vectores automatizado en la base de datos, procesamiento de vectores escalable y capacidad de mantener conversaciones contextuales en lenguaje natural. Funciones que permiten a los clientes incorporar el poder de la IA generativa a sus datos empresariales sin necesidad de contar con experiencia en IA o migración de datos a una base de datos vectorial, afirmó Oracle.
Con dicha herramienta los usuarios pueden realizar búsquedas en lenguaje natural, gracias a los LLM externos o la base de datos. Debido a la escala y el rendimiento de HeatWave, no es necesario GPU adicional. Como resultado, los desarrolladores pueden reducir la complejidad en sus aplicaciones, impulsar el rendimiento, mejorar la seguridad de los datos, ya que la información no sale de la base de datos, y reducir costos, añadió el desarrollador.
«Estas mejoras integradas y automatizadas permiten que los desarrolladores creen aplicaciones ricas en IA generativa con mayor rapidez, sin necesidad de tener conocimientos previos en el tema o en migración de datos. Ahora, los usuarios disponen de una forma intuitiva de interactuar con los datos de su organización y obtener rápidamente las respuestas precisas que necesitan para su empresa», comentó Edward Screven, arquitecto jefe corporativo de Oracle.
Entre las nuevas funciones automatizadas e integradas de IA generativa se incluyen:
- Los LLM en base de datos
o Simplifican el desarrollo de aplicaciones de IA generativa a un menor costo.
o Beneficios de GenAI sin la complejidad de la selección e integración de LLM externos, y sin preocuparse por su disponibilidad en centros de datos de varios proveedores de nube.
o Permiten que los clientes busquen datos, generen o resuman contenidos y realicen una generación aumentada por recuperación (RAG).
o Pueden combinar GenAI con HeatWave AutoML, para desarrollar aplicaciones más completas; o el servicio OCI Generative AI para acceder a modelos fundacionales preentrenados de los principales proveedores de LLM.
- El almacenamiento vectorial automatizado en la base de datos
o Los clientes pueden utilizar GenAI con sus documentos empresariales sin necesidad de trasladar los datos a una base de datos vectorial independiente y sin conocimientos previos de IA.
o Todos los pasos para crear un almacén vectorial e incrustaciones vectoriales están automatizados y se ejecutan dentro de la base de datos.
o El uso de un almacén vectorial ayuda a resolver las alucinaciones de los LLM, ya que los modelos pueden buscar datos propios con el contexto adecuado para proporcionar respuestas más precisas y relevantes.
- El procesamiento vectorial a escala
o Ofrece resultados de búsqueda semántica muy rápidos sin pérdida de precisión.
o Permite que los clientes realicen consultas semánticas con SQL estándar.
o El procesamiento vectorial se ejecuta con un ancho de banda cercano a la memoria, paralelo en hasta 512 nodos HeatWave, para que los clientes reciban respuestas rápidas.
o Pueden combinar la búsqueda semántica con otros operadores SQL para, por ejemplo, unir varias tablas con documentos diferentes y realizar búsquedas por similitud en todos los documentos.
- HeatWave Chat
o Complemento que proporciona una interfaz gráfica para HeatWave GenAI.
o Permite que los desarrolladores planteen preguntas en lenguaje natural o SQL.
o Permite a los usuarios seleccionar archivos del almacenamiento de objetos y crear un almacén de vectores.
o Los usuarios pueden buscar en toda la base de datos o restringir la búsqueda a una carpeta.
o Mantiene el contexto con el historial de las preguntas formuladas, facilitando una conversación contextual y verificar la fuente de las respuestas generadas.
Oracle afirmó que la creación de un almacén vectorial para documentos en formato PDF, PPT, WORD y HTML es hasta 23 veces más rápida con HeatWave GenAI y a 1/4 del costo de utilizar Knowledge base para Amazon Bedrock.
Asimismo mencionó que de acuerdo con un benchmark de terceros, HeatWave GenAI es 30 veces más rápido que Snowflake y cuesta 25% menos; 15 veces más rápido que Databricks y cuesta 85% menos, y 18 veces más rápido que Google BigQuery y cuesta 60% menos.
Agregó que una prueba comparativa independiente reveló que el procesamiento de búsqueda de similitudes de HeatWave proporciona siempre resultados precisos, con un tiempo de respuesta predecible, a una velocidad cercana a la de la memoria y es entre 10 y 80 veces más rápido, utilizando el mismo número de núcleos, que Amazon Aurora PostgreSQL.
HeatWave GenAI está disponible en todas las regiones de Oracle Cloud, Oracle Cloud Infrastructure (OCI) Dedicated Region y en todas las nubes sin costo adicional para los clientes de HeatWave, precisó el desarrollador.
WhatsApp eSemanal 55 7360 5651
