Последние решения для искусственного интеллекта Oracle интегрируют и эффективно управляют вашими данными

Oracle убедительно доказывает, что ваши данные лучше оставить там, где они находятся, особенно если это базы данных Oracle, когда вы собираетесь погрузиться в мир генеративного искусственного интеллекта. Этот подход может стать переломным, особенно для корпоративных пользователей, уже интегрированных в экосистему Oracle.

Во время недавнего партнерского мероприятия в Дубае Oracle объявила о полной доступности своих сервисов OCI Generative AI. Этот управляемый сервис ИИ, который изначально был запущен в бета-версии в сентябре, теперь готов к полноценной работе. Вместе с этим Oracle представила два новых предложения, находящихся в стадии бета-тестирования: OCI Gen AI Agents и OCI Data Science AI Quick Actions.

Предложение Oracle ясно: создание корпоративных приложений генеративного ИИ на основе существующей инфраструктуры данных не только эффективнее использует ваши уникальные данные, но и избавляет от необходимости дополнительных затрат на инфраструктуру. OCI, что расшифровывается как Oracle Cloud Infrastructure, включает глобальную сеть и вычислительные ресурсы, в том числе Oracle Autonomous Database и "суперкластеры" Nvidia GPU, в которые Oracle инвестировала миллиарды.

Эрик Бергенхольц, вице-президент Oracle по стратегии и операциям, подчеркнул подход компании: "Мы, по сути, приносим ИИ к данным." Он отметил, что приложения Oracle Fusion, такие как ERP и HCM, содержат эксабайты данных, и теперь компания интегрирует генеративный ИИ в эти огромные пулы данных.

Практические преимущества создания на базе баз данных, промежуточного ПО и приложений Fusion от Oracle значительны, по словам Бергенхольца. Он указал, что компании могли бы приобрести дополнительное программное обеспечение, такое как векторная база данных, например Pine Cone, но это увеличивает затраты и сложность. "Недостаток, конечно, в том, что у вас появляется еще одна часть инфраструктуры, которая увеличивает стоимость облака, и вам приходится перемещать и, возможно, синхронизировать данные между исходным хранилищем данных," — пояснил он. Использование сервисов OCI, напротив, "просто устраняет этот барьер, это трение для наших клиентов."

Стив Зиваник, вице-президент Oracle по маркетингу баз данных и автономных сервисов, добавил: "Мы не хотим, чтобы клиенты перемещали данные, потому что последнее, чего они хотят, — это перемещать 500 терабайт только для того, чтобы воспользоваться преимуществами генеративного ИИ."

Недавно доступный сервис OCI Generative AI включает предварительно созданные большие языковые модели (LLM), такие как модель с открытым исходным кодом Meta Llama 2 с 70 миллиардами параметров. Oracle также сотрудничает с Cohere, стартапом, в который Oracle инвестировала, чтобы включить три модели в свой сервис: Command для основных текстово-языковых функций, Summarize для краткого изложения документов и Embed для многоязычных функций.

Бергенхольц подчеркнул важность конфиденциальности данных, отметив, что данные клиентов, используемые в OCI для обучения или тонкой настройки моделей, остаются конфиденциальными и недоступными для других клиентов Oracle. С момента бета-фазы сервис добавил возможности, такие как модерация контента, которая выполняется до отправки запросов в языковую модель и после генерации ответов модели.

Сервис также интегрируется с фреймворком разработки LangChain, что повышает его полезность для разработчиков, работающих с LLM.

Продукт OCI Gen AI Agents направлен на соединение LLM с другими ресурсами, такими как собственные данные клиента. Первый агент, для генерации с усилением поиска (RAG), позволяет языковой модели использовать источники данных, такие как OCI OpenSearch и, в скором времени, Oracle Database 23c AI Vector Search и MySQL Heatwave Vector Store. Служба агентов ИИ начнет бета-тестирование в этом месяце.

OCI Data Science Quick Actions, возникший в результате приобретения Oracle компании DataScience в 2018 году, предлагает подход без написания кода для развертывания и тонкой настройки языковых моделей. Он поддерживает несколько фреймворков для распределенного обучения и использует объектное и файловое хранилище для управления весами моделей. Quick Actions начнет бета-тестирование в следующем месяце.

Oracle наблюдала различные случаи использования во время бета-фазы сервиса OCI Gen AI. Распространенное применение — автоматизация ответов на вопросы по политике HR, например, расчет оставшихся дней отпуска на основе политики компании и индивидуального использования. Аналогичные приложения включают ответы на вопросы о медицинском страховании. Еще один распространенный случай использования — в поддержке клиентов, где RAG может помочь обобщать случаи и предоставлять сценарии для следующих шагов, улучшая пользовательский опыт.

Для тех, кто сомневается в интеграции генеративного ИИ с их данными, Зиваник описал подход Oracle: внедряя такие возможности, как векторный поиск, непосредственно в базу данных Oracle и Heatwave, они приносят технологию к клиентам. Он признал, что некоторые организации могут начать с побочных проектов, чтобы освоиться с технологией, но предсказал, что со временем преимущества конвергентной базы данных станут очевидными, перевешивая сложности управления несколькими базами данных.