Нейросимволический ИИ AWS обеспечивает проверяемую автоматизацию агентов для регулируемых секторов

AWS считает, что общедоступность функции автоматической проверки рассуждений в Bedrock укрепит уверенность предприятий и регулируемых отраслей в необходимости внедрения и развертывания большего количества приложений и агентов искусственного интеллекта.

Компания также ожидает, что такие методы, как автоматизированное рассуждение, которое использует математическую валидацию для установления истинности, помогут предприятиям перейти к нейросимволическому ИИ. AWS рассматривает это как следующий значительный шаг в развитии и ключевой фактор дифференциации в сфере ИИ.

Автоматизированная проверка рассуждений позволяет корпоративным пользователям проверять точность ответов и обнаруживать галлюцинации модели. AWS впервые представила эту функцию на Bedrock на конференции re:Invent в декабре прошлого года, утверждая, что она может идентифицировать почти все галлюцинации. Изначально доступный ограниченному кругу пользователей через Amazon Bedrock Guardrails, этот инструмент позволяет организациям определять политики ответственного использования ИИ.

Байрон Кук, выдающийся ученый и вице-президент группы автоматизированного рассуждения AWS, сказал VentureBeat в интервью, что предварительный просмотр продемонстрировал эффективность системы в корпоративных средах. Это также помогло организациям оценить ценность ИИ, который сочетает символическое, структурированное рассуждение с возможностями нейронной сети генеративного ИИ.

«Автоматическое рассуждение подпадает под более широкое понятие нейросимволического ИИ», — пояснил Кук. «Растущий интерес к нейросимволическому ИИ заставил пользователей осознать, насколько важна эта технология, когда они активно использовали инструмент».

Кук отметил, что некоторые клиенты разрешили AWS анализировать свои данные и документы с аннотациями ответов. Было установлено, что производительность инструмента сопоставима с производительностью человека, имеющего в руках свод правил. Он добавил, что, хотя понятия истины и правильности могут быть субъективными, автоматизированное рассуждение в значительной степени позволяет избежать этой двусмысленности.

«Это было действительно замечательно, — сказал он. — Было удивительно видеть, как люди с логическим складом ума обсуждают в внутреннем чате, что является правдой, а затем, после нескольких сообщений, указывают на инструмент и понимают: «О, это верно».

Для общего выпуска AWS усовершенствовала автоматизированные проверки рассуждений, добавив новые функции, в том числе:

• Поддержка больших документов объемом до 80 тысяч токенов или примерно 100 страниц
• Упрощенная проверка политик с возможностью сохранения и повторного использования тестовых сценариев
• Автоматическое создание сценариев на основе заранее определенных спецификаций
• Предложения на естественном языке для уточнения политики
• Настраиваемые параметры проверки

По словам Кука, автоматизированные проверки обоснованности проверяют достоверность системы искусственного интеллекта, доказывая, что модель не придумала решение. Эта возможность может обеспечить большую уверенность регулирующим органам и регулируемым предприятиям, обеспокоенным недетерминированным характером генеративного искусственного интеллекта, который может давать неверные результаты.

Нейросимволический ИИ и установление истины

Кук подчеркнул, что автоматизированные проверки рассуждений помогают продемонстрировать ключевые принципы нейросимволического ИИ.

Нейросимволический ИИ сочетает в себе распознавание образов нейронных сетей, используемое языковыми моделями, со структурированной логикой символического ИИ. В то время как нейронные сети обучаются на основе данных, символический ИИ работает на основе явных правил и логического мышления. Базовые модели в основном полагаются на нейронные сети, что делает их уязвимыми для галлюцинаций, что является серьезной проблемой для предприятий. С другой стороны, символический ИИ не обладает гибкостью без ручного программирования.

Влиятельные эксперты в области ИИ, такие как Гэри Маркус, утверждают, что нейросимволический ИИ необходим для достижения искусственного общего интеллекта.

Кук и AWS с энтузиазмом относятся к внедрению концепций нейросимволического ИИ в предприятия. В подкасте Мэтт Маршалл из VentureBeat обсудил внимание AWS к таким методам, как автоматизированные проверки рассуждений, которые применяют математическую и логическую строгость к генеративному ИИ для уменьшения галлюцинаций.

В настоящее время лишь несколько компаний предлагают готовые нейросимволические решения ИИ, в том числе Kognitos, Franz Inc. и UMNAI.

Применение математической строгости к валидации

Автоматизированное рассуждение функционирует путем применения математических доказательств к моделированию ответов на заданный запрос.

Оно использует метод, называемый теорией удовлетворимости по модулю (SMT), в котором символы имеют заранее определенные значения, для решения задач, связанных как с логикой (if, then, and, or), так и с математикой. Эта техника применяет данный метод к ответу модели, проверяя его по набору политик или данных о фактическом состоянии без необходимости проведения нескольких тестовых прогонов.

Например, предприятие может захотеть проверить правильность финансового аудита. Если модель помечает отчет как содержащий не утвержденные платежи, автоматическое рассуждение разбивает его на логическое утверждение:

(forall ((r Report))

(=> (containsUnapprovedVendorPayments r)

(shouldEscalate r)))

Затем оно обращается к определениям, переменным и типам, настроенным пользователем в Bedrock Guardrails, и решает уравнение, чтобы доказать, что ответ модели был правильным и основанным на правде.

Обеспечение доказанной правильности ИИ-агентов

Кук заявил, что автоматизированные проверки рассуждений принесут значительную пользу в случаях использования агентов. Более широкий доступ через Bedrock поможет продемонстрировать его полезность. Однако он предупредил, что автоматизированные рассуждения и другие нейросимвольные методы ИИ все еще находятся в зачаточном состоянии.

«Я считаю, что это повлияет на агентский ИИ, хотя в настоящее время эта область является весьма спекулятивной», — сказал Кук. «Существует несколько техник, таких как выявление неоднозначности в утверждении, определение ключевых различий между возможными интерпретациями и затем запрос разъяснений у пользователя, которые, по моему мнению, будут иметь решающее значение. Это отражает эмоциональный путь, который я наблюдал у клиентов, которые несколько лет назад начали экспериментировать с генеративным ИИ».