Рекомендации по статьям

GPT-4o выпущен, и пользователи впервые его тестируют. Имеет ли OpenAI преувеличенную известность?

Муравьи веселятся вместе! Муравей «День 510 родственников и друзей» AI Wishful Journey

Обратный отсчет прямой трансляции OpenAI, подтверждено отсутствие GPT-5, GPT-3,5–5, поймите большую разницу в эволюции ИИ в одной статье!

Эта статья написана У Цзюнем из Ant, который участвовал в мероприятии в прошлом году. QCon Окончательное резюме будет сосредоточено на AI Agent Расширьте повествование и сосредоточьтесь на текущем моменте. AI Agent 的приложениеииспытание。Ниже приводится оригинальный текст:

** Об авторе: ** У Цзюнь (Йидэ) , Отдел технологии воздуховодов Ant Group Xiaojin AI Инженерная команда TL,текущий отвечает за проект большой модели воздуховода.,Провести масштабную модельную оценку некоторых бизнес-сценариев воздуховодов.,большая модельрассуждение优化及большая модельприложениеприземление。

На этот раз QCon Важным героем, несомненно, является большая модель. Три аспекта большой модели в течение двух дней также могут соответствовать классическому многоуровневому строению архитектуры большой модели, а именно: прикладной слой, слой. инструмент、слой модели & AI Infra：

• ** приложение层 - большая модельприложение：** В основном на основе RAG&AI Agent Раскрыта модель первого поколения,а основные сценарии реализации включают внутренний анализ данных. - GBI Прямо сейчас Генеративный BI, помощь в исследованиях и разработках для повышения эффективности - Генеративный Код, база знаний Вопросы и ответы для внешних пользователей и официантов - нравиться ChatPDF；
• ** слой инструмента - приложение Создание способностей: ** В основном знакомит с тем, как эффективно и быстро построить большую модель собственного приложения сцены (курсив существует). AI Agent build), есть инструмент для сборки приложений - LangChain, Agent Фреймворк разработки нравиться: MetaGPT, MaaS платформанравиться ModelScop-Agent&Agents for Amazon Bedrock ждать;
• ** Уровень модели и инфраструктуры - Ускорение оптимизации большой модели: ** существует базовая модель рассуждения об ускоренной разведке,В будущем, чтобы справиться с ограниченной вычислительной мощностью,Требования к производительности и безопасности при крупносерийном производстве крупных моделей,В настоящее время он также находится в центре внимания отрасли, стремящейся к прорывам.

Что такое ИИ-агент?

Определение ИИ-агента

AI Agent — агент искусственного интеллекта (Artificial Intelligence Концепция агента, который представляет собой интеллектуальную сущность, которая может воспринимать окружающую среду, принимать решения и выполнять действия, обычно основемашинаизучатьи ИИтехнология,Быть автономным и адаптивным, способным учиться и совершенствоваться самостоятельно в конкретных задачах или областях.。более полный Агент должен полностью взаимодействовать с окружающей средой и состоит из двух частей. —— Один из них Agent Вторая часть – экологическая.。в этот момент Agent Подобно «человеческим существам» в физическом мире, физический мир является «внешней средой» людей.

Основные компоненты AI-агента

В автономной агентской системе с поддержкой LLM (LLM Agent) LLM действует как мозг агента и взаимодействует с несколькими ключевыми компонентами.

планирование

• Декомпозиция подцелей: агент разбивает большие задачи на более мелкие управляемые подцели, чтобы можно было эффективно обрабатывать сложные задачи.
• Отражениеи Полный：agent Вы можете самокритиковать и размышлять над историческими действиями, учиться на ошибках и совершенствоваться на последующих этапах, тем самым улучшая качество конечного результата.

Память

• Кратковременная память. Контекстное обучение — это обучение кратковременной памяти с использованием моделей.
• Долговременная память: предоставляет агенту возможность сохранять и вызывать долговременную информацию, обычно реализуемую с использованием внешнего векторного хранилища и поиска.

использование инструмента

• Для информации, потерянной в весах модели, агент учится вызывать внешние API для получения дополнительной информации, включая текущую информацию, возможности выполнения кода, доступ к проприетарным источникам информации и т. д.

Действие

• Модуль действий — это часть агента, которая фактически выполняет решение или ответ. Сталкивайтесь с разными задачами,Агентская система имеет полный набор стратегий действий,существовать Уметь выбирать действия, которые необходимо выполнить при принятии решения,Сравниватьнравитьсяизвестный метод извлечения памяти、рассуждение、изучать、Программирование и т. д.

Режим взаимодействия человека и машины

На основе больших моделей Агент не только позволяет каждому иметь эксклюзивного интеллектуального помощника с расширенными возможностями.,Это также изменит модель сотрудничества человека и машины.,Обеспечение более широкой интеграции человека и машины。Генеративный AI С момента развития интеллектуальной революции существовало три режима сотрудничества человека и машины:

Встроенный режим:

Пользователи взаимодействуют с ИИ посредством языкового общения, используют слова-подсказки для постановки целей, а ИИ помогает в выполнении задач. Например, пользователи используют генеративный ИИ для создания романов, музыкальных произведений, 3D-контента и т. д. В этой модели ИИ выполняет приказы, а люди принимают решения и командуют.

Режим второго пилота:

Люди и ИИ — партнеры, вместе участвующие в рабочем процессе. ИИ дает рекомендации и помогает в таких задачах, как написание кода для программистов, занимающихся разработкой программного обеспечения, обнаружение ошибок или оптимизация производительности. ИИ — это знающий партнер, а не простой инструмент.

Режим агента:

Люди ставят цели и предоставляют ресурсы, ИИ выполняет большую часть работы самостоятельно, а люди контролируют процессы и оценивают результаты. ИИ воплощает автономию и адаптивность, приближаясь к независимым субъектам, а люди играют роль наблюдателей и оценщиков. Режим агента более эффективен, чем встроенный режим и режим второго пилота, и в будущем может стать основным режимом взаимодействия человека и машины.

существоватьразумный Режим взаимодействия человека и В условиях машины каждый обычный человек может стать сверхчеловеком и иметь свою собственную личность. AI Команды и автоматизированные рабочие процессы задач. Они могут устанавливать более интеллектуальные и автоматизированные отношения сотрудничества с другими суперличностями. В отрасли уже есть компании, состоящие из одного человека, и супериндивидуалы, которые активно изучают эту модель.

Приложение AI-агент

В настоящее время ИИ Agent Это было признано одним из эффективных способов реализации больших языковых моделей. Оно позволяет большему количеству людей ясно видеть направление предпринимательства с использованием больших языковых моделей. LLM、Agent и Перспективы интеграции существующих отраслевых технологий. Текущая модель большого языка Агент имеет ряд проектов с открытым или закрытым исходным кодом во многих областях, таких как генерация кода, анализ данных, ответы на общие вопросы, научные исследования и т. д., что показывает его популярность.

Примеры отраслевых агентов искусственного интеллекта

Приложение AI-агент

本文将основной聚焦существовать Третья категорияприложениеили сцена：ABI/GBI Генеративный BI Или анализ данных; Agent Код-помощник на основе; RAG Технические мелочи.

01. Агент BI (анализа данных) — генеративный BI

LLMFinancial Intelligence приложение Практика исследований и разработок и геологоразведка

существовать Генеративный BI（Data Что касается агента), во время дневного основного выступления я слушал тему, которой поделился технический директор Tencent Cloud. txt2SQL Интеллектуальная система вопросов и ответов, общая точность может достигать поразительной. 99% (чисто большая генерация модели с низкой сложностью) SQL Точность составляет примерно 80%+). Но по сути их план в основном опирается на инженерные возможности и не использует в полной мере крупные модели. NL2SQL генеративную способность, а скорее сочетание ТРЯПКА, проходи Query соответствовать RAG Общие вопросы и соответствующие вопросы SQL примеры, а затем на основе полученных SQL Для подключения к источнику данных.

Большая модель цифрового потенциала SwiftAgent существоватьв сфере бизнес-анализаприложение

Аналогичный продукт DataAgent — SwiftAgent, совместно используемый компанией Shushi Technology/генеральным директором по финансовым цифровым продуктам, реконструирует традиционный полнопроцессный продукт (GUI) для ручного бизнес-аналитики с помощью большой модели, основанной на языковом режиме (LUI), включая интерактивный запрос индикаторов, интеллектуальную аналитику. атрибуция, автоматическое создание аналитических отчетов, управление полным жизненным циклом показателей и другие возможности.

Интеграция AIGC и анализа данных создает новую модель потребления данных.

Эксперты по решениям для больших данных из NetEase Шуфан поделились работой NetEase над Data Agent. Столкнувшись с ошибками в больших моделях, они сосредоточились на направлении достоверности и проделали большую работу над взаимодействием продуктов, чтобы гарантировать достоверность данных, запрашиваемых NL2SQL:

• Понятные потребности: посредством самоисследования NL2SQL Эксклюзивная большая модель, нацеленная на связанные с данными функции, нравиться из года в год. / из месяца в месяц / Улучшены такие функции, как группировка и сортировка.
• Этот процесс поддается проверке: генерируя пояснения к запросу на естественном языке в интерактивном интерфейсе, пользователи могут легко определить правильность и ошибочность процесса создания модели, чтобы обеспечить достоверность процесса генерации.
• Пользователи могут вмешаться: на основе объяснения запроса пользователи могут вручную корректировать условия запроса и результаты запроса и получать правильные результаты детерминированными средствами.
• Операционные результаты: постоянно оптимизируйте правильность создания больших моделей посредством маркировки в реальном времени и обратной связи о правильных и неправильных результатах.

Есть также компании, которые пробовали сценарии, связанные с NL2SQL, поэтому я не буду перечислять их все здесь.

02. Coding Agent

Поскольку на ранней стадии у меня был обширный опыт работы с Github Copilot, codeGeex, CodeFuse и т. д., основная функция — помогать программистам в генерации кода, оптимизации кода, обнаружении кода и другой помощи в исследованиях и разработках для повышения эффективности. В этом сценарии основное внимание уделяется вопросу безопасности кода. Я не буду здесь вдаваться в подробности. Соответствующие ссылки для обмена и загрузки PPT следующие:

• Код aiXcoder большая модель существует приложение практика для предприятий:

https://qcon.infoq.cn/2023/shanghai/presentation/5683

• Исследования и разработки нового поколения на основе CodeFuse:

https://qcon.infoq.cn/2023/shanghai/presentation/5681

• Исследование и практика реализации больших моделей в сценариях помощника по коду:

https://qcon.infoq.cn/2023/shanghai/presentation/5690

• Практика повышения эффективности интеллектуального помощника по написанию кода на базе крупных моделей Baidu:

https://qcon.infoq.cn/2023/shanghai/presentation/5679

03. Вопросы и ответы на основе знаний на основе RAG

Из-за нехватки места RAG, связанное с большим модельным приложением, будет подробно описано и разбито на детали в другой статье.

испытание

Технически, ИИ Agent Разработка все еще идет медленно, и большинство приложений все еще находятся в стадии разработки. POC или теоретический экспериментальный этап. В настоящее время почти редко можно увидеть масштаб, который может быть полностью автономным в сложных сценариях предметной области. Приложение AI-агент. Основная причина-действовать как AI Agent мозговой LLM Модель все еще недостаточно мощная. даже самый мощный GPT4, мы по-прежнему сталкиваемся с некоторыми проблемами при использовании существующего приложения:

1. Длина контекста ограничена, что ограничивает включение исторической информации, подробных описаний, контекста вызова API и ответов;

2. Долгосрочное планирование и декомпозиция задач по-прежнему необходимы;

3. Текущая система агентов использует естественный язык в качестве интерфейса с внешними компонентами, но надежность результатов модели сомнительна.

Кроме того, ИИ Agent Стоимость относительно высока, особенно для многоагентных систем. Во многих сценариях используйте AI Agent и Copilot По сравнению с другими моделями улучшение эффекта не очевидно или невозможно покрыть повышенную стоимость. большинство AI Agent Технология все еще находится на стадии исследований. Наконец, А.И. Agent Могут возникнуть различные проблемы безопасности и конфиденциальности. и ответственность、Экономическое и социальное влияние на занятость и многие другие аспекты испытания.