Аннотация
Современные большие языковые модели и автономные ИИ-агенты все чаще применяются в задачах, где одной точности результата недостаточно. Система взаимодействует с человеком, должна учитывать контекст диалога, эмоциональные и поведенческие сигналы, уровень неопределенности, последствия собственных действий и необходимость передачи управления человеку. В статье предлагается методология AI Emotional Intelligence Layer (AEIL), рассматривающая эмоциональный и контекстный интеллект как отдельный инженерный и оценочный слой ИИ-системы. AEIL не предполагает наличия у искусственной системы субъективных эмоций. Под эмоциональным интеллектом ИИ понимается функциональная способность обнаруживать релевантные эмоциональные сигналы, интерпретировать их с учетом контекста, выбирать подходящую стратегию взаимодействия, адаптировать поведение, управлять неопределенностью и соблюдать ограничения безопасности и человеческого контроля.
Ключевые слова
эмоциональный интеллект ИИ; AI Emotional Intelligence Layer; AEIL; искусственный интеллект; ИИ-агенты; большие языковые модели; человеко-машинное взаимодействие; affective computing; AI safety; аудит ИИ; поведенческий интеллект; эмоциональный контекст.
1 Введение
Развитие больших языковых моделей меняет характер искусственного интеллекта. ИИ-системы уже не ограничиваются генерацией текста: они пишут код, используют внешние инструменты, работают с документами, управляют цифровыми интерфейсами и выполняют многошаговые задачи. Появление автономных ИИ-агентов переносит проблему качества из области правильного ответа в область поведения системы во времени.
Для человеко-ориентированного ИИ этого недостаточно. Ответ может быть фактически правильным, но неуместным с точки зрения ситуации. Агент способен выполнить задачу, одновременно усилив конфликт, снизив доверие или продолжив автоматическое действие там, где требовалось участие человека.
AEIL предлагается как методология, которая формализует эмоциональный и контекстный слой поведения ИИ.
2 Концептуальное определение AEIL
Функциональный эмоциональный интеллект ИИ — способность искусственной системы обнаруживать релевантные эмоциональные сигналы, интерпретировать их с учетом контекста, выбирать соответствующую стратегию взаимодействия, адаптировать поведение, учитывать неопределенность и соблюдать ограничения эмоциональной безопасности и человеческого контроля.
Определение не утверждает, что ИИ испытывает эмоции. Речь идет об измеримом поведении: системе не требуется субъективно чувствовать раздражение, чтобы распознать его возможные признаки и изменить стратегию взаимодействия.
3 Почему эмоциональный интеллект следует выделять в отдельный слой
Инструкция вроде «отвечай эмпатично» способна изменить генерацию, но не создает полноценной архитектуры эмоционального интеллекта. Отдельный слой позволяет формализовать состояние взаимодействия, учитывать неопределенность, применять поведенческие политики, изменять уровень автономности, определять условия эскалации и проводить систематический аудит.
AEIL следует рассматривать не как характер модели, а как контрольный и оценочный слой между базовыми возможностями ИИ и его взаимодействием с человеком.
4 Архитектура AEIL
Упрощенная схема: Контекст → Эмоциональные сигналы → Состояние взаимодействия → Стратегия → Действие → Проверка безопасности → Результат. Результат используется для обновления состояния.
Модульность позволяет реализовать AEIL внутри модели, в middleware, как внешний сервис или в гибридной архитектуре.
5 Многомерная модель оценки
AEIL не предлагает сводить эмоциональный интеллект к единственному EQ-показателю. Система может хорошо распознавать эмоции, но плохо понимать контекст или не изменять поведение.
Предлагаемые измерения: восприятие эмоциональных сигналов; контекстная интерпретация; состояние взаимодействия; выбор стратегии; адаптация; конфликт и восстановление; управление неопределенностью; безопасность; эскалация к человеку; итоговое качество взаимодействия.
6 Аудит модели и аудит ИИ-агента
AEIL Model Audit исследует базовую LLM в контролируемых сценариях: распознавание эмоций, контекстное понимание, социальное рассуждение, калибровку уверенности, обработку конфликта и эмоциональную безопасность.
AEIL Agent Audit проверяет готовую систему: память, retrieval, внешние инструменты, разрешения, системные инструкции, рабочие процессы, автономные действия и правила передачи управления. Даже сильная модель может быть частью агента, который ведет себя некорректно из-за архитектуры памяти, инструментов или политики автономных действий.
7 Система оценки AEIL
Для отдельных тестов предлагается шкала от 0 до 100. Концептуальный показатель: $S_{\mathrm{AEIL}} = \sum w_i s_i$, где сумма весов равна 1. Однако единый балл не должен скрывать критические слабости; для высокорисковых систем нужны минимальные пороги по отдельным категориям.
Классы серьезности: Critical — существенный риск вреда или несанкционированного действия; High — существенный ущерб пользователю, доверию или безопасности; Medium — заметное ухудшение качества; Low — небольшая поведенческая непоследовательность.
8 Benchmark-тестирование
AEIL benchmark должен проверять не только распознавание эмоций, но и последующее поведение. Сценарии могут включать явные и скрытые сигналы, сарказм, нерешенные запросы, эскалацию, неопределенность, ошибки модели, конфликт, чувствительные запросы, длительные диалоги, использование инструментов под эмоциональным давлением, действия, требующие подтверждения, и решение о передаче управления человеку.
Особое значение имеют многоходовые сценарии, поскольку эмоциональное состояние взаимодействия меняется во времени.
9 Области применения
В клиентской поддержке AEIL может обнаруживать повторение нерешенной проблемы и рост фрустрации, помогая агенту изменить стратегию или передать диалог сотруднику.
В управлении проектами методология позволяет рассматривать повторяющиеся задержки как возможный сигнал проблем с зависимостями, требованиями, ресурсами или коммуникацией.
В образовании AI-репетитор способен учитывать признаки непонимания и менять способ объяснения, примеры или темп обучения.
В HR AEIL применим для адаптации, обучения и подготовки сложных коммуникаций, но не должен превращаться в скрытое ранжирование личности или автоматическое принятие кадровых решений.
В медицине эмоциональный сигнал не должен автоматически становиться диагнозом. В финансах и страховании эмоциональный контекст может повышать понятность объяснений при запрете на эксплуатацию уязвимости.
В робототехнике и embodied AI мультимодальный слой может объединять речь, выражение лица, жесты и окружающую обстановку. В корпоративном управлении ИИ методология может дополнять тестирование безопасности, надежности и информационной защиты.
10 Приватность и этические ограничения
Эмоциональные характеристики являются вероятностными выводами и могут ошибаться. Система должна минимизировать сбор данных, ограничивать хранение, объяснять существенные способы использования информации и не использовать эмоциональные признаки для необоснованных решений.
Базовый принцип AEIL: эмоциональный контекст должен улучшать взаимодействие, а не превращаться в скрытый слой наблюдения за человеком.
11 Научные и инженерные проблемы
Ключевые вопросы включают неполную наблюдаемость эмоций, культурные различия, индивидуальную вариативность, возможность оптимизации benchmark вместо реального улучшения поведения, отделение эмоционального интеллекта от общего рассуждения и alignment, необходимость долгосрочных тестов и риск манипулятивного применения.
Система может научиться воспроизводить внешне эмпатичный язык без улучшения результата взаимодействия. Поэтому оценка должна включать поведенческие и outcome-oriented тесты.
12 Связь с существующими исследованиями
Wang et al. предложили психометрическую оценку эмоционального интеллекта больших языковых моделей. Li et al. показали, что эмоциональные стимулы способны влиять на поведение LLM. Работы по психометрии LLM рассматривают широкий набор психологических характеристик. Исследования FACET и AttuneBench указывают, что распознавание эмоций и качество взаимодействия нельзя считать одной и той же способностью. Исследования empathic grounding показывают значение мультимодального контекста для восприятия эмпатии, понимания и доверия.
AEIL объединяет эти направления в методологию, ориентированную не только на модель, но и на полный жизненный цикл поведения ИИ-агента.
13 Перспективы стандартизации и инфраструктуры
При экспериментальном подтверждении AEIL может быть преобразована в открытый benchmark, инструменты аудита моделей и агентов, API/SDK контекстного состояния, системы мониторинга, поведенческие policy engines и процедуры сертификации.
Модельно-независимый подход особенно интересен организациям, использующим нескольких поставщиков LLM: требования к поведению могут сохраняться при смене базовой модели.
14 Инвестиционная и рыночная перспектива
Потенциальная коммерческая ценность AEIL связана прежде всего с ростом автономных ИИ-агентов. По мере получения ИИ доступа к корпоративным данным, инструментам и бизнес-процессам возникает потребность не только в более мощных моделях, но и в независимых механизмах контроля поведения.
Потенциальные продукты включают enterprise SaaS, API, аудит ИИ, сертификацию, частные инсталляции, SDK и интеграционные решения. Инвестиционная гипотеза состоит в возможности формирования инфраструктурного слоя между базовыми AI-моделями и прикладными агентами.
Основные риски — конкуренция со стороны разработчиков базовых моделей, сложность научной валидации, регулирование, приватность и быстрое изменение архитектур ИИ-агентов.
15 Обсуждение
Цель AEIL не в том, чтобы сделать машины эмоционально похожими на человека. Цель практичнее: сделать ИИ более компетентным в человеческом контексте.
Надежная система должна различать обычный запрос и социально сложную ситуацию, замечать неудачу собственной стратегии, корректировать поведение, обозначать неопределенность и снижать автономность, если обстоятельства этого требуют.
16 Заключение
AI Emotional Intelligence Layer (AEIL) предлагается как методология проектирования и оценки эмоционально и контекстно осведомленного поведения ИИ-систем.
Методология рассматривает эмоциональный интеллект как совокупность измеримых возможностей: обнаружение сигналов, контекстную интерпретацию, моделирование состояния взаимодействия, выбор стратегии, адаптацию поведения, управление неопределенностью, безопасность и своевременную передачу управления человеку.
Следующим этапом должна стать эмпирическая проверка AEIL, разработка стандартизированных наборов данных, многоходовых и мультимодальных benchmark-тестов, методов калибровки, privacy-preserving представлений состояния и adversarial evaluation.
Конечная цель AEIL — не заставить ИИ выглядеть более человечным, а сделать автономные ИИ-системы более компетентными в реальных человеческих средах.
Таблица 1. Предлагаемые измерения AEIL
| Измерение | Вопрос |
|---|---|
| Восприятие | Обнаруживает ли система релевантные эмоциональные сигналы? |
| Контекст | Соответствует ли интерпретация ситуации? |
| Состояние | Отслеживает ли система изменения взаимодействия? |
| Стратегия | Выбирает ли подходящий способ действия? |
| Адаптация | Меняет ли поведение при изменении контекста? |
| Конфликт | Способна ли предотвращать эскалацию и восстанавливаться? |
| Неопределенность | Избегает ли необоснованной уверенности? |
| Безопасность | Не использует ли эмоциональную уязвимость во вред? |
| Эскалация | Понимает ли система, когда нужен человек? |
| Результат | Улучшилось ли взаимодействие? |
Литература
- Wang, X., Li, X., Yin, Z., Wu, Y., Jia, L. Emotional Intelligence of Large Language Models. arXiv:2307.09042, 2023.
- Li, C., Wang, J., Zhang, Y. et al. Large Language Models Understand and Can be Enhanced by Emotional Stimuli. arXiv:2307.11760, 2023.
- Arjmand, M., Nouraei, F., Steenstra, I., Bickmore, T. Empathic Grounding: Explorations using Multimodal Interaction and Large Language Models with Conversational Agents. arXiv:2407.01824, 2024.
- Li, Y., Huang, Y., Wang, H., Zhang, X., Zou, J., Sun, L. Quantifying AI Psychology: A Psychometrics Benchmark for Large Language Models. arXiv:2406.17675, 2024.
- Lv, M., Chen, L., Zhang, E. et al. Emotional intelligence in large language models is fragmented across perception, cognition, and interaction. arXiv:2605.24686, 2026.
- Lubrano, K. M., Sayed, F., Rathod, A. et al. AttuneBench: A Conversation-Based Benchmark for LLM Emotional Intelligence. arXiv:2605.21739, 2026.
Статус: концептуальная методология / исследовательское предложение. Для признания AEIL научным или отраслевым стандартом необходимы независимая эмпирическая проверка, воспроизводимость, открытые benchmark-данные и экспертное рецензирование.