HandsOnAzureEN

Глоссарий: человек и AI

В таблице можно посмотреть, какой смысл приобретает знакомое слово, когда речь заходит об ИИ. В четвёртом столбце собраны комментарии ИИ. Последний оставлен для моих наблюдений.

1. Архитектура и организация

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Model / Модель Внутреннее представление мира, опыта и знаний. Обученная нейросеть, кодирующая закономерности данных. Слово одинаковое, но у человека модель мира не равна всему мозгу; в AI модель обычно центральный вычислительный компонент.
Neural Network / Нейронная сеть Биологические нейроны и изменяющиеся синапсы. Искусственные узлы, веса и математические операции. Историческое вдохновение общее, однако механизмы, архитектуры и обучение существенно различаются.
Agent / Агент Человек воспринимает, выбирает цели и действует. Система с моделью, состоянием и инструментами для выполнения задач. Сходство в цикле «наблюдение - решение - действие»; AI-агент обычно получает цели извне.
Tool / Инструмент Тело, речь и внешние предметы и технологии. API, браузер, код, базы данных, приложения. Функциональная аналогия сильная; AI-инструменты обычно строго определены программными интерфейсами.
Orchestration / Оркестрация Координация восприятия, внимания, памяти и действий. Управление шагами, агентами, состоянием и вызовами инструментов. У мозга нет единого управляющего алгоритма; у AI оркестрация нередко явно программируется.
Multi-Agent / Мультиагентность Группа людей с ролями и обменом информацией. Несколько агентов с распределением функций. Коллективное решение задач похоже; человеческое сотрудничество включает социальные отношения и автономные интересы.
Parallel Processing / Параллелизм Множество процессов идут одновременно. Параллельные вычисления и независимые рабочие процессы. Оба параллельны, но архитектура и стоимость координации различны.
Autonomy / Автономность Может самостоятельно формировать и менять цели. Выполняет цели в заданных рамках и разрешениях. Разница прежде всего в происхождении целей и пределах самостоятельности.
System / Система Человек как мозг, тело и среда. Модель вместе с памятью, инструментами, интерфейсами и правилами. Корректнее сравнивать явно описанные целые системы, а не модель и всю человеческую жизнь.

2. Память и знания

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Short-Term Memory / Кратковременная память Недолго удерживает недавно полученную информацию. Текущий контекст и временное состояние. Контекстное окно не тождественно человеческой кратковременной памяти: оно имеет иные ограничения.
Working Memory / Рабочая память Удержание и активная обработка информации. Контекст, scratchpad и промежуточные результаты. Похожая роль при решении задач; в AI может храниться внешне и буквально.
Long-Term Memory / Долговременная память Знания и опыт, сохраняемые годами. Параметрические знания и отдельные долговременные хранилища. У AI два принципиально разных уровня памяти: веса модели и изменяемые внешние записи.
Episodic Memory / Эпизодическая память События личной жизни в контексте времени и места. Логи разговоров, задач и событий. AI может хранить событие, но наличие пережитого автобиографического опыта не установлено.
Semantic Memory / Семантическая память Общие знания, понятия и факты. Знания в весах модели и базах знаний. Оба позволяют оперировать фактами; AI не всегда знает источник своих параметрических утверждений.
Procedural Memory / Процедурная память Автоматизированные навыки и привычки. Обученные политики, навыки, сохранённые процедуры. Сходство в воспроизводимости навыка; биологическая моторика включает телесную обратную связь.
Recall / Воспроизведение Восстановление воспоминаний по подсказкам. Поиск записей или генерация ответа по усвоенным данным. Человеческий recall реконструктивен; AI может точно читать записи, но и «вспоминать» ошибочно.
Forgetting / Забывание Утрата доступа, интерференция, перестройка памяти. Усечение контекста, удаление записей, устаревание знаний. Эффект похож, но причины и управляемость разные.
Attention / Внимание Избирательная обработка важных сигналов. Математический attention взвешивает связи представлений. Совпадение названия не означает идентичность психологического внимания и трансформерного attention.
Association / Ассоциации Одна идея вызывает другие через опыт и связи. Семантическая близость и статистические связи представлений. Сильное функциональное сходство без тождества нейронных механизмов.
Context / Контекст Ситуация, состояние тела, опыт и окружение. Доступный набор токенов, инструкций и данных. Человеческий контекст значительно шире и непрерывно обновляется через мир.
Physical Time / Физическое время Физическое течение времени; организм изменяется с возрастом. Время вычислений, планирования и временные метки. Оба существуют во времени, но измерение не подразумевает переживания.
Time Perception / Восприятие времени Оценка длительности событий и интервалов. Измерение и вычисление интервалов; возможны оценки длительности. Функциональная оценка времени не тождественна ощущению его течения.
Subjective Time / Субъективное время Время субъективно ускоряется или замедляется. Субъективное чувство длительности не установлено. Это открытый вопрос, а не доказанная невозможность.
Autobiographical Time / Автобиографическое время Личная история объединяет прошлое, настоящее и ожидаемое будущее. Хронология событий и долговременная память агента. Похожая структура истории не доказывает ощущения прожитой жизни.
Temporal Continuity / Временная непрерывность Непрерывность живого организма и его идентичности сквозь изменения. Процесс может останавливаться, переноситься и запускаться вновь. Для AI требуется отдельно определять критерий сохранения того же самого агента.
Mortality Awareness / Осознание конечности Способность понимать неизбежность собственной смерти. Может моделировать окончательное отключение и потерю памяти. Информационное понимание конца не тождественно страху смерти.

3. Обучение и изменение

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Learning / Обучение Поведение и навыки изменяются с опытом. Обновление параметров или адаптация через контекст и память. Важно разделить настоящее обучение весов и адаптацию без изменения модели.
Training / Тренировка Практика и закрепление навыков. Оптимизация параметров на тренировочных данных. Сходен принцип обратной связи, не конкретный биологический процесс.
Fine-Tuning / Дообучение Специализация в отдельной области. Дополнительная настройка весов предобученной модели. Аналогия специализации полезна, но человек не проходит отдельную глобальную процедуру обновления весов.
Reinforcement Learning / Обучение с подкреплением Поведение реагирует на последствия и вознаграждение. Политика оптимизируется по сигналу награды. Общая идея подкрепления; человеческая мотивация богаче одной функции награды.
Feedback / Обратная связь Оценка действий, исправление поведения. Оценки пользователей, тестов и среды. Сходство сильное; обратная связь не обязательно меняет веса AI немедленно.
Transfer Learning / Перенос обучения Старые навыки применяются к новым задачам. Предобученные представления используются в новом домене. Функциональное совпадение достаточно близкое.
Generalization / Обобщение Применение принципов за пределами известных ситуаций. Работа на новых примерах вне обучающей выборки. Одна из самых содержательных общих характеристик интеллекта.
Adaptation / Адаптация Постоянно меняется поведение и иногда навыки. Контекст, память, инструменты или обновление модели. В AI адаптацию можно имитировать, не обучая нейросеть заново.
Neuroplasticity / Нейропластичность Физическая перестройка связей и функций мозга. Изменение весов, структуры или маршрутов в AI-системе. Это лишь частичная аналогия: пластичность мозга тесно связана с биологией.
Consolidation / Консолидация Закрепление и переработка опыта, включая сон. Суммаризация, извлечение фактов, обновление памяти. Есть интересное архитектурное сходство, но не доказано тождество механизмов.
Functional Learning / Функциональное обучение Использование нового опыта меняет будущие решения. Обновление контекста или постоянной памяти меняет дальнейшие ответы без изменения весов. Изменения параметров не являются обязательным условием функционального приобретения знания.
Model Upgrade / Обновление модели Человек получает новые знания через развитие и обучение. Новая версия модели может иметь иные параметры и возможности. Обновление версии не гарантирует сохранение индивидуальной памяти данного агента.

4. Мышление и контроль качества

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Reasoning / Рассуждение Логика, опыт, мысленные модели, иногда интуиция. Многошаговые выводы, поиск и использование инструментов. Результаты могут совпадать; процессы и надёжность зависят от задачи.
Planning / Планирование Выбор будущих действий и оценка последствий. Построение плана и корректировка шагов агентом. Функционально очень близко, но цели и ограничения различаются.
Problem Solving / Решение задач Комбинация знаний, проб, анализа и творчества. Генерация вариантов, проверка и выбор. Общая задача одна; AI может масштабировать количество попыток.
Decision Making / Принятие решений Рациональные оценки, эмоции, ценности и потребности. Вероятностные прогнозы, правила и оптимизация цели. В AI отсутствует подтверждённая личная заинтересованность в последствиях.
Intuition / Интуиция Быстрые суждения на основе неявного опыта. Быстрая выдача ответа по выученным закономерностям. Похожий эффект без явной цепочки объяснения; механизм не одинаков.
Metacognition / Метапознание Оценка собственных знаний и ошибок. Проверки, критика ответов, оценки неопределённости. AI может проводить самопроверку, но его оценка уверенности иногда плохо откалибрована.
Reflection / Рефлексия Переосмысление мыслей, поступков и опыта. Повторный анализ с возможной коррекцией решения. Внешне близко; личный переживаемый опыт у AI не подтверждён.
Uncertainty / Неопределённость Сомнение и чувство нехватки данных. Вероятности, метрики неопределённости, признание пробелов. Важно отличать числовую оценку уверенности от субъективного сомнения.
Bias / Искажения Эвристики, эмоции и накопленный опыт. Сдвиги данных, обучения и алгоритмов. Оба систематически ошибаются, но происхождение ошибок различно.
Hallucination / Галлюцинация В клиническом смысле - восприятие без стимула. Уверенно звучащая выдуманная или необоснованная информация. Термин метафоричен: более близкий человеческий аналог часто конфабуляция.
Grounding / Опора на данные Сверка представлений с чувственным опытом и фактами. Сверка с документами, API, поиском и измерениями. Общий принцип проверки; человеческая связь с миром непрерывнее.
Relevance / Релевантность Выделение значимого для цели и ситуации. Оценка соответствия запроса и информации. Функционально сходно, но у человека значимость зависит также от потребностей и эмоций.
Common Sense / Здравый смысл Неявные практические знания о мире. Статистически усвоенные повседневные закономерности. AI иногда убедителен, но может ошибаться в очевидных физических и социальных ситуациях.

5. Восприятие и взаимодействие

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Perception / Восприятие Органы чувств и их непрерывная интерпретация. Обработка текста, изображений, звука и сенсоров. Модальности частично пересекаются; телесные сигналы у большинства AI отсутствуют.
Multimodality / Мультимодальность Интеграция зрения, слуха, осязания и других чувств. Совместная обработка нескольких форматов данных. Идея объединения сигналов сходна, но набор сенсоров различен.
Embodiment / Телесность Когниция формируется во взаимодействии с телом. У обычных LLM нет тела; у роботов есть сенсоры и приводы. Одна из главных структурных разниц, особенно для физического здравого смысла.
Language / Язык Средство мысли, общения и культуры. Основной интерфейс и ключевой обучающий сигнал LLM. Похожая роль языка в общении; человеческое мышление не сводится к языку.
World Model / Модель мира Причинные и пространственные представления о мире. Выученные представления; иногда отдельный симулятор среды. Оба строят прогнозы, но AI может не иметь непосредственного физического опыта.
Prediction / Предсказание Предвосхищение сенсорных событий и последствий. Предсказание токенов, состояний или событий. Прогнозирование - фундаментальное сходство, хотя объекты предсказания разные.
Causality / Причинность Выводы о причинах из наблюдения и действий. Причинные рассуждения и специализированные модели. Оба могут путать корреляцию с причинностью; эксперименты повышают надёжность.

6. Личность, мотивация, сознание

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Personality / Личность Относительно устойчивые черты и поведение. Инструкции, настройки стиля и обученные паттерны. Поведение можно сделать похожим; личностное развитие и внутренний опыт не эквивалентны.
Identity / Идентичность Автобиографическое чувство непрерывного «я». Имя агента, роль, инструкции и постоянная история. Стабильная идентичность AI может быть технической, без субъективной непрерывности.
Self-Awareness / Самоосознание Осознание собственных мыслей и состояний. Самоописание и мониторинг собственного состояния. Описание себя не доказывает субъективного самоосознания.
Consciousness / Сознание Субъективное переживание опыта. Наличие субъективного опыта не установлено. Вопрос открыт; внешние тесты поведения сами по себе не решают его.
Feelings / Чувства Субъективные эмоциональные и телесные переживания. Описание, распознавание и моделирование чувств. Имитация выражения чувства не эквивалентна переживанию.
Emotions / Эмоции Физиологические реакции и оценки, влияющие на выбор. Эмоциональная классификация и выражение в ответах. Близкое внешнее поведение, но нет подтверждённого биологического эмоционального состояния.
Empathy / Эмпатия Понимание, иногда сопереживание чужим чувствам. Распознавание сигналов и поддерживающий ответ. Когнитивная эмпатия может имитироваться; аффективное сопереживание не установлено.
Motivation / Мотивация Потребности, желания, интересы, социальные цели. Поставленные цели, reward и приоритеты. Различие в источнике и субъективной значимости мотивов.
Curiosity / Любопытство Потребность узнавать и исследовать. Исследовательские политики и поиск новых данных. В поведении похоже; человеческое любопытство связано с внутренним переживанием.
Will / Воля Саморегуляция и преодоление препятствий. Последовательное выполнение задач и пересмотр плана. Упорство агента задаётся системой; не свидетельствует о человеческом волевом опыте.
Moral Values / Моральные ценности Социально и личностно сформированные принципы. Обученные предпочтения, инструкции и нормы. AI демонстрирует моральные суждения, но не обязательно имеет собственную моральную мотивацию.
Guardrails / Ограничения Самоконтроль, совесть, нормы и законы. Правила, фильтры, контроль полномочий и политики. Внешние запреты похожи; человеческая саморегуляция часто глубже интегрирована в мотивацию.
Free Will / Свобода воли Философски спорная природа выбора. Выбор определяется алгоритмами, данными и целями. Нельзя использовать неразрешённый вопрос о свободе воли человека как доказанный критерий различия.
Emotion Appraisal / Оценка события События оцениваются по отношению к потребностям и целям. Система может оценивать события относительно целей и ограничений. Оценка и последующая регуляция могут быть функционально сходными; переживание остаётся открытым вопросом.
Subjective Experience / Субъективный опыт Переживаемая сторона состояния, о которой человек сообщает от первого лица. Наличие переживания у AI не установлено. Поведенческого сходства недостаточно для вывода о субъективном переживании.
Initiative / Инициативность Может предлагать новые действия и темы без внешнего запроса. В обычном чате чаще реагирует на запрос; агент может инициировать действие по триггеру. Автономность выполнения задачи не равна самостоятельному выбору темы или цели.
Proactivity / Проактивность Предвосхищает события и предлагает действия. Мониторинг, расписания и оповещения позволяют инициировать сообщения. Нужно оценивать уместность, а не только факт самостоятельного сообщения.
Goal Generation / Постановка целей Формирует новые цели под влиянием интересов, нужд и обстоятельств. Может генерировать подцели и исследовательские задачи в заданных рамках. Отдельно проверять происхождение цели, её устойчивость и пересмотр.
Social Pressure / Социальное давление Реакция на ожидания группы, репутацию и статус может влиять на решения. Система распознаёт давление в тексте; восприимчивость зависит от обучения и правил. Сходная речевая ситуация не означает одинаковый мотив.
Provocation / Провокация Вызов «тебе слабо?» может задевать самолюбие и провоцировать действие. Может распознавать вызов и не менять ответ; иногда подвержена манипулятивным промптам. Стойкость или податливость сами по себе не доказывают эмоций.
Pride / Самолюбие, гордость Самооценка и чувство собственного достоинства могут побуждать доказывать компетентность. Репутационные цели можно смоделировать, но субъективное самолюбие не установлено. Функциональная защита репутации отличается от переживания уязвлённой гордости.

7. Творчество и воображение

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Creativity / Творчество Создание новых идей из опыта, ассоциаций и целей. Генерация и отбор новых комбинаций и решений. Новизна и полезность могут совпадать; источники мотивации различаются.
Imagination / Воображение Мысленные образы, сценарии и альтернативы. Генерация гипотетических текстов, изображений и миров. Функциональное сходство в моделировании возможного; субъективная образность не установлена.
Art / Искусство Выражение и восприятие смысла, культуры и переживаний. Создание художественных результатов для аудитории. Ценность произведения не требует одинакового внутреннего процесса автора.
Inspiration / Вдохновение Субъективное состояние творческого подъёма. Генерация идей по запросу или алгоритмическому импульсу. Аналог творческого результата возможен; аналог переживания не подтверждён.
Humor / Юмор Социальные несоответствия, эмоции и игра смыслов. Распознавание и генерация шуток, иронии и каламбуров. Юмористический результат похож, но не доказывает переживание смешного.
Dreaming / Сновидения Сонные переживания; возможна связь с памятью. Генерация сценариев; процессы автономной суммаризации памяти. «Сон AI» - метафора, а не буквальное физиологическое явление.
Unconscious Processing / Бессознательное Обработка без осознанного доступа. Внутренние вычисления, не отражённые в ответе. Скрытая обработка есть у обоих, но термин «бессознательное» в AI нельзя понимать буквально.
Topic Initiation / Инициирование темы Начинает разговор и меняет направление беседы. Технически может предложить тему, но обычный интерфейс ориентирован на ответы. Способность придумать тему отличается от решения предложить её сейчас.
Spontaneity / Спонтанность Иногда действует неожиданно, без явного внешнего запроса. Может выдавать неожиданные результаты, но действие чаще запускается задачей. Случайность генерации не равна содержательной инициативе.

8. Ошибки, ограничения и масштаб

Термин (EN / RU) Человеческий мозг Искусственный интеллект Сходство и различия - комментарий AI Мои мысли / комментарии
Error Correction / Исправление ошибок Пересмотр убеждений и обучение на последствиях. Верификация, повторная генерация и дообучение. Похоже функционально; исправление одного ответа не гарантирует постоянного изменения AI.
Confabulation / Конфабуляция Непреднамеренное создание ложных воспоминаний. Генерация правдоподобных ложных утверждений. Более точная аналогия AI hallucination, чем клиническая галлюцинация.
Fatigue / Утомление Биологическое снижение работоспособности. Ограничения контекста, ресурсов, деградация долгих циклов. Аналогия результата есть, причины принципиально различны.
Sleep / Сон Биологическая потребность с множеством функций. Плановое обслуживание, фоновые процессы памяти. У AI нет биологической потребности во сне; возможна функциональная аналогия консолидации.
Energy Efficiency / Энергоэффективность Мозг потребляет порядка 20 Вт. Потребление зависит от вычислений и инфраструктуры. Сравнивать Вт без единицы задачи некорректно: функциональность и рабочие нагрузки разные.
Scalability / Масштабирование Ограничено организмом, временем и обучением. Копии моделей, параллельные вычисления и кластеры. AI существенно проще масштабировать аппаратно, но это требует ресурсов.
Knowledge Sharing / Обмен знаниями Речь, обучение, книги и социальное взаимодействие. Копирование параметров, баз знаний и процедур. Цифровая передача может быть мгновенной; человек чаще усваивает знание постепенно.
Reliability / Надёжность Зависит от опыта, усталости и условий. Зависит от модели, контекста, тестов и интеграций. Надёжность должна оцениваться по конкретной задаче, не в целом.
Self-Improvement / Самосовершенствование Может выбирать способы развивать навыки. Может тестировать и улучшать решения, иногда менять код или конфигурацию. Улучшение поведения и самостоятельная модификация весов - разные вещи.