HandsOnAzureEN

Можно ли научиться через внешнюю память?

В разговорах с ИИ случалось сообщить что-то новое, а позднее получить ответ, в котором это сведение уже учтено. Веса модели за время разговора могли остаться прежними. Достаточно ли этого, чтобы закрыть вопрос об обучении? Если завтра система справится с задачей, на которой вчера ошиблась, хотелось бы хотя бы узнать, что ей помогло.

Допустим, у нас два склада, причём названия придуманы специально для опыта. Обычно заказ едет с ближайшего. Исключение одно: хрупкий груз отправляют со склада «Ольха», где есть подходящая упаковка. Агент выбрал ближний склад для стеклянной вазы. Поправим его и закончим разговор.

В новой сессии предложим отправить фарфоровую чашку. В заказе нет ни вазы, ни слова «хрупкий». Отправит с «Ольхи»? А пачку салфеток из следующего заказа? Второй вопрос нужен на случай, если агент попросту усвоил: когда спрашивают про склад, отвечай «Ольха».

Пока это только план проверки. До поправки стоит предъявить несколько похожих заказов, после неё оставить часть новых задач для прогона с отключённой памятью. Тогда появится возможность увидеть, какую разницу внесла запись. Дословное повторение правила тоже кое-что покажет, но нас интересует ещё и то, пригодится ли оно для чашки.

У записи во внешнем хранилище, примера в текущем контексте и обновления весов разная судьба. Контекст кончится вместе с сессией, запись можно потерять при поиске, новые веса могут попасть уже в другую версию модели. Для человека, получившего целую чашку, эти подробности несущественны. Для того, кто собирается завтра доверить агенту следующую посылку, они имеют значение.