[Перевод] Мы научили ИИ-агента думать как программист, и теперь мы не знаем, что у него на уме

Wait 5 sec.

Помните ту сцену в «Матрице», где в мозг Нео мгновенно загружают навыки джиу-джитсу?Как только загрузка завершается, он начинает драться так, будто тренировался десять лет. Именно так я и представляла себе работу ИИ-агентов с инструментами. Дайте им доступ ко всему, и они просто будут знать, как всем этим пользоваться.Но теперь, немного разобравшись в том, как всё это устроено, я поняла, что мои наивные представления были в корне неверны. Конечно, тогда я была ребёнком :) Читать далее