>>240109
>С облачными моделями твои запросы это редко один большой запрос к ллм
слушай, ну если я оплачиваю конкретные токены по конкретному эндпоинту конкретной модели то должно быть именно так
но если это какое-нибудь решение для конечного пользователя, ну как бы да, там будет роутер с вероятностью, но речь не об этом
>>240110
декомпозиция и есть самое сложное. это же буквально задача уровня проджект менеджера и я, конечно, понимаю, что в нашей культуре начальник это всегда самодур, но если мы хотим получить желаемое, а мы хотим, то так быть не должно
и для декомпозиции нужна прям глубокая, обширная, детальная, многофакторная картина мира
и, среди прочего, это вообще-то задачки уровня "архитектор системы". такое надо если не оставлять за собой, то, как минимум, проверять какую архитектуру нафантазировала фронтирная модель, а это должна быть только и исключительно фронтирная модель, если у тебя там не тяжкий криминал
Comment too long. Click
here to view the full text.