1 674 813 токенов в одном запросе: как я чистил контекст OpenWebUI, а потом вынес агента наружу
Input tokens exceed 922,000 tokens. Your messages resulted in 1,674,813 tokens — с этой ошибки началась история, которая растянулась на полгода. У нас self-hosted OpenWebUI, на нём внутренний ассистент для небольшой команды: файлы, документы, мелкие инженерные задачи. Сначала я писал фильтр, который вычищает из истории результаты инструментов. Потом понял, что латаю не то место, и вынес исполнение агента в отдельный сервис на OpenAI Agents SDK и Codex SDK.
По теме
Как мой сайт считает ботов, не храня ни одного IP: чистый PHP без базы, строгая CSP и 160 тестов
В прошлой статье я рассказывал про SSH-ловушку на своём сервере. В комментариях несколько раз спросили: а что за сайт, на котором всё это…
Апскейлер QSSR для базовой PS5 добавят в Marvel’s Spider-Man 2, ARC Raiders и другие игры
Sony представила новую волну игр, которые в ближайшем будущем получат поддержку апскейлера QSSR для базовой PS5. Технология уже доступна в…
[Перевод] Монолит, модульный монолит и микросервисы: практическое сравнение для .NET
Как каждый из подходов организует код, разделяет данные и какие библиотеки требует в экосистеме .NET. Разработчики редко выбирают…
Сколько реально стоит опечатка в раскладке, если считать в токенах LLM
Я написал Зябру - локальный переключатель раскладки: набрал “ghbdtn” вместо “привет”, программа сама стирает и переписывает правильно…