Потоки повідомлень у Claude Code можуть заощаджувати до чотирьох хвилин
Потоки повідомлень у Claude Code скорочують затримку відповідей у довгих сесіях, але не зменшують витрати на токени.
Функція потоків повідомлень у Claude Code може скоротити час очікування відповідей у тривалих сесіях програмування на кілька хвилин. За підрахунками автора ZDNET, застосування заявленого Anthropic 35-відсоткового медіанного скорочення часу до появи першого токена дало б економію приблизно від двох до чотирьох хвилин за чотиригодинну робочу сесію.
Менше повторних передавань даних
До появи потоків повідомлень агент надсилав моделі всю історію розмови з кожним новим запитом. У новому режимі передаються лише зміни після попереднього ходу. Це зменшує обсяг даних, які треба переслати, і має пришвидшувати появу відповіді.
Найвідчутніший ефект, за даними Anthropic, спостерігається у сесіях із контекстом від 500 тисяч до 1 мільйона токенів. Автор проаналізував дані приблизно 980 ходів у власних логах Claude Code, зібраних до появи функції. У великих контекстах модель зазвичай починала відповідати приблизно через три секунди після проміжного запиту. Протягом п’яти активних вечорів кількість викликів моделі за чотири години становила від 100 до 225.
Швидше, але без зниження вартості
Потоки повідомлень увімкнені за замовчуванням для більшості користувачів Claude Code. Користувачі API можуть активувати їх через параметр thread у запитах. Для агентів, що працюють із комп’ютером, це також означає, що знімки екрана можуть залишатися в потоці, а не завантажуватися повторно на кожному кроці.
Водночас функція не скорочує споживання токенів і не змінює ліміти запитів: модель усе одно обробляє повну історію діалогу під час кожного ходу. Заощадження коштів може давати окремий механізм кешування промптів, який дозволяє уникати повторної обробки однакових запитів. Окремі одноразові запити не отримають переваги від потоків, а після паузи понад п’ять хвилин система знову надсилає повний вміст повідомлень.
