EVERYTHING
За даними The-decoder, криптовалютна біржа Coinbase змінила стратегію взаємодії з технологіями штучного інтелекту, обираючи шлях радикальної оптимізації витрат. Компанія почала активно інтегрувати китайські моделі у свій робочий процес, що стало прямою відповіддю на зростання вартості інференсу в західних лабораріях.
Перехід на бюджетні альтернативи та автоматизація
Brian Armstrong підтвердив, що Coinbase тепер використовує моделі GLM 5.2 та Kimi 2.7 для виконання багатьох завдань. Важливо відзначити, що розробники зберігають можливість вибору будь-якої моделі, проте аналітика показує, що лише 9 відсотків користувачів фактично перевищували попередні ліміти використання. Паралельно з цим інші технологічні гіганти також демонструють схожі тенденції: Snowflake тестує китайські рішення як дешевші альтернативи продуктам OpenAI та Anthropic.
Для забезпечення ефективності Coinbase впровадила систему автоматичного маршрутизації. Цей інструмент динамічно підбирає оптимальну модель для кожного запиту, враховуючи три ключові параметри:
- Складність конкретного завдання;
- Поточну вартість токенів;
- Потенціал кешування даних.
Завдяки впровадженню лише механізмів кешування, показник успішного спрацювання системи зріс із 5 до 60 відсотків. Компанія також активно пропагує концепцію контекстного інжинірингу, рекомендуючи розробникам підтримувати лаконічність контексту та розпочинати нові сесії для кожної окремої задачі.
Цінова війна та стратегія «Tokenmaxxing»
Попри те, що Coinbase збільшила обсяги споживання токенів, загальні витрати на AI скоротилися вдвічі. Brian Armstrong пояснює це новою політикою відповідальності: «Чим більше ви витрачаєте на ШІ, тим більшого впливу ми очікуємо». Це відрізняє підхід компанії від тренду «tokenmaxxing», який спостерігався в Amazon та Meta, де працівники отримували визнання за великі обсяги спалення ресурсів без чіткого результату.
Ситуація на ринку свідчить про надвищній тиск на західних вендорів. Наприклад, OpenAI випускає нові моделі, такі як GPT-5.6-Sol, які мають бути ефективнішими за Claude Fable та Mythos при аналогічній вартості. Одночасно з цим вони пропонують слабші варіанти 5.6 значно нижчої ціни. Подібні кроки свідчать про те, що західні лабораторії опиняються у складній ситуації перед виходом на IPO, де їм необхідно продемонструвати зростання показників при збереженні фінансової стійкості.
Поєднання агресивної оптимізації витрат та переходу на альтернативні моделі стає новим стандартом для великих корпоративних клієнтів у сфері штучного інтелекту.