Anthropic скорочує системний промпт Claude Code на 80% для Fable 5
Anthropic спостерігає зміну парадигми в управлінні великими мовними моделями: відхід від важких наборів інструкцій до легшого та інтуїтивнішого спрямування. Ця еволюція зумовлена появою нових моделей Fable 5 (класу Mythos), які найкраще працюють за умов меншої кількості обмежень і більшого обсягу контексту.
Смерть довгих системних промптів
Протягом багатьох років галузевим стандартом оптимізації продуктивності ШІ був «промпт-інжиніринг» за допомогою масивних системних інструкцій та вичерпних прикладів (few-shot examples). Розробники вважали, що більше правил і більше обмежень у стилі «не роби цього» є ключем до надійності. Однак Anthropic змінює цей тренд.
Тарік Шихіпар (Tariq Shihipar), технічний спеціаліст Anthropic, повідомив, що компанія скоротила системний промпт для Claude Code на вражаючі 80 відсотків. Це скорочення є не ознакою спрощення моделі, а скоріше відповіддю на складні когнітивні можливості нових моделей Fable 5. Оскільки моделі стають досконалішими, традиційний метод «ведення за руку» за допомогою довгих промптів стає контрпродуктивним.
Чому моделі Fable 5 чинять опір обмеженням
Перехід до моделей Fable 5 (або класу Mythos) представляє фундаментальну зміну в поведінці моделей. За словами Шихіпара, надання розлогих прикладів і жорстких правил саме цим моделям насправді погіршує їхню продуктивність. Причина неочікувана: ці моделі за своєю природою є більш «уявними», ніж їхні попередники.
Коли розробник надає довгий список конкретних прикладів, це діє як обмеження, що звужує можливості моделі до міркування. Замість того, щоб шукати найбільш ефективне або креативне рішення проблеми, модель відчуває потребу імітувати конкретні шаблони, надані в промпті. Щоб розкрити справжній потенціал класу Mythos, Anthropic відходить від жорстких правил у бік «керування через контекст». Це дозволяє моделі використовувати свої когнітивні здібності для виконання завдань, не будучи обмеженою надмірним навантаженням інструкцій.
Циклічна еволюція промпт-інжинірингу
Шлях промпт-інжинірингу мав чіткий циклічний характер у міру еволюції моделей. Внутрішні дослідження Anthropic виділяють три окремі етапи розвитку моделей:
- Ранні моделі: Потребували коротких, дуже специфічних промптів, підкріплених великою кількістю прикладів та надзвичайно суворими інструкціями для підтримки будь-якого рівня зв'язності.
- Проміжні моделі: У міру покращення розуміння промпти ставали значно довшими. Розробники використовували цю підвищену здатність до «виконання інструкцій», щоб створювати масивні, складні системні промпти, які керували кожним аспектом поведінки моделі.
- Ера Fable 5: Ми увійшли в етап, коли промпти знову стають коротшими. Фокус змістився з того, що саме має робити модель (правила), на створення необхідного середовища (контексту) для автономної дії моделі.
Цей розвиток є важливою віхою для сфери ШІ. Це свідчить про те, що в міру переходу до більш агентних моделей з акцентом на міркування, роль розробника зміститься від «творця правил» до «постачальника контексту», де пріоритетом буде якість інформації, а не кількість інструкцій.
Основні висновки
- Скорочення на 80%: Anthropic скоротила системний промпт Claude Code на 80%, щоб краще відповідати можливостям моделей Fable 5 (класу Mythos).
- Обмеження стримують креативність: Надмірна кількість прикладів і жорсткі правила «не роби цього» можуть насправді обмежувати здібності передових моделей до міркування та уяви.
- Контекст замість правил: Новий фронтир керування ШІ полягає у наданні багатого контексту, а не довгих, обмежувальних наборів інструкцій.