Inżynieria kontekstu AI: Dlaczego same prompty nie wystarczą
Dwa lata temu wszyscy mówili o prompt engineeringu.
Ludzie udostępniali prompty, aby pisać kod lub działać jak eksperci. Idea była prosta: lepszy prompt oznacza lepszy wynik.
Ale inżynierowie budujący prawdziwe produkty AI odkryli prawdę. Prompt to tylko jeden element układanki.
Nowoczesne narzędzia AI, takie jak Claude, Cursor czy GitHub Copilot, nie polegają na pojedynczym prompcie. Wykorzystują inżynierię kontekstu (Context Engineering).
Prompt engineering pyta: „O co powinienem zapytać model?”
Inżynieria kontekstu pyta: „Jakich informacji potrzebuje model, aby udzielić dobrej odpowiedzi?”
Pomyśl o programiście. Jeśli powiesz „aplikacja nie działa”, nie będzie mógł Ci pomóc. Będzie zadawał wiele pytań.
Jeśli dostarczysz logi błędów, stack trace'y i informacje o ostatnich wdrożeniach, naprawi to szybko. Nie stał się mądrzejszy. Dałeś mu lepszy kontekst.
AI działa w ten sam sposób.
Jeśli poprosisz AI o zapytanie SQL, model może zgadywać. Jeśli podasz mu nazwy tabel, typy kolumn i konkretne reguły, odpowiedź stanie się dokładna. Prompt pozostał prosty, ale kontekst uległ zmianie.
W systemach AI działających produkcyjnie model otrzymuje znacznie więcej niż tylko Twój tekst. Często otrzymuje:
- instrukcje systemowe
- historię konwersacji
- rekordy z bazy danych
- pliki projektu
- wyniki narzędzi
Asystent programowania AI wie, o czym mówisz, ponieważ widzi Twoje otwarte pliki i strukturę folderów. Wpisujesz cztery słowa, ale model otrzymuje tysiące tokenów danych.
Przestań spędzać godziny na dopracowywaniu sformułowań promptu. Zamiast tego zapytaj siebie: „Jakich informacji brakuje modelowi?”.
Dostarczanie lepszej dokumentacji, schematów API czy reguł biznesowych działa lepiej niż szukanie „magicznego” promptu.
Inżynieria kontekstu polega na dostarczaniu modelowi odpowiednich danych we właściwym czasie.
W części 2 omówię:
- okna kontekstowe i tokeny
- dlaczego więcej kontekstu nie zawsze jest lepsze
- jak działa pamięć w AI
Świetne systemy AI zależą od danych działających „za kulisami”, a nie tylko od słów, które wpisujesz.
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi