Čo je prompt engineering?

Prompt engineering je zručnosť navrhovať a formulovať pokyny (prompty) pre AI tak, aby vrátila čo najpresnejší a najužitočnejší výsledok. Keďže jazykový model generuje odpoveď na základe vášho vstupu, kvalita zadania priamo rozhoduje o kvalite výstupu. Dobrý prompt je rozdiel medzi vágnou a presne cielenou odpoveďou.

Tento článok vysvetľuje, prečo na prompte záleží, aké sú princípy a techniky dobrého promptu, a na konkrétnom príklade ukazuje rozdiel medzi slabým a dobrým zadaním.

Prečo na prompte tak veľmi záleží

Jazykový model nepozná váš zámer. Pracuje len s tým, čo napíšete, a dopĺňa najpravdepodobnejšie pokračovanie. Ak je zadanie vágne, model si domyslí kontext, často nesprávne. Ak je presné, model má jasné mantinely a výsledok je oveľa lepší.

Inými slovami, prompt engineering nie je trik, ale spôsob komunikácie. Rovnako ako presné zadanie pre kolegu prinesie lepší výsledok než nejasná požiadavka.

Päť princípov dobrého promptu

Väčšinu zlepšenia dosiahnete dodržaním niekoľkých jednoduchých zásad:

• Buďte konkrétni. Namiesto „napíš o marketingu" zadajte tému, dĺžku, cieľovú skupinu a cieľ textu.
• Dodajte kontext. Vysvetlite situáciu, vstupné dáta a obmedzenia, ktoré má model rešpektovať.
• Priraďte rolu. Pokyn „správaj sa ako skúsený daňový poradca" nasmeruje model do správnej oblasti.
• Ukážte príklad. Jeden či dva vzorové výstupy povedia modelu viac než dlhý opis.
• Určte formát. Povedzte, či chcete odrážky, tabuľku, JSON alebo súvislý text.

Hlavné techniky prompt engineeringu

Okrem základných zásad existuje niekoľko osvedčených techník:

Technika	Ako funguje	Kedy ju použiť
Zero-shot	Zadáte úlohu bez príkladov	Jednoduché, jednoznačné úlohy
Few-shot	Pridáte niekoľko vzorových príkladov	Keď chcete konkrétny štýl alebo formát
Chain-of-thought	Požiadate model, nech rozmýšľa krok za krokom	Logické a matematické úlohy
Role prompting	Priradíte modelu rolu alebo osobnosť	Odborný tón a perspektíva

Technika few-shot, teda učenie z niekoľkých príkladov priamo v prompte, sa preslávila pri modeli GPT-3. Postup „rozmýšľaj krok za krokom" zasa podľa štúdie z roku 2022 výrazne zlepšuje schopnosť modelu riešiť zložitejšie úlohy.

Zlý verzus dobrý prompt na príklade

Rozdiel najlepšie vidno na konkrétnom zadaní. Najprv slabý, vágny prompt:

Napíš mi text o našom produkte.

A teraz ten istý zámer ako dobrý prompt, ktorý dodržiava princípy vyššie:

Si skúsený copywriter. Napíš popis produktu (max 80 slov) pre e-shop s ekologickými čistiacimi prostriedkami. Cieľová skupina sú rodičia malých detí. Zdôrazni bezpečnosť a šetrnosť k prírode. Výstup vráť ako jeden odsek bez nadpisu.

Druhý prompt dá modelu rolu, tému, dĺžku, cieľovú skupinu, dôraz aj formát. Výsledok je preto použiteľný takmer okamžite.

Prompt engineering, fine-tuning alebo RAG?

Prompt engineering je prvý nástroj, ktorý by ste mali skúsiť, pretože je najrýchlejší a nič nestojí. Ak ani najlepší prompt nestačí, prichádzajú na rad ďalšie možnosti:

• Ak modelu chýbajú aktuálne fakty alebo vaše dokumenty, použite RAG.
• Ak potrebujete trvalo zmeniť štýl alebo správanie modelu vo veľkom, zvážte fine-tuning.

Pre väčšinu bežných úloh však dobrý prompt úplne stačí.

Často kladené otázky

Čo je prompt engineering jednoducho povedané?

Je to zručnosť presne formulovať pokyny pre AI, aby vrátila čo najlepší výsledok. Čím jasnejšie zadanie, tým lepšia odpoveď.

Potrebujem na prompt engineering programovanie?

Nie. Prompt engineering je o jasnej komunikácii v prirodzenom jazyku, takže ho zvládne každý. Pomáha skôr logické a presné myslenie než kód.

Čo znamená few-shot prompt?

Few-shot prompt obsahuje niekoľko vzorových príkladov požadovaného výstupu priamo v zadaní. Model sa z nich naučí očakávaný štýl alebo formát a napodobní ho.

Čo je chain-of-thought?

Je to technika, pri ktorej požiadate model, aby riešil úlohu krok za krokom. Pri logických a matematických úlohách to zvyčajne zvyšuje presnosť odpovede.

Je prompt engineering to isté ako fine-tuning?

Nie. Prompt engineering mení iba zadanie a model nechá nezmenený. Fine-tuning model skutočne doladí na nových dátach a je oveľa náročnejší.