Mis on prompt (käsklus keelemudelile)?

Prompt on tekst, mille saadad keelemudelile: küsimus, ülesanne ja selle piirid. Mis teeb promptist tööriista, millised vead korduvad ja kust alustada.

Tuntud ka kui: prompt, promptimine, käsklus keelemudelile

Koostanud · Avaldatud · Uuendatud · Lugemisaeg 3 min

Lühidalt

Prompt on see tekst, mille kasutaja või süsteem keelemudelile ette annab: küsimus, ülesande kirjeldus, näited ja piirangud. Mudel ei tunne sinu kavatsust, ta näeb ainult prompti. Sama mudel annab väga erineva tulemuse, kui promptis on roll, sisendandmed, vorming ja luba öelda „ei tea“.

Prompt on tekst, mida mudel päriselt näeb

Prompt on sisend, mille kasutaja või rakendus keelemudelile saadab. See võib olla üks küsimus või mitme osaga juhend: kes sa oled, mida pead tegema, millist sisendit saad, millises vormis vastata ja mida teha siis, kui vastust ei ole. Mudel ei näe sinu kavatsust ega konteksti, ta näeb ainult teksti, mis prompti sisse kirjutati. Praktikas algab hea prompt selgest ülesandest ja lõpeb vormingu kirjeldusega.

Sama mudel annab kahte väga erinevat tulemust, kui ühel juhul on kirjas „tee kokkuvõte“ ja teisel „tee kolm punkti, iga punkt kuni 20 sõna, ainult artikli põhjal, ilma soovitusteta“.

Mida hea prompt sisaldab

  • Ülesanne ühe lausega. Mitut asja korraga paludes kaob see, mida kõige rohkem vaja on.
  • Roll ja vaataja. „Sa kirjutad eestikeelse ettemaksuarve seletuse kliendile, kes ei tea raamatupidamisest midagi“ annab teise tooni kui lihtsalt „seleta“.
  • Sisendandmed eraldi. Dokument või tabel pannakse prompti eraldi plokki, mitte ei segata juhisega läbi.
  • Vorming. Tabel, loend, kuni N sõna, eesti keeles. Vormingut tuleb näidata, sest mudel valib vaikimisi selle, mida ta on kõige rohkem näinud.
  • Luba mitte vastata. Kui luba puudub, kipub mudel puuduva fakti välja mõtlema. Lause „kui vastust materjalides ei ole, ütle, et seda ei ole“ on odavaim kaitse väljamõeldiste vastu.
  • Näidis. Üks õige vastuse näidis mõjutab vormi sageli rohkem kui lauseline kirjeldus.

Näide: sama ülesanne kahes versioonis

Nõrk prompt:
Kirjuta kliendile vastus tema kaebuse kohta.

Tugev prompt:
Sa oled väiketootja klienditoe vastutaja. Kirjuta eestikeelne vastus kliendile,
kes väidab, et tarne hilines viis päeva. Sisend: tellimuse kinnituse tekst ja
tarnetingimuste punkt 4. Vorm: kuni 120 sõna, viisakas, ilma vabanduste kordamiseta,
üks konkreetne lahendus. Kui tarnetingimustest põhjust ei leia, küsi lisaandmeid.
Ära luba hüvitist, mida tingimustes ei ole.

Vahe ei ole viisakuses, vaid piirides. Tugev prompt ütleb, millist sisendit kasutada, kui pikk vastus tuleb ja mida tohib lubada. Kui töötate selle mustriga edasi, jõuab promptimine teenuse tasandile, kus sama muster kasutatakse sadades vestlustes. Selles olukorras tasub vaadata, kuidas allikaid korrastada: artikkel teadmistebaas chatbotile kirjeldab, mida iga lõigu juurde panna, et mudel tsiteeriks dokumenti, mitte ei leiutaks.

Promptimine kui töö, mitte nõks

Promptimine on katse ja mõõtmise töö. Üks inimene kirjutab kümmekond varianti, proovib neid päris küsimustega ja märgib üles, milline variant annab õige vastuse ka siis, kui küsimus on lohakalt sõnastatud. Tulemus ei ole ilus lause, vaid testkogu, mille peale saab uuendusi panna. Ilma testkoguta muutub iga prompti parandus maitse küsimuseks.

Kui prompt hakkab mõjutama seda, mida ettevõte klientidele ütleb, kuulub see läbivaatamisse nagu iga muu klienditekst. See on ka põhjus, miks AI konsultatsiooni töös vaadatakse promptid läbi koos protsessi ja andmetega, mitte eraldi nõksudena.

Tüüpvead

Neli viga, mis korduvad igas tehisintellekti projektis
VigaMida see põhjustabParandus
Ühes promptis kolm ülesannetÜks neist jääb tegemata ja keegi ei märka, millineÜks prompt, üks väljund
Juhis tuletatakse meelde, aga ei kirjutata ülesIga töötaja saab teistsuguse vastusePromptid versioonihaldusesse nagu kood
Turvalisus jääb prompti teksti sisseKasutaja kirjutab keelu üle ja saab ligi sellele, mida ei tohiksÕigused ja keelud koodis, mitte palves
Katsetatakse ainult ilusate küsimustegaPäris kliendi kirjavead ja lühendid löövad prompti segiTestkogu päris küsimustest, sh vigaste

Töö ja kulu

Prompti enda koostamine ei maksa midagi peale aja. Kulu tekib igal päringul: mudel arvestab sisendit ja väljundit tokenite kaupa, seega pikk süsteemikäsklus koos pika näidisega tähendab, et iga vestlus algab juba tuhandete sisendtokenitega. Muster, mis töötab ühe töötaja arvutis, võib sadade kasutajatega tuua suurima arve.

Seetõttu tasub prompt kirjutada lühidalt ja hoida korduv osa ühes kohas. Kui prompti ja mudeli kulu hakkab kasvama, on mõistlik vaadata see üle koos ülesande mahuga: mõnikord saab sama tulemuse tavalise tarkvara reegliga ja mudelit ei ole vastuses üldse vaja.

Küsimused

Kas prompt peab olema inglise keeles?

Ei pea. Mudelid töötavad eesti keelega, kuid kvaliteet erineb mudeliti; mõõda seda oma testküsimustega. Kui tulemus jääb keeleliselt kohmakaks, tasub prompti lisada üks eestikeelne näidis soovitud vastusest, sest näidis mõjutab vormi rohkem kui sõnaline käsk.

Mis vahe on promptil ja süsteemikäsklusel?

Süsteemikäsklus on rakenduse poolt ette antud tekst, mida lõppkasutaja ei näe ja mis kehtib kogu vestluse jooksul. Prompt on kasutaja enda sisestatud osa. Rakenduses tuleb eeldada, et kasutaja prompt võib proovida süsteemikäsklust üle kirjutada, seega õigused ja keelud peavad olema koodis, mitte ainult tekstis.

Kui pikk võib prompt olla?

Nii pikk, kui mudeli kontekstiaken lubab, aga mõistlik on hoida see lühike. Pikk prompt tähendab rohkem sisendtokenit igal päringul ja suuremat arvet, ning tähtis info võib pika teksti sees kaduda. Korduma jääv tausttekst tasub viia süsteemikäsklusse ja hoida kasutaja prompti ainult päevakohane sisend.

Allikad

Kirjelda tööd, mis sul aega võtab

Esimene vestlus on tasuta. Vastan tunni jooksul ja hind on kirjalikult paigas enne töö algust.

Kirjuta mulle