Контекст инжењеринг (Context Engineering)

Замислите сцену која вам је можда позната. Треба да пошаљете новог колегу у неку државну институцију да „заврши папире“. Ако му само кажете „иди и донеси потврду“, шансе да ће се вратити збуњен, празних руку или са погрешним документом су огромне. Међутим, ако га пре поласка посадите на столицу и кажете: „Слушај, идеш код Мире на шалтер четири. Она не воли кад види да ти се жури. Прво је питај за здравље, помени да смо ми она фирма што је прошле године прва предала документацију по новом правилнику, и тек кад она помене да јој је пао притисак и да јој треба кафа, ти извади и предај овај захтев. И немој случајно да помињеш нови закон, јер је то нервира“. Е, ово је већ друга прича. Ви сте том колеги дали контекст. Ви сте урадили „инжењеринг“ ситуације пре него што се она десила.

Када пребацимо ову, нама врло блиску динамику међуљудских односа у свет вештачке интелигенције, долазимо до појма који се зове: контекст инжењеринг.

Зашто промпт није довољан?

Овај појам се често меша са промпт инжењерингом. Промпт је оно што тражите од машине у датом тренутку: „напиши ми мејл“, „упореди податке из ове две табеле“, „дај ми идеју за ручак“, „напиши ми три објаве за Инстаграм“. То је директна команда. Контекст инжењеринг је све оно што претходи тој команди, све оно што машину „подешава“ да размишља на одређени начин пре него што вам одговори. Промпт инжењеринг је умеће писања добрих упита за AI, док је контекст инжењеринг умеће припреме свих информација које AI добија да би дао тачан и користан одговор.

Сваки пут кад започнете нови разговор са неким језичким моделом, он је као тај нови колега првог радног дана. Он не зна да „хитно“ у вашем тиму значи сутра, а у набавци значи пре пола сата. Он нема појма шта ви радите, шта ваша фирма продаје, да ли је ваш тон послован или другарски, и да тон којим директор каже „добро“ некад значи добро, а некад значи да ћете имати проблем.

Контекст инжењеринг је, дакле, процес којим том „вечитом почетнику“ дајете биографију, сећање и оквир понашања. То личи на припрему документације за тендер, само што је публика машина, а не комисија. То је вештина слагања информација - докумената, финансијских података, претходних примера, стилских водича и правила - у пакет који велики језички модел (LLM) може да „обради“ пре самог промпта. Наравно, тај пакет не може бити бесконачан. Овде долазимо до такозваног контекстуалног прозора, техничког ограничења које диктира колико тачно података машина може да обухвати одједном, али о тој механици смо детаљније писали у другом тексту.

Зашто се о овоме сада прича као о засебној дисциплини? Зато што смо прошли фазу одушевљења тиме што машина уопште „говори“ српски. Сада смо у фази када примећујемо да она често говори превише опште ствари, превише „амерички“ или једноставно промашује поенту. Схватамо да квалитет одговора ипак мање зависи од тога колико смо добро срочили питање, а више од тога колико смо квалитетног материјала дали машини да на њему базира свој одговор.

Наравно да је промпт инжењеринг изузетно користан. Али он покрива само „површину“. Покрива оно што куцате у поље за унос. Контекст инжењеринг покрива све остало: системска упутства која модел прими пре вашег питања, документа која прилажете, историју разговора, ограничења која му постављате, па и оно што намерно прећутите. На овом месту, многе фирме у Србији завршавају разочаране AI алатима. Купиле су претплату, послале запослене на обуку о писању промптова, дале им приступ ChatGPT-ју, и... ништа нарочито. Текстови су читљиви и јасни. Анализе су тачне, али без контекста. Препоруке постоје, али се не уклапају у реалне услове.

Проблем скоро никад није у моделу. Проблем је у томе да нико није организовано размислио шта систем треба да зна да би био користан. Замислите то као разлику између новог конобара на ручку у вашој омиљеној кафани и конобара који вас познаје десет година. Првом треба да објашњавате коју кафу пијете, шта ћете за предјело, какав ћете бифтек, које пиво пијете и да вам никако не нуди колач после јела јер не једете слатко. Другом конобару само климнете главом кад седнете за „свој“ сто и кажете: „Много сам гладан, али прво, дај једно 'ладно“. Контекст инжењеринг је покушај да од машине направите конобара који вас познаје.

Ко контролише контекст, контролише и одговор модела

Ово не захтева техничко предзнање, већ организационо. Захтева да знамо шта је нама и у нашем послу заиста битно.

Прво питање је да ли знамо шта би модел требало да „види“? Није исто дати му каталог производа и дати му транскрипте разговора са купцима који су отишли. Оба су подаци. Али један описује шта продајете, а други описује зашто вас купци напуштају. Ако градите систем за подршку корисницима и у контекст ставите само маркетиншки материјал, модел ће одговарати као продавац, а не као неко ко треба да реши проблем. Ако у контекст ставите и интерне жалбе и реална ограничења производа, модел ће бити „искренији“ при анализи смањене продаје тог производа. Одлука о томе шта модел „види“ одређује шта може да каже. Ко контролише контекст, контролише и одговор.

Друго питање је сложеније од првог: шта се дешава са информацијама које дамо моделу? Где завршавају? Ко их чува? Ко им приступа? Ко може да их види? Ово нису тривијална питања. Ово су питања која треба да постоје у свакој организацији пре него што неко пошаље моделу интерне финансијске податке или имена клијената. Сигурност информација не престаје да важи само зато што је на другом крају алгоритам уместо човека.

Треће питање је организационо: ко у фирми одлучује о контексту и на основу чега? Ако је то инжењер из ИТ одељења, имаћете технички солидан систем који не зна ништа о продаји. Ако је то директор који „нема времена за детаље“, имаћете широке смернице без детаља. Контекст инжењеринг, да би имао смисла, мора бити заједнички подухват људи који знају организацију изнутра - а не само оних који знају технологију.

И четврто питање је суштинско: да ли фирма уопште зна шта је њен стварни контекст?

Систематизација знања: Главни предуслов за добар контекст

Постоји једна непријатна истина коју контекст инжењеринг износи на видело. У процесу припреме контекста за машину, суочавамо се са сазнањем колико мало познајемо сопствени посао. Не у смислу да не знамо шта радимо, јер вероватно знамо, него у смислу да то знање никад није систематизовано.

Многе фирме немају систематски записано: ко им је стварна циљна група, на шта се тачно жале клијенти, шта запослени стварно раде наспрам онога шта пише у опису посла, како се извршавају појединачни задаци у оквиру пословних процеса. Морамо знати шта су нам стварне процедуре, а шта мртво слово на папиру. Морамо знати где су подаци тачни, а где приближни. Морамо знати ко доноси одлуке и на основу чега. Сигурно постоје сви потребни документи. Али документи и стварност, у многим нашим фирмама, нису увек у истој просторији.

Тада контекст инжењеринг није само припрема за рад са машином. Он је нека врста принудне интерне ревизије. Тера нас да седнемо и запишемо: ово знамо, ово не знамо, ово мислимо да знамо а нисмо проверили, ово радимо а не знамо зашто. И тек после тог записивања, тек кад то знање добије облик, тек тада можемо да одлучимо шта ћемо послати машини да „види“, а шта нећемо.

Јер иза сваке добро постављене инструкције машини стоји неко ко је промислио шта жели да добије, и зашто. Неко ко је разумео свој проблем довољно добро да га преведе у информације које машина може да употреби. А то превођење је посао за људе. AI систем ће добро радити оно за шта га добро припремите. Не може сам открити наш контекст, и не може знати шта нисмо написали.

Добра вест је да ово није још једна вештина коју морате хитно да научите или ћете „испасти из игре“. То је само нови назив за стару вештину јасног делегирања. Контекст инжењеринг нас, заправо, тера да први пут ставимо на папир (или у дигитални фајл) оно што мислимо да сви знају, а нико никад није записао. То је способност да се каже: „Ово су правила игре у мојој кући“. Када машини дате та правила, она престаје да халуцинира, почиње да ради посао и постаје алат који је „намештен“ за вашу руку.

Дакле, када следећи пут чујете за контекст инжењеринг, помислите на оног колегу с почетка приче којем објашњавате како да не наљути Миру на шалтеру. Само што је сада Мира ваш пословни проблем, а колега је AI алат којем морате објаснити како да успешно реши ситуацију са Миром.