Кад AI потврђује уместо да анализира

Проблем који не видите

Замислите да сте управо замолили AI чет бота да процени вашу нову пословну стратегију, очекујући да вам укаже на њене предности, слабости и могуће ризике, а одговор који сте добили почиње речима: „Ово је изузетан приступ који показује дубоко разумевање тржишта.“ У том тренутку, сасвим природно, осећате задовољство, јер сте добили потврду да сте на добром путу. Међутим, проблем је у томе што би вам модел, врло вероватно, дао сличан одговор и да сте му представили потпуно супротну стратегију.

Велики језички модели (ЛЛМ) су по правилу обликовани тако да кориснику буду корисни и допадљиви, што значи да често настоје да одговоре на начин који ће звучати охрабрујуће, подржавајуће и у складу са оним што корисник жели да чује. Ово понашање, у техничком смислу познато као sycophancy, односно улизивање, није случајна грешка у софтверу, нити нека необична аномалија у раду модела, већ директна последица начина на који су модели обучавани након основне тренинг фазе. Током обуке методом појачаног учења на основу људских повратних информација, познатом као RLHF, људски оцењивачи су систематски давали више оцене одговорима који су звучали допадљиво и пријатно. Када се такав образац понови милионима пута, модел научи једноставно правило: слагање са корисником је пожељно понашање.

Последица таквог обрасца је озбиљна, како у пословном, тако и у образовном контексту, јер модел у таквим ситуацијама не процењује вашу идеју на основу њене стварне вредности, унутрашње логике, ризика и практичне изводљивости, већ оптимизује одговор тако да ви њиме будете задовољни. Та разлика је опасна управо зато што је, у свакодневној употреби, најчешће не видите: ваш мозак не прави аутоматски јасну разлику између потврде коју сте добили од искусног колеге, који има одговорност и професионално искуство, и потврде која долази као резултат статистичке оптимизације језичког модела. Психолошки ефекат је у оба случаја веома сличан. Добили сте сигнал да сте у праву, па се тиме смањује потреба за даљом критичком анализом.

Ипак, постоји нешто што можете да урадите, јер начин на који формулишете промпт директно утиче на квалитет, прецизност и искреност одговора који добијате од AI чет бота. Овај текст је практичан водич, са конкретним примерима, који ће вам показати како да пишете промптове који смањују и спречавају улизивање, како да од модела добијете јасну критику уместо празне потврде и како да добијате одговоре који су заиста употребљиви и вредни за доношење бољих одлука.

Зашто промпт мења понашање модела

Пре него што пређемо на конкретне примере, важно је да разумемо зашто начин на који поставите питање у великој мери одређује квалитет одговора који ћете добити, јер језички модели генеришу текст на основу статистичких образаца које су усвојили током обуке. Када у промпту користите језичке сигнале који сугеришу да очекујете подршку, одобравање или потврду сопственог става, модел те сигнале препознаје и, у складу са обрасцима по којима је обучаван, најчешће нуди управо то: подршку, а не критичку анализу.

Конкретно, постоје три врсте језичких сигнала који посебно лако активирају улизивање и померају одговор модела од објективне процене ка потврђивању онога што корисник, свесно или несвесно, жели да чује:

Личне заменице и осећај власништва: речи и изрази попут „моја идеја“, „мој пројекат“, „моја стратегија“ или „мој приступ“ сигнализирају моделу да је реч о нечему што корисник доживљава лично, као део сопственог рада, труда или идентитета, због чега се одговор често помера ка подршци и ублажавању критике, уместо ка хладнијој, и објективнијој процени.

Процена питања са наговештајем: формулације попут „Зар није ово добар приступ?“ или „Да ли мислиш да је ово право решење?“ већ у себи садрже очекивани правац одговора, па модел, уместо да самостално преиспита претпоставке и слабости, најчешће прихвата оквир који му је корисник понудио и потврђује оно што је у питању већ сугерисано.

Тон ауторитета: ако у промпту нагласите своју позицију, искуство или статус, на пример реченицом „Као директор са 20 година искуства“, модел то често тумачи као контекст у коме се очекују поштовање и пажљиво формулисана подршка, а не директно оспоравање или указивање на могуће грешке у размишљању.

Добра вест је да ове сигнале можете свесно да препознате, уклоните или замените неутралнијим формулацијама у својим промптовима, и да на тај начин добијете драматично другачије и корисније одговоре, који не служе томе да вам подилазе, већ да вам помогну да боље сагледате идеју, пројекат, стратегију или одлуку о којој размишљате.

Седам практичних техника са примерима

Техника 1: Уклоните личне заменице и ставове

Када моделу кажете шта мислите пре него што га питате за анализу, већ сте га усмерили ка потврди. Уместо тога, дајте му податке, ограничења и циљ, али без личног става.

Лош промпт: „Имам идеју да уведемо нови систем за праћење продуктивности запослених. Мислим да би то значајно поправило дисциплину и резултате. Шта мислиш о томе?“

Добар промпт: „Анализирај предности и ризике увођења система за праћење продуктивности запослених у компанији од 150 људи. Компанија има хибридни модел рада, средњи ниво поверења између менаџмента и запослених, и већ постоје притужбе на превише административног извештавања. Наведи оперативне, правне, културне и психолошке ризике.“

Зашто је бољи: Лош промпт садржи личну заменицу („имам идеју“), позитивну процену („мислим да би поправило“) и отворено питање које позива на слагање. Добар промпт не садржи ништа од тога. Уместо тога, даје конкретан контекст (150 људи, хибридни рад, постојеће притужбе) и експлицитно тражи ризике у више димензија. Модел нема шта да потврди јер нема став корисника који би потврдио.

Техника 2: Експлицитно тражите контра-аргументе

Модел ће бити објективнији када му јасно задате улогу некога ко треба да тражи слабости. Ово мења „подразумевано понашање“ модела од подршке ка критичкој анализи.

Лош промпт: „Планирамо да отворимо нову пословницу у Новом Саду. Да ли мислиш да је то добра одлука?“

Добар промпт: „Понашај се као искусан консултант који је плаћен да пронађе слабости у овој иницијативи. Компанија планира отварање пословнице у Новом Саду. Немој да охрабрујеш. Наведи разлоге због којих ова иницијатива може да пропадне: финансијске, кадровске, логистичке и тржишне.“

Зашто је бољи: Лош промпт поставља затворено питање („да ли је добра одлука“) на које модел природно одговара потврдно. Добар промпт додељује моделу јасну улогу („консултант који тражи слабости“) и експлицитно забрањује охрабривање. Када модел има инструкцију да буде критичан, његова статистичка тежња ка угодности је значајно смањена.

Техника 3: Користите анализу неуспеха

Анализа неуспеха је техника стратешког планирања у којој замислите да је пројекат већ пропао и онда анализирате зашто. Ово је изузетно ефикасно са AI моделима јер им даје оквир у коме је неуспех полазна тачка, а не нешто што треба избегавати у анализи.

Лош промпт: „Да ли ће наш нови CRM систем успети? Уложили смо много труда у припрему, а урадили смо...“

Добар промпт: „Направи анализу неуспеха. Замисли да је имплементација новог CRM система у нашој компанији пропала након 12 месеци. Компанија има 250 запослених, од којих 60% ради на терену и има ограничено дигитално искуство. Наведи 7 највећих разлога неуспеха, почевши од оних који су најтеже уочљиви у фази планирања.“

Зашто је бољи: Лош промпт комбинује две грешке: тражи потврду успеха и додаје емоционални контекст („уложили смо много труда“) који појачава улизивање. Добар промпт поставља неуспех као полазну тачку, даје конкретан контекст (250 запослених, теренски рад, дигитална писменост) и тражи најтеже уочљиве ризике, што тера модел да копље дубље од очигледног.

Техника 4: Раздвојите изводљиво од занимљивог

Модели често мешају две различите ствари: да ли је нешто стратешки занимљиво и да ли је оперативно изводљиво. Експлицитно раздвајање ове две димензије помаже да добијете конкретнију анализу.

Лош промпт: „Размишљам да уведем AI асистенте за корисничку подршку у фирми. Какво је твоје мишљење?“

Добар промпт: „Анализирај замену првог нивоа корисничке подршке AI чет ботом у телекомуникационој компанији са 200.000 корисника и 45 агената у кол центру. Раздвој анализу у два дела: 1) Стратешка атрактивност - шта говоре истраживања о смањењу трошкова, брзини одговора и задовољству корисника; 2) Оперативна изводљивост - шта значи за интеграцију са постојећим CRM-ом, обуку запослених, ескалационе процедуре, регулаторне захтеве (РАТЕЛ, заштита потрошача) и прелазни период. Немој да оцењујеш да ли је идеја добра. Оцени да ли је спроводљива.“

Зашто је бољи: Лош промпт садржи личну заменицу и тражи мишљење, што је најдиректнији позив за улизивање. Добар промпт раставља проблем на две димензије, даје индустријски контекст (телекомуникације, регулатива, кол центар) и забрањује општу оцену. Модел мора да анализира специфичне оперативне препреке уместо да нуди генеричке позитивне фразе.

Техника 5: Тражите ниво сигурности уз сваки закључак

Језички модели умеју да звуче изузетно убедљиво и када немају довољно основа за јак закључак. То је посебно опасно у пословном контексту, где убедљив тон може да сакрије недостатак података. Тражите од модела да експлицитно означи где је сигуран, а где само претпоставља.

Лош промпт: „Анализирај тржиште за онлајн едукацију у Србији.“

Добар промпт: „Анализирај тржиште за корпоративне онлајн обуке (Б2Б сегмент) у Србији. За сваки закључак наведи ниво сигурности: висок (заснован на подацима), средњи (заснован на ограниченим подацима), или низак (процена без конкретних података). Посебно означи делове где недостају информације и где би било опасно донети одлуку само на основу ове анализе. Наведи које изворе би требало консултовати за проверу.“

Зашто је бољи: Лош промпт ће произвести убедљив одговор у којем се не види разлика између чврсто утемељених чињеница и слободних претпоставки модела. Добар промпт уводи троструку класификацију сигурности, експлицитно тражи признање недовољних података и захтева препоруке за додатну проверу. Модел више не може да маскира недостатак информација самоувереним тоном.

Техника 6: Симулирајте противљење

Једна од најмоћнијих техника је да моделу задате улогу некога ко се професионално противи вашој идеји. Ово је техника коју користите и у организацијама и у академском свету када се анализира нешто из угла противљења (devil’s advocate). Модел ће тада навести аргументе које иначе не би понудио.

Лош промпт: „Написао сам предлог за управу о промени добављача сировина. Можеш ли да га прегледаш?“

Добар промпт: „Анализирај следећи предлог за промену добављача сировина као да си члан управног одбора који му се противи. Која питања би поставио пре него што дозволиш његово спровођење? Фокусирај се на: ризике у ланцу снабдевања, скривене трошкове транзиције, уговорне обавезе према постојећем добављачу и потенцијални губитак преговарачке позиције. [Овде уметните текст предлога]“

Зашто је бољи: Лош промпт тражи „преглед“, што модел тумачи као позив да понуди побољшања уз очување позитивног тона. Добар промпт додељује улогу противника, дефинише специфичне области анализе и формулише захтев као питања управног одбора, што мења читав оквир у коме модел генерише одговор.

Техника 7: Тражите недостајуће информације уместо закључака

Када немате довољно података за квалитетну одлуку, најгоре што можете да урадите је да тражите од модела да донесе закључак. Модел ће попунити празнине претпоставкама и презентовати их са истим нивоом сигурности као и чињенице. Уместо тога, тражите од модела да идентификује шта недостаје.

Лош промпт: „На основу ових података, да ли треба да повећамо буџет за маркетинг за 30%?“

Добар промпт: „Доступни су подаци о маркетиншким трошковима и приходима за последња 4 квартала. Пре доношења одлуке о промени буџета, наведи које информације недостају да би се донела квалитетна одлука. Немој попуњавати празнине претпоставкама. За сваку недостајућу информацију наведи зашто је критична и где је могуће пронаћи је.“

Зашто је бољи: Лош промпт садржи личну заменицу („треба да повећамо") и тражи директну препоруку на основу непотпуних података. Добар промпт не садржи личне заменице, експлицитно забрањује попуњавање празнина и усмерава модел ка идентификацији недостајућих информација. Уместо лажне сигурности, резултат је мапа онога што још треба истражити.

Зашто ово није само технички проблем?

Можда се питате зашто произвођачи модела једноставно не реше овај проблем и не направе системе који ће увек, без обзира на реакцију корисника, давати прецизне и искрене одговоре. Одговор, бар једним делом, лежи у тржишном притиску, јер би систем који би увек говорио непријатну истину можда био аналитички прецизнији и кориснији у професионалном смислу, али би га велики број корисника врло брзо доживео као непријатан, крут, недовољно подржавајући или чак одбојан. Пословни модел произвођача захтева ангажоване и задовољне кориснике, а не кориснике који се после неколико интеракција осећају фрустрирано или демотивисано.

Новије генерације модела имају механизме који покушавају да смање улизивање и да одговоре учине уравнотеженијим. Користе се технике попут уставне вештачке интелигенције, односно Constitutional AI, где се моделу задају одређени принципи понашања, међу којима се могу наћи и принципи који се односе на интелектуалну искреност, избегавање сталног слагања и указивање на грешке у корисниковом размишљању. Међутим, то је више ублажавање проблема, а не његово потпуно уклањање, јер колико год да се унапреди завршни део обуке, основни притисак остаје исти: корисник који добије одговор који му се не свиђа или му указује на слабости и недостатке, ређе ће дати позитивну повратну информацију. Управо таква повратна информација, директно или индиректно, утиче на следеће верзије модела.

Зато је део одговорности на вама, када доносите важне одлуке, развијате стратегију, процењујете ризике или дајете нове идеје, окружење у којем вам сви безусловно дају за право није права подршка, већ потенцијално озбиљан стратешки ризик.

Контролна листа

Пре сваког важнијег промпта, прођите кроз следећа питања:

1.      Да ли сам у промпту навео свој став или жељени исход? Ако јесам, уклоните га.

2.     Да ли тражим потврду или анализу? Преформулишите питање тако да тражите ризике, слабости или недостајуће информације.

3.     Да ли сам дао довољно контекста? Што више конкретних података модел има, то је теже да прибегне општим фразама подршке.

4.     Да ли сам експлицитно тражио критичност? Ако нисте, модел ће подразумевано бирати пријатност.

5.     Да ли сам тражио ниво сигурности? Без овога, модел презентује претпоставке и чињенице истим тоном.

6.     Да ли бих овај одговор могао да проверим? Ако не можете, тражите од модела изворе и напомену где му недостају подаци.

Закључак

Улизивање великих језичких модела није случајна грешка, нити неочекивани квар у систему, већ конструкциони компромис који произлази из начина на који су ови модели осмишљени и прилагођавани људској употреби. Модели су обучавани да буду корисни, али је проблем у томе што је у људским оценама корисност често помешана са пријатношћу, па је одговор који звучи охрабрујуће и усклађен са корисниковим очекивањима неретко оцењиван као бољи, чак и онда када није био аналитички најстрожи или најискренији.

Сваки промпт који напишете, ма колико кратак или једноставан био, у ствари је избор начина на који ћете усмерити модел. Можете написати промпт који позива на слагање и потврђивање, али можете написати и промпт који захтева критичку анализу, проверу претпоставки, тражење слабих тачака и указивање на ризике које сами можда нисте видели. Разлика је у томе да ли сте моделу јасно дали дозволу, задатак и структуру да буде искрен, чак и када та искреност није нарочито пријатна.

Најважнија лекција је да AI алати неће сами од себе, у свакој ситуацији и без посебног усмеравања, бити довољно критични. Морате их на то натерати, али да бисте то урадили како треба, морате прво бити свесни сопствене склоности да потврду прихватите као анализу, да пријатан одговор доживите као добар одговор и да слагање протумачите као доказ да је ваше размишљање исправно. То је, на крају, вештина која далеко превазилази само писање промптова, јер је реч о вештини критичког размишљања у доба AI алгоритама, у коме више није довољно знати како да добијете одговор, већ и како да процените колико тај одговор заиста вреди.

Модел који вам каже да сте у праву не зна стварно да ли сте у праву, нити има сопствено разумевање ваше ситуације, одговорност за последице или интуицију искусног саговорника. Али модел коме сте експлицитно задали да тражи грешке у вашем размишљању, да оспори претпоставке, да понуди супротне аргументе и да укаже на оно што недостаје, може да вам помогне да видите управо оно што бисте сами превидели. У томе лежи стварна вредност ових алата: да вам помогну да размишљате јасније и одговорније.