Svennis AI
9 min de citit

Cum măsori un asistent AI înainte și după ce îl pui în lucru

Un asistent AI se judecă după ce schimbă în procesul real, nu după cât de bine sună. Vezi ce indicatori urmărești, ce înregistrezi și cum fixezi reperul înainte de lansare.

Linii paralele care pornesc dintr-un punct comun și se despart în trasee de lungimi diferite, spre o linie de sosire

Cum măsori un asistent AI: după rezultatul din proces, nu după răspunsuri

Cum măsori un asistent AI are un răspuns simplu: după ce schimbă în procesul real în care lucrează. Numeri cererile direcționate corect din prima, timpul de rezolvare per tichet și escaladările către oameni. Cât de bine sună răspunsurile nu intră în calcul. Reperul de pornire îl stabilești înainte de lansare, altfel nu ai cu ce compara.

Un asistent AI este, în definiția SAP, o aplicație software care folosește inteligența artificială ca să înțeleagă ce vrea o persoană să facă. Apoi ajută la lucru în sistemele în care se află deja acea activitate. Din definiție reiese și criteriul de măsurare. Contează dacă munca din acele sisteme merge mai repede și mai corect.

Reperul de pornire este valoarea fiecărui indicator înainte ca asistentul să intre în lucru. Fără el, orice cifră de după lansare pare bună. Cu el, vezi exact ce s-a schimbat și cât.

Ghidul acesta arată ce indicatori alegi pentru un asistent de suport, ce înregistrezi pentru fiecare cerere și cum stabilești reperul. Urmează un exemplu calculat cu cifre reale, partea de cost și ce obligații ai ca firmă din România când păstrezi aceste date.

Răspunsurile care sună bine nu arată dacă asistentul lucrează bine

Un răspuns fluent al unui asistent AI nu dovedește că problema clientului s-a rezolvat. Modelele de azi scriu corect gramatical și politicos aproape mereu. Tocmai de aceea tonul nu mai deosebește un asistent bun de unul slab.

Chiar furnizorii o spun deschis. Google scrie pe pagina lui Gemini că asistentul „ar putea uneori să greșească” și îți recomandă să verifici răspunsurile. Tot acolo, utilizatorul poate evalua fiecare răspuns ca bun sau rău. O asemenea notă spune ce a simțit omul în momentul acela. Nu spune dacă tichetul a ajuns la cine trebuia.

Istoria arată aceeași capcană. SAP descrie cum asistenții și chatboții timpurii returnau răspunsuri predefinite din baze de cunoștințe fixe. Au mers bine în demonstrații și au cedat când conversațiile au devenit mai puțin previzibile. Un test pe zece întrebări alese de tine repetă exact greșeala asta.

Întrebarea corectă pentru un manager este alta:

  • A ajuns cererea la omul sau echipa potrivită fără să fie mutată?
  • S-a închis cererea mai repede decât înainte?
  • A trecut asistentul la un om exact cazurile care cereau un om?

Toate trei se citesc din sistemul de tichete, nu din impresii. Asta le face comparabile de la o lună la alta.

Patru indicatori pentru un asistent de suport: alocare, timp, escaladări, rezolvare

Un asistent de suport poate fi judecat corect pe patru indicatori, toți calculați din cererile reale. Fiecare răspunde la altă întrebare despre proces.

Alocarea corectă din prima

Alocarea corectă din prima este procentul de cereri care ajung la echipa sau la omul potrivit fără nicio redirecționare. Calculul este simplu: cereri nemutate împărțite la totalul cererilor, înmulțit cu 100. Indicatorul acesta arată direct dacă asistentul a înțeles ce vrea omul.

Timpul de rezolvare per tichet

Timpul de rezolvare este intervalul dintre deschiderea și închiderea unui tichet. Îl compari pe aceeași categorie de cerere, înainte și după. O parolă resetată și o imprimantă defectă nu au același timp normal.

Escaladările către oameni

O escaladare este o cerere pe care asistentul o predă unui om. Nu orice escaladare e un eșec. Un articol DOTRO despre asistenții vocali notează că un asistent nu negociază un contract complex și nu gestionează cu empatie reală un client furios. Pentru asemenea cazuri, escaladarea e răspunsul corect. Numeri separat escaladările necesare și pe cele inutile.

Rata de rezolvare fără transfer și abandonul

Rata de rezolvare fără transfer este procentul de cereri încheiate fără intervenția unui om. Rata de abandon arată câți oameni renunță în timpul conversației cu asistentul. Cele două se citesc împreună. O rată de rezolvare mare cu abandon mare înseamnă că oamenii pleacă, nu că primesc ajutor.

Ce înregistrezi pentru fiecare indicator, înainte și după lansare

Fiecare indicator cere câteva câmpuri înregistrate pe fiecare cerere, aceleași înainte și după lansare. Tabelul de mai jos poate fi folosit ca listă de verificare când pregătești sistemul de tichete.

IndicatorCe înregistrezi pe fiecare cerereCum calculeziSemnal de alarmă
Alocare corectă din primaEchipa inițială, echipa finală, numărul de redirecționăriCereri fără redirecționare / total × 100Aceeași categorie mutată des între echipe
Timp de rezolvareOra deschiderii, ora închiderii, categoriaMediana pe categorie, înainte și dupăTimp mai mare decât reperul pe o categorie
EscaladăriDacă a fost predată unui om și motivulEscaladări necesare și inutile, separatEscaladări inutile în creștere
Rezolvare fără transferDacă s-a închis fără omÎnchise fără om / total × 100Redeschideri după închidere
AbandonDacă omul a renunțat în conversațieConversații abandonate / total × 100Abandon în creștere la o categorie

Ține toate câmpurile în același sistem în care lucrează deja echipa. Dacă folosești Zoho Desk, tichetul e locul firesc pentru ele. Un raport comun, de exemplu în Zoho Analytics, pune apoi cifrele de dinainte și de după una lângă alta.

Regula importantă este să nu schimbi definițiile pe parcurs. Dacă „rezolvat” înseamnă altceva după lansare, comparația nu mai spune nimic.

Reperul de pornire se stabilește înainte de lansare, nu din memorie

Reperul de pornire trebuie măsurat înainte ca asistentul să preia prima cerere. După lansare, procesul vechi nu mai există și nu îl mai poți măsura. Rămâne doar ce își amintește echipa, iar memoria favorizează mereu varianta nouă.

Dacă nu ai date anterioare, articolul DOTRO dă o regulă practică: măsoară două săptămâni înainte să activezi asistentul. Două săptămâni prind variațiile obișnuite dintre zile. Dacă ai deja tichete istorice cu câmpurile din tabelul de mai sus, le poți folosi direct.

SAP spune același lucru despre guvernanță. Accesul bazat pe roluri, auditabilitatea, regulile de retenție și punctele de control cu om în buclă trebuie definite înainte de implementare, nu după. Măsurarea face parte din aceeași listă de lucruri care se hotărăsc la început.

La Svennis vedem cel mai des aceeași greșeală: reperul se stabilește după lansare, din estimări, și atunci orice cifră nouă pare o îmbunătățire. De aceea fixăm definițiile și reperul împreună cu echipa clientului înainte să pornească asistentul.

Un proces descris clar ușurează mult această etapă. Ghidul despre automatizarea proceselor cu AI, pornind de la proces arată cum desenezi traseul unei cereri înainte să alegi modelul. Același desen îți spune ce câmpuri trebuie înregistrate.

Exemplu calculat: cât te costă cererile pierdute înainte de un asistent

Exemplul din articolul DOTRO arată cum arată un reper exprimat în bani, pentru un asistent vocal care preia apelurile. Cifrele sunt ale articolului. Tu le înlocuiești cu ale tale.

  1. Firma primește 400 de apeluri pe lună.
  2. Pierde 15% dintre ele, un procent pe care articolul îl consideră normal pentru o echipă fără cozi și fără preluare în afara programului.
  3. Asta înseamnă 60 de apeluri pierdute pe lună.
  4. Dacă unul din cinci ar fi devenit client, cu o valoare medie de 500 de lei, pierderea lunară este de 6.000 de lei.

Cei 6.000 de lei pe lună sunt reperul de pornire. După lansare, calculezi aceeași sumă cu aceleași reguli. Diferența este câștigul real al asistentului, pe care îl compari apoi cu costul lui.

Articolul dă și un ordin de mărime pentru după lansare. Într-un flux bine construit, rata de rezolvare fără transfer ajunge la 40-60% pentru categoriile automatizate. Observă condiția: doar pentru categoriile automatizate, nu pentru toate apelurile. Tot articolul spune că cel mai frecvent mod de a începe este activarea asistentului doar după program și în weekend.

Aceeași logică poate fi folosită și la suportul intern. Un asistent care primește cereri IT în Microsoft Teams și le trece în sistemul de tichete se măsoară pe alocarea corectă din prima și pe timpul per tichet. Ghidul despre asistentul AI în Teams, Zoho și Microsoft 365 descrie cum arată o asemenea configurare.

La 400 de apeluri pe lună, 15% pierdute înseamnă un reper de 6.000 de lei pierduți lunar: Apeluri pierdute, procent considerat normal 15 %, Apeluri pierdute la 400 pe lună 60 apeluri/lună, Pierdere estimată, 1 din 5 clienți la 500 lei 6000 lei/lună
Sursa: dotro.ro

Costul per cerere și schimbarea modelului intră și ele în măsurare

Costul per cerere este al doilea termen din calcul, după câștig. Un asistent care rezolvă mai bine, dar costă mai mult decât economisește, nu este o îmbunătățire. Costul modelului se plătește după volumul de text procesat, măsurat în tokeni.

Prețurile publicate de Anthropic pe pagina cu modelele Claude sunt în dolari pe milion de tokeni. Claude Haiku 4.5 costă 1 dolar la intrare și 5 la ieșire. Claude Sonnet 5.5 costă 2 și 10. Claude Opus 5.5 costă 4 și 20. Împarți costul lunar al modelului la numărul de cereri tratate și obții costul per cerere.

Schimbarea modelului mută cifrele, așa că merită o nouă comparație cu același reper. Anthropic spune că Claude Sonnet 5.5 rulează cu 30% mai repede și costă cu până la 30% mai puțin decât versiunea Sonnet anterioară pentru majoritatea sarcinilor. Despre Opus 5.5, compania spune că rulează cu 40% mai ieftin decât Opus 5. Acestea sunt cifrele furnizorului. Pe procesul tău le confirmi doar cu propriile măsurători.

Unele modele au și o dată de retragere. Pentru Claude Haiku 4.5, pagina Anthropic indică retragerea nu mai devreme de 15 octombrie 2026. Dacă asistentul tău rulează pe un model care urmează să fie retras, planifică din timp testul pe modelul următor. Rulezi aceleași categorii de cereri și compari cu aceiași indicatori.

Jurnalele și aprobarea umană fac cifrele credibile

Cifrele unui asistent AI sunt credibile doar dacă fiecare acțiune a lui lasă o urmă verificabilă. Un jurnal îți arată ce a primit asistentul, ce a decis și unde a trimis cererea. Fără jurnal, o alocare greșită nu poate fi explicată și nici corectată.

SAP notează că asistenții AI pentru companii produc o evidență trasabilă, utilă pentru cerințe de reglementare precum GDPR și pentru auditul intern. Aceiași asistenți lucrează cu funcțiile de business și cu permisiunile de rol ale utilizatorului. Asta înseamnă că poți urmări rezultatele pe echipă și pe rol, nu doar global.

Om în buclă (human-in-the-loop) este modelul în care asistentul propune sau schițează, iar o persoană revizuiește și aprobă înainte ca acțiunea să intre în vigoare. Pentru măsurare, fiecare aprobare sau respingere este o dată prețioasă. Dacă un om corectează des aceeași categorie, acolo e problema de rezolvat.

Instrumentele Anthropic oferă și ele o urmă. Ghidul de siguranță pentru Claude Cowork spune că proprietarii planurilor Team și Enterprise pot trimite evenimentele Cowork către instrumente de monitorizare prin OpenTelemetry. Tot acolo scrie că rămâi responsabil pentru toate acțiunile pe care Claude le face în numele tău.

Ghidul despre agenții AI în producție: aprobări, jurnale și costuri intră în detaliu în partea tehnică a acestor jurnale.

Ce înseamnă măsurarea pentru o firmă din România: GDPR și AI Act

Pentru o firmă din România, datele pe care le înregistrezi ca să măsori asistentul sunt de multe ori date personale. Jurnalele conțin nume, numere de telefon și conținutul conversațiilor. Așa că măsurarea vine la pachet cu obligații GDPR.

Articolul DOTRO enumeră minimul pentru un asistent vocal, iar lista poate fi folosită ca punct de plecare și pentru alte canale:

  • informarea omului, la începutul conversației, că vorbește cu un sistem automat;
  • un temei legal documentat pentru prelucrare;
  • o durată de stocare definită pentru transcrieri și rezumate.

Durata de stocare influențează direct măsurarea. Dacă ștergi jurnalele prea repede, pierzi reperul de comparație. Dacă le păstrezi fără limită, încalci principiul limitării legate de stocare din GDPR. Hotărăște înainte de lansare cât păstrezi datele brute și cât păstrezi doar cifrele agregate, fără date personale.

Regulamentul european privind inteligența artificială adaugă cerințe proprii, în funcție de rolul sistemului. Textul adnotat al AI Act (Regulamentul UE 2024/1689) în română te ajută să vezi ce se aplică asistentului tău. Verifică acolo înainte să extinzi asistentul la decizii care privesc oameni.

Nu e nevoie să măsori totul odată. SAP observă că majoritatea organizațiilor au una sau două funcții gata acum, iar altele au nevoie de unul sau două trimestre de pregătire. Începe cu funcția pentru care ai deja date curate.

Pașii următori: alege un proces, fixează reperul, compară după lansare

Primul asistent AI poate fi măsurat corect cu o listă scurtă de pași, făcuți în ordinea de mai jos:

  1. Alege un singur proces. De exemplu, cererile către suport sau apelurile de după program.
  2. Scrie definițiile. Ce înseamnă „alocat corect”, „rezolvat” și „escaladare necesară”, în câte o frază.
  3. Adaugă câmpurile în sistemul de tichete. Folosește tabelul din acest ghid ca listă de verificare.
  4. Măsoară reperul. Două săptămâni fără asistent, dacă nu ai date istorice.
  5. Stabilește temeiul legal documentat pentru prelucrare, durata de stocare a jurnalelor și informarea oamenilor că vorbesc cu un sistem automat.
  6. Pornește asistentul pe o singură categorie și compară cu reperul, pe aceleași definiții.
  7. Adaugă costul per cerere și decide dacă extinzi, ajustezi sau oprești.

Dacă nu știi încă ce proces are datele cele mai bune pentru un început, evaluarea cât de pregătită este compania ta pentru AI te ajută să alegi. Răspunsurile tale arată unde ai deja cifre și unde trebuie să începi prin a le colecta.

Surse

  1. 1. SAP: Ce este un asistent AI?
  2. 2. DOTRO: Ce este un asistent vocal AI și cum răspunde la telefon în locul echipei
  3. 3. Google: Îți prezentăm Gemini, asistentul tău AI personal
  4. 4. Anthropic: Models overview, Claude Platform Docs
  5. 5. Anthropic: Newsroom
  6. 6. Claude Help Center: Use Claude Cowork safely

Articole similare