Gå til indhold
UNI4C
Alle indlæg

Fem sætninger om et regnskab, og hvad der bestod kontrollen

Fem tilfælde fra talkontrollens egen testsuite. Hvert tilfælde viser den sætning, modellen skrev, og den sætning, læseren må se.

Tjekket Opdateret 4 min læsning

De fem tilfælde her kommer fra testsuiten for den talkontrol, der kører på hvert analysesvar. De er ikke illustrationer. Tilfælde 1, 2 og 4 er testsætninger ord for ord, tilfælde 3 er en forkortet udgave, og tilfælde 5 samler flere på én linje. Tilsammen er de den klareste beskrivelse af, hvad kontrollen gør, som vi kan give.

Hvert tilfælde viser den sætning, modellen skrev, og den sætning, læseren må se.

Tilfælde 1: et afrundet tal

Modellen skrev: Omkring 800.000 DKK fordelt på 4 brugere.

I ser: Omkring … DKK fordelt på … brugere.

Rækkerne gav 812.400 fordelt på 3 brugere. Ingen af tallene i sætningen står i rækkerne, så ingen af dem overlever.

Det er tilfældet, kontrollen findes for. Sætningen er ikke en løgn. Den er et sammendrag, og den slags sammendrag skriver en hjælpsom assistent. Den tager også fejl om antallet af brugere, og ingen, der læser den, ville kontrollere det. Et tal, der er rundet af, pyntet eller husket forkert, er ikke det tal, der kom retur.

Tilfælde 2: et tal med dækning

Modellen skrev: Omsætningen var 812.400 DKK, en andel på 12,3 % af 3.901 rækker.

I ser: Omsætningen var 812.400 DKK, en andel på 12,3 % af 3.901 rækker.

Hvert tal står i de rækker, forespørgslen gav, i et af de formater, rækkerne kan skrives i. Sætningen går igennem uændret.

Talformater er forskellige på dansk, engelsk, tysk og spansk. En kontrol, der kun genkender ét af dem, fjerner korrekte tal, og det lærer folk at se bort fra udeladelsen. Håndtering af formater er ikke en detalje her. Det er forskellen på en kontrol, folk stoler på, og en kontrol, folk lærer at springe over.

Tilfælde 3: et tal modellen selv skrev

Modellen skrev: Billedteksten sagde 777 og prompten 555.

I ser: Billedteksten sagde … og prompten ….

Det er det snedige tilfælde. Billedteksten over blokken blev skrevet af modellen, og modellen citerede derefter sin egen billedtekst som dokumentation for tallet i sin tekst.

Tekst, modellen selv har skrevet, er ikke dokumentation. Var den det, kunne enhver model give ethvert tal dækning ved at skrive det to gange. Fire ting kan give et tal dækning: rækker, et værktøj gav i denne runde, en talværdi, modellen sendte som input til et værktøj, et tal, brugeren skrev i spørgsmålet, og et tal, et tidligere svar allerede har vist.

Tilfælde 4: et forbehold med opfundne tal

Modellen skrev: Kun 500 af 3.901 rækker er med i denne fil. Eksporten er ufuldstændig.

I ser: Kun … af … rækker er med i denne fil. Eksporten er ufuldstændig.

Advarslen er korrekt og vigtig. Intet værktøj gav de tal i denne runde, og hverken spørgsmålet eller et tidligere svar indeholdt dem, så de overlever ikke.

Tilfældet ser hårdt ud, og det er med vilje. En advarsel med opfundne tal er værre end en advarsel uden tal, fordi læseren handler ud fra problemets størrelse. Sætningen beholder sin mening. Læseren får at vide, at eksporten er ufuldstændig, og må spørge, hvor meget.

Tilfælde 5: tal, der ikke er taloplysninger, og ét med dækning

Modellen skrev: Seneste 7 dage (3. september til 10. september 2026), efter 14:30, sag #3, projekt PR0017.

I ser: Seneste 7 dage (3. september til 10. september 2026), efter 14:30, sag #3, projekt PR0017.

Datoer, årstal, klokkeslæt, ugenumre, kvartaler, punkttegn og id'er er ikke taloplysninger, på dansk, engelsk, tysk og spansk. 7-tallet i »Seneste 7 dage« er noget andet. Det er et antal, og det overlever kun, fordi forespørgslen kørte med perioden P7D, en varighed i ISO 8601, som modellen sendte som input til et værktøj. Uden det input var 7-tallet blevet erstattet som ethvert andet antal.

En kontrol, der fjerner en dato, er ikke streng. Den er i stykker, og den gør hvert svar ulæseligt.

Hvad de fem tilfælde har til fælles

TilfældeOverlever?Regel
Rundet afNejEt tal skal stå i de rækker, der kom retur
Med dækningJaI ethvert format rækkerne kan skrives i
Modellens egen billedtekstNejTekst skrevet af modellen er ikke dokumentation
Forbehold med talDelvistSætningen overlever, de opfundne tal gør ikke
Datoer og id'erJaIkke taloplysninger på noget sprog; 7-tallet har dækning i P7D

Antallet af erstatninger følger med beskeden. I kan se, at en sætning blev ændret, og hvor mange gange.

Hvorfor udgive testtilfældene?

Fordi påstanden kun kan kontrolleres, hvis tilfældene er offentlige.

Enhver leverandør kan sige, at deres assistent ikke opfinder tal. Den brugbare udgave af den påstand er en liste over sætninger, systemet afviser, også dem hvor afvisningen koster noget. Tilfælde 4 koster noget. Vi udgiver det af netop den grund.

Vurderer I assistenter, så tag de fem sætninger med til leverandøren, og spørg hvad deres system gør med hver enkelt. Svarene vil være mere forskellige, end markedsføringssiderne er.

Spørgsmål og svar

Hvad sker der med et tal, som ingen forespørgsel gav?
Platformen erstatter tallet med et udeladelsestegn og tæller erstatningen. Sætningen omkring tallet bliver stående, så en advarsel overlever, selv når dens tal ikke gør.
Kan en billedtekst skrevet af modellen give et tal dækning?
Nej. Tekst, modellen selv har skrevet, er ikke dokumentation. Et tal, modellen skrev ind i en billedtekst, kan ikke give det samme tal dækning i dens tekst.
Hvor sker kontrollen?
Kontrollen sker på serveren, før teksten bliver streamet og før den bliver gemt. Hver klient, databasen og modellens egen historik får den kontrollerede tekst. Et tilbageholdt tal gemmes ved siden af, og læseren kan få det vist, markeret som ikke verificeret.

Kilder

Vi tjekker enhver ekstern påstand på den viste dato. Microsoft flytter funktioner mellem udgivelsesbølger, så tjek siden igen, før I læner jer op ad den.

  1. 01FinGround: Detecting and Grounding Financial Hallucinations via Atomic Claim VerificationarXiv · Kilder tjekket
  2. 02FAITH: A Framework for Assessing Intrinsic Tabular Hallucinations in FinancearXiv · Kilder tjekket

Se det på jeres eget regnskab

Start en prøveperiode i portalen, og prøv den på jeres egne data, eller book en halv time med os, og se den på en tenant, der er sat op som jeres.

Eller skriv til os på hello@uni4c.ai