Salta al contenuto

IA

Un modello da 2B vuole le tue fatture, non il tuo lavoro

Dharma Field Extractor di Hugging Face estrae da qualsiasi documento i campi che chiedi e te li restituisce in JSON. Il team dice che batte tutti gli LLM di frontiera testati, a una frazione del costo.

Foto di copertina: Michael Gaylard from Horsham, UK / CC BY 4.0

TL;DR

  1. Dharma Field Extractor: 2 miliardi di parametri, qualsiasi documento in ingresso, i campi richiesti in uscita come JSON.
  2. Secondo chi l'ha costruito, supera tutti gli LLM di frontiera che hanno messo alla prova sull'estrazione.
  3. Il costo sarebbe una frazione delle API di frontiera: la riga che leggerà l'amministrazione.

Cosa è successo

Hugging Face ha pubblicato Dharma Field Extractor, un modello da 2 miliardi di parametri costruito per una sola, noiosissima missione: tu dici quali campi vuoi, gli dai in pasto un documento qualsiasi e lui ti restituisce esattamente quei campi in JSON. Niente temino, niente commenti, solo dati strutturati che un sistema a valle può mangiarsi in un boccone.

Il pitch, parole del team, è che supera tutti gli LLM di frontiera testati, a una frazione del costo. Attenzione: è una dichiarazione di chi il modello l'ha costruito. Il benchmark resta loro finché qualcun altro non lo riproduce.

Il modello arriva dopo DharmaOCR-LITE, uscito ad aprile. Quello era specializzato nell'OCR su contratti, atti giudiziari, fatture, documenti d'identità e moduli. Il paper che lo accompagnava sosteneva che un modello piccolo, addestrato vicino al proprio compito, può battere le API generaliste di frontiera proprio su quel compito.

Perché conta

OCR ed estrazione sono due mestieri diversi. L'OCR ti dà tutto ciò che è stampato sulla pagina, riga per riga, fedele all'impaginazione originale. Perfetto se stai digitalizzando un manoscritto o leggendo un contratto dall'inizio alla fine.

Ma la maggior parte delle pipeline aziendali non vuole la pagina. Vuole nome del paziente, tipo di esame e data da una richiesta medica, pronti per la prenotazione. Vuole ogni riga di una fattura come lista. Vuole i campi di un documento d'identità mappati sulle colonne dell'anagrafica dei dipendenti.

Passa quei documenti in un OCR semplice e ottieni un muro di testo senza uno straccio di indizio su quale stringa sia il tipo di esame. Qualcuno, o qualcosa, deve ancora fare ordine.

Un modello piccolo, addestrato per un solo lavoro, va all'attacco dei grandi generalisti sul loro stesso terreno.

È un passo avanti incrementale, non una rivoluzione. I modelli specializzati ormai sono routine. Ma la routine è esattamente il modo in cui il software si mangia il lavoro di back office: in silenzio, a basso costo, un modulo alla volta.

Cosa farne

  • Fai l'inventario delle scartoffie.Elenca i documenti che il tuo team ribatte a mano, poi segna quali campi contano davvero.
  • Leggi il blog post.L'articolo di Hugging Face spiega il metodo e il confronto con i modelli di frontiera.
  • Fai il tuo test.Dagli i tuoi documenti veri più orribili e confronta il risultato con l'API che paghi oggi, su accuratezza e prezzo.
  • Fai due conti sui costi.Se l'estrazione è un lavoro ad alto volume, il modello piccolo specializzato contro l'API di frontiera è da lì che parte la discussione sul budget.

Ciao, sapiens. I robot vengono a prendersi l'inserimento dati, ma almeno non si lamenteranno delle fatture.