Pangram, una startup di New York fondata dagli ex studenti di Stanford AI Max Spero e Bradley Emi, ha chiuso un round di Serie A da 9 milioni di dollari guidato da Menlo Ventures. Il finanziamento alimenterà un'API per le piattaforme e un'estensione Chrome da 20 dollari al mese che sostiene di segnalare i testi assistiti dall'IA con una precisione del 99% — un'affermazione che potrebbe trasformare il modo in cui giornalisti, studiosi e selezionatori verificano l'autenticità.

L'ondata di "slop" generato dall'IA

I grandi modelli linguistici ora producono in massa articoli, post sui social media e persino citazioni legali. Il risultato: un'inondazione di spam SEO di bassa qualità, campagne di disinformazione coordinate e una zona grigia in cui gli esseri umani rifiniscono bozze generate dall'IA. Le istituzioni stanno già reagendo. Il server di pre-print arXiv ha avvertito che gli autori che inviano output di LLM non revisionati potrebbero affrontare un divieto di un anno, e i tribunali hanno iniziato a sanzionare gli avvocati che si affidano a citazioni fabbricate prodotte dall'IA. La pressione per separare l'output umano da quello della macchina sta aumentando, e Pangram scommette che la sua tecnologia possa diventare lo strato di verifica predefinito.

Synthetic mirroring: addestramento su un gemello di ogni documento

Il modello di punta di Pangram, Pangram 4, utilizza un metodo che l'azienda chiama "synthetic mirroring". Per ogni documento scritto da un essere umano nel suo set di addestramento — decine di milioni di pezzi verificati — il team ha generato un corrispettivo su un LLM di frontiera. Il gemello sintetico corrisponde all'originale per argomento, lunghezza e tono, ma è prodotto da un'IA. Alimentando entrambe le versioni nella stessa rete neurale, Pangram insegna al modello a individuare le sottili impronte digitali statistiche che persistono nei testi generati dall'IA, anche quando gli scrittori utilizzano strumenti di "AI humanizer" progettati per mascherare l'output della macchina.

I concorrenti si affidano ai metadati o a watermark invisibili, che possono essere rimossi o ignorati. Pangram, invece, si concentra sull'analisi stilistica: schemi nella scelta delle parole, nel ritmo della frase e nella distribuzione dei token che rimangono coerenti nell'output di un modello. Nei test interni, il sistema ha segnalato la scrittura assistita dall'IA con una precisione del 99%, secondo il comunicato dell'azienda.

Dalle API ai browser: dove approda la tecnologia

Pangram si posiziona come un'infrastruttura piuttosto che come un'app a scopo singolo. La sua API si integra già con Substack, dove le newsletter mostrano un'etichetta che indica la proporzione di contenuti generati dall'IA. Tra gli utenti che l'hanno adottata precocemente figurano anche la piattaforma di Q&A Quora, diversi centri di scrittura universitari e agenzie di selezione del personale che devono verificare l'originalità delle candidature.

Per gli utenti individuali, la startup offre un'estensione Chrome che sovrappone un "feed health score" (punteggio di salute del feed) su siti come X, LinkedIn, Reddit e Medium. Il punteggio suddivide la percentuale di testo che il modello ritiene sia umano rispetto all'IA. Gli abbonati pagano 20 dollari al mese per l'etichettatura in tempo reale e la possibilità di segnalare passaggi sospetti per un'ulteriore revisione.

Una visione scettica

Le affermazioni sull'accuratezza attirano inevitabilmente controlli. Rilevare l'assistenza dell'IA nella "zona grigia" — dove uno scrittore modifica una bozza prodotta da un modello — rimane un obiettivo mobile. Man mano che i modelli generativi migliorano, il divario stilistico su cui si basa Pangram potrebbe ridursi, innescando una corsa agli armamenti tra tecniche di rilevamento ed evasione. I critici avvertono anche di falsi positivi: etichettare un legittimo pezzo scritto da un essere umano come generato dall'IA potrebbe danneggiare le reputazioni, specialmente in contesti accademici o legali dove la posta in gioco è alta.

Pangram riconosce la sfida, notando che riaddestra continuamente il proprio modello su nuovi "synthetic mirrors" man mano che compaiono nuovi LLM. Tuttavia, l'azienda non ha divulgato risultati di benchmark indipendenti oltre ai suoi test interni, lasciando alla comunità più ampia il compito di verificare la cifra del 99%.

Cosa osservare

I prossimi mesi riveleranno se Pangram riuscirà a passare dalle integrazioni pilota a un'adozione più ampia da parte delle piattaforme. Gli indicatori chiave includono:

  • Espansione dei contratti API oltre l'attuale elenco di partner iniziali.
  • Feedback dagli utenti istituzionali sui tassi di falsi positivi e sull'impatto sui flussi di lavoro editoriali.
  • Reazioni dagli sviluppatori di LLM, che potrebbero rispondere con aggiornamenti dei modelli mirati a imitare più da vicino lo stile umano.
  • Sviluppi normativi che potrebbero rendere obbligatori gli strumenti di rilevamento dell'IA per determinate pubblicazioni o sottomissioni accademiche.

Se la startup manterrà il suo vantaggio nel rilevamento mantenendo bassi i tassi di errore, potrebbe diventare uno standard de facto per l'autenticità digitale. In caso contrario, il mercato potrebbe frammentarsi in un mosaico di strumenti concorrenti, ognuno con i propri compromessi.

In sintesi

L'iniezione di 9 milioni di dollari di Pangram alimenta una strategia di rilevamento che si basa su un regime di addestramento a doppio documento per vantare una capacità quasi perfetta di individuare l'assistenza dell'IA. Il suo successo dipenderà dalla capacità del metodo di scalare su modelli linguistici in continua evoluzione e di guadagnarsi la fiducia delle piattaforme e delle istituzioni che ne hanno più bisogno.