In Breve
- Cosa ha fatto Pangram recentemente?
- Pangram ha raccolto 9 milioni di dollari e ha lanciato nuovi strumenti per il rilevamento di contenuti generati da AI.
- Qual è l'accuratezza del nuovo modello di Pangram?
- Il nuovo modello testuale di Pangram supera il 99% di accuratezza nell'individuare testi assistiti da AI.
- Quali sono le funzionalità offerte da Pangram?
- Pangram offre un abbonamento web, un'estensione Chrome e un feed health score per monitorare i contenuti.
La startup newyorkese Pangram ha recentemente concluso un round di finanziamento da 9 milioni di dollari, guidato da Menlo Ventures e con la partecipazione di Haystack, ScOp, Script Capital e Cadenza. Contestualmente, l’azienda ha presentato il suo nuovo modello di rilevamento testuale, Pangram 4, e un innovativo rilevatore di immagini denominato Pangram Image.
Fondata due anni fa da Max Spero e Bradley Emi, Pangram si propone di sviluppare strumenti capaci di distinguere i contenuti generati o assistiti dall’intelligenza artificiale da quelli scritti interamente da esseri umani. Questa iniziativa si inserisce in un contesto caratterizzato dalla crescente diffusione di testi e immagini generati da AI, che ha portato a preoccupazioni riguardo all’uso improprio di tali contenuti, con potenziali conseguenze reputazionali e disciplinari.
Pangram afferma che il suo nuovo modello testuale raggiunge un’accuratezza superiore al 99% nell’individuare testi assistiti da AI e contenuti misti umano-AI. Inoltre, il sistema è progettato per rilevare più facilmente i programmi di “humanizer”, che tentano di rendere i testi generati da AI più simili a quelli scritti da umani. Il rilevatore di immagini, attualmente disponibile in anteprima per la ricerca, sarà lanciato in una versione più ampia nelle prossime settimane.
La tecnologia sviluppata da Pangram si basa su un modello di machine learning addestrato su decine di milioni di documenti umani, insieme a “specchi sintetici” generati da modelli linguistici di ultima generazione per ogni documento. Questo approccio mira a insegnare al sistema le differenze stilistiche e le scelte ricorrenti degli algoritmi, senza fare affidamento su metadati o watermark nascosti.
Pangram si propone anche di distinguere diversi livelli di assistenza AI, riconoscendo interventi di editing o pulizia del testo. L’azienda sostiene che l’uso dell’AI può essere accettabile, a condizione che venga dichiarato dall’autore. Tra le funzionalità offerte agli utenti ci sono un abbonamento web a 20 dollari al mese, un’estensione per Chrome che etichetta in tempo reale i post su piattaforme come X, LinkedIn, Substack, Reddit e Medium, e un “feed health score” che indica la percentuale di contenuti umani rispetto a quelli generati da AI.
La tecnologia di Pangram è disponibile anche tramite API ed è già integrata in alcune piattaforme, tra cui Substack. Altri clienti delle API includono Quora, istituzioni accademiche, editori, agenti e società di recruiting. Il mercato del rilevamento di contenuti AI vede la presenza di altri operatori, come Winston AI, Originality.ai, Copyleaks e GPTZero.
I test interni e le prove pratiche hanno mostrato prestazioni solide, sebbene non perfette. Pangram segnala un tasso di falsi positivi di circa 1 su 10.000 documenti umani. Durante i test, il modello ha dimostrato di essere in grado di identificare articoli scritti interamente da AI e di resistere a tentativi di elusione tramite editing. Tuttavia, ha anche segnalato come AI alcune frasi riscritte da umani e, in alcuni casi, ha classificato erroneamente delle immagini.
Max Spero ha evidenziato l’importanza di sviluppare un meccanismo per contrastare la diffusione di contenuti AI di bassa qualità, sottolineando la necessità di evitare che la tecnologia diventi uno strumento di caccia alle streghe.
