Il mondo delle startup AI è stato scosso da una rivelazione che solleva questioni tecniche, etiche e legali di non poco conto. Fireflies, piattaforma di trascrizione e note-taking basata su intelligenza artificiale che ha recentemente raggiunto una valutazione di 1 miliardo di dollari, ha ammesso attraverso uno dei suoi co-fondatori che i suoi primi servizi "AI" erano in realtà gestiti manualmente da esseri umani.
Sam Udotong, co-fondatore di Fireflies, ha pubblicato su LinkedIn un post in cui racconta come lui e il suo socio abbiano gestito il servizio nelle primissime fasi operative: trascrivendo manualmente le riunioni dei clienti invece di utilizzare algoritmi di machine learning o modelli di speech-to-text. Il servizio veniva fatturato 100 dollari al mese, con i clienti convinti di utilizzare un sistema di AI per la trascrizione automatica e l'estrazione di insight dalle loro conference call. In realtà, dietro le quinte, i due fondatori digitavano freneticamente gli appunti sopravvivendo "a pizza", come ha ammesso lo stesso Udotong.
La pratica, nota nel gergo delle startup come "Wizard of Oz technique", prevede che un servizio apparentemente automatizzato sia in realtà gestito da operatori umani durante la fase di sviluppo del prodotto vero e proprio. Nel settore tech questa metodologia viene talvolta utilizzata per validare un'idea di business prima di investire massicciamente nello sviluppo di infrastrutture di AI, ma con una differenza sostanziale: la trasparenza verso i clienti. Nel caso di Fireflies, i sottoscrittori del servizio erano evidentemente all'oscuro della natura reale del sistema.
Le implicazioni dal punto di vista della privacy sono particolarmente rilevanti per il mercato europeo. Se applicassimo il GDPR a questa situazione, emergerebbe una potenziale violazione grave: i partecipanti alle riunioni non erano stati informati che esseri umani non autorizzati stavano ascoltando conversazioni potenzialmente riservate. Come ha sottolineato Umar Aftab, esperto di automazione, nei commenti al post di Udotong: partecipare a meeting senza invito rappresenta una violazione della privacy, e i clienti avevano consensito alla presenza di un bot, non di persone fisiche non identificate.
Dal punto di vista tecnico, oggi Fireflies utilizza effettivamente modelli di natural language processing e speech recognition per fornire trascrizioni, riassunti e analisi delle conversazioni. La piattaforma si integra con sistemi di videoconferenza come Zoom, Google Meet e Microsoft Teams, sfruttando API per accedere agli stream audio e processarli attraverso neural network addestrati su vasti dataset di conversazioni. Il servizio attuale include anche funzionalità di sentiment analysis e action item extraction, caratteristiche che richiedono architetture transformer e capacità di inference in tempo reale.
La rivelazione ha scatenato reazioni contrastanti nella community tech. Mentre alcuni founder celebrano la storia come esempio di "hustle culture" e determinazione imprenditoriale, ingegneri software ed esperti legali hanno evidenziato la rischiosità di questa strategia. Mauricio Idarraga, software engineer, ha definito il post "una delle dichiarazioni più sconsiderate e fuori luogo" che abbia visto di recente.
Il lancio dell'app "Talk to Fireflies" all'inizio di quest'anno ha consolidato la posizione dell'azienda nel competitivo mercato degli AI meeting assistant, un segmento che vede competitor come Otter.ai, Grain e le funzionalità native di Microsoft Copilot. La valutazione da un miliardo di dollari posiziona Fireflies tra le cosiddette "unicorn" del settore AI, ma questa rivelazione potrebbe esporre l'azienda a verifiche retrospettive sulla compliance e potenziali class action da parte dei primi clienti che si sentono ingannati.