Startup AI, il vantaggio competitivo passa dalla fiducia operativa

A febbraio 2025 un tribunale federale del Minnesota ha ammesso una class action contro UnitedHealth, una delle più grandi assicurazioni sanitarie americane. L’oggetto del contendere era un algoritmo chiamato nH Predict, usato dalla società per valutare la durata delle cure riabilitative dei pazienti Medicare Advantage. Secondo le accuse, il sistema produceva decisioni di interruzione delle cure con un tasso di errore stimato attorno al 90%, evidenziato dal fatto che la maggior parte dei pazienti che facevano ricorso ottenevano una revisione favorevole. Il caso non riguardava un fallimento tecnologico isolato. Riguardava una governance dell’errore costruita male, una catena di supervisione umana ridotta al minimo, e un’azienda che aveva trattato l’AI come componente di efficienza operativa invece che come componente di un sistema di responsabilità verso il cliente finale.