Perché l’AI da sola non basta? Scoprilo con 3 esempi facili
Aggiornamento: 5 giorni fa
L’AI scrive il codice in cinque secondi, quindi è naturale pensare che lo sviluppo software manuale non abbia più senso
Basta chiedere e arriva il codice: perfetto, pulito, funzionante.
Se guardi i pezzi isolati, assolutamente: l’AI è davvero brava a creare una funzione, un componente o una classe.
Ma i sistemi complessi hanno bisogno di qualcosa di più:
Coerenza
Contesto
Memoria
Cose che l’AI da sola non ha, e che portano per assurdo da un aumento dei costi vediamo perché con 3 esempi semplici semplici:
ESEMPIO 1
Vuoi costruire una casa:
Hai dei muratori robot superveloci ordini al robot muratore: “Fammi una parete con una finestra”.
Cinque secondi dopo la parete è lì, dritta, levigata, finestra nel punto giusto.
Se la guardi da sola, è perfetta.
Ha superato quello che in gergo si chiama “test del singolo pezzo”.
Ma tu devi costruire una casa intera:
Devi coordinare i robot altrimenti cosa succede :
Il primo fa la finestra esattamente dove hai chiesto
Ma il secondo sta facendo passare i cavi elettrici proprio in mezzo alla finestra
Un terzo costruisce una porta che si apre sul vuoto al secondo piano.
Il risultato è che hai risparmiato tempo nella posa dei mattoni, ma ora devi pagare un esercito di ingegneri che girano per il cantiere per controllare che la casa non crolli.
Il costo non è sparito. Si è spostato ed è pure aumentato.
ESEMPIO 2
Creare un romando
Chiedi all’AI di scriverti un libro.
In cinque minuti ti genera cinquanta capitoli.
Sembra tutto perfetto ma poi però leggendo tutto il libro, scopri che il protagonista muore al capitolo 2 e ricompare al capitolo 10 senza spiegazioni.
La storia parte da Roma, ma al capitolo 15 siamo a Tokyo e nessuno ha preso un aereo. La trama non sta in piedi.
E qui arriva il punto: correggere, revisionare e far tornare la storia di cinquanta capitoli generati in blocco richiede molto più tempo, più concentrazione e più soldi di quanti ne avresti spesi per pianificare il libro con una scaletta chiara fin dall'inizio. L’AI quindi ti ha fatto risparmiare sulla scrittura, ma ti ha fatto spendere il doppio sulla revisione.
ESEMPIO 3
Un’orchestra senza direttore.
Hai cinquanta musicisti talentosi. Ognuno impara la sua parte a memoria in dieci secondi e la suona in modo impeccabile. Se li ascolti uno per uno, sono perfetti. Ma se li metti tutti nella stessa stanza e dici a ciascuno di iniziare a suonare senza uno spartito condiviso, ottieni un caos assordante. Ognuno va al proprio ritmo, usa una tonalità diversa, non ascolta gli altri. Il costo non è più insegnare ai singoli musicisti a muovere le dita. Il costo è ingaggiare direttori d’orchestra e coordinatori che definiscano lo spartito condiviso e controllino che l’insieme produca armonia, non rumore. Nel software, questi coordinatori sono gli architetti, i registri delle decisioni, i contratti tra i moduli. L’AI non può inventarsi da sola, perché non sa cosa è stato deciso ieri, non sa perché una certa scelta è stata fatta, non sa quale sia il vincolo nascosto. Spiegarle e istruirla richiederebbe molto tempo e nessuna garanzia di avere un buon risultato.
Il punto è che l’AI eccelle nel “come”.
Le chiedi di scrivere una funzione e la scrive.
Le chiedi di generare un modulo e lo genera.
Ma l’AI fallisce sul “perché”.
Non ha il contesto.
Non ha la memoria del progetto.
Non sa nulla delle decisioni prese sei mesi fa in una riunione.
Non sa perché una certa API è stata disegnata in un modo e non in un altro.
Non sa quali sono i vincoli architetturali che tengono insieme il sistema.
È come un assistente brillante ma smemorato: ti risolve il problema immediato, ma non capisce le conseguenze a lungo termine.
E qui veniamo al testing, che è forse la parte più sottovalutata.
I programmi tradizionali sono come una calcolatrice: premi 2+2 e ottieni sempre 4. Fare un test è facilissimo.
L’AI, invece, assomiglia più a un assistente umano: se gli fai la stessa domanda dieci volte, ti risponderà in modi leggermente diversi.
Il 90% delle volte ti dà la risposta perfetta,
ma il 10% delle volte potrebbe inventarsi qualcosa.
Si chiama allucinazione. Il costo del testing non diminuisce: aumenta.
Perché non puoi più fare un singolo controllo veloce “giusto/sbagliato”.
Devi creare test molto più complessi e continui, chiamati Evals, che provano centinaia di casi reali per misurare la percentuale di affidabilità nel tempo.
È un lavoro probabilistico, non deterministico.
E richiede tempo, soldi e teste pensanti.
Con l’AI fabbricare i singoli mattoni è diventato facilissimo e quasi gratis.
Ma assicurarsi che i mattoni formino un edificio sicuro, logico e senza crepe è diventato il lavoro più difficile e costoso.
L’AI automatizza la scrittura materiale dell’implementazione, il “come”, ma rende estremamente costoso e critico il giudizio, il “perché”.
Senza barriere e controlli automatizzati nelle pipeline, la velocità dell’AI rischia di produrre un’erosione della struttura del sistema a un ritmo mai visto prima.
Il Free ebook di Oleksiy Pylypenko
Software Architecture in the AI & Cloud Era the road to platform architecture
15 chapters ·
Puoi scaricarlo direttamente da qui:
FAQ
Perché l’AI da sola non basta?
L’AI scrive codice in 5 secondi, ma il software è un sistema. Domande e risposte su coerenza, testing, Evals, allucinazioni e ruolo umano nello sviluppo con l’intelligenza artificiale.
Cosa significa “test del singolo pezzo” quando si parla di AI?
Significa che un componente isolato può funzionare perfettamente. Una funzione, una classe o un modulo possono superare il test locale, ma questo non garantisce che l’intero sistema funzioni.
Dove si sposta il costo quando si usa l’AI per programmare?
Il costo si sposta dalla scrittura del codice alla verifica, all’integrazione, all’architettura e al testing. Fabbricare i mattoni è quasi gratis; assicurarsi che formino un edificio sicuro è la parte più costosa.
Perché i test con l’AI sono più difficili?
Perché l’AI è probabilistica, non deterministica. Come una calcolatrice, un programma tradizionale dà sempre 2+2=4. L’AI può dare risposte leggermente diverse: il 90% perfette, il 10% allucinazioni.
Cosa sono gli Evals nell’AI?
Sono test continui e complessi che provano centinaia di casi reali per misurare l’affidabilità nel tempo. Non bastano più i controlli “giusto/sbagliato”: serve una valutazione probabilistica.
Ruolo degli umani nell’era dell’AI nello sviluppo software.
Definire il “perché”: architettura, regole, contratti, fitness functions, governance e revisione. L’umano deve orchestrare, non solo scrivere codice.
Contatti
📞 0423 605099
Richiedi una demo con un nostro esperto e scopri come puoi ridurre il debito tecnico della tua azienda.
Commenti