Servizi

Servizi di Integrazione AI Generativa per Team Software US e UE

Servizi di consulenza AI generativa per operatori B2B che hanno bisogno di sistemi rilasciati, non di presentazioni. Valutiamo i casi d'uso rispetto all'impatto sui ricavi, scegliamo il giusto LLM per ogni attività su un harness di eval reale, costruiamo pipeline RAG e di prompt che reggono il contatto con utenti reali, e consegnamo MLOps che il vostro team può gestire in autonomia. Senior engineer che hanno gestito carichi di lavoro LLM in produzione su larga scala — non prompt-engineer che leggono Twitter. Sprint di discovery da 12.000 EUR, pilot funzionanti da 45.000 EUR, retainer di produzione da 18.000 EUR al mese.

Servizi di integrazione AI generativa per aziende US e UE

La maggior parte dei progetti di AI generativa fallisce per le stesse tre ragioni. Il caso d'uso sbagliato — un chatbot che sostituisce una barra di ricerca che nessuno usava. L'eval sbagliato — «sembra buono su cinque esempi» finché gli utenti in produzione trovano il sesto. L'architettura sbagliata — un agente LangChain a 14 step dove due chiamate di funzione avrebbero fatto il lavoro. Iniziamo con un modello ROI scritto e un insieme di eval da 200 elementi prima di una singola riga di codice di orchestrazione. Scegliamo i provider LLM in base a latenza misurata, qualità e costo per 1.000 richieste al vostro mix di traffico — non in base alla demo diventata virale la settimana scorsa. Alla settimana 10 avrete un sistema funzionante, un harness di regressione, observability e un runbook di proprietà del vostro team. Vedete come funziona nel nostro caso studio ARIA.

Cosa consegniamo in un progetto GenAI

Discovery dei casi d'uso & scoring ROI

Intervistiamo product, operations e supporto, quindi valutiamo 8-15 casi d'uso candidati per impatto sui ricavi, costo di build, fattibilità e rischio. Ricevete una shortlist classificata, un modello ROI scritto per i primi tre e un chiaro elenco «non costruite questo» con motivazioni.

Selezione del provider LLM

Selezione basata su eval tra OpenAI, Anthropic, Bedrock e Vertex. Misuriamo qualità, latenza p50/p95 e costo su un insieme di eval task-specific da 150-400 elementi. L'output è un ADR con il modello scelto, un modello di fallback e il trigger per la rivalutazione.

RAG & pipeline dati

Ingestione del corpus, strategia di chunking calibrata sulla distribuzione dei documenti, selezione del modello di embedding, dimensionamento del vector store, retrieval ibrido. Dimensioniamo in base al tasso di crescita reale del corpus, non a una demo da 100.000 vettori.

Prompt engineering & eval

Prompt versionati in git, insiemi di eval di regressione che girano in CI, rubrics Ragas e DeepEval, LLM-as-judge con spot-check umano. Rifiutiamo di fare il merge di modifiche ai prompt che fanno regredire una metrica di primo livello — anche le nostre.

Sicurezza & gestione dei dati personali

Stripping dei dati personali all'ingresso (Presidio o classificatore fine-tuned), contratti di zero data retention con i provider, endpoint UE per i dati europei, scansioni all'uscita per dati personali allucinati. DPA e liste dei sub-responsabili allineati ai vostri contratti con i clienti.

MLOps per LLM

Observability tramite LangSmith, Langfuse o Helicone. Logging per richiesta di versione prompt, modello, token, latenza, costo. Alert sui costi, SLO di latenza, A/B automatizzato dei prompt e runbook scritto per gli upgrade dei modelli e le interruzioni dei provider.

Strumenti che utilizziamo

OpenAI Anthropic Bedrock Vertex AI LangChain LlamaIndex Pinecone Weaviate Qdrant Chroma OpenSearch pgvector Ragas DeepEval LangSmith Helicone Phoenix MLflow vLLM Ollama Guardrails Pydantic

Come si svolge un progetto di integrazione GenAI

  1. 01

    Discovery

    Settimane 1–3: interviste agli stakeholder, scoring dei casi d'uso, modello ROI, progettazione dell'insieme di eval. L'output è una shortlist classificata più una proposta architettuale leggibile dal fondatore e dal board.

  2. 02

    Eval del provider

    Settimane 4–5: costruzione dell'harness di eval, esecuzione dei modelli candidati sull'insieme task-specific, redazione dell'ADR con il modello scelto, modello di fallback e trigger di rivalutazione. Prompt caricati in git.

  3. 03

    Build del pilot

    Settimane 6–10: sistema end-to-end, RAG o orchestrazione agent, observability, gestione dei dati personali, deployment a customer-zero dietro un feature flag. Eval di regressione in esecuzione in CI prima di qualsiasi merge di prompt.

  4. 04

    Rollout in produzione

    Settimane 11+: espansione dell'insieme di eval, aggiunta di fallback, formazione del vostro team sul runbook, definizione degli SLO di costo e latenza, prima revisione trimestrale dell'upgrade dei modelli. Ci ritiriamo quando il vostro team gestisce in autonomia.

Modelli di ingaggio

Sprint di discovery

Tre settimane. Scoring dei casi d'uso, modello ROI, progettazione eval del provider, proposta architettuale, ADR scritti. Ideale per i team che non sanno ancora quale scommessa GenAI valga la pena fare. 12.000 EUR fisso.

Pilot GenAI

Da 8 a 10 settimane. Sistema end-to-end funzionante, harness di eval in CI, observability, pipeline dati personali e deployment a customer-zero. Trasferimento delle conoscenze agli ingegneri integrato nella timeline. 45.000 EUR fisso.

Retainer di produzione

Mensile. Iterazione sui prompt, upgrade dei modelli, espansione degli eval, ottimizzazione dei costi, on-call per incidenti LLM-specific. Ideale dopo il rilascio del pilot quando si ha bisogno di copertura senior continuativa. Da 18.000 EUR/mese.

Tutti i progetti iniziano con NDA reciproco, cessione IP e DPA. Minimo tre mesi per il retainer di produzione, poi mensile con preavviso di 30 giorni.

Perché i team US e UE scelgono YuSMP per il GenAI

Conforme al GDPR · Pronto per ISO 27001 · SOC 2 Type II in corso · Compatibile HIPAA · CCPA riconosciuto

Eval prima, non demo prima

Ogni progetto inizia con un insieme di eval da 150-400 elementi prima di bloccare l'architettura. Rifiutiamo di rilasciare prompt che non hanno mai superato un run di regressione. Le demo non sono prove.

Senior engineer, non prompt-writer

I nostri LLM lead hanno rilasciato ML in produzione prima che i transformer diventassero di moda — ranking, classificazione, rilevanza della ricerca. Discutono di budget di latenza e query plan di Postgres, non di thread su Twitter.

Competenza in compliance

GDPR, SOC 2, HIPAA, CCPA — abbiamo negoziato contratti di zero data retention con OpenAI e Anthropic, redatto DPA che reggono le revisioni dei clienti e guidato gli auditor attraverso lo scope LLM.

Trattiamo la scelta del provider LLM come una decisione trimestrale, non come una religione. Quando la frontiera si sposta, saranno i vostri eval a dircelo — non la chiamata agli utili trimestrali di un vendor.

Cosa dicono i clienti

Un motore di decisione sui prestiti che impiega dieci volte meno tempo per approvare non avviene per caso. YuSMP ha costruito la pipeline di scoring, l’integrazione con i bureau del credito e un back-office che i nostri sottoscrittori apprezzano davvero. I tempi di approvazione sono passati da due giorni a meno di quattro ore.
Gregory Lawson, CTO, LoanFlowVedi il caso →

Domande frequenti

Come scegliete il provider LLM giusto per il nostro carico di lavoro?

La selezione del provider è un problema di eval, non di marketing. Costruiamo un insieme di eval task-specific con 150-400 input rappresentativi e output attesi graduati, quindi valutiamo i modelli candidati per qualità (LLM-as-judge più spot-check umano su un sottoinsieme di 50 elementi), latenza ai p50/p95/p99 effettivamente necessari e costo per 1.000 richieste al nostro mix di token. Lineup tipico: GPT-4o o Claude 3.7 Sonnet per il ragionamento, GPT-4o-mini o Claude 3.5 Haiku per la classificazione, gpt-4o-realtime per il parlato, un modello open-weights su vLLM per il batch cost-sensitive. Ripetiamo l'eval ogni trimestre perché la frontiera si sposta.

Quando il RAG è la risposta giusta e quando non lo è?

Il RAG è corretto quando le risposte risiedono in un corpus che si aggiorna più velocemente di quanto si possa fare fine-tuning (policy, documentazione del prodotto, ticket, contratti). È la risposta sbagliata quando il modello conosce già il dominio (codice generico, conoscenza generale), quando la latenza è inferiore a 500 ms al p95, o quando si hanno bisogno di output deterministici che il fine-tuning produce in modo più affidabile. Combiniamo spesso: RAG per l'ancoraggio ai dati del cliente, un piccolo modello fine-tuned per la struttura dell'output o il vocabolario di dominio, e prompt engineering per l'orchestrazione. Il RAG puro è raro in produzione. Il fine-tuning puro lo è ancora di più.

Come gestite i dati personali, il GDPR e i dati dei clienti?

Tre livelli. All'ingresso, un rilevatore di dati personali (Microsoft Presidio o un classificatore fine-tuned) elimina o tokenizza email, nomi, numeri di telefono e ID account prima che il prompt lasci la nostra infrastruttura. Al provider, contrattializziamo la zero data retention con OpenAI, Anthropic e Bedrock (BAA firmati dove applicabile) e preferiamo endpoint con hosting UE per i dati europei. All'uscita, l'output viene analizzato per individuare dati personali allucinati prima di essere mostrato all'utente. I DPA vengono firmati prima del kickoff e manteniamo un elenco di sub-responsabili allineato ai vostri contratti con i clienti.

Come si presenta il versionamento dei prompt e la valutazione in produzione?

I prompt sono codice. Vivono nel version control, vengono revisionati nelle pull request e sono taggati con versioni semantiche che vengono registrate ad ogni inferenza. Ogni modifica ai prompt viene eseguita rispetto a un insieme di eval di regressione in CI (Ragas per la qualità del RAG, DeepEval o una rubrica personalizzata per le metriche task-specific) e non effettuiamo il merge se una metrica di primo livello regredisce di oltre il 2%. In produzione registriamo la versione del prompt, il modello, la latenza e il costo per token per richiesta tramite LangSmith, Helicone o Langfuse, così potete fare A/B sui prompt nello stesso modo in cui fate A/B sulle feature.

Potete integrarlo con il nostro stack e team esistente?

Sì. La maggior parte dei progetti si integra in un backend esistente (Node, Python, Go, Java) e in un'infrastruttura esistente (AWS, GCP, Azure) piuttosto che girare su una piattaforma separata. Non vi spingiamo verso un orchestratore specifico di un vendor se non ne avete bisogno. Lavoriamo in coppia con i vostri ingegneri, conduciamo code review insieme e scriviamo ADR per le scelte architetturali affinché sopravvivano al nostro coinvolgimento. Il trasferimento delle conoscenze è contrattuale: alla fine del pilot, il vostro team possiede il codebase, gli eval e il runbook.

Quali sono i prezzi e qual è la timeline verso la produzione?

Tre livelli. Lo sprint di discovery è 12.000 EUR in tre settimane: scoring dei casi d'uso, modello ROI, eval del provider e una proposta architettuale scritta. Il pilot GenAI è 45.000 EUR in 8-10 settimane: sistema end-to-end funzionante, harness di eval, observability e un deployment a customer-zero. Il retainer di rollout in produzione parte da 18.000 EUR al mese e copre l'iterazione sui prompt, gli upgrade dei modelli, l'espansione degli eval e l'on-call. Il percorso tipico dal kickoff alla produzione con impatto sul fatturato è di 12-16 settimane.

Avete un caso d'uso GenAI che vale la pena sviluppare? Valutiamolo su un eval reale.

Prenota una chiamata di analisi

Richiedi una proposta

Condividete alcuni dettagli e un consulente senior risponderà entro un giorno lavorativo.

Preferite parlare direttamente? ☎ Chiama +374 44 871 811 ✉ sales@yusmpgroup.com