Vai al contenuto principale

Elasticsearch 8 OpenSearch Vector search GDPR

Servizi di Sviluppo Elasticsearch per Ricerca Veloce e Analytics

Elasticsearch alimenta la ricerca in tre dei nostri sistemi in produzione con il traffico più elevato — il marketplace PropTech di ANT con ricerca immobiliare multilingua e filtri geo, il portale B2B di REHAU con catalogo prodotti sincronizzato con SAP, la ricerca di compatibilità di AutoParts con inventario multi-store. Ricerca a faccette, kNN vettoriale, ILM cost tiering e reindexing senza downtime — tutto standard nei nostri deploy Elasticsearch.

Richiedi una proposta Vedi i casi di ricerca

Ingegneria Elasticsearch e OpenSearch per ricerca full-text e log veloce

Forniamo sviluppo Elasticsearch e OpenSearch per cataloghi prodotti e marketplace che richiedono ricerca a faccette, portali B2B con inventario sincronizzato con ERP, piattaforme di osservabilità che acquisiscono log strutturati e metriche, e team AI che aggiungono ricerca ibrida BM25 + vettoriale per il recupero semantico. La progettazione del mapping, la strategia degli shard, l'ILM cost tiering e il reindexing senza downtime fanno parte di ogni progetto.

Challenges

Sfide del settore che affrontiamo

Esplosione del mapping da campi dinamici

Il dynamic mapping illimitato crea migliaia di campi, appesantisce lo stato del cluster e degrada le prestazioni. Mappiamo esplicitamente tutti i campi e disabilitiamo il dynamic mapping sugli indici di ingestione.

Over-provisioning del numero di shard

Troppi shard di piccole dimensioni sprecano memoria heap e rallentano la ricerca. Puntiamo a 20–50 GB per shard e utilizziamo policy ILM rollover per prevenire la proliferazione incontrollata degli shard.

Conteggi delle faccette inaccurati dopo il filtro

Le aggregazioni delle faccette post-query riflettono solo il risultato filtrato, non il corpus completo. Implementiamo il post-filter per mantenere i conteggi delle faccette accurati.

Downtime durante il reindex

Le modifiche al mapping sugli indici live richiedono il reindex — che blocca naivamente il traffico in produzione. Utilizziamo alias di indice per il reindexing senza downtime con la reindex API.

Divergenza della sincronizzazione dell'indice dalla fonte di verità

Il dual-write applicativo manca i fallimenti silenziosamente e diverge da PostgreSQL. Sostituiamo il dual-write con una pipeline CDC Debezium per una sincronizzazione garantita.

Crescita dei costi di storage

Gli indici di log e analytics crescono illimitatamente senza ILM. Implementiamo il tiering hot-warm-cold-delete con transizioni di fase automatizzate.

Solutions

Soluzioni che realizziamo

Ricerca a faccette per marketplace

Analisi multilingua, faccette, ricerca geo, sincronizzazione dell'inventario e ottimizzazione della rilevanza per i cataloghi prodotti.

Ricerca catalogo B2B

Ricerca prodotti sincronizzata con ERP, ricerca per numero di parte, filtri ACL multi-tenant ed estrazione di dati strutturati.

Ricerca ibrida BM25 + vettoriale

Ricerca lessicale e semantica combinata con RRF per il recupero RAG e i sistemi di raccomandazione.

Analisi di log ed eventi

Pipeline di osservabilità che acquisiscono log strutturati, trace APM e metriche con dashboard Kibana e alerting.

Reindexing senza downtime

Strategia di reindexing basata su alias per migrazioni di mapping e modifiche agli analyzer senza interruzioni della ricerca.

Ottimizzazione dei costi ILM

Tiering hot-warm-cold-delete, consolidamento degli shard e force-merge sugli indici in sola lettura per ridurre i costi di storage.

Stack

Stack tecnologico

Elasticsearch 8, OpenSearch 2, Amazon OpenSearch Service, Kibana, OpenSearch Dashboards, Logstash, Beats, Debezium, ILM, kNN vector search, RRF, Terraform.

Compliance

Conformità e normative

GDPR-aligned · SOC 2-capable · HIPAA-capable · CCPA-acknowledged

UE

  • GDPR — residenza dei dati a livello di indice, diritto alla cancellazione tramite delete-by-query.
  • ISO 27001 — controllo degli accessi, audit logging, cifratura a riposo.
  • NIS2 — conservazione dei log, risposta agli incidenti, pipeline di osservabilità.
  • DSA — audit trail di moderazione dei contenuti, diritti degli interessati.

USA

  • SOC 2 — indicizzazione degli audit log, controllo degli accessi, pipeline di monitoraggio.
  • HIPAA — mascheramento PHI, logging degli accessi, cifratura a riposo e in transito.
  • CCPA — delete-by-query per le richieste di rimozione dei dati dei consumatori.
  • PCI DSS — esclusione dei dati dei titolari di carta dagli indici di ricerca, audit logging.

Condiviso: TLS + mTLS, ACL degli indici basati su ruoli, SBOM per le librerie client.

Why YuSMP

Perché i team di ricerca scelgono YuSMP

Approccio mapping-first

Progettiamo mapping espliciti prima di acquisire i dati — nessuna esplosione di campi dinamici, nessuna sorpresa di reindexing retroattivo.

ILM dal primo giorno

Il tiering hot-warm-cold viene configurato alla creazione del cluster — i costi di storage non vi sorprendono dopo 12 mesi di crescita degli indici.

Ricerca ibrida BM25 + vettoriale

Implementiamo pipeline combinate BM25 e kNN con RRF — rilevanza migliore rispetto a ciascuno dei due approcci singolarmente, calibrata sul vostro corpus.

FAQ

Domande frequenti su Elasticsearch

Elasticsearch o OpenSearch — quale consigliate?

OpenSearch (fork AWS) per i team su AWS che vogliono evitare le licenze proprietarie di Elastic e integrarsi strettamente con Amazon OpenSearch Service. Elasticsearch per i team che usano Elastic Cloud o lo stack ELK dove conta l'integrazione con Kibana e APM. Entrambi sono API-compatibili per la maggior parte dei casi d'uso — progettiamo il codice applicativo in modo che sia portabile tra i due.

Come progettate i mapping Elasticsearch per un catalogo prodotti?

Separiamo i campi keyword (filtri di corrispondenza esatta, aggregazioni) dai campi text (ricerca full-text con analisi), utilizziamo nested object per gli attributi delle varianti, impostiamo analyzer appropriati per lingua e definiamo alias di indice per operazioni di reindex senza downtime. La progettazione del mapping è la singola decisione più impattante per la qualità della ricerca.

Come implementate la ricerca a faccette?

Aggregazioni terms per faccette discrete (brand, categoria), aggregazioni range per faccette numeriche (prezzo, valutazione) e aggregazioni nested per faccette consapevoli delle varianti. Applichiamo il post-filter dopo l'aggregazione per mantenere i conteggi delle faccette accurati per l'intero insieme di risultati, non solo per la selezione del filtro corrente.

Come gestite Elasticsearch su larga scala in modo conveniente?

ILM (Index Lifecycle Management) per organizzare gli indici in livelli: hot (SSD), warm (HDD), cold (frozen) e delete — in base alla frequenza delle query e ai requisiti di conservazione. Conteggio shard calibrato su ~20–50 GB per shard. Indici rollup per aggregazioni a lungo termine. Force-merge sugli indici chiusi. Effettuiamo un audit dei conteggi shard e delle dimensioni degli indici in ogni progetto.

Ricerca vettoriale in Elasticsearch — quando è utile?

La ricerca vettoriale kNN in Elasticsearch 8+ o OpenSearch è pronta per la produzione per la ricerca semantica, i sistemi di raccomandazione e il RAG (Retrieval Augmented Generation). La utilizziamo insieme alla ricerca lessicale BM25 in una pipeline ibrida RRF (Reciprocal Rank Fusion) per una rilevanza migliore rispetto a ciascuno dei due approcci singolarmente.

Come sincronizzate Elasticsearch con una fonte di verità PostgreSQL?

CDC tramite pipeline Debezium Kafka Connect per la sincronizzazione quasi in tempo reale. Input JDBC Logstash di Elasticsearch per la sincronizzazione batch dove Kafka è un overhead. Dual-write a livello applicativo per casi semplici dove il rischio di divergenza è accettabile. Evitiamo il dual-write nei sistemi regolamentati e preferiamo la pipeline CDC.

Costruite una ricerca veloce e scalabile con ingegneri Elasticsearch senior

Risposta entro 1 giorno lavorativo. NDA su richiesta.

Richiedi una proposta

Richiedi una proposta

Condividete alcuni dettagli e un consulente senior risponderà entro un giorno lavorativo.

Preferite parlare direttamente? ☎ Call +374 44 871 811 ✉ sales@yusmpgroup.com