Ny indekser giver bedre datamapping
Vi er begejstrede for at annoncere en væsentlig opgradering af vores Data Discovery-løsning, DataMapper. Vi har implementeret en ny indeksering, drevet af Lucene. Denne forbedring skal revolutionere hvordan brugere søger efter og finder filer, ved at kombinere navne, nøgleord og på sigt fritekstsøgning med forbedret præcision og hastighed.
Behovet for en ny indekser
I forhold til vores brugeres voksende behov og stigende datakompleksitet har vi erkendt, at vores traditionelle SQL-baserede løsning ikke var tilstrækkelig. For at løse dennne udfordring henvendte vi os søgemaskinesoftware-bibliotek Lucene, kendt for sine kraftfulde og effektive søgefunktioner, som det ideelle valg til en ny indekser.
Teknologien bag
- Forbedrede søgefunktioner: Lucene letter avancerede søgeforespørgsler, hvilket gør det muligt for brugere at finde filer ved at kombinere navne, nøgleord og fritekstsøgning.
- Dynamisk risikoberegning: Risikoen forbundet med bestemte filer vil blive genberegnet med eventuelle ændringer af navne eller nøgleord, hvilket sikrer løbende nøjagtighed.
- Effektiv indeksering: Ved at prioritere nye filer, inkorporerer systemet også gradvist allerede scannede filer, der ikke tidligere er indekseret, hvilket forbedrer omfanget af DataMapper.
Vejen dertil
Vi begyndte med en analyse af forskellige muligheder, herunder mindre justeringer af vores eksisterende SQL-løsning og mere omfattende ændringer som omstrukturering af komponenter og batch-filbehandling. Strategien fremad involverede genindeksering af alle kunder med en tilpasset indeksering, overvejelse af databaseforbedringer og vurdering af en potentiel integration af Elastic Search for større kunder. I vores forskning undersøgte vi alternativer såsom Elastic Search, Azure Search og Microsoft Graph Outlook API – hver med deres unikke fordele og begrænsninger.
Fordele for vores kunder
Integrationen af Lucene i DataMapper har givet et betydeligt løft inden for DataMappers effektivitet, nøjagtighed og skalerbarhed. Denne avancerede teknologi sikrer, at vores brugere har adgang til de bedste værktøjer til effektiv datahåndtering.
Sune Kobberø
Product Owner hos Safe Online