Chatbot do rozwoju analityki danych: 67% poprawa opóźnień

Using the existing large language models (LLM), we have developed an analytical platform similar to ChatGPT that can analyze the company’s internal data and generate responses to questions based on that information.

Klient

Branża

e-Commerce

Region

Klient od

2023

Nasz klient, wschodzący startup, miał wizję produktu przeznaczonego do sprzedaży dla swoich głównych klientów w sektorze detalicznym.

Szczegółowe informacje o kliencie nie mogą zostać ujawnione zgodnie z warunkami umowy NDA.

Wyzwanie

Potrzeba platformy analitycznej, która oferuje natychmiastowy dostęp do wewnętrznych dokumentów i dostarcza spostrzeżeń opartych na danych.

Główny problem: Dokumenty wewnętrzne, w tym rejestry pracowników, dane marketingowe i informacje o sprzedaży, są niedostępne. Przy tysiącach plików w formatach takich jak PDF, CSV, Parquet, TXT i DOCX, lokalizowanie i analizowanie konkretnych informacji jest czasochłonne i podatne na błędy.

Drugorzędne wyzwania: Wraz z rozwojem firmy wzrasta ilość dokumentów i informacji, co dodatkowo potęguje wyzwania związane z dostępnością i analizą danych. Bez odpowiedniego systemu analizy dokumentów kwestie te stają się z czasem coraz bardziej widoczne.

Dostrzegając te wyzwania, nasz klient skontaktował się z Innowise, aby uzyskać chatbota do analizy danych, w celu zaoferowania go swoim głównym klientom.

Wdrożenie

Oprogramowanie do analizy danych chatbot dostosowane do obsługi danych wewnętrznych

Firma Innowise opracowała chatbota oprogramowanie do analizy danych przy użyciu istniejących dużych modeli językowych. System czatu działa podobnie do dostępnych botów, ale jest dostosowany do obsługi danych wewnętrznych. Rozwój obejmował zbudowanie kompletnego systemu integracji LLM z relacyjnymi i dokumentowymi bazami danych, w tym wewnętrznych rozwiązań do przechowywania danych klienta i zapewnienia płynnej interakcji między platformą a użytkownikami.

Wydobywanie informacji

Funkcje analizy i przetwarzania dokumentów umożliwiają wyodrębnianie istotnych informacji z wewnętrznych dokumentów firmy, takich jak polityki, instrukcje, przewodniki, dane operacyjne i specyfikacje techniczne. Dzięki temu użytkownik może szybko uzyskać dokładne i aktualne odpowiedzi na swoje pytania bez konieczności ręcznego wyszukiwania i analizowania danych.

Zwiększona wydajność RAG AI

We boosted the chatbot’s performance by conducting codzienne testy manualne i udoskonalanie chatbota przy użyciu sztucznej inteligencji wspomaganej wyszukiwaniem (RAG). Podejście to łączy wyszukiwanie informacji z generowaniem języka naturalnego, dzięki czemu odpowiedzi są bardziej treściwe i trafne. Wprowadziliśmy również system informacji zwrotnej do analizy preferencji użytkowników, co dodatkowo poprawiło RAG i zwiększyło zaufanie użytkowników do chatbota.

Szybki czas odpowiedzi

Wdrażając buforowanie, optymalizację zapytań i przetwarzanie równoległe, znacznie poprawiliśmy szybkość i wydajność interakcji użytkowników z chatbotem. Użytkownicy mogą szybciej otrzymywać odpowiedzi dzięki często żądanym informacjom przechowywanym w pamięci podręcznej. Dodatkowo, używamy przetwarzania równoległego do rozłożenia obciążenia, umożliwiając systemowi obsługę wielu żądań jednocześnie. Dzięki temu chatbot jest bardziej responsywny, nawet w godzinach szczytu.

Ekstrakcja danych z Data Mart

Stworzyliśmy repozytorium danych do przetwarzania ustrukturyzowanych danych relacyjnych. Ta funkcja chatbota obejmuje żądania pobierania informacji z Data Mart. Zapewniając bezpośredni dostęp do Data Mart za pośrednictwem chatbota, użytkownicy mogą bez wysiłku uzyskać potrzebne informacje bez konieczności korzystania z innych źródeł. Ten uproszczony dostęp oznacza, że osoby podejmujące decyzje mają na wyciągnięcie ręki aktualne informacje, co ułatwia sprawne reagowanie na zmiany rynkowe i możliwości strategiczne.

System wyszukiwania dokumentów oparty na sztucznej inteligencji

Udoskonaliliśmy zarządzanie dokumentami i ich wyszukiwanie poprzez integrację Azure Data Lake Gen 2 do pozyskiwania dokumentów, segmentacji dokumentów na fragmenty i wykorzystania Azure OpenAI do generowania osadzeń. Te osadzenia są przechowywane w Azure AI Search w celu wydajnej analizy i wyszukiwania. Zapytania użytkowników są przetwarzane przez Azure OpenAI Search, porównując osadzenia zapytań z przechowywanymi osadzeniami dokumentów w celu natychmiastowego dostarczenia odpowiednich odpowiedzi.

Różnorodne opcje prezentacji informacji

The information is presented in the form of charts created with Plotly, tables styled with Material UI, and straightforward text content. This mix makes the content more engaging and helps communicate the details in a way that’s easy to understand and act on.

Logika zapytań głosowych z tłumaczeniem tekstu na mowę

Nasz zespół zintegrował funkcję zapytań głosowych wraz z interakcjami tekstowymi w chatbocie do analizy danych. Użytkownicy mogą teraz bez wysiłku wchodzić w interakcje z botem za pomocą poleceń głosowych, z dodatkową możliwością tłumaczenia tekstu mówionego na formę pisemną.

Technologie

Front-end

Axios, Material UI, Plotly, React, React Context, react-markdown, TypeScript

Back-end

Azure AI Search, Azure App Service, Azure Data Factory, Azure Data Lake Gen2, Azure Databricks, Azure Functions, Azure OpenAI, Bicep, Cosmos DB, Spark

Biblioteki

Axios, Material UI, Matplotlib, NumPy, Pandas, Plotly, PySpark, React Context, react-markdown, Streamlit, TypeScript

Proces

Po pierwsze, przeprowadziliśmy szczegółową analizę wymagań biznesowych i na tej podstawie opracowaliśmy kompleksowy plan oprogramowania.

Next, we created a visual representation of the chatbot, which included wireframes, prototypes, and mockups, based on the information we gathered. The design phase focused on creating a user-friendly interface that would deliver customers easy navigation and access to the chat bot’s features.

Rozwój obejmował stworzenie pełnowymiarowego systemu integrującego LLM zarówno z relacyjnymi, jak i dokumentowymi bazami danych, w tym z wewnętrznymi rozwiązaniami do przechowywania danych klienta. Zapewniliśmy płynną interakcję między platformą a użytkownikami, wykorzystując przetwarzanie języka naturalnego (NLP) w celu natychmiastowego wyodrębnienia kluczowych informacji i integrując sztuczną inteligencję wspomaganą wyszukiwaniem (RAG) w celu uzyskania kontekstowo istotnych odpowiedzi.

Zoptymalizowaliśmy wydajność poprzez buforowanie, poprawę wydajności zapytań i przetwarzanie równoległe, zapewniając jednocześnie bezpośredni dostęp do ustrukturyzowanych danych z Data Mart.

Wreszcie, włączyliśmy funkcje zapytań głosowych i zamiany tekstu na mowę, aby zwiększyć dostępność i zaspokoić różnorodne potrzeby użytkowników.

Zespół

Programista front-end

Programista back-end

Specjalista ds. danych

Inżynier danych

Inżynier ds. danych / DevOps

Wyniki

Poprawa opóźnień zapytań i przetwarzania danych o 67%

Nasz zespół opracował dostosowaną platformę analityczną, którą nasi klienci następnie osobiście ocenili poprzez praktyczne testy. Zaowocowało to kilkoma zauważalnymi rezultatami:

Sprawność operacyjna i szybsze podejmowanie świadomych decyzji: Wdrożenie rozproszonego systemu pamięci masowej i obliczeniowego z Azure Databricks, ADLS Gen2 i możliwościami Spark usprawniło rozwiązanie dzięki szybszemu przetwarzaniu danych i skalowalności do obsługi dużych zbiorów danych.
Poprawa opóźnień zapytań i przetwarzania danych o 67%: Utrzymanie niskich opóźnień oznacza krótsze czasy odpowiedzi dla zapytań i przetwarzania danych, co prowadzi do poprawy niezawodności i wydajności platformy.
Zwiększona produktywność zespołu: Zespoły zyskały znaczny wzrost wydajności dzięki szybkiemu dostępowi do plików i zarządzaniu nimi. Dzięki lepszej współpracy i mniejszej ilości pracy administracyjnej, członkowie zespołu mogą bardziej skupić się na swoich podstawowych zadaniach i szybciej realizować projekty.

Ta zaawansowana platforma chatbotowa zapewnia wyjątkową wydajność i podnosi komfort użytkowania poprzez szybkie wydobywanie kluczowych informacji z dokumentów wewnętrznych za pomocą NLP. Zintegrowany z RAG AI dla kontekstowo istotnych odpowiedzi, optymalizuje czas odpowiedzi poprzez buforowanie, wydajność zapytań i przetwarzanie równoległe, zapewniając jednocześnie bezpośredni dostęp do ustrukturyzowanych danych z Data Mart. Funkcje zapytań głosowych i zamiany tekstu na mowę zwiększają dostępność, zaspokajając różnorodne potrzeby użytkowników.

Our client started offering the solution to their customers, and it quickly gained traction with impressive sales figures. The solution’s effectiveness and ease of use have led to high satisfaction rates among their clients, further solidifying its success in the market.

Czas trwania projektu

Październik 2023 r. - luty 2024 r.

67%

szybsze zapytania i przetwarzanie danych

34%

wzrost wydajności zespołów

Podobne projekty

Skontaktuj się z nami!

Zadzwoń lub wypełnij poniższy formularz, a my skontaktujemy się z Tobą po przetworzeniu Twojego zgłoszenia.

Co będzie dalej?

Po otrzymaniu i przetworzeniu Twojego zgłoszenia skontaktujemy się z Tobą wkrótce, aby wyszczególnić potrzeby projektu i podpisać umowę o zachowaniu poufności, aby zapewnić poufność informacji.

Po przeanalizowaniu wymagań, nasi analitycy i programiści opracowują projekt z zakresem prac, wielkością zespołu, czasem i kosztami szacunki.

Umówimy się z Tobą na spotkanie, aby omówić ofertę i dojść do porozumienia porozumienia.

Podpisujemy umowę i rozpoczynamy pracę nad projektem tak szybko, jak to możliwe.