Chatbot AI do dokumentów dla ProjektMagazin.de
Stworzyliśmy dla ProjektMagazin chatbota opartego na sztucznej inteligencji, który zamienia minuty ręcznego wyszukiwania w sekundy inteligentnej rozmowy, zapewniając użytkownikom natychmiastowy dostęp do tysięcy materiałów z zakresu zarządzania projektami.
O ProjektMagazin
Co stworzyliśmy
1. Inteligentny system klasyfikacji pytań
Wdrożyliśmy mechanizm analizy zapytań, który automatycznie rozpoznaje typ pytania i wybiera optymalną ścieżkę przetwarzania.
- Kiedy użytkownicy zadają proste pytania konwersacyjne, takie jak „Dlaczego tu jesteś?” lub „Co potrafisz zrobić?”, nasz system rozpoznaje je jako zapytania ogólne i kieruje je bezpośrednio do lekkiego generatora odpowiedzi.
- W przypadku pytań dotyczących konkretnych dokumentów system uruchamia pełną procedurę wyszukiwania.
Ta inteligentna klasyfikacja pomaga obniżyć koszty API, zapobiegając niepotrzebnym przeszukiwaniom bazy danych z dokumentami w przypadku pytań, które tego nie wymagają.
Rezultat:
Szybsze odpowiedzi i przewidywalne koszty operacyjne nawet przy rosnącej liczbie zapytań.
2. Zaawansowane indeksowanie dokumentów z bogatymi metadanymi
Zespół Droptica stworzył kompleksowy system indeksowania, który łączy się bezpośrednio z bazą danych ProjektMagazin na Drupalu poprzez interfejsy API JSON. W przeciwieństwie do prostego wyodrębniania tekstu, nasz system przechwytuje bogate metadane z każdego dokumentu:
- Przypisanie kategorii i taksonomii w celu precyzyjnego filtrowania.
- Informacje o autorze i identyfikatory służące do przypisania źródła.
- Właściwości niestandardowe specyficzne dla struktury treści ProjektMagazin.
To podejście pozwala chatbotowi nie tylko udzielać dokładnych odpowiedzi, ale także zapewniać odpowiedni kontekst i wskazywać źródło. Użytkownicy mogą dokładnie zobaczyć, z jakich dokumentów i kategorii pochodzą odpowiedzi, co buduje zaufanie i przejrzystość.
Rezultat:
Zaprojektowaliśmy architekturę indeksowania tak, aby była w pełni rozszerzalna. Klient może łatwo dodawać nowe typy treści, np. artykuły, terminy taksonomii lub zupełnie nowe typy encji, bez konieczności wprowadzania zmian w całym systemie. Każdy typ treści ma swój dedykowany punkt końcowy i potok indeksowania, co sprawia, że rozbudowa jest prosta i łatwa w utrzymaniu.
3. Dwuetapowa ocena dokumentów o najwyższej dokładności
Wdrożyliśmy innowacyjny dwuetapowy proces wyszukiwania, który znacznie poprawia jakość odpowiedzi:
- Etap 1: Szerokie wyszukiwanie
Nasze wyszukiwanie wektorowe pobiera około 20 fragmentów dokumentów, które mogą zawierać istotne informacje.
- Etap 2: Ocena z wykorzystaniem LLM
Każdy wybrany fragment jest analizowany przez model językowy (LLM) pod kątem faktycznej trafności względem pytania użytkownika. System ocenia wszystkie fragmenty i wybiera 12 najbardziej adekwatnych, na podstawie których generowana jest odpowiedź.
Rezultat:
Takie podejście gwarantuje, że użytkownicy otrzymują odpowiedzi oparte na naprawdę istotnych treściach, a nie tylko na tekstach podobnych pod względem semantycznym. Klient odnotował znaczną poprawę dokładności odpowiedzi i zadowolenia użytkowników po wdrożeniu systemu oceny dokumentów.
6. Wbudowane zabezpieczenia chatbota AI do obsługi dokumentów
Wdrożyliśmy solidną ochronę przed wstrzyknięciem poleceń, aby chronić przed złośliwymi próbami manipulowania chatbotem. Nasze środki bezpieczeństwa obejmują:
- Weryfikację danych wejściowych w celu wykrywania i blokowania prób wstrzyknięcia.
- Izolację systemowych komunikatów, aby zapobiec nieautoryzowanym zmianom instrukcji.
- Filtrowanie odpowiedzi w celu zapewnienia, że wyniki pozostają w dopuszczalnych granicach.
- Ciągłe monitorowanie w celu identyfikacji nowych wzorców ataków.
Rezultat:
Testy potwierdziły, że wdrożone środki bezpieczeństwa skutecznie blokowały typowe próby wstrzyknięcia poleceń i zapewniały, że odpowiedzi chatbota pozostawały w zakładanych granicach.
Standardowe narzędzia do monitorowania i ulepszania
Zbudowaliśmy chatbota przy użyciu standardowych narzędzi i frameworków, które zapewniają solidne możliwości monitorowania oraz elastyczność w zakresie ciągłego doskonalenia. Takie podejście zapewniło nam:
- Pełną obserwowalność dzięki LangSmith do śledzenia wszystkich interakcji LLM i kosztów.
- Zbieranie opinii użytkowników wbudowane bezpośrednio w interfejs w celu gromadzenia ocen jakości odpowiedzi chatbota.
- Elastyczną architekturę umożliwiającą łatwą integrację nowych funkcji i możliwości.
- Monitorowanie na poziomie produkcyjnym w celu identyfikacji problemów i możliwości optymalizacji.
- Niezależność od frameworków, umożliwiającą nam dostosowywanie i rozwijanie systemu wraz z postępem technologii AI.
Rezultat:
Ta infrastruktura narzędziowa zapewnia ciągłe monitorowanie, ulepszanie i dostosowywanie chatbota do nowych najlepszych praktyk bez uzależnienia od jakiejkolwiek zastrzeżonej platformy. Informacje zwrotne od użytkowników dotyczące jakości odpowiedzi dostarczają cennych wskazówek do ciągłego udoskonalania systemu.
Wpływ na biznes i usprawnienia operacyjne
Klient odnotował wysoki poziom satysfakcji użytkowników i już zidentyfikował ulepszenia wizualnego interfejsu jako kolejny etap usprawnień. Jest to wyraźny sygnał, że podstawowa funkcjonalność spełnia wszystkie jego potrzeby.
Wybór technologii
Wybraliśmy nasz zestaw technologii w oparciu o niezawodność produkcji, skalowalność i łatwość długoterminowego utrzymania.
Przeczytaj więcej o technicznych aspektach projektu na naszym blogu
W naszych artykułach opisujemy m.in., jak zadbaliśmy o aktualność wiedzy chatbota AI, jak dobieraliśmy narzędzia i frameworki do stworzenia stabilnego pipeline’u RAG oraz jakie techniki wykorzystaliśmy, aby skrócić czas odpowiedzi i zwiększyć precyzję generowanych rezultatów.
