Dlaczego asystent AI powinien podawać źródło odpowiedzi?
Asystent AI powinien podawać źródło, bo odpowiedź bez źródła jest nie do sprawdzenia. Pracownik nie wie, czy model oparł się na aktualnej procedurze, czy zgadł, a błąd wychodzi dopiero wtedy, gdy trafi do klienta. Źródło zamienia odpowiedź w coś, co da się zweryfikować w kilkanaście sekund.
Co się psuje, gdy AI nie podaje źródła?
Gdy AI nie podaje źródła, odpowiedzialność przenosi się na osobę, która nie ma czym jej udźwignąć. Pracownik dostaje zdanie brzmiące pewnie, nie zna dokumentu, z którego rzekomo pochodzi, i albo sprawdza wszystko od nowa, albo ufa na słowo. Oba warianty kasują zysk z wdrożenia AI.
| Sytuacja | Bez źródła | Ze źródłem |
|---|---|---|
| Odpowiedź jest poprawna | Nikt tego nie wie | Widać dokument i wersję |
| Odpowiedź jest przestarzała | Wychodzi u klienta | Widać datę aktualizacji |
| Procedury nie ma | Model dopowiada | Odmowa i sygnał braku |
| Spór o ustalenia | Słowo przeciw słowu | Cytat z zapisanego dokumentu |
| Audyt albo kontrola | Nie da się wykazać podstawy | Podstawa jest wskazana |
Czy źródło usuwa ryzyko halucynacji?
Źródło nie usuwa halucynacji, ale skraca drogę do wykrycia błędu. Model może źle streścić dobrze dobrany dokument. Różnica polega na tym, że przy widocznym źródle sprawdzenie polega na otwarciu jednego dokumentu, a nie na przeszukiwaniu całego dysku firmy.
- Źródło pokazuje, czy model odpowiadał z właściwego dokumentu, czy z podobnie brzmiącego.
- Data przy źródle mówi, czy podstawa jest jeszcze aktualna.
- Brak źródła przy odpowiedzi jest sam w sobie informacją: temat nie jest opisany.
- Powtarzające się odwołania do jednego dokumentu pokazują, co w firmie jest naprawdę używane.
Jest jeszcze efekt uboczny, którego nikt nie planuje: lista źródeł staje się mapą tego, czego firma nie opisała. Jeśli przez miesiąc połowa pytań kończy się odmową odpowiedzi, to nie jest wada asystenta, tylko rachunek za dokumentację. Odmowa jest przy tym tańsza niż zmyślona odpowiedź wysłana klientowi, bo kosztuje jedno pytanie do kolegi zamiast reklamacji.
Jak sprawdzić odpowiedź AI, zanim pójdzie dalej?
Odpowiedź AI sprawdza się w czterech krokach, które razem zajmują mniej niż minutę: poziom pewności, tytuł źródła, zdanie w źródle i data. Ten nawyk warto wpisać do zasad korzystania z AI jako warunek wysłania odpowiedzi klientowi albo kontrahentowi.
- 1
Spójrz na pewność
Niska pewność albo pusta lista źródeł oznacza, że odpowiedzi nie ma na czym oprzeć. Nie wysyłaj jej dalej.
- 2
Przeczytaj tytuł źródła
Czy to dokument o tym temacie, czy tylko podobnie nazwany. Procedura reklamacji ilościowej to nie procedura reklamacji jakościowej.
- 3
Znajdź zdanie w źródle
Otwórz dokument i odszukaj liczbę, termin albo warunek z odpowiedzi. Jeśli ich tam nie ma, model dopowiedział.
- 4
Sprawdź, czy źródło obowiązuje
Data aktualizacji i status dokumentu. Odpowiedź z wycofanej procedury jest wierna i błędna jednocześnie.
Jak źródła wiążą się z uprawnieniami?
Źródła asystenta trzeba traktować jak osobny zakres dostępu, bo asystent odpowiada z tego, co mu wskazano. Wrażliwej treści, której nie powinien zobaczyć każdy pytający, nie wskazuje się jako źródła. To decyzja administratora, a nie ustawienie modelu.
- 1
Wypisz, co wchodzi do zbioru
Lista dokumentów, nie folderów. Przy każdym: właściciel i powód, dla którego jest w zbiorze.
- 2
Odetnij treści wrażliwe
Wynagrodzenia, dane kadrowe, warunki handlowe konkretnych klientów, materiały objęte tajemnicą przedsiębiorstwa.
- 3
Ustal, kto ma dostęp do asystenta
Dostęp do narzędzia jest uprawnieniem jak każde inne i nadaje się go rolom, nie osobom z przypadku.
- 4
Zapisz to w zasadach korzystania z AI
Jedna strona: co wolno pytać, czego nie wolno wklejać, kto odpowiada za treść odpowiedzi wysłanej dalej.
Informacja objęta tajemnicą przedsiębiorstwa jest chroniona tylko wtedy, gdy uprawniony przy zachowaniu należytej staranności podjął działania w celu utrzymania jej w poufności (art. 11 ust. 2 ustawy o zwalczaniu nieuczciwej konkurencji). Świadomy dobór źródeł dla asystenta jest jednym z takich działań. To informacja ogólna: w konkretnej sprawie o ochronę tajemnicy przedsiębiorstwa warto zapytać prawnika.
Jak to wygląda w EXCORE?
W EXCORE pod każdą odpowiedzią asystenta wiedzy stoją źródła ze wskazaniem konkretnego fragmentu dokumentu, z którego powstała, oraz poziom pewności. Wysoka pewność oznacza mocne dopasowanie najlepszego fragmentu, średnia, że trafny jest choć jeden, niska, że nie ma żadnego. Przy braku potwierdzenia asystent odmawia odpowiedzi zamiast zgadywać.
- Źródła wybiera administrator w ustawieniach AI. Dopóki nic nie zaznaczy, asystent odpowiada, że nie znalazł potwierdzenia.
- Do zbioru wchodzą opublikowane procedury, artykuły bazy wiedzy, szkolenia i onboarding oraz pliki z modułu Dokumenty. Szkiców asystent nie widzi.
- Asystent odpowiada tylko z treści, do których pytający ma uprawnienia. Procedura działu, do którego ktoś nie ma dostępu, nie trafi do jego odpowiedzi ani na listę źródeł.
- Przy odpowiedzi są przyciski oceny. „Nie” z komentarzem zostaje zapisane i pokazuje, gdzie źródła są słabe.
- Każdy widzi tylko swoje rozmowy z asystentem, a administrator ma w kokpicie AI historię wywołań: kto, kiedy, w której funkcji i z jakim skutkiem.
Kliknięcie źródła prowadzi do fragmentu, z którego powstała odpowiedź, więc trzeci krok sprawdzenia zajmuje chwilę. Znacznik AI stoi przy każdym miejscu, w którym pracuje model, a wynik AI jest propozycją do sprawdzenia, nie decyzją. Lista oczekujących na wdrożenie jest otwarta.
Pytania
Co zrobić, gdy AI poda źródło, które nie potwierdza odpowiedzi?
Zgłosić odpowiedź jako niepomocną i poprawić dokument. Najczęstsza przyczyna to dwa dokumenty o tym samym temacie albo procedura, która opisuje wyjątek dokładniej niż regułę.
Czy pracownik zobaczy przez AI treść, do której nie ma dostępu?
W EXCORE nie. Asystent odpowiada tylko z treści, do których pytający ma uprawnienia, więc źródło spoza jego zakresu nie trafia ani do odpowiedzi, ani na listę źródeł. Dostęp do samego asystenta też nadaje się rolom.
Czy źródło spowalnia pracę?
Nie, bo odpowiedź i tak trzeba sprawdzić przed wysłaniem jej klientowi. Ze źródłem sprawdzenie to jedno kliknięcie, bez źródła oznacza szukanie dokumentu od zera.
Czy model uczy się na naszych pytaniach?
W EXCORE nie. Dane klienta i zapytania nie są używane do trenowania modeli, a każde wywołanie jest zapisane w historii z funkcją, osobą, dostawcą modelu i datą.
Źródła
EXCORE jest otwierany dla pierwszych firm.
Zobaczmy, czy pasuje do Twojej organizacji. Zostaw kontakt, a umówimy prezentację.
Umów prezentację