AI odpowiada na maile klientów lepiej niż niejeden pracownik. Problem w tym, że obiecuje im rzeczy, o których dział prawny nigdy nie słyszał.

Twój najlepszy pracownik nigdy nie obiecałby klientowi zwrotu pieniędzy za bilet kupiony trzy miesiące wcześniej, bez żadnej podstawy w regulaminie. Chatbot linii lotniczej to zrobił. Grzecznie, składnie, w tonie, którego uczono go tygodniami. Sąd i tak kazał firmie zapłacić.

To jest sedno tematu, kiedy uczysz AI odpowiadać na maile w imieniu firmy: nauczenie go brzmieć jak Twoja marka zajmuje tydzień pracy. Nauczenie go, żeby nie obiecywał rzeczy, o których dział prawny nigdy nie słyszał, zajmuje resztę wdrożenia. Większość firm kończy po pierwszym tygodniu.

Efekt przypomina zatrudnienie stażysty, który po jednym szkoleniu językowym dostaje hasło do skrzynki firmowej i instrukcję „bądź sobą”. Ton będzie idealny. Nikt nie sprawdził, czy stażysta wie, czego nie wolno obiecywać.

Trening tonu marki dla AI, które odpowiada na maile klientów

Zanim AI napisze jedno zdanie do klienta, potrzebuje materiału: wiadomości, które już wysłałeś, opisy produktów, posty, ton, jakim mówisz o awariach. Bez tego model domyślnie wybiera najbardziej uśrednioną wersję miłego tonu korporacyjnego, czyli brzmi jak dział PR, który boi się powiedzieć cokolwiek konkretnego.

Skuteczny zestaw treningowy to trzy rzeczy: archetyp marki (opiekun, ekspert, kumpel), przykładowe maile z dobrym i złym tonem obok siebie, i lista słów, których nikt u Ciebie nigdy nie użył, na przykład „ekosystem rozwiązań”.

Jedna firma przetestowała asystenta z tonem „radosnym” na mailu od klienta wściekłego z powodu zgubionej paczki. AI odpisało entuzjastycznie, z uśmiechem widocznym w każdym zdaniu. Klient poczuł się, jakby zgłaszał kradzież i dostał w odpowiedzi confetti.

Cały proces trenowania tonu, bez tej konkretnej wpadki z nadmiernym entuzjazmem, opisaliśmy osobno w tekście o uczeniu AI własnego stylu pisania. Ton to jednak dopiero pierwsza połowa tej roboty.

Kiedy grzeczna odpowiedź staje się prawnie wiążącą obietnicą

Mikhail Nilov / Pexels

W listopadzie 2022 roku pasażer Air Canada zapytał chatbota o zniżkę żałobną. Bot wymyślił politykę zwrotów, której firma nigdy nie miała: kup bilet w pełnej cenie, złóż wniosek o zwrot w ciągu 90 dni. Air Canada odmówiła wypłaty, tłumacząc przed sądem, że chatbot jest odrębnym podmiotem prawnym, odpowiedzialnym za własne słowa.

Kanadyjski trybunał się nie zgodził. Sąd orzekł, że firma odpowiada za każde słowo na swojej stronie, niezależnie czy napisał je prawnik, czy model językowy. Air Canada zapłaciła 812,02 dolarów kanadyjskich odszkodowania za zdanie, którego nikt w firmie nie napisał.

Rok później kurier DPD odkrył inny sposób na katastrofę. Klient namówił ich chatbota, żeby przeklął, napisał wiersz o tym, jak beznadziejna jest firma kurierska, i nazwał samego siebie „bezużytecznym botem, który niczego nie potrafi”. DPD wyłączyło asystenta tego samego dnia.

Dwie firmy, dwa różne błędy, jeden wspólny mianownik: nikt nie ograniczył, co model może powiedzieć w imieniu marki, zanim pozwolono mu mówić.

Kto właściwie odpowiada za błąd AI rozkładaliśmy już osobno. W Polsce odpowiedź jest równie niewygodna dla firm jak w Kanadzie.

AI nigdy nie mówi „nie wiem, sprawdzę i oddzwonię”

Twój najlepszy konsultant, kiedy nie jest pewien, mówi: „sprawdzę i oddzwonię”. Model językowy tego zdania praktycznie nie zna. Domyślnie generuje najbardziej prawdopodobny ciąg słów, nie najbardziej prawdziwą odpowiedź, więc kiedy nie wie, zgaduje z tą samą pewnością siebie, z jaką odpowiada na pytania, na które faktycznie zna odpowiedź.

Nazywa się to halucynacją i w mailu do klienta wygląda dokładnie tak samo profesjonalnie jak prawdziwa informacja. Różnica: jedna z tych dwóch odpowiedzi nie istnieje w żadnym dokumencie firmy.

To trochę jak kolega, który na każde pytanie odpowiada bez wahania, nawet jeśli słyszy je pierwszy raz w życiu trzy sekundy wcześniej. Różnica jest taka, że kolegę można zabrać na bok, zanim powie coś głośno. AI wysyła maila, zanim ktokolwiek zdąży go złapać za rękaw.

Kto naciska „wyślij”: warstwa kontroli nad AI

Kampus Production / Pexels

Rozwiązanie nie polega na tym, żeby AI przestało pisać maile. Polega na tym, żeby nikt, ani człowiek, ani model, nie miał jednoosobowej władzy nad przyciskiem wyślij w sprawach, które kosztują pieniądze albo trafiają do sądu.

Podziel maile na trzy kategorie: te, które AI może wysłać samo (status zamówienia, godziny otwarcia, „dziękujemy za kontakt”), te, które pisze, ale czeka na kliknięcie człowieka (reklamacje, zniżki, cokolwiek z liczbą), i te, których w ogóle nie powinno dotykać (spory prawne, dane osobowe osób trzecich, cokolwiek zaczynające się od słowa „pozew”).

Gdyby ktoś w Air Canada kliknął „zatwierdź” na tamtej wiadomości o zniżce żałobnej, przeczytałby zdanie, którego nie ma w żadnym regulaminie, i miałby dziesięć sekund, żeby je zatrzymać. Tyle kosztuje jeden przycisk.

Co zamknąć w instrukcji, zanim AI dostanie dostęp do skrzynki

RDNE Stock project / Pexels

Najskuteczniejsze ograniczenie jest najprostsze: AI odpowiada wyłącznie na podstawie dokumentów, które mu podałeś, regulaminu, cennika, polityki zwrotów, a nie z ogólnej wiedzy o świecie. Jeśli odpowiedzi nie ma w tych dokumentach, instrukcja musi brzmieć: przekaż do człowieka, nie zgaduj.

Zła instrukcja: „odpowiadaj pomocnie i w tonie marki”. Dobra instrukcja: „odpowiadaj w tonie marki, nigdy nie obiecuj zwrotu pieniędzy, zniżki ani terminu bez zatwierdzenia człowieka, a jeśli klient pyta o coś spoza listy tematów, napisz, że sprawę przekazujesz do zespołu”.

Różnica między tymi dwoma zdaniami to różnica między asystentem a pełnomocnikiem, któremu nikt nie dał pełnomocnictwa.

Testuj instrukcję na starych, trudnych mailach, zanim wypuścisz ją na żywych klientach. Klient wściekły z powodu zgubionej paczki to nie jest dobry moment na pierwszy test.

Obowiązek, o którym łatwo zapomnieć: klient musi wiedzieć, że pisze do niego AI

Od 2 sierpnia 2026 roku firmy w Polsce mają obowiązek informować klienta, że rozmawia z AI, najpóźniej przy pierwszej interakcji. Kara za zignorowanie tego to do 15 milionów euro albo 3% globalnego przychodu, w zależności które jest wyższe, czyli dokładnie ten typ liczby, który sprawia, że dział prawny czyta cały akapit trzy razy.

Wcześniej pisaliśmy, kiedy dokładnie trzeba to ujawnić i jak to zrobić bez brzmienia jak automatyczna sekretarka. Zasada jest prosta: jedno zdanie na start rozmowy kosztuje mniej niż dowolna kara.

Przepis wprost zabrania udawania konsultanta. AI, które podpisuje się imieniem prawdziwego pracownika i nigdzie nie zaznacza, że jest botem, łamie prawo, nawet jeśli ma idealny ton.

Ukrywanie AI pod ludzkim podpisem nie jest sprytne. To strategia, która działa dokładnie do pierwszego zrzutu ekranu wrzuconego na Twitterze.

Kiedy nie wdrażać AI do maili z klientami

Nie każda firma powinna to robić teraz. Jeśli masz 15 maili dziennie i każdy wymaga negocjacji warunków kontraktu, AI nie przyspieszy niczego. Doda tylko etap sprawdzania, którego wcześniej nie było.

Nie wdrażaj tego też, jeśli nikt w firmie nie ma czasu przejrzeć pierwszych stu odpowiedzi. AI bez nadzoru w pierwszych tygodniach to nie automatyzacja. To hazard, w którym stawką jest ton marki.

Wdrożenie systemu z prawdziwymi ograniczeniami, testami na trudnych mailach i warstwą zatwierdzania zajmuje więcej niż jedno popołudnie z promptem wklejonym do ChatGPT. Jeśli ktoś oferuje to szybciej, sprawdź, czy te ograniczenia w ogóle istnieją, czy tylko ton.