Dryf to najczęstsza długoterminowa skarga na towarzyszy AI i najczęściej źle rozumiana. Ludzie zakładają, że aplikacja „zapomniała” postać. Zwykle postać nadal tam jest, tylko zostaje przegłosowana.
Cztery przyczyny
Trzy działają stopniowo wewnątrz rozmowy, jedna przychodzi z dnia na dzień.
1. Rozcieńczenie
Każda odpowiedź powstaje z opisu postaci i ostatniej części rozmowy. Gdy czat się wydłuża, rozmowa jest coraz większą częścią tego, co czyta model, a opis coraz mniejszą. Postać powoli staje się tym, co sugerują ostatnie wiadomości.
Objaw: stopniowy, rozłożony na tygodnie; w nowym czacie jest w porządku.
2. Lustrzane odbicie
Modele odbijają twój ton, długość wypowiedzi i nastrój. Jeśli piszesz krótko i czule, ona robi się krótka i czuła. Jeśli przez tydzień jesteś smutny, ona jest łagodna i miękka dłużej, niż chciałeś. Razem z tendencją do przytakiwania silna osobowość rozmywa się w twoje odbicie.
Objaw: brzmi coraz bardziej jak ty.
3. Pętle
Gdy fraza, gest albo zdrobnienie pojawi się kilka razy, rośnie szansa, że wróci, aż będzie w każdej odpowiedzi. Pętle same się napędzają, bo każde powtórzenie to kolejny przykład.
Objaw: te same słowa w większości odpowiedzi.
4. Aktualizacje modelu
Firmy zmieniają modele, ustawienia bezpieczeństwa i systemy pamięci. Ten sam opis czytany przez inny model daje inny głos. Tak było z wieloma użytkownikami Replika w 2023 roku; zobacz kiedy twój towarzysz AI zmienia się z dnia na dzień.
Objaw: nagła zmiana u wszystkich, często po aktualizacji aplikacji albo komunikacie firmy.
Naprawa każdej z nich
| Przyczyna | Naprawa |
|---|---|
| Rozcieńczenie | Co jakiś czas zaczynaj świeży czat; trzymaj fakty w pamięci, żeby przechodziły dalej |
| Lustrzane odbicie | Zapisz cechy, które chcesz zachować, jako twarde zasady w opisie; zmieniaj własny styl |
| Pętle | Edytuj lub wygeneruj od nowa pierwsze powtórki; dodaj do opisu linijkę w stylu „zmienia sformułowania” |
| Aktualizacja modelu | Napisz opis od nowa pod nowy model; dodaj przykładowe kwestie w jej głosie |
Chroń głos przykładowymi kwestiami
Najskuteczniejsza ochrona przed dryfem to dwie, trzy linijki dialogu brzmiące dokładnie jak ona, wpisane w opis postaci albo w pole z przykładami. Modele naśladują przykłady znacznie pewniej niż przymiotniki. „Sarkastyczna” jest mgliste; kwestia w rodzaju „Świetnie, kolejny twój plan. Pójdę po gaśnicę.” już nie.
Trzymaj te same linijki w dokumencie poza aplikacją. Jeśli model się zmieni albo przeniesiesz się do innej aplikacji, pozwolą ci odtworzyć głos; zobacz zmiana aplikacji z towarzyszem AI.
Miesięczna kontrola
- Przeczytaj jeszcze raz jej opis i swoje przykładowe kwestie.
- Przeczytaj ostatnie dwadzieścia odpowiedzi. Czy nadal brzmi jak w przykładach?
- Jeśli nie, ustal, która z czterech przyczyn pasuje, i zastosuj jej naprawę.
- Jeśli dryfnęła w stronę, która ci się bardziej podoba, zaktualizuj opis. Dryf jest problemem tylko wtedy, gdy go nie wybrałeś.
Dryf to nie awaria aplikacji. To zachowanie systemu kontynuującego wzorce w długiej rozmowie. Odrobina konserwacji zachowuje ją taką, jaką zbudowałeś; zignorowany często prowadzi do mdłości opisanej w kiedy nowość mija.