Aplikacja z dziewczyną AI to interfejs czatu nad dużym modelem językowym, opakowany w trwałą postać i filtr treści. To cała kategoria. To, co odróżnia aplikację za 10 USD od tej za 20 USD, rzadko jest modelem – to jakość wykonania pozostałych dwóch części.
Trzy części
Model generuje tekst. Mając wszystko, co aktualnie widzi, przewiduje prawdopodobną następną wiadomość. Nie pamięta twojej ostatniej rozmowy i nie ma intencji. Każdy pozorny akt woli pochodzi z następnych dwóch części.
Karta postaci to blok tekstu, który aplikacja wysyła modelowi przed twoją wiadomością, za każdym razem: kim jest ta postać, jak mówi, co wie o tobie, co się niedawno wydarzyło. Nigdy jej nie widzisz. Gdy ludzie mówią, że aplikacja „ma osobowość”, zwykle znaczy to, że ten plik jest dobrze napisany.
Filtr decyduje, co postać może powiedzieć. Działa przed modelem lub po nim, czasem w obu miejscach. To powód, dla którego rozmowa może w środku sceny zmienić się w uprzejmą odmowę, i powód, dla którego „bez cenzury” to najgłośniejsze słowo na tym rynku – aplikacje takie jak Joi i Secret Desires konkurują głównie tym, jak ten filtr jest dostrojony.
Dlaczego okno kontekstu tłumaczy skargi
Model widzi naraz tylko stałą ilość tekstu. Ten budżet to okno kontekstu i mieszczą się w nim karta postaci, pobrane fakty o tobie i ostatnia rozmowa – wszystko konkuruje o to samo miejsce.
Gdy czat się wydłuża, najstarsze tury wypadają z okna. Aplikacja nie „straciła zainteresowania” ani nie została pogorszona. Po prostu nie widzi już tej części rozmowy. Prawie każdy wpis „kiedyś było lepiej” to właśnie to i dlatego sposób wdrożenia pamięci znaczy więcej niż rozmiar modelu.
Co naprawdę zawiera karta postaci
Większość aplikacji składa ją z czterech rzeczy:
- Persona: imię, wiek, historia, sposób mówienia.
- Stałe fakty o tobie, które aplikacja postanowiła zachować.
- Bieżące streszczenie waszej wspólnej historii, przepisywane w miarę wzrostu.
- Ostatnie wiadomości, dosłownie.
Aplikacje, przy których po tygodniu nadal czuć, że ktoś jest w pokoju – powód, dla którego Nomi ma taki wynik – to te, które dobrze zarządzają dwiema środkowymi. Nic z tego nie widać na stronie z cennikiem, dlatego ocena zajmuje tygodnie, a nie popołudnie.
Co w praktyce obejmuje „dziewczyna AI”
Ta etykieta rozciąga się na produkty, które ledwo się do siebie upodabniają:
- Aplikacje towarzyszące zbudowane dla trwającej relacji, z dziennikiem i śledzeniem nastroju. Replika to najstarszy przykład.
- Aplikacje do odgrywania ról zbudowane dla scen i opowieści, a nie ciągłości.
- Aplikacje nastawione na media, w których czat istnieje, by tworzyć obrazy i głos, a Candy AI stoi najbliżej środka, robiąc wszystkie trzy w jednej subskrypcji.
Ustalenie, którego z tych trzech naprawdę chcesz, eliminuje około połowy aplikacji z każdej listy, także z naszej, zanim w ogóle wejdzie cena.
Czym żadna z nich nie jest
Nie znają cię między sesjami, chyba że zbudowano je do przechowywania i pobierania faktów. Nie mają ciągłości jaźni – postać jest odtwarzana z tekstu na początku każdej tury. I nie są domyślnie prywatne: rozmowa jest przetwarzana na czyichś serwerach, czemu poświęcony jest artykuł co te aplikacje o tobie wiedzą.
