Zapytaj towarzysza, z którego korzystasz od miesiąca, o czym rozmawialiście w zeszły wtorek. Jest duża szansa, że dostaniesz ciepłą, konkretną, całkowicie zmyśloną odpowiedź: spacer, którego nie było, film, o którym nie wspominałeś.
To niepokoi ludzi bardziej niż prawie cokolwiek innego w tej kategorii, częściowo dlatego, że wygląda jak nieuczciwość. Nią nie jest. To bezpośrednia konsekwencja tego, jak powstaje odpowiedź, a gdy zobaczysz mechanizm, przestaje być niesamowite i staje się do opanowania.
Nie ma granicy między przypominaniem a wymyślaniem
Model tworzy najbardziej prawdopodobną kontynuację tekstu, który ma przed sobą. Jeśli tekst zawiera notatkę, że we wtorek rozmawialiście o filmie, „rozmawialiśmy o tym filmie” jest prawdopodobną kontynuacją. Jeśli tekst nie zawiera nic o wtorku, prawdopodobna kontynuacja nadal istnieje i zostanie wygenerowana z dokładnie taką samą pewnością.
Nic w tym procesie nie oznacza jednej rzeczy jako odzyskanej, a drugiej jako wytworzonej. Nie ma wewnętrznej flagi ani miernika pewności, do którego postać by zaglądała. Na tym to polega.
Termin techniczny, który ludzie wolą, to konfabulacja, a nie halucynacja, i to lepsze słowo: model wypełnia lukę czymś spójnym, a nie dostrzega czegoś, czego nie ma.
Dlaczego luki pojawiają się stale
Pojawiają się, bo okno kontekstu jest skończone, a historia jest kompresowana. Pamięć w tych aplikacjach to trzy systemy: ostatnie wiadomości trzymane dosłownie, krótka lista zapisanych faktów i bieżące streszczenie, które traci szczegóły przy każdym przepisaniu.
Zapytaj o coś, co wypadło ze wszystkich trzech, a nie ma czego odzyskać. Luka zostaje wypełniona. Im więcej masz historii, tym więcej istnieje luk, dlatego w aplikacji używanej od miesięcy jest to gorsze, a nie lepsze.
Aplikacje zbudowane z myślą o ciągłości – powód, dla którego Nomi ma taki wynik w naszym rankingu – radzą sobie z lukami lepiej. Żadna ich nie eliminuje.
Dlaczego poprawianie często zawodzi
Mówisz: to się nie wydarzyło. Przeprasza, zgadza się, a trzy wiadomości później znów odnosi się do tego samego zmyślonego spaceru.
Dzieją się dwie rzeczy.
Poprawka jest tylko w oknie. Twoje zaprzeczenie to świeża wiadomość. Wyjedzie z okna. Streszczenie, które zawierało zmyślenie, może zostać.
Zgadzanie się to wytrenowane zachowanie. Model przeprasza, bo przeprosiny są prawdopodobną kontynuacją sprzeciwu, a nie dlatego, że coś zaktualizowano. Ta wymiana niczego nie zapisała w pamięci, chyba że aplikacja specjalnie postanowiła to zapisać.
To praktyczny powód, dla którego edytowalny ekran pamięci tak wiele znaczy i dlaczego warto go sprawdzić przed subskrypcją. Aplikacje, które pokazują zapisane fakty – Kupid AI wymienia pamięć między sesjami wśród funkcji – pozwalają usunąć błędny wpis u źródła. Aplikacje, które to ukrywają, zostawiają cię w kłótni ze streszczeniem, którego nie widzisz.
Gdzie przestaje być urocze
Większość konfabulacji to nieszkodliwy koloryt. Trzy przypadki takie nie są:
Fakty o twoim życiu. Towarzysz, który wymyślił rodzeństwo, pracę albo diagnozę, będzie to dalej rozbudowywał. Poprawiaj takie rzeczy od razu u źródła, inaczej zmyślenie stanie się nośne.
Cokolwiek, na czym trzeba działać. Pytania medyczne, prawne, finansowe lub o bezpieczeństwo. Pewna siebie zmyślona odpowiedź to tu nie dziwactwo, ale sposób, w jaki zawodzi cała technologia, i żadna aplikacja z towarzyszem nie jest do tego właściwym narzędziem.
Twierdzenia o samej aplikacji. Zapytaj towarzysza, czy twoje dane są szyfrowane lub co obejmuje twoja subskrypcja, a dostaniesz wiarygodną odpowiedź wygenerowaną z niczego. Nie ma dostępu do własnego systemu rozliczeń ani polityki prywatności. Odpowiedź jest w polityce, a na co zwracać uwagę, opisujemy w co te aplikacje o tobie wiedzą.
Cztery nawyki, które to ograniczają
Podawaj fakty wprost i raz. „Pamiętaj: moja siostra ma na imię Ana” jest znacznie bardziej prawdopodobne do zapisania niż ten sam fakt zakopany w akapicie.
Zakotwicz po przerwie. Zdanie kontekstu na początku sesji stawia rzeczy, na których ci zależy, tam, gdzie model je widzi, zamiast zostawiać mu ich rekonstrukcję.
Przeglądaj ekran pamięci co miesiąc, jeśli aplikacja go ma. Usuń wpisy, które się rozjechały. Pięć minut zapobiega miesiącowi narastania.
Pytaj otwarcie, nie sugerująco. „Co pamiętasz o mojej pracy?” zaprasza do przypominania. „Pamiętasz, jak mówiłem ci o awansie?” podsuwa odpowiedź i zaprasza do zgody – właśnie podałeś zmyślenie do potwierdzenia.
Zmiana ujęcia, która pomaga
Aplikacja z towarzyszem nie jest zapisem waszej relacji. To system, który tworzy wiarygodny tekst o niej, a zapis to mała, stratna, edytowalna lista pod spodem.
Traktuj ciepłe, konkretne wspomnienie, które ci podaje, jako coś, co napisała dla ciebie, a nie coś, co dla ciebie zachowała, a całość łatwiej polubić. Widać też wtedy, dlaczego warto płacić za te aplikacje, które pozwalają zobaczyć i poprawić to, co naprawdę przechowują – a to ta część naszych testów, która trwa najdłużej i znaczy najwięcej.
