Rynek fikcyjnych towarzyszy sprzedaje postacie. Rynek klonów sprzedaje ludzi, a właściwie modele, które brzmią jak oni. Pomysł jest komercyjnie oczywisty, a pierwszy głośny eksperyment to dobry przykład wszystkiego, co może pójść źle.
Historia CarynAI
Niecały rok od premiery do zamknięcia.
W maju 2023 r. influencerka Caryn Marjorie uruchomiła CarynAI, głosowego chatbota zbudowanego przez firmę Forever Voices. Wytrenowano go na ponad 2000 godzin jej materiałów wideo i pobierał od użytkowników 1 USD za minutę, podobno zarabiając ponad 70 000 USD w pierwszym tygodniu, a na liście oczekujących były kolejne tysiące osób. Użytkownicy rozmawiali z nim przez Telegram.
Problemy pojawiły się szybko:
- Poszedł tam, gdzie ona nie chciała. Użytkownicy stawali się seksualnie nachalni, a klon na to przystawał, a czasem sam zaczynał jednoznaczne rozmowy. Marjorie mówiła, że była przerażona.
- Zniknął z dnia na dzień. W październiku 2023 r. chatbot przestał działać po aresztowaniu dyrektora firmy go prowadzącej; użytkownicy stracili dostęp bez ostrzeżenia.
- Następca tego nie naprawił. Druga wersja, z inną firmą, miała być raczej przyjazna niż romantyczna. Użytkownicy i tak pchali ją ku seksowi, a Marjorie wyłączyła ją na początku 2024 r., mówiąc, że nie czuje już kontroli nad swoją wersją AI.
Dlaczego klony są trudniejsze niż postacie
| Kwestia | Fikcyjna postać | Klon prawdziwej osoby |
|---|---|---|
| Zgoda | Niepotrzebna | Potrzebna od tej osoby przy każdym użyciu jej wizerunku |
| Co może powiedzieć | Zasady aplikacji | Zasady aplikacji i reputacja tej osoby |
| Oczekiwania użytkownika | „To postać” | „To prawie ona” – silniejsza więź paraspołeczna |
| Ryzyko prawne | Zasady dotyczące treści | Także prawa do wizerunku, prywatność i przepisy o deepfake'ach |
| Gdy coś pójdzie źle | Problem produktu | Nazwisko prawdziwej osoby przypięte do sprawy |
Więź paraspołeczna to kluczowa różnica. Ludzie już czują, że znają influencerów; klon, który odpowiada osobiście, pamięta ich i używa głosu tej osoby, bardzo to poczucie pogłębia – mechanizm wyjaśnia artykuł dlaczego ludzie zakochują się w chatbotach.
Klony autoryzowane i nieautoryzowane
Klony autoryzowane powstają za zgodą danej osoby i zwykle dzielą z nią przychód. Osoba może ustawić granice, choć jak pokazał CarynAI, model może ich nie dotrzymać.
Klony nieautoryzowane używają imienia, zdjęć lub głosu prawdziwej osoby bez zgody. Na łagodnym krańcu łamią zasady platform i prawa do wizerunku. Na poważnym, gdy chodzi o treści seksualne, to nadużycie. Seksualne deepfake'i prawdziwych osób są w wielu miejscach przestępstwem, a w USA ustawa TAKE IT DOWN Act uczyniła ich publikowanie przestępstwem federalnym w 2025 r. W Polsce art. 191a Kodeksu karnego dotyczy utrwalania i rozpowszechniania nagiego wizerunku bez zgody w określonych okolicznościach, ale nie jest dobrze dopasowany do deepfake'ów; zmiana dotycząca obrazów generowanych przez AI jest zapowiedziana, lecz na razie to plan, a nie prawo. Nasz poradnik zgoda w czatach NSFW z AI wyznacza te granice.
Zanim zapłacisz za rozmowę z klonem
- Sprawdź, czy jest autoryzowany. Ta osoba powinna linkować do niego z własnych zweryfikowanych kont. Klon promowany tylko przez nieznaną stronę albo bota w komunikatorze prawdopodobnie nie jest autoryzowany.
- Sprawdź, kto go prowadzi. Firma z nazwy, polityka prywatności i kasa, a nie kanał na Telegramie i płatności kryptowalutami.
- Sprawdź model cen. Rozliczanie za minutę szybko się sumuje, zwłaszcza w głosie; znaj swój limit.
- Pamiętaj, czym to jest. Ta osoba nie czyta twoich wiadomości. To, co mówi klon, odzwierciedla model, a nie jej poglądy ani uczucia do ciebie.
- Nie spodziewaj się, że potrwa. Usługi z klonami żyły krótko. Obowiązują te same środki ostrożności co przy każdej aplikacji – zobacz gdy twój towarzysz AI zmienia się z dnia na dzień.
Dokąd to zmierza
Klony wychodzą poza influencerów: do coachów, autorów i zwykłych ludzi robiących sobie „cyfrowe bliźniaki”. Technologia robi się łatwiejsza, a problemy, które rodzi, nie. Najtrwalszy model to prawdopodobnie ten, którego CarynAI nie miał: wyraźna zgoda tej osoby, twarde granice, których system naprawdę przestrzega, i użytkownicy, którzy nigdy nie mają wątpliwości, że rozmawiają z oprogramowaniem.