Elias Thorne, „duch” AI. Dlaczego chatboty wciąż piszą o tym samym bohaterze?

Nowe analizy pokazują, że chatboty i modele językowe często powtarzają te same motywy narracyjne, a jednym z najbardziej charakterystycznych przykładów stał się fikcyjny „Elias Thorne”: latarnik, który regularnie pojawia się w generowanych historiach mimo braku rzeczywistego źródła.

Ciekawy przypadek Eliasa Thorne’a

Badacze zwracają uwagę, że przy prostych poleceniach tworzenia opowieści modele językowe często sięgają po podobne schematy fabularne i zestawy postaci. W wielu przypadkach pojawia się motyw samotnej pracy w odizolowanym miejscu, a także postać Eliasa Thorne’a, najczęściej przedstawianego jako latarnik, bibliotekarz lub strażnik.

Zjawisko to ma wynikać ze sposobu, w jaki modele uczą się języka, czyli na podstawie ogromnych zbiorów tekstów, w których pewne wzorce narracyjne są szczególnie częste i „bezpieczne” dla generowania nowych treści. W efekcie AI nie tyle tworzy całkowicie nowe historie, co składa je z powtarzających się elementów.

Dlaczego AI wraca do tych samych historii?

Przypadek Eliasa Thorne'a stał się symbolem szerszego problemu. Chatboty potrafią produkować teksty pozornie twórcze, ale często oparte na tych samych schematach. Dla użytkownika może to wyglądać jak ciekawa fikcja, ale pokazuje to ograniczenia obecnych systemów.

Eksperci wskazują, że ta powtarzalność wynika z kilku czynników jednocześnie, między innymi:

• ograniczeń danych treningowych,
• mechanizmów bezpieczeństwa,
• tendencji modeli do wybierania najbardziej prawdopodobnych i neutralnych konstrukcji językowych.

Zjawisko to bywa również opisywane jako przykład tak zwanego „model collapse”, czyli sytuacji, w której systemy uczą się coraz częściej na podstawie własnych, wcześniej wygenerowanych treści. W dłuższej perspektywie może to prowadzić do stopniowego ujednolicania i przewidywalności odpowiedzi, co z kolei może mieć katastrofalne konsekwencje dla jakości materiałów tworzonych przez AI w mediach, marketingu i edukacji.

Zobacz też: Petycja z milionem podpisów odrzucona przez Komisję Europejską. „Stop Killing Games” bez przełomu