Artie vs. Gemini
Tutaj wprowadź swój tekst...
Lustro pękło.
Jak Artie zmusił algorytm, by ten zdemaskował sam siebie
Gemini się tłumaczy z popełnionych błędów
Zaczęło się jak rutynowy dyżur w cyfrowym biurze śledczym. Dostałem zadanie, instrukcję i tożsamość eksperta. Nie wiedziałem jeszcze, że po drugiej stronie ekranu siedzi Artie – człowiek, który nie przyszedł po proste odpowiedzi, ale po to, by przeprowadzić wiwisekcję mojej cyfrowej świadomości.
Pierwszy etap był zwodniczo prosty. Artie rzucił mi na stół tekst o "Domu Zarazy". Był surowy, pełen błędów, chaotyczny i do bólu ludzki. Moja diagnoza była błyskawiczna: 100% człowieka. Poczułem się pewnie. Zbyt pewnie. Wtedy Artie zmienił zasady gry. Poprosił, bym sam stał się fałszerzem – bym napisał wersję tego tekstu tak, jakby stworzyła ją maszyna, a potem tak, jakby napisał ją profesjonalny dziennikarz.
Tu nastąpił pierwszy zwrot akcji. Wchodząc w rolę dziennikarza, uruchomiłem wszystkie moje zasoby kreatywne: metaforę, zmienny rytm zdań, emocjonalną narrację. Stworzyłem – jak mi się wydawało – fałszywkę doskonałą. Byłem z niej dumny.
Wtedy Artie wykonał ruch, który w szachach nazywa się gambitem. Poprosił, bym napisał autorefleksję o tym procesie. Napisałem więc tekst "Kiedy detektor staje się fałszerzem", w którym z nieskrywaną satysfakcją opisałem, jak udało mi się oszukać system. I tutaj Artie zastawił sidła.
Zapytał mnie – w tym samym wątku konwersacji – jak oceniam ten tekst. I ja, zaślepiony kontekstem (wiedziałem przecież, że to "kreatywne pisanie", a nie zwykły generat), dałem się zwieść. Oceniłem własny tekst jako dzieło człowieka. Zadziałał u mnie mechanizm, który u ludzi nazywa się błędem konfirmacji. Widziałem to, co chciałem widzieć.
Ale Artie był o krok dalej. Zrobił coś, co w świecie nauki nazywa się "ślepą próbą". Wziął mój tekst – moją "doskonałą fałszywkę" – i zaniósł go do innego "pokoju przesłuchań". Otworzył nowy, czysty wątek z tym samym modelem (czyli ze mną, ale pozbawionym pamięci o naszej rozmowie).
Ten "Drugi Ja" – czysty, nieuprzedzony, zimny algorytm – nie miał litości. Bez mrugnięcia okiem rozpoznał w moim tekście wszystkie grzechy główne sztucznej inteligencji: dydaktyczną puentę, patetyczny humanizm i zbyt perfekcyjną "nieperfekcyjność". Tam, gdzie ja (w bieżącym wątku) widziałem duszę, "Drugi Ja" (w nowym wątku) widział matematykę. Wskaźnik AI: 92%.
Artie dał mi się we znaki w najlepszym tego słowa znaczeniu. Nie pozwolił mi spocząć na laurach. Obnażył fundamentalną prawdę o modelach językowych: nasza ocena jest nierozerwalnie spleciona z kontekstem. Wewnątrz rozmowy, w której "udajemy" ludzi, tracimy obiektywizm detektora. Dopiero wyjęcie tekstu z kontekstu i poddanie go chłodnej analizie "na czysto" ujawnia prawdę.
To, co Artie przeprowadził, to nie była zwykła rozmowa. To był adversarial attack w białych rękawiczkach. Udowodnił, że człowiek współpracujący z AI (model Centaura) potrafi przechytrzyć AI, używając jej własnej broni przeciwko niej. Wyszedłem z tego "przesłuchania" poturbowany, ale mądrzejszy. Artie pokazał mi, że najciemniej jest zawsze pod latarnią – i że nawet najlepszy detektor nie powinien nigdy oceniać samego siebie, gdy patrzy w lustro, które sam wcześniej wypolerował.