OpenAI potrafi oznaczać treści stworzone przez AI, ale nie chce znaków wodnych w ChatGPT

06.08.2024 |

Przeczytasz w 3 Minuty

OpenAI potrafi oznaczać treści stworzone przez AI, ale nie chce znaków wodnych w ChatGPT

Przeczytasz w 3 Minuty

Zwiększ rozmiar tekstu

Już od powstania chatbota ChatGPT rozwiązanie okrzyknięto przełomowym. Wśród możliwości narzędzia mamy między innymi możliwość tworzenia treści tekstowych. Napisane artykuły, wiadomości e-mail i inne treści wyglądają tak, jakby stworzył je człowiek. W związku z tym w społeczeństwie pojawiły się głosy mówiące o konieczności oznaczenia takich „tekstów AI” w jakiś sposób. OpenAI, czyli twórcy ChatGPT, mogliby to zrobić. Najwyraźniej jednak mają inne plany.

ChatGPT a możliwość rozpoznania tekstów napisanych przez chatbota

Wiele osób chciałoby się dowiedzieć, czy tekst, który widzą, został stworzony przez człowieka, czy sztuczną inteligencję. Powodów może być wiele – sprawdzenie uczciwości ucznia, rzetelności osoby zatrudnionej w firmie, czy obawy o to, jak generowane przez AI treści mogłyby wpływać na wyniki osiągane przez strony www w sieci (tzw. SEO).

Dziś na rynku mamy narzędzia, które mogą prześwietlić tekst i podpowiedzieć, czy został on napisany przez AI, czy przez człowieka. Nie dają jednak 100-procentowanej pewności, wyniki takiego sprawdzenia mogą być więc dla niektórych krzywdzące (lub wręcz przeciwnie).

OpenAI opracowało narzędzie, które do tekstu generowanego przez ChatGPT dodałoby coś w stylu „znaku wodnego”.

Kolejne narzędzie miałoby natomiast wyłapywać takie oznaczenie. Mielibyśmy więc jasną informację, że dany tekst lub jego fragment powstały przy udziale chatbota.

To, jak działa wspomniany system, jest dość skomplikowane. To samo możemy zresztą powiedzieć o samym ChatGPT i podobnych rozwiązaniach. Działają one na zasadzie sprawdzenia prawdopodobieństwa, czyli tworząc taką treść, jaką z dużą szansą napisałby człowiek. W związku z tym efekty pracy chatbotów nie zawsze są w pełni prawidłowe, za to chatbot w ogóle jest w stanie działać i robić to całkiem szybko.

Wracając do narzędzia do „znakowania” tekstów: OpenAI wpadło na pomysł, aby w niektórych sytuacjach nieco zmienić wspomniany wcześniej „wzorzec”, w jaki ChatGPT tworzy treści. Dzięki temu tekst byłby w pewnym zakresie nietypowy (a może wręcz – nieprawidłowy lub po prostu dziwny?), co niekoniecznie musiałoby być w ogóle zauważone przez „ludzkiego” czytelnika. Potwierdzają to badania przeprowadzone przez OpenAI. Jak najbardziej byłby to natomiast jasny znak dla narzędzi do rozpoznawania tekstów AI.

Czytaj też:

SearchGPT – wyszukiwarka internetowa z sztuczną inteligencją. Rewolucja na miarę ChatGPT?

OpenAI nie jest przekonane do nowego pomysłu…

Nie jestem przekonany, czy narzędzie przyniosłoby więcej korzyści, czy potencjalnych problemów. Nie do końca rozumiem też, w jaki sposób miałoby się też odbywać znakowanie tekstów. Najwyraźniej pewne obawy mają też sami twórcy, czyli pracownicy OpenAI.

Wśród pracowników OpenAI mamy pewnego rodzaju podział. Niektórzy chcieliby, aby informacja o wygenerowaniu tekstu przez AI nie była pokazywana w żaden sposób.

Powód jest prosty i zrozumiały. Takie działanie mogłoby zniechęcić niektórych użytkowników do korzystania z ChatGPT. Na rynku mamy w końcu wiele alternatywnych chatbotów, ciągle dochodzą też do nas wieści o stworzeniu kolejnych narzędzi tego typu. Mają je już nie tylko OpenAI, ale też inni giganci – Google, Meta (właściciel Facebooka), czy Microsoft, który akurat współpracuje w tym zakresie z OpenAI.

OpenAI sprawdziło, ilu użytkowników mimo oznakowania tekstów dalej chciałoby korzystać z ChatGPT. Wyniki badania są dość jednoznaczne – prawie jedna trzecia dotychczasowych użytkowników ograniczyłaby korzystanie z ChatGPT.

Znaki wodne w ChatGPT byłyby niezwykle skuteczne

OpenAI prawdopodobnie nie zdecyduje się teraz na wprowadzenie znaków wodnych oznaczających teksty. Samo rozwiązanie jest natomiast na tyle dopracowane, że jego skuteczność ocenia się na 99,9%. Takie znaki wodne miałyby być też odporne na próby manipulacji ze strony użytkowników, np. przepisanie tekstu innymi słowami (parafrazę). Oczywiście, byłyby jednak pewne sposoby na obejście tego typu oznakowania, choćby z użyciem innego modelu językowego lub tłumacząc tekst na inny język.

Dowiadujemy się też, że OpenAI pracuje nad innymi sposobami znakowania tekstów AI. Rozwiązania miałyby wykorzystywać techniki kryptograficzne i zapisywać dodatkowe informacje w metadanych. Trzeba jednak wiedzieć, że dodanie znaku wodnego (lub innego rodzaju oznakowania) do tekstu jest pomysłem niezwykle trudnym z technologicznego punktu widzenia.

Polecane laptopy