LinkedIn wypowiada wojnę AI Slop. Użytkownicy mogą pomagać

LinkedIn rozszerza walkę z niskiej jakości treściami tworzonymi przy pomocy sztucznej inteligencji. Serwis wprowadził możliwość zgłaszania postów, które „wyglądają jak AI slop”, a jednocześnie rozwija własne systemy automatycznie ograniczające zasięg podobnych publikacji. Platforma rezygnuje też z funkcji wykorzystującej AI do przerabiania wpisów użytkowników.

Generatywna sztuczna inteligencja znacząco obniżyła próg wejścia do tworzenia treści w internecie. Efektem ubocznym jest jednak rosnąca liczba podobnych do siebie, schematycznych publikacji, które powstają masowo i wnoszą niewiele oryginalnej wartości. Problem jest szczególnie widoczny na LinkedInie, gdzie AI coraz częściej wykorzystywane jest do generowania całych postów.

Serwis chce ograniczyć ich widoczność. Jednym z nowych narzędzi jest opcja zgłoszenia publikacji jako „Treść AI niskiej jakości”, czyli wygląda na tzw. AI slop.

LinkedIn pozwala zgłaszać posty wyglądające na wygenerowane przez AI

Nowa opcja znajduje się w menu otwieranym po kliknięciu trzech kropek przy poście. Po skorzystaniu z niej LinkedIn ukrywa daną publikację i zapisuje informację zwrotną od użytkownika.

Hari Srinivasan, Chief Product Officer LinkedIna, tłumaczy, że takie zgłoszenia mają pomóc firmie w dalszym dostrajaniu modeli odpowiedzialnych za dobór treści wyświetlanych w aktualnościach.

To istotne, ponieważ samo określenie „AI slop” nie ma jednej precyzyjnej definicji. Najczęściej termin odnosi się do masowo generowanych przez AI treści, które są powtarzalne, powierzchowne, generyczne albo stworzone przede wszystkim w celu zdobywania zasięgów.

LinkedIn nie zamierza przy tym karać użytkowników za samo korzystanie ze sztucznej inteligencji. Celem walki firmy mają być przede wszystkim materiały niskiej jakości, a nie wartościowe i oryginalne publikacje, przy których autor posiłkował się narzędziami AI.

Algorytm ma automatycznie ograniczać zasięg „AI slop”

Zgłoszenia użytkowników nie są jedynym elementem zmian. LinkedIn rozwija również własne klasyfikatory wykrywające posty, które mogą być AI slopem lub po prostu treściami niskiej jakości.

System ma następnie ograniczać ich obecność przede wszystkim wśród sugerowanych publikacji oraz postów pochodzących od osób spoza sieci kontaktów użytkownika.

To rozwinięcie działań zapowiedzianych wcześniej przez firmę. LinkedIn już pracował nad modelem mającym rozpoznawać tego typu publikacje i zmniejszać ich zasięg bez konieczności ręcznego zgłaszania każdego wpisu.

Skala problemu może być znaczna. Przywoływane przez The Verge badanie narzędzia Pangram wskazywało, że 41 proc. dłuższych postów publikowanych na LinkedInie zostało zaklasyfikowanych jako w całości wygenerowane przez sztuczną inteligencję.

Nie oznacza to oczywiście automatycznie, że wszystkie takie publikacje są niskiej jakości, ale pokazuje, jak dużą rolę generatywna AI odgrywa obecnie w tworzeniu treści na platformie.

Autorzy dowiedzą się, że ich posty wyglądają na sztuczne

LinkedIn testuje także mechanizm przekazywania informacji osobom publikującym treści. Jeżeli inni użytkownicy uznają ich posty za nieautentyczne lub nadmiernie wykorzystujące AI, autor może zobaczyć stosowną informację w swoich statystykach.

Komunikat ma być prywatny. Jego zadaniem nie jest więc publiczne oznaczanie autora jako osoby korzystającej ze sztucznej inteligencji, lecz umożliwienie mu zmiany sposobu przygotowywania kolejnych publikacji.

To interesujące podejście, ponieważ platforma próbuje w ten sposób wpływać nie tylko na dystrybucję treści, ale również na zachowania samych twórców.

LinkedIn usuwa funkcję, która sama przerabiała posty za pomocą AI

Równocześnie firma wycofuje własne narzędzie „enhance your post”, wykorzystujące sztuczną inteligencję do poprawiania i przeredagowywania przygotowanych przez użytkownika wpisów.

Zastąpi je znacznie bardziej zachowawcza funkcja korekty tekstu. Nowe narzędzie ma sprawdzać napisane przez użytkownika słowa, ale nie zmieniać jego indywidualnego stylu wypowiedzi.

To dość symboliczna zmiana. LinkedIn nadal zamierza korzystać ze sztucznej inteligencji, ale jednocześnie próbuje ograniczyć sytuacje, w których kolejne posty zaczynają brzmieć niemal identycznie.

Problem prawdopodobnie nie zniknie całkowicie. Wraz z rozwojem modeli językowych coraz trudniejsze staje się jednoznaczne odróżnienie tekstu napisanego przez człowieka od materiału przygotowanego z pomocą AI. LinkedIn stawia więc nie tyle na wykrywanie każdego przypadku użycia sztucznej inteligencji, ile na ograniczanie zasięgu schematycznych i mało wartościowych treści niezależnie od sposobu ich powstania.

Źródło: The Verge, LinkedIn