Zastanawiasz się, jak maszyny odróżniają tekst napisany przez sztuczną inteligencję od tekstu wygenerowanego przez człowieka. To jest uczciwe pytanie. Ponieważ treści generowane przez sztuczną inteligencję wypełniają blogi, szkoły i firmowe skrzynki odbiorcze, narzędzia do wyszukiwania obiecują przywrócić zaufanie. Twierdzą, że potrafią wykryć boty.
Rzeczywistość jest znacznie bardziej skomplikowana. Narzędzia te nie dają absolutnej pewności. Podają prawdopodobieństwa. Opierają się na statystykach, wzorach i domysłach.
Зміст
Co faktycznie analizują detektory AI
Detektory AI nie czytają tekstu, aby zrozumieć jego znaczenie. Nie rozumieją Twojego rozumowania i Twojego poczucia humoru.
Większość narzędzi wykorzystuje uczenie maszynowe na ogromnych zbiorach danych. Porównują tekst ludzki z tekstem wygenerowanym przez sztuczną inteligencję. Szukają strukturalnych odcisków palców. Długość zdań. Wybór słów. Składnia. Szukają wzorców wskazujących na model, a nie osobę.
Zaskoczenie i plosywność: podstawowe sygnały
U podstaw logiki większości detektorów leżą dwa wskaźniki. Zaskoczenie i wybuchowość.
Zakłopotanie mierzy przewidywalność. Zadaje pytanie: Jak prawdopodobne jest następne słowo? Modele AI wybierają statystycznie najbardziej prawdopodobne słowo. To sprawia, że ich zakończenie jest niezwykle przewidywalne. Niskie zakłopotanie.
Pismo ludzkie jest chaotyczne. To nieprzewidywalne. Wysokie zakłopotanie.
Potem jest wybuchowość. To odnosi się do rytmu. Ludzie mieszają krótkie, nierówne zdania z dłuższymi, bardziej złożonymi zdaniami. To stwarza zmienność. Tekst AI jest ogólnie jednorodny. Rowena. Monotonny.
Detektory zauważają brak zmienności. Zwracają uwagę na sekwencję robotyczną.
Szkolenie klasyfikatorów
W jaki sposób detektor uczy się rozpoznawać te sygnały? Jest w trakcie szkolenia.
Nowoczesne klasyfikatory przetwarzają ogromne ilości danych. Pismo ludzkie. Teksty AI z różnych modeli. System uczy się określać, które cechy językowe korelują ze sztucznym autorstwem.
Ale cel ciągle się zmienia. Nowe modele, takie jak GPT-4 i późniejsze, tworzą tekst coraz bardziej przypominający ludzki. Dlatego detektory muszą być stale aktualizowane. Przekwalifikuj się na nowych wyjściach. Jeśli pozostaniesz w tyle, poniesiesz porażkę.
Dlaczego szacunki często są błędne
Wykrywanie jest probabilistyczne. Nie binarny.
Oznacza to, że zdarzają się fałszywe alarmy. Prawdziwi ludzie są oznaczani jako boty. Niezwykły styl pisania jest niepokojący. Sformułowania nietypowe dla rodzimych użytkowników języka. Ekstrawagancki głos. Detektor widzi „nietypowe” i zakłada, że jest „sztuczny”.
Istnieją również fałszywe negatywy. Tekst wygenerowany przez sztuczną inteligencję przeskakuje. Jeśli za bardzo sparafrazujesz wniosek, przełamujesz schematy. Detektor nie widzi niczego podejrzanego.
Detektory AI przeciwko wyszukiwarkom plagiatu
Nie myl ich. Rozwiązują różne problemy.
Wyszukiwarki plagiatu szukają skopiowanego tekstu. Porównują Twoją wersję roboczą z bazą opublikowanych prac. Jeśli istnieje dopasowanie, skopiowałeś.
Detektory AI zwracają uwagę na styl. Struktura. Przewidywalność. Oceniają pochodzenie, a nie źródło.
To rozróżnienie ma znaczenie. Tekst wygenerowany przez sztuczną inteligencję może być w 100% oryginalny. Żadnego plagiatu. Ale nadal można go nazwać sztucznym. I odwrotnie, osoba może doskonale skopiować fragment. Pozwoli to uniknąć wykrycia sztucznej inteligencji, ponieważ nie została ona wygenerowana przez model. Został po prostu skradziony.
Czynnik ludzki w wykrywaniu
Same narzędzia nie wystarczą. Ludzie nadal są zaangażowani w ten proces.
Doświadczeni redaktorzy szukają charakterystycznych znaków. Zbyt ogólny ton. Ten sam rodzaj uprzejmości. Płaszczyzna emocjonalna. Brak charakterystycznego głosu. Są to cechy charakterystyczne obecnych wyników AI.
Niektórzy sięgają głębiej. Sprawdzają historię edycji. Dzienniki naciśnięć klawiszy. Przejrzysty postęp projektu wskazuje na ludzki wysiłek. Czysta, zgrabna wstawka sugeruje coś innego.
Firmy stojące za tymi narzędziami podkreślają tę kwestię: ocena AI to tylko jeden sygnał. Nie dowód. Kontekst ma znaczenie. Znajomość zwykłego stylu autora jest niezbędna. Zwłaszcza, gdy wyniki są kwestionowane.
Poza tekstem: obrazy i filmy
Logika ta dotyczy także materiałów wizualnych. Detektory Deepfake działają na podobnych zasadach.
Analizują artefakty. Wzorce pozostawione przez modele generatywne. Klasyfikatorzy są szkoleni w oparciu o znane podróbki i oryginalne obrazy.
Jednak ograniczenia dotyczące dokładności pozostają. Systemy te dostarczają szacunków prawdopodobieństwa, a nie prawdy. Wymagają obszernych danych szkoleniowych. Dają fałszywie pozytywne i fałszywie negatywne wyniki. W miarę ewolucji technik wytwarzania wykrywanie staje się coraz trudniejsze.
Jak reagują wyszukiwarki i wydawcy
Stanowisko Google jest jasne. Interesuje ich jakość. Nie pochodzenie.
To, że tekst został napisany przez człowieka lub sztuczną inteligencję, nie przesądza automatycznie o jego pozycji w wynikach wyszukiwania. Nacisk położony jest na użyteczność. Filtry spamu celują w treści o niskiej jakości, niezależnie od ich autorstwa.
Odpowiedzialne użytkowanie oznacza przejrzystość. Odkryj zaangażowanie sztucznej inteligencji. Zacytuj go tam, gdzie to stosowne. Wymagana jest staranna edycja przez człowieka. Sprawdź fakty w podsumowaniu. Przynieś prawdziwą wiedzę.
Wysoki wynik wygenerowany przez sztuczną inteligencję nie oznacza, że treść jest zła. Nie oznacza to, że jest on nieetyczny. Treści generowane przez sztuczną inteligencję mogą być całkowicie akceptowalne, pod warunkiem, że zostaną zweryfikowane. Jeśli jest dobry.
Czy są już niezawodne?
Detektory prądu dostarczają sygnał. Wskazówka. Nie zdanie.
W miarę jak modele stają się coraz bardziej złożone, różnica się zmniejsza. Wykrywanie staje się trudniejsze. Niezawodność spada. Narzędzia gonią ruchomy cel.
Odpowiedzialne podejście jest proste. Zrozum ograniczenia. Nie ufaj ślepo ocenie. Zawsze kieruj się ludzkim osądem. Przejrzyj swoją pracę. Sprawdź fakty.
Niech narzędzia pomogą. Ale nie pozwól, żeby decydowali za ciebie.
Ten artykuł został stworzony przy użyciu technologii AI, następnie sprawdzony i zredagowany przez redaktora HowStuffWorks.
