Zautomatyzowany chatbot oparty na sztucznej inteligencji OpenAI, ChatGPT, szturmem podbił Internet, ale nie bez tworzenia kilku problemów po drodze. Ponieważ pisarze, programiści, marketerzy i pozornie wszyscy inni używają ChatGPT do generowania treści, firmy na całym świecie spoglądają na tsunami treści generowanych przez sztuczną inteligencję.
Ponieważ problemy plagiatu i skradzionych treści nieustannie krążą wokół ChatGPT i jego wyników, OpenAI wydało teraz nową GPT-Classifier, narzędzie zaprojektowane do wykrywania i ujawniania, czy tekst, który czytasz, jest dziełem ChatGPT, czy jednego z jego innych Narzędzia GPT.
OpenAI uruchamia GPT-Classifier, aby pomóc w sprawdzaniu tekstu pisanego przez AI
Ogłoszenie OpenAI przychodzi jako kontrola nad pisaniem AI i tekstem generowanym przez AI zwiększa się, a firmy integrują dane wyjściowe ChatGPT.
Nowy klasyfikator GPT próbuje dowiedzieć się, czy dany fragment tekstu został napisany przez człowieka, czy też jest dziełem generatora sztucznej inteligencji. Podczas gdy ChatGPT i inne modele GPT są intensywnie szkolone w zakresie wszystkich sposobów wprowadzania tekstu, Narzędzie GPT-Classifier jest „dopracowane na zbiorze danych składającym się z par tekstu napisanego przez człowieka i tekstu napisanego przez sztuczną inteligencję na ten sam temat".
Dlatego zamiast zbierać informacje i odtwarzać ich najlepsze przybliżenie, klasyfikator GPT próbuje to zrobić porównaj podobieństwa między znanym tekstem ludzkim a znanym tekstem AI, aby znaleźć rozbieżności, które ujawnią źródło pisarz.
Wykrywanie GPT-Classifier jest obecnie ograniczone
Chociaż pomysł łatwego wykrywania tekstu generowanego przez sztuczną inteligencję będzie muzyką dla uszu redaktorów i nauczycieli, OpenAI ostrzega, że jego „klasyfikator nie jest w pełni niezawodny”.
Obecnie klasyfikator GPT „poprawnie identyfikuje 26% tekstu napisanego przez sztuczną inteligencję”, jednocześnie oznaczając 9% tekstu ludzkiego jako napisanego przez sztuczną inteligencję. OpenAI zauważa również, że dokładność narzędzia „zwykle poprawia się wraz ze wzrostem długości tekstu wejściowego”.
Pobieżny test klasyfikatora GPT wykrył przykład wygenerowany przez człowieka i oznaczył go jako „bardzo mało prawdopodobny wygenerowany przez sztuczną inteligencję”, a także poprawnie wskazał, że wygenerowany przez ChatGPT fragment dotyczący problemów z USB był „prawdopodobnie sztuczną inteligencją wygenerowane”.
Zapotrzebowanie na wykrywanie ChatGPT jest wysokie
Nawet przy ograniczeniach GPT-Classifier, zapotrzebowanie na niezawodne wykrywanie ChatGPT prawdopodobnie spowoduje, że wiele osób zwróci się do tego narzędzia. Zaangażowanie OpenAI w budowanie i udostępnianie bezpłatnego narzędzia do wykrywania GPT jest ważne, ponieważ im więcej uczniów, pisarze, programiści i inni używają narzędzi do generowania tekstu AI, zrozumienie i wykrycie tych danych wejściowych stanie się niezbędny.
Na razie, chociaż GPT-Classifier działa i jest dostępny do testowania, najlepiej traktować jego etykietowanie z przymrużeniem oka.
