W dziedzinie sztucznej inteligencji poczyniono postępy na bezprecedensowym poziomie, a nowe rozwiązania wprowadzane są niemal co tydzień. Narzędzia generatywnej sztucznej inteligencji, takie jak ChatGPT, są obecnie tak popularne, że są wszędzie integrowane.
Ale czy powinniśmy? Wykorzystywanie technologii sztucznej inteligencji do produktywności, edukacji i rozrywki ma sens. Jednak firmy myślą teraz o umieszczeniu go bezpośrednio w naszych aplikacjach do przesyłania wiadomości, a to może okazać się destrukcyjne. Oto siedem powodów.
1. Chatboty AI mają tendencję do halucynacji
Jeśli używałeś ChatGPT, Bing lub Bard, wiesz, że generatywne chatboty AI mają tendencję do „halucynacji”. Halucynacja AI ma miejsce, gdy te chatboty zmyślają z powodu braku odpowiednich danych treningowych dotyczących zapytania żądanego przez użytkownika.
Innymi słowy, dostarczają dezinformacji, ale brzmią na to z przekonaniem, jakby to był fakt. Jest to duży problem, ponieważ wiele osób nie sprawdza faktów podczas korzystania z chatbota i domyślnie uważa, że jest on dokładny. To jeden z największych
błędów, których należy unikać podczas korzystania z narzędzi AI.Po umieszczeniu w aplikacjach do przesyłania wiadomości, ilość szkód, jakie może wyrządzić, jest jeszcze większa, ponieważ ludzie mogą go używać do (celowo lub nieumyślnie) rozpowszechniają dezinformację wśród swoich kontaktów i w mediach społecznościowych, rozpowszechniają propagandę i podsycają echo kancelaria.
2. Ludzie nie lubią rozmawiać z botami
Pomyśl, jak irytujące jest, gdy próbujesz skontaktować się z działem obsługi klienta firmy, a musisz porozmawiać z chatbota zamiast prawdziwego człowieka wykonawczego, który rzeczywiście może zrozumieć niuanse Twojego problemu i zaoferować odpowiednią ofertę przewodnictwo.
To samo dotyczy osobistych rozmów. Wyobraź sobie, że rozmawiasz ze swoim przyjacielem iw połowie zdajesz sobie sprawę, że używał sztucznej inteligencji do cały czas odpowiadać na twoje wiadomości, zamiast robić to na własną rękę w oparciu o ich myśli i opinie.
Jeśli jesteś jak większość ludzi, od razu poczułbyś się urażony i postrzegał użycie sztucznej inteligencji w prywatnej rozmowie jako niewrażliwy, przerażający, a nawet pasywno-agresywny, tak jakby druga osoba nie uważała, że jesteś wart jej czasu, uwagi i empatia.
Na przykład używanie sztucznej inteligencji do pisania e-maili jest zrozumiałe, ponieważ jest to profesjonalna interakcja, ale używanie jej w osobistych rozmowach nie będzie czymś, do czego ktokolwiek chciałby zachęcać. Gdy nowość technologii zniknie, używanie jej w tym kontekście stanie się niegrzeczne.
3. Sztuczna inteligencja nie może skopiować Twojej unikalnej tonacji
Narzędzia generatywnej sztucznej inteligencji umożliwiają już dziś zmianę tonu wiadomości, na przykład oficjalnej, wesołej lub neutralnej, w zależności od tego, do kogo piszesz i jak chcesz się z nią spotkać. Magic Compose w Wiadomościach Google, na przykład, pozwala zrobić to samo.
Chociaż to dobrze, pamiętaj, że te tonacje są trenowane na podstawie ustawionych danych treningowych, a nie Twojej osobistej historii czatów, więc nie mogą replikować Twojej unikalnej tonacji ani emotikonów, których zwykle używasz.
Możesz nie przejmować się tym zbytnio, zwłaszcza jeśli używasz sztucznej inteligencji do pisania prostych służbowych e-maili, w których wszyscy mniej więcej używają tego samego formalnego tonu. Ale ma to znacznie większe znaczenie, niż możesz sobie wyobrazić, gdy używasz go do rozmowy ze znajomymi i rodziną w aplikacji do przesyłania wiadomości.
Dopóki narzędzia sztucznej inteligencji nie pozwolą ci trenować ich modelu językowego na podstawie historii czatów, nie będą w stanie odtworzyć twojego unikalnego dialektu i dziwactw. To powiedziawszy, to wyzwanie nie jest trudne do rozwiązania, więc być może wkrótce zostanie wdrożone.
4. Pisanie dobrych podpowiedzi wymaga czasu
Uzyskanie pożądanych wyników z chatbota AI w dużej mierze zależy od jakości Twojego monitu. Jeśli napiszesz zły monit, otrzymasz złą odpowiedź i będziesz musiał udoskonalać monit, aż uzyskasz zadowalający wynik.
Ten proces ma sens, gdy chcesz pisać długie treści, ale jest wyjątkowo nieefektywny, gdy piszesz wiele krótkich odpowiedzi w nieformalnej rozmowie.
Czas, jaki może zająć doprecyzowanie podpowiedzi i uzyskanie użytecznych odpowiedzi, będzie w większości przypadków dłuższy niż czas, jaki zajęłoby Ci samodzielne napisanie wiadomości.
5. Sztuczna inteligencja może generować ofensywne wyniki
Oprócz dokładności, stronniczość jest jednym z nich największe problemy z generatywną AI. Niektórzy postrzegają sztuczną inteligencję jako bezstronną, ponieważ nie ma ona własnych motywów. Jednak ludzie stojący za tymi narzędziami AI to ostatecznie ludzie z własnymi uprzedzeniami.
Innymi słowy, stronniczość jest zakodowana w systemie. Sztuczna inteligencja z natury nie rozumie, co jest uważane za obraźliwe, a co nie, więc można ją na przykład wyszkolić być stronniczym w stosunku do pewnych grup ludzi lub pewnych kultur - stąd wytwarzanie obraźliwych rezultatów w tym procesie.
6. Sztuczna inteligencja może nie rozumieć sarkazmu lub humoru
Rozumienie przez sztuczną inteligencję figur retorycznych, takich jak ironia i metafora, poprawia się z czasem, ale wciąż daleko mu do punktu, w którym można go wykorzystać w rozmowie do rozpoznawania humoru. Na przykład, gdy poprosiliśmy Barda Google'a o sarkazm, wyniki były trafione lub chybione.
W niektórych przypadkach było to naprawdę zabawne i współgrało z moim sarkazmem. Ale w innych przypadkach albo wracało do nieśmiesznej odpowiedzi na foremki do ciastek, albo po prostu odmawiało brać udział w rozmowie, mówiąc, że skoro to tylko LLM, to nie może mi pomóc z moim zapytanie.
7. Poleganie na sztucznej inteligencji może prowadzić do słabej komunikacji
Innym subtelnym, ale istotnym problemem związanym z integracją generatywnej sztucznej inteligencji z aplikacjami do przesyłania wiadomości jest to, w jaki sposób może ona wpłynąć na naszą zdolność komunikowania się. Jeśli w coraz większym stopniu polegamy na sztucznej inteligencji, aby rozmawiać ze sobą, może to utrudnić naszą zdolność trenować naszą inteligencję emocjonalną i umiejętności społeczne.
Chodzi o to, że im bardziej zlecamy sztuczną inteligencję nasze potrzeby społeczne, tym gorzej będziemy przekazywać pomysły za pomocą środków organicznych. Innymi słowy, im częściej używasz sztucznej inteligencji do rozmów ze swoimi kontaktami, tym bardziej prawdopodobne jest, że pogorszysz jakość swoich relacji.
Nie wszystko musi mieć sztuczną inteligencję
Często, wraz z pojawieniem się nowej technologii, jesteśmy tak zajęci zastanawianiem się, jak jej używać, że nie zastanawiamy się, czy w ogóle powinniśmy jej używać.
Chociaż używanie generatywnej sztucznej inteligencji do pisania e-maili, burzy mózgów lub tworzenia zdjęć do prezentacji ma sens, to jej integracja z aplikacjami do przesyłania wiadomości wywołuje wiele krytyki.
