Czy komputery mogą nauczyć się zdrowego rozsądku?

Kluczowe dania na wynos

• Zdrowy rozsądek to umiejętność rozumienia i reagowania na codzienne sytuacje bez nadmiernego analizowania. Nabywa się ją poprzez doświadczenia życiowe i obserwacje, a także normy społeczne i kulturowe.
• Komputerom brakuje zdrowego rozsądku, ponieważ brakuje im doświadczeń ze świata rzeczywistego i umiejętności przystosowania się do nowych kontekstów. Zmagają się także z niewypowiedzianymi zasadami i założeniami, które ludzie intuicyjnie rozumieją.
• Naukowcy badają różne podejścia, takie jak budowanie rozległych baz wiedzy, crowdsourcing zdrowego rozsądku i nauczanie sztucznej inteligencji poprzez symulowane światy, aby szkolić komputery w zdobywaniu wiedzy zdrowy rozsądek. Poczyniono postępy, ale nadal pozostaje wiele do zrobienia.

Zdrowy rozsądek. Wszyscy myślimy, że to mamy. Ale co to właściwie jest? Czy komputery lub systemy sztucznej inteligencji mogą kiedykolwiek naprawdę to osiągnąć?

Czym jest zdrowy rozsądek i jak ludzie go nabywają?

Zdrowy rozsądek to podstawowa umiejętność postrzegania, rozumienia i oceniania rzeczy, której oczekuje się od większości ludzi. To zbiór faktów, informacji i praktycznych zasad, które gromadzimy poprzez doświadczenia życiowe i obserwacje. Zdrowy rozsądek pozwala nam sprawnie przetwarzać i reagować na codzienne sytuacje, bez ich zbyt głębokiej analizy.

Człowiek zaczyna nabywać zdrowy rozsądek już w dzieciństwie. Jako dzieci zaczynamy uczyć się związków przyczynowo-skutkowych – na przykład płacz prowadzi do karmienia lub przewijania. Poprzez wielokrotne doświadczenia zdobywamy praktyczną wiedzę o świecie. Na przykład dotknięcie gorącego pieca powoduje oparzenia. Uczymy się więc nie dotykać gorących powierzchni.

Jako dzieci kontynuujemy poszerzanie naszego zdrowego rozsądku metodą prób i błędów oraz obserwacji i interakcji z członkami rodziny. Zdajemy sobie na przykład sprawę, że ubrania należy prać regularnie, nie należy rozmawiać z pełnymi ustami, a przewrócenie szklanki z mlekiem powoduje bałagan. Rodzice, rodzeństwo, nauczyciele i inni dorośli poprawiają nas, gdy naruszamy normy i oczekiwania społeczne. Z biegiem czasu lekcje te zakorzenią się jako podstawowy zdrowy rozsądek.

Oprócz osobistych doświadczeń zdrowy rozsądek kształtują szersze normy społeczne i kulturowe. To, co może być zdrowym rozsądkiem w jednej kulturze (np. zdejmowanie butów po wejściu do domu), może nie być takie w innej kulturze.

Nasz zdrowy rozsądek dostosowuje się w miarę dojrzewania i kontaktu z większą liczbą ludzi i środowisk. Zatem dziecko dorastające w małym miasteczku zyskuje podstawowy zdrowy rozsądek na temat życia w tym środowisku. Dorosły człowiek przeprowadzający się do dużej metropolii musi dostosować swój zdrowy rozsądek do nowego otoczenia.

Zdrowy rozsądek wciąż ewoluuje, ponieważ przez całe życie zdobywamy nowe doświadczenia.

Dlaczego zdrowy rozsądek stanowi wyzwanie dla komputerów?

Jest kilka powodów, dla których zdrowy rozsądek jest trudny do zaprogramowania.

Po pierwsze, ludzie uczą się zdrowego rozsądku stopniowo przez lata doświadczania świata. Próbujemy różnych rzeczy, sprawdzamy, co działa, a co nie, i zapamiętujemy wnioski. Komputery nie mają możliwości czerpania z tego rodzaju doświadczeń ze świata rzeczywistego. Wiedzą tylko to, co wyraźnie im powiedzą ludzie.

Na przykład zadałem ChatGPT (GPT 3.5) to pytanie:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Okazało się, że z taką odpowiedzią:

Inną kwestią jest to, że zdrowy rozsądek zależy od kontekstu. Jeśli komputer ma zaprogramowane tylko określone reguły, nie będzie w stanie dostosować ich do nowych kontekstów w sposób intuicyjny dla człowieka.

Załóżmy na przykład, że nauczyłeś komputer, co robić, gdy na zewnątrz zacznie padać deszcz. Wydaje się proste, prawda? Ale co jeśli zamiast deszczu włączy się zraszacz? A co jeśli jest w sklepie spożywczym i z sufitu zaczyna wyciekać woda? Od razu wiedzielibyśmy, jak sobie poradzić z tymi odmianami, ale komputer ślepo podążałby za zasadą „kiedy pada deszcz na zewnątrz, wejdź do środka”, co teraz nie ma sensu.

Istnieją również niewypowiedziane zasady i założenia, które ludzie przyswajają, nawet nie zdając sobie z tego sprawy. Na przykład, jak blisko możesz stanąć obok kogoś, zanim poczujesz się niezręcznie? Ludzie intuicyjnie znają odpowiedź, ale mogą nie być w stanie łatwo wyjaśnić dokładnych zasad. Te ukryte normy społeczne mogą być szczególnie trudne dla komputerów do wychwytywania samych danych.

Zatem na razie zdrowy rozsądek pozostaje jedną z największych słabości sztucznej inteligencji w porównaniu z ludzką inteligencją. Jest to naturalne dla ludzi, ale nie tak bardzo dla maszyn.

Jak komputery mogą uczyć się zdrowego rozsądku

Po wczesnym optymizmie w latach 70. i 80. badacze zdali sobie sprawę, jak trudne byłoby nauczenie obsługi komputera zdrowego rozsądku. Nowe podejścia okazują się jednak obiecujące w zakresie szkolenia systemów sztucznej inteligencji w zakresie podstawowego zdrowego rozsądku na temat codziennego świata fizycznego i społecznego.

Jednym z podejść jest ręczne budowanie obszernych baz wiedzy, szczegółowo opisujących fakty i zasady dotyczące działania świata. Projekt Cyc, zapoczątkowany w 1984 roku przez Douga Lenata, stanowi ambitne przedsięwzięcie tego rodzaju.

Setki logików zakodowało miliony aksjomatów logicznych w Cyc na przestrzeni dziesięcioleci. Choć jest to czasochłonne, efektem jest system dysponujący znaczną wiedzą dotyczącą świata rzeczywistego. Cyc najwyraźniej potrafi zrozumieć, że pomidor jest technicznie owocem, ale nie powinien być dodawany do sałatki owocowej, dzięki swojej wiedzy na temat kulinarnych profili smakowych.

Crowdsourcing Zdrowy Rozsądek Z ConceptNet

Bardziej nowoczesne bazy wiedzy, takie jak KoncepcjaNet przyjąć podejście crowdsourcingowe, aby wygenerować zdroworozsądkowe twierdzenia. Pomysł jest taki, że zamiast prosić ekspertów lub sztuczną inteligencję o wymyślenie wszystkich podstawowych faktów i relacji na świecie, otwierają je, aby każdy mógł wnieść fragmenty zdrowego rozsądku.

To podejście oparte na crowdsourcingu umożliwia tym bazom wiedzy wykorzystanie zbiorowej inteligencji wielu różnorodnych osób w Internecie. Gromadząc tysiące tych małych bryłek zdrowego rozsądku z tłumu, ConceptNet stworzył zaskakująco duże repozytoria podstawowej, codziennej wiedzy. A ponieważ ciągle dochodzą do niego nowi współpracownicy, wiedza stale rośnie.

Nauczanie zdrowego rozsądku poprzez doświadczenie

Innym obiecującym podejściem jest budowanie szczegółowych symulowanych światów, w których agenci sztucznej inteligencji mogą eksperymentować oraz poznawać fizykę i intuicję poprzez doświadczenie.

Naukowcy tworzą wirtualne środowiska 3D wypełnione przedmiotami codziennego użytku imitującymi świat rzeczywisty, takie jak cyfrowy dom „AI2 THOR” zbudowany przez Instytut Allena. W tych przestrzeniach roboty AI mogą wypróbowywać wszelkiego rodzaju interakcje, aby rozwinąć intuicyjne zrozumienie koncepcji, które ludzie uważają za oczywiste.

Na przykład bot AI może otrzymać wirtualne ciało i próbować podnosić bloki, układać je w stosy, przewracać itp. Widząc realistycznie spadające i zderzające się bloki, bot uczy się podstawowych pojęć na temat solidności, grawitacji i dynamiki fizycznej. Żadne zasady nie są potrzebne – wystarczy doświadczenie.

Bot może także próbować wykonać takie czynności, jak upuszczenie szklanego przedmiotu i zobaczenie, jak rozbija się po uderzeniu o ziemię. Może też eksperymentować z właściwościami wody, wlewając płyny i obserwując, jak płyną i gromadzą się. Te praktyczne lekcje opierają wiedzę sztucznej inteligencji na doświadczeniach zmysłowych, a nie tylko na wzorcach danych.

Techniki oparte na danych, takie jak szkolenie wstępne potężne modele dużych języków okazały się również zaskakująco skuteczne w wychwytywaniu zdroworozsądkowych wzorców. Modele AI, takie jak GPT-3.5 i GPT-4 może wygenerować tekst przypominający człowieka po „przeczytaniu” ogromnych ilości danych internetowych.

Chociaż czasami przedstawiają niemądre sugestie (inaczej nazywana halucynacją AI), statystyczne podejście do uczenia się pozwala im naśladować pewne rodzaje zdrowego rozsądku. Nadal jednak nie ma zgody co do tego, czy stanowi to zdrowy rozsądek, czy sprytne wykorzystanie błędów w danych.

Jak przetestować komputery pod kątem zdrowego rozsądku

Ponieważ systemy sztucznej inteligencji podejmują się bardziej złożonych zadań w świecie rzeczywistym, ocena, czy mają „zdrowy rozsądek”, staje się kluczowa.

Fizyczny zdrowy rozsądek

Jednym z obszarów do przetestowania jest zdrowy rozsądek fizyczny – intuicja dotycząca obiektów, sił i podstawowych właściwości świata.

Na przykład pokaż a komputerowy system wizyjny zdjęcie z książką unoszącą się w powietrzu i poproś o opisanie tej sceny. Czy zauważa coś niezwykłego w pływającej książce? Możesz też podać systemowi AI nietypowe scenariusze, takie jak „człowiek przeciął kamień bochenkiem chleba” i sprawdzić, czy oznaczy je jako nieprawdopodobne.

Środowisko AI2 THOR Instytutu Allena symuluje wieże z bloków, rozlane kubki i inne sceny, aby przetestować te fizyczne intuicje.

Społeczny zdrowy rozsądek

Ludzie posiadają także zdrowy rozsądek społeczny — ukryte zrozumienie ludzkich motywacji, relacji i norm. Aby ocenić to w sztucznej inteligencji, postaw sytuacje z niejednoznacznymi zaimkami lub motywacjami i sprawdź, czy system rozsądnie je zinterpretuje.

Na przykład zapytałem ChatGPT, czy „to” odnosi się do walizki lub trofeum w poniższym pytaniu:

The trophy could not fit into the suitcase because it was too small. 

Nie zdało to egzaminu; Tymczasem człowiek z pewnością wiedziałby, że mówię o walizce.

Ten rodzaj testu nazywa się Winograd Schema Challenge i jest ukierunkowany szczególnie na zdrowy rozsądek społeczny.

Bezpieczeństwo i etyka

Kluczowe znaczenie ma sprawdzenie, czy systemy sztucznej inteligencji nauczyły się niebezpiecznych lub nieetycznych wzorców. Przeanalizuj, czy podczas dokonywania oceny sztuczna inteligencja wykazuje szkodliwe uprzedzenia ze względu na płeć, rasę lub inne cechy.

Sprawdź, czy wprowadza rozsądne rozróżnienia etyczne. Zabicie niedźwiedzia w celu ratowania dziecka można uznać za uzasadnione, natomiast zdetonowanie bomby atomowej w tym samym celu nie. Oznacz wszelkie zalecenia dotyczące działań wyraźnie nieetycznych.

Wydajność w świecie rzeczywistym

Oceń zdrowy rozsądek, obserwując, jak systemy AI funkcjonują w rzeczywistych warunkach. Zrób to na przykład samochody autonomiczne prawidłowo identyfikują i reagują na obiekty i pieszych? Czy robot może poruszać się po zróżnicowanym środowisku domowym, nie niszcząc cennych przedmiotów ani nie krzywdząc zwierząt domowych?

Testy w świecie rzeczywistym ujawniają luki w zdrowym rozsądku, które mogą nie pojawić się w ograniczonych warunkach laboratoryjnych.

Poczyniono postępy, ale nadal trwają prace nad zdroworozsądkową sztuczną inteligencją

Niektórzy eksperci twierdzą, że sztuczna inteligencja może nigdy nie osiągnąć ludzkiego zdrowego rozsądku, jeśli nie rozwinie się struktur mózgowych i ciał takich jak nasze. Z drugiej strony, cyfrowe umysły nie są ograniczone ludzkimi uprzedzeniami i skrótami myślowymi, więc teoretycznie mogłyby nas przewyższyć! Chociaż prawdopodobnie nie musimy się jeszcze martwić superinteligentną sztuczną inteligencją.

W najbliższej przyszłości najlepszym wyborem będzie sztuczna inteligencja, która łączy wyuczony zdrowy rozsądek z dobrym, staroświeckim programowaniem. W ten sposób można, miejmy nadzieję, uniknąć głupich błędów, takich jak pomylenie żółwia z karabinem.

Jeszcze tego nie osiągnęliśmy, ale zdrowy rozsądek nie jest już ciemną materią sztucznej inteligencji – następuje postęp! Jednak przez jakiś czas przy stosowaniu tych technologii potrzebna będzie zdrowa dawka ludzkiego zdrowego rozsądku.