Struktura warstwowa

Struktura warstwowa występuje wprawdzie w pewnych rejonach mózgu (np. w korze wzrokowej), jednak z pewnością nie jest tak prosta i regularna, jak struktura budowanych sztucznie sieci - nie mówiąc już o tym, że inne fragmenty mózgu mają zupełnie inną budowę, na przykład bardziej zbliżoną (lokalnie) do topologii gwiazdy (program uprawnienia budowlane na komputer).

Ponieważ jednak przyjęcie struktury warstwowej ułatwia techniczne operowanie siecią i zapewnia możliwość jej zdefiniowania przy minimalnym wkładzie pracy zarówno w rozwiązaniach symulacyjnych (wystarczy kilka prostych pętli w programie, by „obsłużyć” całą sieć), jak i przy wykonaniach sprzętowych (obwód drukowany, na którym rozmieszcza się chipy z modelami neuronów, ma prostą i łatwą do wykonania strukturę) - wszyscy tak postępują, nie martwiąc się ani przesłankami biologicznymi, ani dowodami wskazującymi, że architektura sieci bardziej wymyślnie dostosowanej do charakteru zadania może znacznie lepiej realizować stawiane cele (program uprawnienia budowlane na ANDROID). Zauważmy - po raz drugi wobec dylematu: skomplikowane albo nieprawdziwe wybieramy drogę oddalającą nas od prawdy!

Z kolei pomysł jednorodnego, „pełnego” schematu połączeń między elementami poszczególnych warstw zapewnia minimalizację wysiłku związanego z definiowaniem sieci, chociaż odbywa się to kosztem dużego nakładu (np. pamięci w modelu symulacyjnym czy potencjalnych połączeń w strukturze chipu), koniecznego dla zapewnienia możliwości odwzorowania w sieci wszystkich niezbędnych przy takim założeniu połączeń (uprawnienia budowlane).

Bloki elektroniczne

Warto zauważyć, że bez przyjęcia (arbitralnie!) jednorodności struktury sieci samo tylko opisanie topologii jej połączeń wymaga podania setek tysięcy parametrów, co skutecznie udaremnia wszelkie próby stosowania takich struktur o nadmiernie wymyślnych architekturach połączeń. Natomiast decyzja o przyjęciu połączeń typu „każdy z każdym” stanowi elementarny i nie wymagający żadnego głębszego zastanowienia akt woli konstruktora sieci. Tak jest łatwiej i dlatego (prawie) wszyscy tak robią. Możliwość wygodnego (czytaj: bezmyślnego) stosowania tego typu uproszczenia wynika z nadziei (potwierdzającej się na szczęście w praktyce), że w trakcie procesu uczenia sieć „sama” wybierze z dostępnych jej początkowo wszystkich połączeń te, które są naprawdę potrzebne, odrzucając (zerując) pozostałe. Myślę, że ten wymowny fakt można tu pozostawić bez komentarza (program egzamin ustny).

Podsumowując tę część rozważań, możemy stwierdzić, że sieć neuronowa jest strukturą utworzoną na drodze szeregu kompromisów. Można ją zbudować i wykorzystywać tylko dzięki temu, że składa się z bardzo wielu prostych (i tanich!) elementów zdolnych do równoczesnego przetwarzania informacji (opinie o programie).

Tylko dzięki temu mamy z sieci pożytek, gdyż wspólne i równoczesne działanie wielu neuronów tworzy efekt w postaci bardzo wydajnego przetwarzania informacji wejściowej, podawanej do pierwszej warstwy neuronów (dane) na sygnały pojawiające się na wyjściach wszystkich neuronów sieci, z których część, tworząca ostatnią warstwę sieci, dostarcza rozwiązania postawionego zadania (wyniki) - oczywiście pod warunkiem realizacji elementów sieci w postaci specjalizowanych bloków elektronicznych lub optoelektronicznych (bywają i takie) (segregator aktów prawnych).

Ponieważ widziałem wiele zawiedzionych oczekiwań - czuję się w obowiązku podkreślić oczywisty fakt, że chętnie stosowane symulowanie sieci na zwykłych komputerach nie zwiększa samo z siebie ich szybkości, chociaż może przyczyniać się do efektywniejszego rozwiązywania problemów dzięki zastąpieniu skomplikowanego algorytmu numerycznego prostszą obliczeniowo „sieciową aproksymacją”.

Drugim powszechnie wymienianym atutem sieci jest ich zdolność do uczenia się. Tutaj nie ma już różnicy między siecią wykonaną ze specjalizowanych układów scalonych i siecią symulowaną - jedna i druga nie wymaga programowania. Jest to bardzo silny argument, na pozór przemawiający za szerokim stosowaniem sieci. Przyjrzyjmy się temu zagadnieniu nieco dokładniej (promocja 3 w 1).