Vector-symbolic attractor networks: distributed representations for neuromorphic computing and cognitive modeling

Schaalbare neuromorfe computers met vector-symbolische attractornetwerken

Neuromorfische computers zouden de efficiëntie en het aanpassingsvermogen van menselijke intelligentie kunnen evenaren door de rekenprincipes van biologische cognitieve functies na te bootsen. Hiermee belooft het de beperkingen van conventionele AI-systemen te overwinnen, die ondanks indrukwekkende prestaties vaak een gebrek aan generaliseerbare capaciteiten vertonen en aanzienlijke rekenbronnen vereisen. Het getrouw nabootsen van biologische verwerkingselementen heeft al succes geboekt bij kleinschalige sensorische taken, maar het opschalen van deze aanpak naar meer complexe taken blijft een uitdaging. Naarmate neuromorfe systemen in grootte en complexiteit toenemen, worden problemen met betrouwbaarheid en programmeercomplexiteit duidelijker, wat de ontwikkeling van uitgebreide neuromorfe systemen voor praktische toepassingen belemmert.

In zijn proefschrift gaat Madison Cotteret deze uitdagingen aan door twee biologisch geïnspireerde onderzoeksgebieden te combineren: vector-symbolische architecturen (VSAs) en attractornetwerken. VSAs vormen een systematisch kader voor het representeren van datastructuren met hoog-dimensionale vectoren, waarbij de gecodeerde informatie gelijkmatig over alle neuronen wordt verdeeld. Attractornetwerken voorzien neuromorfe en biologische systemen van emergente stabiliteit en worden vaak gebruikt als auto-associatief geheugen, maar hun potentieel voor bredere computationele toepassingen blijft grotendeels onbenut. Beide benaderingen zijn bijzonder aantrekkelijk voor neuromorfe hardware, waar schaal en parallelisme goedkoop zijn, maar de betrouwbaarheid van individuele componenten niet altijd gegarandeerd is.

De combinatie van VSAs en attractornetwerken biedt een schaalbare aanpak om symbolische datastructuren en computationele bouwstenen direct toe te passen op grote, onbetrouwbare netwerken. Door gebruik te maken van de ongevoeligheid van attractornetwerken voor componentuitval, bereikt deze aanpak een tot nu toe ongeëvenaard niveau van flexibiliteit en robuustheid in neuromorfe systemen. Dit is een noodzakelijke stap om neuromorfe systemen verder te ontwikkelen tot meer algemene en betrouwbare computerplatforms, waarmee energiezuinige neuromorfe hardware mogelijk wordt, die in staat is om uitgebreide cognitieve taken uit te voeren.

Madison Cotteret voerde zijn onderzoek uit bij het Zernike Institute for Advanced Materials, afdeling Bio-inspired Circuits & Systems. Hij vervolgt zijn loopbaan als postdoc bij de Rijksuniversiteit Groningen. 

Proefschrift: https://hdl.handle.net/11370/6b6f0ee7-f6e2-4297-a122-0d1ca772a9d2