Project

Van meer naar minder: het beste uit deep learning halen voor apparaten met beperkte rekenkracht.

Code
3S033519
Looptijd
01-11-2019 → 31-10-2023
Financiering
Fonds voor Wetenschappelijk Onderzoek - Vlaanderen (FWO)
Promotor
Mandaathouder
Onderzoeksdisciplines
  • Natural sciences
    • Machine learning and decision making
    • Computer vision
Trefwoorden
deep learning
 
Projectomschrijving

Vandaag de dag zijn er een hele reeks elektronische sensoren die klein genoeg zijn om geïntegreerd te worden in ingebedde apparaten, zoals autos en robots. Deze sensoren vereisen ook moderne deep learning algoritmes om herkenning en dergelijke uit te voeren. Het doel van mijn voorstel is om nieuwe neurale netwerk ontwerpmethodologieën te ontwikkelen die geoptimaliseerd zijn voor ingebedde apparaten. Aangezien er vele potentiële use-cases zijn voor kleine apparaten met AI-capaciteiten aan boord, moeten deep learning algoritmes kunnen schalen naar de beschikbare rekenkracht. Ik zal daarom algoritmes ontwikkelen die zich aanpassen aan het beschikbare vermogensbudget, latency, enz. De belangrijkste bijdrage van mijn werk is het richten op het schalen van de rekencomplexiteit, door de uitvoering van het neurale netwerk aan te passen aan de input. Sommige inputs zijn makkelijker te verwerken dan andere, als mens nemen we dit ook waar, soms herkennen we zaken onmiddellijk terwijl we op andere momenten iets langer moeten focussen. De laatste jaren is het in deep learning de trend geweest om steeds grotere netwerken te maken die beter presteren. Hoewel voor vele inputs een kleiner, sneller netwerk voldoende is. Door neurale netwerken schaalbaar te maken op een per-input basis, kan de uitvoering sneller gemaakt worden voor inputs die eenvoudig te interpreteren zijn maar met behoud van de volledige kracht van een trager maar nauwkeuriger netwerk voor moeilijker te interpreteren inputs.