黑料福利网

鈥淲e wilden een effici毛nte chip ontwerpen en bouwen voor zogenaamde edge-computing鈥�, legt hoofdonderzoeker Manil Dev Gomony uit. 鈥淒it betekent dat een gebruiker die aan AI een vraag stelt, het model lokaal kan uitvoeren, op zijn apparaat aan de 'rand' van de cloud, in plaats van dit commando naar een extern datacenter ergens op aarde te sturen en een antwoord te ontvangen dat de halve wereld is overgegaan.鈥�

We hebben snelle en effici毛nte rekenkracht nodig voor de smart-hubs in onze woningen

Manil Dev Gomony, hoogleraar low power digitale hardware-ontwerp

鈥淒aarnaast krijgen we steeds meer slimme apparaten in onze huizen (zonnepanelen, elektrische voertuigen, warmtepompen, energieopslag in huis, enz.) die snel moeten bepalen wat de beste manier van werken is, gezien de netcongestie, energieprijzen en vele andere variabelen. We hebben ook snelle en effici毛nte rekenkracht nodig voor deze hubs in onze woningen.鈥�

Daarom ontwikkelden en produceerden Gomony en zijn collega's een krachtige chip om geselecteerde AI-berekeningen dicht bij de gebruiker uit te voeren: in zijn eigen apparaat 茅n met een lager energieverbruik!

Edge-computing of rekenen in de cloud

Toen de 黑料福利网-onderzoekers in 2022 met hun project begonnen, begon het gebruik van Generatieve AI (GenAI) al een vlucht te nemen. De is in 2026 verbluffend en stelt steeds hogere eisen aan de krachtige chips die in grote datacenters de enorme hoeveelheid berekeningen uitvoeren die nodig zijn voor het trainen en gebruiken (inferentie) van AI-modellen.

De bouw van die enorme datacenters, plus het gestegen energieverbruik en de enorme hoeveelheden water voor de koeling van die infrastructuur, heeft schadelijke effecten voor het milieu.

Dit zijn precies de problemen die Gomony en zijn collega's hopen op te lossen met hun revolutionaire benadering van chipontwerp en rekenkracht.

鈥淒e chips die tegenwoordig in cloud-datacenters worden gebruikt, zijn groot en worden extreem heet. Ze zijn daardoor veel te groot om in een laptop, smartphone of domotica-apparaat te passen. Bovendien vereisen deze datacenters krachtige ventilatoren en koelwater, wat een zware druk legt op lokale gemeenschappen en ecosystemen. Als we berekeningen juist dichter bij de gebruiker (on-device) uitvoeren, verbruiken we aanzienlijk minder energie dan wanneer alle verzoeken naar deze centrale supercomputers in de cloud moeten worden gestuurd.鈥�

Andere ontwerpbenadering

Een van de dingen die het door de EU gefinancierde en door 黑料福利网 geleide heeft veranderd, was de methode om chips te ontwerpen. Ze ontwikkelden hun methodologie specifiek om energiezuinige chips te maken. Met onderzoekspartners in Leuven, Delft, Z眉rich en vele industri毛le partners met ieder zijn unieke bijdrage, slaagden ze erin de chip te ontwerpen en te bouwen die ze allemaal voor ogen hadden. En hun metingen bewijzen dat ze geslaagd zijn.

Gomony: 鈥淏innen CONVOLVE gebruikten we een cross-layer ontwerpbenadering. Dat betekent dat het team in plaats van het AI-algoritme, de processorarchitectuur, het geheugensysteem en de schakelingen los van elkaar te ontwikkelen, deze lagen samen heeft geoptimaliseerd.鈥�

鈥淒it stelde ons in staat om verschillende belangrijke aspecten van de eigenschappen van de chip (zoals nauwkeurigheid, programmeerbaarheid, verwerkingssnelheid, siliciumoppervlak en energieverbruik) vanaf het begin van het ontwerpproces in balans te brengen.鈥�

Prototype-chip laten zweten

鈥淲e combineerden programmeerbare RISC-V-processors met gespecialiseerde AI-versnellers, waaronder geheugengerichte en neuromorfe computertechnieken, om ons te helpen onze doelen te bereiken. Dat was belangrijk omdat we de overdracht van data tussen het geheugen en de verwerkingsunits wilden verminderen. We deden dat bewust om energie te besparen. Dataverplaatsing is vaak een belangrijke bron van energieverbruik in AI-hardware, zoals onze chip.鈥�

Gomony vervolgt: 鈥淥m te bewijzen dat we die doelen hadden bereikt, produceerden we prototypechips en evalueerden we hun werking, in plaats van alleen naar simulaties te kijken. Ons team paste realistische AI-workloads toe op de chip, zodat we echt konden zien hoe goed die presteerde. Onderzoekers maten energie-effici毛ntie, doorvoer, latency, siliciumoppervlak en applicatienauwkeurigheid en vergeleken de resultaten met relevante bestaande ontwerpen, wat ons gelijk bevestigde.鈥�

Daarom hebben we een betaalbaar, groen, goed ontworpen EU-alternatief nodig 鈥� en de chiptechnologie die in CONVOLVE is ontwikkeld, biedt precies dat! 

Manil Dev Gomony, hoogleraar low power digitale hardware-ontwerp

Een Europees antwoord

Er is een enorme explosie van rekenkracht gaande. Een van de maatstaven die worden gebruikt om rekensnelheid te beschrijven is de petaflop; 茅茅n petaflop is 茅茅n biljard (1.000.000.000.000.000) wiskundige berekeningen per seconde. In 2010 zou je hiervoor nog 625.000 iPhone 4's nodig hebben gehad. Tegenwoordig zou dit met dertig moderne smartphones kunnen, of 茅茅n enkele gespecialiseerde AI-chip.

鈥淜ijk hoe rekenkracht zich heeft ontwikkeld. Het berekenen van 1 petaflop was wat een supercomputer tien jaar geleden kon doen,鈥� vervolgt Gomony. 鈥淒it is het soort rekenkracht dat Amerikaanse techgiganten nu beschikbaar stellen aan consumenten. Met alle negatieve bijwerkingen van een zeer slechte batterijduur en zware, grote apparaten.鈥�

鈥淒aarom hebben we een betaalbaar, groen, goed ontworpen EU-alternatief nodig 鈥� en de chiptechnologie毛n die in CONVOLVE zijn ontwikkeld, bieden precies dat! Ik geloof dat zowel ons ontwerp als onze methodologie zullen bijdragen aan de concurrentiekracht van Europa op het gebied van smart edge computing-processors. En onze industri毛le partners hebben het voordeel dat zij als eersten onze nieuwe chips kunnen proberen en onze methodologie toepassen op hun expertisegebieden.鈥�

Het team van Gomony presenteert zijn werk en resultaten op de ESSERC in september. 鈥淓en van onze promovendi, Rick Luiken, zal ons Europese antwoord presenteren op wat er gebeurt in de wereld van rekenkracht. Het delen van ons onderzoek op deze conferentie is de kroon op ons werk.鈥�