Energiezuinige neurale hardware

Analoge AI-chips: hoe berekeningen in het geheugen het energieverbruik van neurale netwerken verminderen

Kunstmatige intelligentie wordt steeds veeleisender en de elektriciteit die nodig is om neurale netwerken te laten functioneren, vormt een steeds belangrijker aandachtspunt. Traditionele processors verbruiken veel energie bij het overbrengen van informatie tussen het geheugen en de rekeneenheden, vooral wanneer ze modellen met miljoenen of miljarden parameters verwerken. Analoge AI-chips bieden een andere aanpak: ze voeren berekeningen rechtstreeks uit in geheugencircuits, waardoor onnodige gegevensoverdracht wordt beperkt. Deze techniek, bekend als analoog rekenen in het geheugen, kan AI-systemen sneller en energiezuiniger maken. Onderzoek dat tussen 2023 en 2026 is gepubliceerd, heeft het potentieel ervan aangetoond bij spraakherkenning, taalverwerking en andere toepassingen van neurale netwerken. Het omzetten van veelbelovende laboratoriumresultaten in betrouwbare, breed beschikbare hardware blijft echter een aanzienlijke technische uitdaging.

Hoe analoge AI-chips de werking van neurale netwerken veranderen

De meeste moderne AI-systemen gebruiken digitale processors, waaronder grafische processors (GPU’s), om enorme aantallen wiskundige bewerkingen uit te voeren. Deze processors zijn bijzonder geschikt om complexe berekeningen gelijktijdig te verwerken, maar hebben daarvoor nog steeds toegang nodig tot informatie die in het geheugen is opgeslagen. Telkens wanneer een neuraal netwerk een afbeelding verwerkt, spraak herkent of tekst genereert, haalt de processor herhaaldelijk modelparameters op en verwerkt hij binnenkomende gegevens. Het verplaatsen van deze informatie kost elektriciteit en tijd. Naarmate neurale netwerken groter worden, kan gegevensoverdracht een aanzienlijk deel van hun totale energiebehoefte uitmaken, zelfs wanneer de berekeningen zelf zeer efficiënt worden uitgevoerd.

Analoge AI-chips pakken dit probleem aan door berekeningen en gegevensopslag op dezelfde fysieke locatie samen te brengen. In plaats van voortdurend numerieke waarden naar een afzonderlijke rekeneenheid over te brengen, nemen gespecialiseerde geheugencircuits rechtstreeks deel aan de berekeningen. Elektrische eigenschappen zoals spanning, stroomsterkte en elektrische geleiding vertegenwoordigen informatie en helpen bij het uitvoeren van wiskundige bewerkingen. Dit betekent niet dat digitale verwerking volledig wordt losgelaten. De meeste praktische ontwerpen combineren analoge geheugenarrays met digitale circuits die verantwoordelijk zijn voor de aansturing van bewerkingen, de verwerking van resultaten en de communicatie met andere onderdelen. Het belangrijkste doel is het energieverbruik door gegevensoverdracht te verminderen, zonder afbreuk te doen aan de nauwkeurigheid die nodig is voor bruikbare AI-toepassingen.

Deze aanpak is bijzonder geschikt voor neurale netwerken, omdat veel van hun bewerkingen bestaan uit het vermenigvuldigen van getallen en het optellen van de resultaten. Met deze berekeningen wordt bepaald hoeveel invloed verschillende stukjes informatie hebben op de uitvoer van een model. Traditionele hardware voert ze uit via reeksen digitale instructies, terwijl een analoge geheugenarray veel van deze samenhangende bewerkingen gelijktijdig kan uitvoeren dankzij het elektrische gedrag van de circuits. Daardoor kan de chip bepaalde AI-taken met minder conventionele rekenstappen verwerken. De verbetering hangt af van het type neuraal netwerk, de gebruikte geheugentechnologie en de ondersteunende elektronica. Analoge verwerking moet daarom worden beschouwd als een gespecialiseerde methode en niet als een universele vervanging voor bestaande processors.

Waarom berekeningen in het geheugen elektriciteit kunnen besparen

Om de energiebesparing te begrijpen, kunnen we kijken naar een neuraal netwerk dat een gesproken opdracht herkent. De interne verbindingen bevatten numerieke waarden, zogenoemde gewichten, die bepalen hoe het netwerk reageert op verschillende geluidspatronen. Een traditionele processor moet deze waarden herhaaldelijk ophalen tijdens het analyseren van binnenkomende audio. Een analoge AI-chip met berekeningen in het geheugen slaat de gewichten op in circuits die ook de benodigde berekeningen uitvoeren. Binnenkomende signalen werken samen met deze opgeslagen waarden en produceren elektrische uitvoersignalen die de resultaten vertegenwoordigen. Omdat de gewichten niet bij iedere bewerking heen en weer hoeven te worden verplaatst tussen afzonderlijke geheugen- en rekeneenheden, kan het systeem zowel de gegevensoverdracht als het bijbehorende energieverbruik verminderen.

Een veelonderzocht ontwerp maakt gebruik van een crossbar-array, een netwerk van elkaar kruisende elektrische verbindingen met geheugenelementen. Elk element kan een gewicht van een neuraal netwerk vertegenwoordigen via zijn elektrische geleiding, die aangeeft hoe gemakkelijk stroom erdoorheen loopt. Wanneer ingangsspanningen worden aangelegd, komen de stromen die door de array lopen overeen met wiskundige producten, terwijl de samengevoegde stromen automatisch hun sommen vertegenwoordigen. Hierdoor kan de hardware matrix-vectorvermenigvuldigingen uitvoeren, een fundamentele bewerking binnen neurale netwerken. Hoewel de onderliggende natuurkunde draait om elektrische weerstand en stroomsterkte, is het principe eenvoudig: het fysieke gedrag van het geheugencircuit voert een deel van de wiskundige berekeningen uit die digitale processors anders afzonderlijk zouden moeten verwerken.

Energiebesparing is echter niet vanzelfsprekend. Analoge chips hebben nog steeds circuits nodig die ingangssignalen voorbereiden, elektrische uitvoersignalen omzetten in digitale waarden en de informatie-uitwisseling tussen verschillende geheugenarrays coördineren. Deze ondersteunende onderdelen verbruiken elektriciteit en hun aandeel kan aanzienlijk worden wanneer een model regelmatig signaalconversies of aanvullende verwerking nodig heeft. Ingenieurs beoordelen daarom de volledige chip en niet alleen de geheugenarray. Bij een zinvolle vergelijking moet ook rekening worden gehouden met nauwkeurigheid, verwerkingssnelheid en de hoeveelheid uitgevoerd werk. Een analoog circuit dat afzonderlijke bewerkingen bijzonder efficiënt uitvoert, kan in de praktijk een kleiner voordeel opleveren wanneer ook de ondersteunende elektronica en communicatievereisten worden meegerekend.

Geheugentechnologieën en onderzoeksresultaten achter analoge AI

Voor analoge AI-berekeningen worden verschillende geheugentechnologieën onderzocht, elk met een eigen verhouding tussen efficiëntie, nauwkeurigheid en productiecomplexiteit. Faseveranderingsgeheugen is een van de uitgebreidst gedemonstreerde benaderingen. Het maakt gebruik van materialen waarvan de elektrische weerstand verandert wanneer hun interne structuur wordt aangepast door zorgvuldig gecontroleerde elektrische pulsen. Door deze veranderingen kunnen afzonderlijke geheugenelementen numerieke gewichten vertegenwoordigen die door neurale netwerken worden gebruikt. De opgeslagen waarden kunnen behouden blijven zonder voortdurende stroomtoevoer, waardoor faseveranderingsgeheugen aantrekkelijk is voor bepaalde energiezuinige ontwerpen. Het nauwkeurig programmeren van deze waarden en het langdurig behouden van hun stabiliteit vereisen echter zorgvuldige technische oplossingen.

Resistief geheugen, dat vaak wordt geassocieerd met memristoren, biedt een andere mogelijkheid. Deze elementen kunnen hun weerstand veranderen op basis van eerder toegepaste elektrische signalen, waardoor ze informatie kunnen opslaan en aan berekeningen kunnen deelnemen. Onderzoekers bestuderen daarnaast circuits op basis van statisch willekeurig toegankelijk geheugen (SRAM), ladingsopslag en combinaties van verschillende geheugentypen. SRAM wordt al veel gebruikt in traditionele processors, maar analoge bewerkingen binnen SRAM-gebaseerde circuits brengen andere ontwerpafwegingen met zich mee. Sommige nieuwe niet-vluchtige geheugentechnologieën bieden compacte opslag, terwijl SRAM voorspelbaar digitaal gedrag kan leveren. De keuze voor een bepaalde technologie hangt af van de vereiste precisie, de beschikbare productieprocessen, de bedrijfsomstandigheden en het neurale netwerk dat moet worden versneld.

Belangrijk is dat analoog geheugen niet beperkt is tot het opslaan van één continu instelbare waarde per geheugenelement. Sommige ontwerpen combineren meerdere elementen of gebruiken verschillende elektrische metingen om een numeriek gewicht nauwkeuriger weer te geven. Andere ontwerpen verdelen berekeningen tussen analoge en digitale circuits, zodat iedere technologie de bewerkingen uitvoert waarvoor zij het meest geschikt is. Deze flexibiliteit heeft de ontwikkeling gestimuleerd van AI-processors met gemengde signalen, waarin beide soorten elektronica worden gecombineerd. In plaats van analoge en digitale verwerking als concurrerende oplossingen te beschouwen, onderzoeken wetenschappers steeds vaker hoe ze kunnen samenwerken. Dergelijke constructies kunnen de energievoordelen van berekeningen in het geheugen behouden zonder dat iedere fase van een neuraal netwerk met analoge signalen hoeft te werken.

Wat IBM en recente wetenschappelijke onderzoeken hebben aangetoond

Een belangrijke demonstratie kwam in 2023 van IBM Research. In een onderzoek dat in Nature werd gepubliceerd, beschreven onderzoekers een analoge AI-chip van 14 nanometer met ongeveer 35 miljoen faseveranderingsgeheugenelementen, verdeeld over 34 rekentegels. De chip behaalde een gerapporteerde aanhoudende prestatie van maximaal 12,4 biljoen bewerkingen per seconde per watt. De onderzoekers demonstreerden nauwkeurige herkenning van sleutelwoorden en gebruikten vijf onderling verbonden chips om een aanzienlijk groter neuraal netwerk voor spraaktranscriptie met meer dan 45 miljoen gewichten te verwerken. Deze resultaten lieten zien dat analoge berekeningen in het geheugen bruikbare taken van neurale netwerken kunnen ondersteunen, in plaats van uitsluitend afzonderlijke wiskundige experimenten uit te voeren. De gerapporteerde efficiëntiewaarde beschrijft de experimentele hardware onder specifieke omstandigheden en vormt geen garantie voor betere prestaties dan iedere commerciële GPU.

De vooruitgang zette zich voort in 2025. In Nature verscheen onderzoek naar een AI-processor met gemengde precisie die berekeningen met memristoren combineerde met SRAM-gebaseerde verwerking. Daarmee werd ingespeeld op de moeilijkheid om een hoge nauwkeurigheid te behouden en tegelijkertijd te profiteren van compact, energiezuinig geheugen. In september 2025 meldden IBM-onderzoekers bovendien dat zij een ALBERT-taalmodel hadden uitgevoerd op een analoge chip voor inferentie, waarbij 7,1 miljoen unieke gewichten werden weergegeven met ongeveer 28,3 miljoen geheugenelementen. Bij de gerapporteerde tests voor taalbegrip lag de gemiddelde nauwkeurigheid van de hardware 1,8 procentpunt onder die van de referentie met drijvende-kommaberekeningen. Het onderzoek toonde aan dat zorgvuldige aanpassing van een model en compensatie voor onvolkomenheden in de hardware analoge verwerking praktisch bruikbaar kunnen maken voor complexere taalverwerkingstaken.

In 2026 richtte het wetenschappelijk onderzoek zich steeds sterker op het overwinnen van de resterende obstakels voor een betrouwbare werking. Een overzichtsstudie die in mei 2026 in Nature Materials verscheen, onderzocht hoe ruis, verschillen tussen geheugenelementen en onvolkomenheden in circuits de werking van analoge berekeningen met memristoren beïnvloeden. Ook werden manieren besproken om de nauwkeurigheid te verbeteren zonder te veel van het oorspronkelijke energievoordeel te verliezen. Een ander belangrijk onderzoek, dat in 2025 in Nature Computational Science werd gepubliceerd, bestudeerde analoge berekeningen in het geheugen voor het aandachtsmechanisme dat in taalmodellen wordt gebruikt. De gespecialiseerde architectuur liet een zeer sterke vermindering zien van het energieverbruik voor aandachtsberekeningen vergeleken met de onderzochte GPU-implementaties. Dergelijke resultaten wijzen op een aanzienlijk potentieel, maar hebben betrekking op specifieke bewerkingen en experimentele ontwerpen, niet noodzakelijk op het totale elektriciteitsverbruik van een volledig taalmodel.

Energiezuinige neurale hardware

Praktische toepassingen, beperkingen en de toekomst van analoge AI-chips

Kleinere, energiezuinige AI-systemen behoren tot de meest veelbelovende toepassingen van analoge berekeningen in het geheugen. Smartphones, draagbare apparaten, beveiligingscamera’s en industriële sensoren moeten regelmatig informatie analyseren zonder voortdurend afhankelijk te zijn van externe servers. Een apparaat dat lokaal een spraakopdracht kan herkennen, een ongewoon geluid kan detecteren of een object kan identificeren, kan sneller reageren en minder informatie via een netwerk versturen. Een lager energieverbruik kan er bovendien voor zorgen dat apparaten op batterijen langer functioneren voordat ze opnieuw moeten worden opgeladen. Het daadwerkelijke voordeel hangt echter af van de vraag of het neurale netwerk in het beschikbare geheugen past, hoe vaak het wordt gebruikt en of de omliggende elektronica niet meer energie verbruikt dan de gespecialiseerde berekeningen besparen.

Medische apparatuur en industriële bewakingssystemen bieden aanvullende mogelijkheden. Een compacte AI-chip kan helpen bij het analyseren van signalen van medische sensoren, het herkennen van ongebruikelijke machinetrillingen of het verwerken van informatie van apparatuur voor milieumonitoring. Bij dergelijke toepassingen is een laag energieverbruik waardevol, omdat apparaten soms voortdurend moeten functioneren of zich bevinden op plaatsen waar het vervangen van batterijen lastig is. Lokale gegevensverwerking kan daarnaast de noodzaak verminderen om gevoelige of tijdkritische informatie naar andere locaties te versturen. Een energiezuinige chip is echter niet automatisch medisch betrouwbaar of industrieel veilig. Systemen die in kritieke omgevingen worden gebruikt, moeten uitgebreid worden getest en beschikken over passende veiligheidsmaatregelen. Ook moeten ze onder realistische omstandigheden worden gevalideerd voordat ze voor belangrijke beslissingen kunnen worden ingezet.

Grote datacenters kunnen uiteindelijk eveneens profiteren van analoge versnellers, vooral bij verwerkingstaken waarbij vastgestelde gewichten van neurale netwerken herhaaldelijk worden toegepast. Deze activiteit, inferentie genoemd, vindt plaats wanneer een getraind model voorspellingen of antwoorden genereert. Inferentie is bijzonder geschikt voor deze techniek, omdat de gewichten gedurende veel berekeningen ongewijzigd kunnen blijven. Het trainen van een model is ingewikkelder: de gewichten moeten voortdurend worden aangepast terwijl het systeem leert, wat de energie en tijd voor het programmeren van analoge geheugenelementen kan verhogen. Daardoor zijn analoge versnellers momenteel verder ontwikkeld voor bepaalde inferentietaken dan voor het algemeen trainen van grote AI-modellen. Toekomstige computersystemen kunnen traditionele processors combineren met gespecialiseerde analoge chips, waarbij taken worden toegewezen aan de hardware die ze het efficiëntst kan uitvoeren.

Welke uitdagingen moeten worden opgelost voor grootschalige toepassing?

De grootste technische uitdaging is het behouden van een betrouwbare numerieke nauwkeurigheid. Digitale processors vertegenwoordigen informatie met nauwkeurig gedefinieerde toestanden, terwijl analoge circuits werken met fysieke grootheden die worden beïnvloed door elektrische ruis, temperatuur, productieverschillen en geleidelijke veranderingen in materialen. Twee geheugenelementen die zijn geprogrammeerd om dezelfde waarde weer te geven, kunnen zich enigszins verschillend gedragen. Sommige technologieën hebben bovendien te maken met geleidingsdrift, waarbij opgeslagen elektrische eigenschappen na verloop van tijd veranderen. Deze onvolkomenheden kunnen fouten veroorzaken in de berekeningen van neurale netwerken, vooral wanneer veel bewerkingen achter elkaar worden uitgevoerd. Ingenieurs proberen dit probleem op te lossen met kalibratie, verbeterde circuitontwerpen, zorgvuldig gekozen numerieke precisie en trainingsmethoden die rekening houden met het gedrag van echte hardware.

Ook de productie en compatibiliteit met bestaande software brengen uitdagingen met zich mee. Traditionele AI-software is ontwikkeld voor CPU’s, GPU’s en gevestigde digitale versnellers, waardoor ondersteunde modellen relatief eenvoudig op algemeen beschikbare hardware kunnen worden uitgevoerd. Analoge chips hebben aanvullende hulpmiddelen nodig om neurale netwerken om te zetten naar geschikte geheugenconfiguraties en om de wisselwerking tussen fysieke signalen en digitale berekeningen te beheren. Ontwikkelaars moeten bovendien rekening houden met de levensduur van geheugenelementen, het aantal keren dat gewichten kunnen worden herschreven, de productiekosten en de integratie met bestaande productieprocessen voor halfgeleiders. Zelfs een experimenteel ontwerp met een bijzonder hoog rendement kan commercieel moeilijk toepasbaar zijn wanneer de productieopbrengst laag is, het programmeren veel tijd kost of de voordelen verdwijnen zodra de chip onderdeel wordt van een volledig computersysteem.

In oktober 2026 bevindt analoog rekenen in het geheugen zich nog altijd in een actieve onderzoeks- en ontwikkelingsfase en vormt het geen algemene vervanging voor traditionele AI-processors. Het belangrijkste voordeel berust op een duidelijk natuurkundig principe: door berekeningen uit te voeren op de plaats waar de gewichten van neurale netwerken zijn opgeslagen, kan een aanzienlijke hoeveelheid onnodige gegevensoverdracht worden voorkomen. Gepubliceerde demonstraties hebben al bruikbare resultaten laten zien op het gebied van spraakverwerking, taalbegrip en gespecialiseerde bewerkingen van neurale netwerken. De volgende ontwikkelingsfase hangt af van de vraag of deze resultaten kunnen worden omgezet in chips die nauwkeurig, betaalbaar, betrouwbaar en eenvoudig in bestaande producten te integreren zijn. Als ingenieurs erin slagen deze eisen met elkaar in evenwicht te brengen, kan analoge AI-hardware een belangrijk onderdeel worden van energiezuinigere computersystemen, vooral wanneer elektriciteitsverbruik, warmteontwikkeling en batterijduur praktische grenzen stellen aan AI-toepassingen.