In de eerste fase van AI-gebruik is één model van één aanbieder vaak een verstandige keuze. Het houdt de inkoop eenvoudig, beperkt het aantal koppelingen en laat teams snel leren. De moeilijkheid komt later, wanneer dezelfde organisatie tientallen AI-toepassingen draait met sterk uiteenlopende eisen.
Een team dat interne samenvattingen opstelt, heeft andere behoeften dan een team dat klantcontracten verwerkt. De ene taak heeft baat bij het krachtigste beschikbare model; een andere vraagt een snel en goedkoop antwoord; bij een derde gaat het om gegevens die een afgebakende omgeving niet mogen verlaten. Ze allemaal hetzelfde behandelen betekent meestal dat de organisatie voor sommige te veel betaalt, andere tekortdoet of dataroutes accepteert die nooit expliciet zijn goedgekeurd.
Hoe routing werkt
AI-routing pakt dit aan door per verzoek te bepalen welk model en welke infrastructuurroute het afhandelt. Op hoofdlijnen kent de stroom vier stappen:
De tweede stap is de belangrijkste. Routing draait niet in de eerste plaats om het goedkoopste of het sterkste model. Het draait erom dat ieder verzoek alleen terechtkomt waar de organisatie heeft besloten dat het mag, en dat er binnen die grenzen verstandig wordt gekozen.
Publieke, private en zelfgehoste routes
Routes vallen grofweg in drie soorten uiteen. Publieke routes gebruiken modellen die externe aanbieders als dienst leveren; vaak de snelste weg naar zeer capabele modellen, waarbij gegevens worden verwerkt onder de voorwaarden en op de infrastructuur van de aanbieder. Private routes gebruiken toegewezen of contractueel afgeschermde omgevingen, die meer controle kunnen bieden over waar gegevens worden verwerkt en hoe lang ze worden bewaard. Zelfgehoste routes draaien modellen op infrastructuur die de organisatie of haar partner zelf beheert.
Deze routes zijn niet uitwisselbaar. Ze verschillen in modelcapaciteit, operationele inspanning, kostenstructuur en beschikbare beheersmaatregelen. Een private of zelfgehoste omgeving levert ook niet automatisch soevereiniteit op, oftewel daadwerkelijke zeggenschap over data en infrastructuur onder gekozen jurisdicties. Waar gegevens worden verwerkt, wie er toegang toe heeft, welk recht van toepassing is en hoe de infrastructuur wordt beheerd, moet altijd worden beoordeeld, welk label de route ook heeft.
De afwegingen
Binnen de toegestane routes weegt iedere keuze taakkwaliteit, responstijd, beschikbaarheid, kosten en databeperkingen tegen elkaar af. Een capabeler model kan betere resultaten geven bij complexe redeneringen, maar trager reageren en meer kosten per verzoek. Een kleiner model kan snel en goedkoop zijn en volstaan voor classificatie of korte teksten. Ook beschikbaarheid telt: als een route niet beschikbaar is, houdt een fallback de applicatie werkend.
Fallback heeft een harde grens. Hij moet binnen de routes blijven die voor dat verzoek zijn toegestaan. Zijn de enige toegestane routes voor beperkte gegevens niet beschikbaar, dan kan vertraging of een zichtbare foutmelding de juiste uitkomst zijn, en niet een stille overstap naar een route die de organisatie heeft uitgesloten. Beschikbaarheid mag de eigen beperkingen van de organisatie niet opzijzetten.
Een illustratieve vergelijking
Twee fictieve toepassingen binnen dezelfde organisatie laten het verschil zien. De eerste is een schrijfassistent voor interne communicatie, met weinig gevoelige inhoud. De regels kunnen hier meerdere publieke en private routes toestaan. De prioriteit is aanvaardbare kwaliteit tegen redelijke kosten en snelheid, en als een route uitvalt, kan een andere toegestane route het overnemen.
De tweede verwerkt documenten met beperkte persoons- of contractgegevens. De regels kunnen hier slechts één of twee routes binnen een afgebakende omgeving toestaan, en vereisen dat ieder verzoek voor controle wordt vastgelegd. Kwaliteit en databeperkingen gaan hier voor kosten. Zijn de toegestane routes niet beschikbaar, dan wacht het verzoek of mislukt het zichtbaar.
Beide toepassingen gebruiken dezelfde routingaanpak. Wat verschilt, is het beleid erachter, en dat beleid weerspiegelt besluiten die alleen de organisatie kan nemen.
Waar GreenRouter en N8tive passen
GreenRouter, een venture in ontwikkeling bij Xablu Venture Studio, bouwt een regielaag rond deze aanpak: AI-verzoeken routeren op basis van vastgelegd beleid voor kosten, kwaliteit, beschikbaarheid, privacy en compliance, en vastleggen wat er gebeurt, zodat de regels kunnen worden gevolgd en bijgesteld. Bekijk GreenRouter
De verdeling van verantwoordelijkheden is bewust. De organisatie stelt het beleid vast, bepaalt welke routes aanvaardbaar zijn voor welke gegevens en aanvaardt het bijbehorende risico. Een routinglaag past die besluiten consequent toe en maakt de effecten zichtbaar. Ze neemt de besluiten niet, en maakt een organisatie niet uit zichzelf compliant.
N8tive, een andere venture in ontwikkeling bij de studio, werkt aan een verwante laag: het uitrollen, beheren en bewaken van cloud- en Kubernetes-omgevingen, waaronder omgevingen waarin private of zelfgehoste routes kunnen draaien. N8tive ondersteunt uitvoering en beheer. Het neemt niet de verantwoordelijkheid van de organisatie voor beleid over, en ook niet die van infrastructuurpartners voor het zorgvuldig beheren van hun omgevingen.
Is er in uw organisatie een AI-toepassing waarbij de keuze van model en route een nadere blik verdient? Begin met één: welke routes zijn toegestaan, en welke uitkomsten moeten worden gemeten? We beoordelen het graag samen met u.
Beoordeel een AI-toepassing →