Agenten onder menselijke controle
Hoe kunt u een prototype van een nuttige agent maken zonder gevoelige beslissingen aan die agent te delegeren?
3500 € per sessie, excl. btw
Samengevat
In twee dagen, goed voor 14 uur exclusief pauzes, ontwerpt u een prototype van een agent die een actie kan voorbereiden, menselijke goedkeuring kan vragen en de gesimuleerde uitvoering ervan kan registreren. U bepaalt de machtigingen, bouwt de controlepunten en meet de kwaliteit aan de hand van gedocumenteerde scenario’s, voordat u een beperkte pilot voorbereidt.
Waarom deze opleiding?
Een agent die lezen, beslissen en handelen aan elkaar koppelt, kan een fout verder laten doorwerken dan alleen een onjuist antwoord. Toezicht moet daarom plaatsvinden voordat gevoelige verbintenissen worden aangegaan, met beperkte machtigingen. Menselijke goedkeuring is alleen nuttig als de verantwoordelijke het voorstel, de bronnen en de onzekerheden ervan begrijpt. Het traject vertaalt deze vereiste naar uitvoerbare controles en testbewijzen. Doorlopende casus: Avelcore Équipements, een fictieve distributeur, ontvangt aanvragen voor productretouren. De agent raadpleegt een fictief beleid, bereidt een aanbeveling voor en schakelt een verantwoordelijke in voordat een retour wordt toegestaan. Onvolledige, tegenstrijdige of verdachte dossiers moeten worden geëscaleerd, zonder contact op te nemen met een echte klant. Toepassing op het werk: Het prototype overzetten naar een toegestaan proces, de machtigingen en gegevens laten goedkeuren en vervolgens een afgebakende pilot voorstellen met een verantwoordelijke, acceptatiedrempels en een stopprocedure.
De doelstellingen van deze opleiding
- Autonome, gesuperviseerde en verboden acties afbakenen
- Goedkeurings- en escalatiestatussen modelleren
- Een prototype bouwen met minimale machtigingen
- Fouten, weigeringen en omzeilingspogingen testen
- De kwaliteit meten en een beperkte pilot formaliseren
Voor wie en met welke voorkennis?
Betrokken rollen en taken
- Automatiseringsverantwoordelijken en AI-projectleiders
- Inhoudelijke aanspreekpunten en ontwerpers van processen onder toezicht
- Ontwikkelaars of integratoren die verantwoordelijk zijn voor een prototype
Vereiste voorkennis
- Instructies voor generatieve AI kunnen structureren en evalueren
- Een bedrijfsproces en de bijbehorende beslissingsrisico’s begrijpen
- Een geautomatiseerde flow kunnen configureren of een eenvoudig script kunnen lezen
Waaraan u werkt
De delegatie afbakenen
Doel: Het mandaat van de agent bepalen. Agent, workflow, autonomie en gevoelige verbintenissen.
De risico’s in kaart brengen
Doel: Elke controle toewijzen. Minimale machtigingen, scheiding van rollen, escalatie.
De statussen modelleren
Doel: Het procesverloop expliciet maken. Wachten, goedkeuring, afwijzing, verval en hervatting.
De invoer structureren
Doel: De gebruikte informatie begrenzen. Toegestane bronnen, verplichte velden, onbetrouwbare gegevens.
Het prototype samenstellen
Doel: Een traceerbare aanbeveling opstellen. Instructies, raadpleging van documenten en gesimuleerde acties.
De goedkeuring inrichten
Doel: Gevoelige acties blokkeren. Bronnen, onderbouwing, onzekerheden en keuzes van de toezichthouder.
De hervatting beveiligen
Doel: Onterechte uitvoering voorkomen. Versiegebonden goedkeuring, verval, preventie van dubbele uitvoeringen.
De tests voorbereiden
Doel: De verwachte resultaten vastleggen. Standaardgevallen, dubbelzinnige, onvolledige en verboden gevallen.
De beveiligingsmaatregelen op de proef stellen
Doel: Omzeilingen opsporen. Injectie via documenten, verboden toegang, afwezige toezichthouder.
Meten en corrigeren
Doel: Resultaten en verwachtingen vergelijken. Nauwkeurigheid, relevante escalaties, geblokkeerde acties, menselijke correcties.
De werking van de pilot organiseren
Doel: Haalbaar toezicht voorbereiden. Logging, bewaring, waarschuwingen en handmatige stopzetting.
Beslissen over de pilot
Doel: Een beperkt experiment verantwoorden. Acceptatiedrempels, verantwoordelijkheden en resterende beperkingen.
Wat u meeneemt
- Matrix van machtigingen en verantwoordelijkheden
- Prototype met toezicht en gedocumenteerde configuratie
- Dossier voor menselijke goedkeuring en uitvoeringslogboek
- Testrapport met kwaliteitsmetingen
- Pilotplan met stopvoorwaarden
Methode en evaluatie
- Korte toelichtingen, onmiddellijk gevolgd door praktijkoefeningen op de doorlopende casus.
- Individueel werk, vervolgens werk in duo’s, waarbij deelnemers elkaars resultaten beoordelen.
- Begeleide groepsbespreking: wat werkt, wat moet worden gecorrigeerd en wat een menselijke beslissing blijft.
- Voorbereiding: Controleer de toegang tot een prototypingomgeving die door de organisatie is toegestaan Bereid een procedure en fictieve of geanonimiseerde dossiers voor, zonder gevoelige gegevens
Waarneembare criteria: Elke gevoelige actie blijft geblokkeerd zonder expliciete goedkeuring ; Elke menselijke beslissing is gekoppeld aan een voorstel met versiebeheer ; De tests omvatten weigering, het verstrijken van de geldigheid, injectie en hervatting ; De nauwkeurigheids- en escalatiepercentages worden berekend op basis van de geteste dataset ; De pilot vermeldt de verantwoordelijken, de afbakening en de stopdrempels.
Veelgestelde vragen
Voert het prototype acties uit op echte systemen?
Nee, de acties worden gesimuleerd in een geïsoleerde omgeving.
Moet u programmeren?
Niet noodzakelijk; de configuratie hangt af van de toegestane tools en hun geverifieerde mogelijkheden.
Wie keurt de voorstellen goed?
Een aangewezen verantwoordelijke die over de bronnen en de bevoegdheid om te weigeren beschikt.
Kunt u meteen na afloop overgaan tot grootschalige productie?
Nee; beveiliging, naleving en integraties vereisen aanvullende validaties.
Laatst bijgewerkt: