Generatieve AI (GenAI) heeft zich de afgelopen jaren enorm snel ontwikkeld. Organisaties willen hier snel mee aan de slag om te kunnen profiteren van de voordelen van deze technologie of uit angst om achterop te raken. Hoewel de wens van het leiderschap om GenAI-toepassingen te implementeren met de dag lijkt te groeien, loopt het kennisniveau over deze technologie en zijn use cases vaak nog achter. Hoe zet je GenAI-tools effectief en veilig in en welke use cases resulteren nu écht in meetbare resultaten?
Begin bij de basis
Een van de grootste uitdagingen is voorkomen dat je wordt meegezogen in de huidige GenAI-hype. Het lijkt alsof iedereen AI overal voor inzet. Jouw organisatie kan dan toch niet achterblijven? Het roekeloos implementeren van AI-tools zonder goed doordacht plan kan echter juist het tegenovergestelde opleveren van waar je het voor inzet: onoverzichtelijkheid, meer complexiteit en extra kosten. Begin dus bij de basis.
Allereerst moeten leiders zich verdiepen in de betekenis van GenAI. GenAI-modellen werken op basis van een large language model (LLM). ‘Large’ verwijst naar de enorme hoeveelheden data waarmee het model is getraind. Deze modellen worden vaak ingezet bij natural language processing ofwel natuurlijke taalverwerking. Organisaties die een eigen LLM willen bouwen, realiseren zich niet altijd hoeveel werk dat is en hoeveel compute resources daarvoor nodig zijn. Er zijn gelukkig al veel verschillende LLM’s om uit te kiezen, zoals Anthropic, Mistral en Amazon. Verschillende LLM’s zijn getraind voor verschillende doeleinden, en die moeten passen bij het doel dat jouw organisatie voor ogen heeft. Er zijn echter inmiddels zo veel LLM’s dat je soms door de bomen het bos niet meer ziet. Vraag jezelf af: wat wil ik bereiken en welke data heb ik daarvoor nodig?
Als je eenmaal een model hebt geïmplementeerd, kan het lastig zijn om te veranderen van model als het toch niet de juiste keuze blijkt te zijn. AWS Bedrock is een volledig beheerde service die keuze biedt uit meer dan honderd Foundation Models (FM’s) van toonaangevende AI-bedrijven via één eenduidige API. Organisaties kiezen zelf welk model het beste bij hun use case past en stappen eenvoudig over op een ander model zonder een nieuwe interface te bouwen of nieuwe contracten op te zetten met een nieuwe aanbieder. Dit wordt ook wel ‘Foundational Model Freedom’ genoemd.
Veilig gebruik van GenAI
Als je een bestaand model hebt gekozen en deze hebt geïmplementeerd, kun je je use cases gaan uitvoeren. Dit is echter niet waar een AI-strategie stopt. Organisaties moeten rekening houden met verschillende veiligheidsrisico’s die verder reiken dan alleen het implementatieproces.
Eén van de risico’s is dat de output van AI-modellen niet altijd 100% accuraat is. Zo kunnen er bijvoorbeeld hallucinaties optreden. Een AI-hallucinatie verwijst naar de voorspellende elementen van GenAI: het LLM achter de AI geeft een onverwacht of onjuist antwoord. Dit kan komen door onvoldoende data-integriteit, problemen met de trainingsdataset, complexiteit van het model, problemen op basis van prompts, onvoldoende testen of reinforcement learning, of programmeerfouten. Het is belangrijk om te onthouden dat AI-modellen alleen voorspellend zijn en zich richten op de meest waarschijnlijke tekst of uitkomst, in plaats van op feitelijke juistheid. Door van tevoren uit te zoeken of de LLM van je AI-model past bij het doel dat je voor ogen hebt, kun je een groot deel van deze risico’s elimineren. Daarnaast speelt de menselijke component een grote rol. Het is essentieel om werknemers bewust te maken van deze risico’s en hen te trainen om AI-hallucinaties te herkennen. Er zijn verschillende tools die je hierin kunnen ondersteunen. AWS Bedrock Guardrails gebruikt bijvoorbeeld automated reasoning om hallucinaties te ontdekken en rapporteren.
Een ander risico heeft betrekking op beveiliging en data privacy. De bedrijven achter bekende openbare AI-tools, zoals ChatGPT, slaan de ingevoerde data op. Afhankelijk van het gekozen abonnementsmodel en de gezette vinkjes in de instellingen kan het bedrijf de ingevoerde data (en metadata) voor andere doeleinden gebruiken. Denk hierbij aan het verder trainen van de modellen tot doorverkoop aan derden. Door medewerkers te trainen en hun bewustwording rond het gebruik van GenAI-tools te vergroten, voorkom je dat een model jouw gevoelige bedrijfsgegevens gebruikt of lekt. AWS garandeert bijvoorbeeld dat gevoelige informatie niet worden gebruikt om modellen te trainen en dat de data binnen de gekozen regio blijft.
Praktische GenAI-use cases
Je hebt je verdiept in de verschillende LLM’s en in de veiligheidsrisico’s. De laatste uitdaging voor de effectieve implementatie van GenAI-initiatieven, is het definiëren van een use case. Bij GenAI denken veel mensen aan het genereren van tekst via een AI-gebaseerde assistent. Dit kan voor bepaalde use cases zeker toegevoegde waarde bieden, maar er zijn nog zoveel meer mogelijkheden. We zetten een paar concrete voorbeelden voor je op een rij:
- Strategische besluitvorming informeren: stel, een bedrijf gaat uitbreiden naar een naastgelegen land en wil een concurrentieanalyse maken. Je kunt een handmatige analyse van openbaar beschikbare data en aangekochte marktdata doe, maar met GenAI is dit niet langer nodig. Vraag het model om de analyse uit te voeren en een beeld te schetsen van de concurrentie op basis van de data waarmee jij het model ‘voedt’. Vervolgens kun je Retrieval-Augmented Generation (RAG) gebruiken om realtime data toe te voegen wanneer je een geüpdatete analyse nodig hebt. Je kunt RAG vergelijken met de Google-zoekmachine: het zoekt relevante informatie in realtime en zet deze om in begrijpelijke tekst. Hierdoor kun je een initiële analyse op basis van historische data snel versterken en je strategieën daarop aanpassen.
- Efficiëntie vergroten: een andere GenAI-use case is het analyseren van beveiligingsrapportages, bijvoorbeeld over het GenAI-gebruik binnen de organisatie of het aantal cyberincidenten en de mogelijke oorzaak daarvan. Vraag GenAI om alle rapportages te combineren, de data te analyseren en daar een rode draad uit te halen. Daarna moet je de output nog checken en kun je er je eigen sausje overheen gooien, maar GenAI doet al 80% van het werk voor je. Hiermee maak je ook kostbare tijd vrij die medewerkers kunnen besteden aan meer strategische initiatieven.
- Verbinding met klanten verbeteren: ook sport- en entertainmentbedrijven kunnen profiteren van de efficiëntie van GenAI. Zo is een organisatie die gebruikmaakt van GenAI tot wel 80% productiever in het maken van content, zoals video’s en reclamespotjes. Hierdoor bereikt een organisatie zijn kijkers sneller en betrekt het hen beter bij (sport)evenementen, waar op maat gemaakte ervaringen een grote impact kunnen hebben. Deze use case deden we met Ladbrokes.live, een aanbieder van streaming sportentertainment in België, rondom het EK van 2024. Zodra de deelnemers van de latere speelrondes bekend waren, kon Ladbrokes snel video’s genereren voor de doelgroep en een gepersonaliseerde ervaring leveren, wat uiteindelijk resulteerde in een betere ervaring voor klanten en 60% kostenbesparing voor de organisatie.
Begin klein en leer ervan
Niks met GenAI doen, is geen optie. Maar je moet je niet laten meeslepen door de hype en goed nadenken over waarom je GenAI inzet. Mijn advies: zoek niet naar de grootste, duurste, meest complexe use case, maar begin klein(er) en doe ervaring op. Begin met een kleine use case en breid deze iteratief uit. Zorg ervoor dat je proof of concept concreet is en trek vooral lering uit het proces. Dit is misschien nog wel belangrijker dan het meteen groots aanpakken.
Dit is een ingezonden bijdrage van Cloudar. Via deze link vind je meer informatie over de mogelijkheden van het bedrijf.