AI Prompt Power Presentatie

Klik hier om de video te bekijken.

AI Prompt Power

Welkom bij AI Prompt Power. In deze presentatie laten we u kennismaken met de mogelijkheden van onze AI-Tools webapplicatie. De AI-Tools applicatie hebben we ontworpen om de kracht van kunstmatige intelligentie te ontsluiten op een eenvoudige en gestructureerde manier.

Waarom AI en Waarom nu?

AI-technieken maken op dit moment een enorm snelle ontwikkeling door. Een groeiende groep mensen zet AI al dagelijks in, bijvoorbeeld door het inzetten van tools als ChatGPT. Een grote groep mensen is wel op de hoogte van het bestaan van deze tools, maar heeft nog geen goed inzicht van de mogelijkheden en maakt hier dan ook nog nauwelijks gebruik van.

Deze quote van Professor Baldwin vat goed samen hoe wij de opkomst van AI en de invloed daarvan op het werk van vele mensen inschatten. AI zal niet direct iemands baan overnemen, maar het zal het werk vaak wel inhoudelijk veranderen. Wie daar niet tijdig rekening mee houdt loopt een grote kans achterop te raken bij de concurrentie.

AI-Tools termen

 

Om mogelijkheden van de AI-Tools applicatie te kunnen demonstreren zullen we eerst een aantal begrippen uit moeten leggen. Aan het eind van deze presentatie is duidelijk wat een Large Language Model is en hoe je middels een prompt communiceert met een LLM. We laten zien wat we bedoelen met een prompt-template en laten de bouwstenen zien die we kunnen gebruiken bij het samenstellen van zo’n prompt-template. Vervolgens laten we zien hoe prompt-templates op hun beurt ingezet kunnen worden in prompt-reeksen. Door prompt-templates te combineren met tool-stappen die we in de AI-Tools applicatie hebben ingebouwd kunnen we complete bedrijfsprocessen automatiseren.

Wat is een LLM?

Hoe een Large Language Model precies werkt en hoe deze worden getraind, is een complex en interessant verhaal, maar we beperken ons hier tot het aanstippen van de belangrijkste eigenschappen van een LLM voor de gebruiker van deze modellen.

Een LLM is een AI die getraind is op grote hoeveelheden tekst. Voor het trainen van een groot LLM zoals GTP-4 zijn miljoenen boeken, artikelen en websites gebruikt.

Teksten

Een LLM zoals GTP-4 is door deze training geweldig goed geworden in het omgaan met tekst. Het kan bestaande teksten analyseren en interpreteren. Het kan goed vragen beantwoorden over teksten en het kan ook grote teksten snel en accuraat samenvatten.

Daarnaast kan een LLM ook goed compleet nieuwe teksten genereren.

Doordat het LLM inzicht heeft in de betekenis en samenhang van teksten is het ook goed in het vertalen ervan. Het probeert niet per woord of per zinsdeel tekst te vertalen, maar het “begrijpt” de te vertalen tekst en herschrijft deze vervolgens in een andere taal.

Kennis

Tijdens de training van een LLM op enorme hoeveelheden data heeft het zich niet alleen de structuur en logica van de taal eigen gemaakt, het heeft ook de informatie van de teksten waarop het is getraind geïnternaliseerd.

Een LLM kan daardoor op basis van zijn uitgebreide kennis antwoord geven op allerhande vragen of artikelen schrijven. Wel moet er hier rekening gehouden worden met het gevaar van “hallucinatie” waarbij een model antwoorden kan geven die weliswaar goed geschreven zijn, maar ook onwaarheden kan bevatten.

LLM's zijn in staat om context van een tekst te gebruiken om nauwkeurige en relevante antwoorden te geven. Goede LLM’s kunnen subtiele nuances in de tekst detecteren, zoals sarcasme of impliciete betekenissen.

Al deze eigenschappen van een LLM samen maken het een potentieel zeer krachtige tool voor allerlei werkzaamheden waarbij tekst een rol speelt.

Wat is een prompt?

Om optimaal gebruik te kunnen maken van het schrijftalent en de kennis van een LLM is het gebruik van een goede prompt cruciaal.

“Een ‘prompt’ in de context van een Large Language Model is een gehele input die aan het model wordt gegeven om een bepaalde reactie of output te genereren.”

Je kunt een goede prompt vaak onderverdelen in een aantal componenten. In dit rijtje laten we 6 componenten zien met de belangrijkste componenten bovenaan.

Allereerst hebben we de taak waarin we de vraag of opdracht voor het LLM beschrijven. In de context geven we extra informatie die het LLM kan gebruiken bij het beantwoorden van het verzoek. Voorbeelden zijn ook een goede manier om het LLM meer informatie te geven waarop het zijn antwoord kan baseren.

Bij de persoonlijkheid kunnen we het LLM vragen om een bepaalde rol aan te nemen en vanuit die rol het antwoord te geven.

In de structuurcomponent geef je aan in welke structuur of vorm je de reactie van het LLM wilt terugontvangen.

Als laatste kun je in je prompt ook aangeven welke schrijftoon er gebruikt moet worden in het resultaat.

Prompt voorbeeld

In dit voorbeeld gebruiken we vijf van de zes componenten.

In het taakdeel vragen we om de vraag “wat is energie” te beantwoorden.

Als context geven we mee dat we het onderwerp gezondheidszorg een rol willen laten spelen in het antwoord op de vraag.

We vertellen het LLM dat het de persoonlijkheid van een leraar van groep 8 heeft. Dit zal ervoor zorgen dat het antwoord geschreven wordt in de stijl van een leraar.  

In de structuurcomponent geven we aan hoe het antwoord vormgegeven moet worden.

Als toonaanwijzing vragen we het LLM ten slotte om de tekst niet te populair te laten klinken. In dit geval is het nodig om de neiging van het model om erg enthousiast te klinken te onderdrukken.

Wat we hier hopelijk duidelijk gemaakt hebben is dat er een verschil is tussen het lukraak stellen van een vraag aan een LLM en het maken van een goede prompt.

Door het inzetten van de juiste prompt vergroot je de bruikbaarheid van een LLM enorm.

Wat is een prompt-template?

Een "prompt-template" is een vooraf gedefinieerde structuur voor prompts, ontworpen om specifieke reacties of output van een model te verkrijgen.

Het gebruik van een prompt-template is met name nuttig wanneer er behoefte is aan consistente antwoorden of wanneer er frequent gelijksoortige vragen worden gesteld aan het model.

Bouwstenen prompt-template

In de AI-Tools applicatie kunnen we verschillende bouwstenen gebruiken bij het samenstellen van een prompt-template.

Ten eerste kunnen we direct tekst invoeren in een prompt-template. Deze tekst wordt onderdeel van de prompt die we aan het AI-model gaan versturen.

Als we stukken tekst willen hergebruiken, kunnen we deze teksten eerst opslaan in prompt-tekstblokken. Een prompt-tekstblok kunnen we dan vervolgens invoegen in de prompt-template. Ook kunnen we door middel van keuzelijsten een gebruiker tussen verschillende prompt-tekstblokken laten kiezen tijdens het inzetten van een prompt-template.

Een data-model is een speciaal soort prompt-tekstblok waarmee de datastructuur van gegevens in een database wordt beschreven. Als we een AI-model door middel van zo’n data-model kunnen vertellen hoe een databasestructuur er uit ziet, dan kan het AI-model vervolgens de databasequery’s maken die we kunnen gebruiken voor het maken van rapportages.

Een context-datablok is een speciaal datablok waarvan de inhoud afhankelijk is van de vraag die we aan het AI-model stellen. Stel dat we de complete online help van WATCH hebben bewerkt om te kunnen gebruiken als context-datablok en we stellen de vraag “Wat is een resource?”. In dat geval kunnen we de meest relevante stukken tekst uit de help, samen met de vraag meesturen naar het AI-model. Het AI-model kan dan op basis van de relevante context informatie uit de help een antwoord formuleren.

Door middel van een functie kunnen we het AI-model dwingen om een antwoord te geven in een in de functie aangegeven structuur. Op deze manier krijgen we van het AI-model niet een lap tekst als antwoord maar we krijgen het antwoord in een vaste structuur. Door deze vaste en voorspelbare structuur is het eenvoudiger om de response van het AI-model vervolgens verder te verwerken.

De instructies voor de gebruiker worden in het scherm getoond zodat de gebruiker van de prompt-template weet wat er van hem verwacht wordt, maar deze tekst wordt geen onderdeel van de prompt die naar het AI-model verzonden wordt.

De opmerking voor de beheerder wordt net als de instructie voor de gebruiker niet aan het AI-model verzonden. Deze tekst is zichtbaar alleen voor de beheerder van de prompt-template.

Voorbeeld prompt-template

Hier zien we de prompt-template zoals deze is gemaakt op basis van het eerder besproken prompt-voorbeeld.

Boven in de template zien we een prompt-tekstblok waarin de persoonlijkheid wordt beschreven die gehanteerd moet worden bij het beantwoorden van de vraag.

Vervolgens zien we een aanwijzing voor het model die rechtstreeks in de prompt-template is ingetypt.

De tekst “Kies een thema” is iets dat de gebruiker te zien krijgt als hij of zij de prompt-template inzet.

In dit geval heeft de gebruiker uit een keuzelijst met opties het thema “gezondheidszorg” gekozen. De inhoud van dit prompt-tekstblok wordt nu onderdeel van de prompt zoals die aan het AI-model verzonden zal worden.

Vervolgens zien we in blauw weer een aanwijzing die direct in de prompt-template is ingevoerd.

De gebruiker ziet de tekst “Voer je vraag in” en de vraag kan vervolgens in het witte invoerveld getypt worden.

Als we op de versturen knop klikken, wordt de vraag aan het AI-model verzonden en krijgen we het antwoord terug.

Prompt-reeks

Prompt-templates kunnen zelfstandig gebruikt worden binnen de AI-Tools applicatie, maar ze kunnen ook gebruikt worden in prompt-reeksen.

Een prompt-reeks is een stappenplan waarin we prompt-templates kunnen combineren met voorgedefinieerde tool-stappen. De output van een stap uit de prompt-reeks is de input van de volgende stap in de reeks. Een prompt-reeks maakt het mogelijk om complete werkprocessen te automatiseren.

De tool-stappen zijn vaste stappen in de AI-Tools applicatie. Deze worden gemaakt en beheerd door AI Prompt Power. 

De prompt-templates zijn flexibele stappen die door de gebruiker van de applicatie zelf kunnen worden gemaakt en beheerd. 

Ook de prompt-reeksen zijn flexibel en kunnen door de gebruiker van de applicatie zelf worden samengesteld en beheerd.

Prompt-reeks tools-stappen

In dit overzicht zien we een aantal van de tool-stappen die we kunnen inzetten bij het maken van een prompt-reeks.

Start reeks

Om een reeks te starten kunnen we bijvoorbeeld een URL opgeven. De WEBPAGINA URL stap zal vervolgens de webpagina uitlezen en de tekst van de pagina doorgeven aan de volgende stap.

Middels de BESTAND UPLOADEN stap kunnen we een Word bestand, PDF-bestand of een tekstbestand uploaden. Deze stap zal het document uitlezen en de tekst van het document weer doorgeven aan de volgende stap.

Review

De review stappen tonen de output van de stap ervoor in een tekstveld of in een online HTML-editor zodat deze tekst kan worden gelezen en waar nodig aangepast voordat deze naar de volgende stap doorgestuurd wordt.

Selecteer

Bij de selecteer stappen kunnen we de gebruiker één of meerdere door de vorige stap aangeleverde opties laten kiezen. De gekozen optie of opties worden dan vervolgens doorgestuurd naar de volgende stap.

Document

We hebben in de AI-Tools de mogelijkheid om een document-template te maken waarmee we gegevens die de verschillende stappen in de promptreeks opleveren op heldere wijze kunnen presenteren in een Word document of PDF. De HTML VAN TEMPLATE stap maakt op basis van de document-template eerst een HTML-versie. Deze HTML-versie kunnen we vervolgens om laten zetten naar een Word-document of een PDF-bestand.

Rapportages

Met de toolstappen voor de rapportages kunnen we database-queries die het AI-model geeft gegenereerd op basis van de datamodel-bouwsteen gebruiken om gegevens op te halen uit de database en deze vervolgens te presenteren in een tabel of grafiek.

Opslaan

Met de opslaan stappen kunnen we gegenereerde afbeeldingen, teksten, Word- documenten en pdf-bestanden opslaan op de server. Dat maakt het onder meer mogelijk om prompt-reeksen compleet automatisch te laten uitvoeren en om prompt-reeksen in een batchproces meerdere keren na elkaar uit te laten voeren.

Overig

Onder het kopje overig zien we de tool-stap API INVOER. Met deze toolstap kunnen we gegevens die we eerder in de prompt-reeks hebben laten genereren, middels een API-call naar een andere applicatie wegschrijven. Zo kunnen we webpagina’s en berichten laten plaatsen in een WordPress website, of planning-items laten maken in een agenda planning. Deze methodiek kunnen we goed combineren met de functie prompt-bouwsteen die we eerder vermeldden.

Promptreeks voorbeeld

 In dit voorbeeld demonstreren we een geautomatiseerde prompt-reeks die, op basis van slechts één ingevoerde plantnaam, een complete webpagina genereert.

 

In de eerste stap voeren we een plantnaam in. Het AI-model gebruikt nu een functie om op gestructureerde manier informatie terug te geven. In de functie vragen we het AI-model om de Nederlandse naam, de Latijnse naam, een algemene omschrijving, een ecologische omschrijving, de hoogte, de bloeikleur en het bloeiseizoen terug te geven.

 

In de tweede stap vragen we het model om op basis van deze gestructureerde planteninformatie de HTML voor een webpagina te maken.

In de derde stap tonen we de gegenereerde HTML in een online HTML-editor zodat we het resultaat kunnen controleren en desgewenst nog kunnen aanpassen.

In de vierde stap vragen we het AI-model om de gegevens klaar te zetten in de structuur die we kunnen gebruiken bij het aanroepen van de WordPress API.

In de laatste stap gebruiken we de gestructureerde gegevens om de WordPress API aan te roepen om zo een webpagina te plaatsen.

Resultaat

Hier zien we de webpagina zoals deze nu op de website staat. Samengevat hebben we hier dus door een enkele plantnaam in te geven een complete webpagina gegenereerd.

Autorisatie

Zowel in het prompt-templatescherm als in het prompt-reeksenscherm in de AI-Tools applicatie hebben we drie tabbladen die elk op hun eigen wijze de prompt-template of prompt-reeks weergeeft.

Tabblad GEBRUIKER

Als eerste zien we het GEBRUIKER-tabblad. Op dit tabblad worden alleen gegevens weergegeven die een gebruiker nodig heeft om de prompt-template of de prompt-reeks te gebruiken.

Bij het maken van een prompt-reeks kunnen we per stap aangeven of we deze op het GEBRUIKER-tabblad willen tonen of willen verbergen.

Tabblad BEHEERDER

Op het BEHEERDER-tabblad zien we prompt-templates inclusief alle bouwstenen waaruit de prompt-template is opgebouwd. Bij het gebruiken van een prompt-reeks worden hier alle stappen getoond. Dit tabblad is met name geschikt voor het beheren, ontwikkelen en verbeteren van de prompt-templates en prompt-reeksen.

Tabblad ONTWIKKELAAR

Tenslotte is het ook nog het ONTWIKKELAAR-tabblad. Hier zien we exact de gegevens zoals deze middels een API-call naar het AI-model wordt verzonden en we zien exact de reactie van het model. Dit tabblad is met name geschikt voor het opsporen van fouten.

Autorisatie per gebruikersgroep

We hebben in de AI-Tools applicatie de mogelijkheid menu-items te maken voor prompt-templates en prompt-reeksen. In het autorisatiescherm van de pplicatie kunnen we vervolgens per gebruikersgroep aangeven welke schermen de leden van de groep te zien krijgen, maar ook welke tabbladen er vervolgens binnen die schermen getoond worden.

De groep AI-TOOLS-GEBRUIKER heeft in dit voorbeeld toegang tot een beperkt aantal prompt-templates en prompt-reeksen en bij het gebruik hiervan hebben de leden van de groep alleen de GEBRUIKER tab tot hun beschikking.

Een lid van de groep APPLICATIE-BEHEERDER heeft in dit voorbeeld toegang tot alle prompt-templates en prompt-reeksen, en heeft bij het gebruik hiervan alle drie de tabbladen tot zijn beschikking.