Naar de inhoud
Alle video’s

Honderden AI-beelden: wanneer heb je een script nodig?

AI ImplementatieDuur: 2:12 minVanaf 26:12 in de opname

Tachmy Dilmy, eCommerce AI Club

Uit de sessie: Training AI Literacy Basic (content)

Jop van Hooft vat in de training AI Literacy Basic samen wat Tachmy Dilmy liet zien, en Tachmy legt uit wanneer je voor AI-beelden een script nodig hebt. Hij vertelt over batches van 1000 en 2000 beelden en waarom je controle nodig hebt. Voor wie van een paar beelden naar een heel assortiment wil.

Voor wie: Je wilt van een paar AI-beelden naar een heel assortiment en wilt weten wat er misgaat.

Hetzelfde moment

Waarom dit ertoe doet

Voor 5 tot 10 beelden volstaat de gewone chatomgeving. Wie een heel assortiment wil doen, loopt tegen limieten aan: Tachmy zegt dat ChatGPT dan ophoudt omdat het gemaximaliseerd is op het aantal tokens. Dan heb je scripting nodig, en dat vraagt dat je alle edge cases hebt behandeld. Zijn eigen ervaring: bij 10 beelden gaat het prima, bij 50 ook, maar bij batches van 1000 en 2000 gebeuren vreemde dingen. De reden is dat AI-modellen niet deterministisch zijn: dezelfde opdracht geeft elke keer een net ander resultaat. Direct publiceren zonder controle is volgens hem vandaag nog niet goed.

Belangrijkste inzichten

  • Voor 5 tot 10 beelden volstaat volgens Tachmy de gewone ChatGPT-omgeving.
  • Bij een groot volume houdt de chat op omdat die gemaximaliseerd is op tokens; dan heb je een script nodig.
  • Hij maakte ook batches van 1000 en 2000 beelden en zag daarbij vreemde dingen gebeuren.
  • AI-modellen zijn niet deterministisch: dezelfde opdracht geeft elke keer een net ander resultaat.
  • Direct publiceren zonder controle door een model of een mens is volgens hem nog niet goed.

Eenmalig of op schaal

Tachmy maakt een duidelijk onderscheid. Heb je een eenmalige flow, dan is stuk voor stuk werken prima. Bij 5 of 10 beelden kan ChatGPT dat vanuit de gewone omgeving. Op een gegeven moment, bij een groot volume, houdt dat op, omdat het gemaximaliseerd is op het aantal tokens dat het kan verwerken. Dan moet je met scripting aan de slag. Jop vat het samen: eerst zag je een methode voor 1 of 2 beelden, nu een methode voor honderden. Tachmy bevestigt dat. De bron van de data kan een eigen feed zijn, een lijst met fabrikantlinks of een externe API, en dat is volgens hem de keuze die je vooraf maakt.

Waarom het misgaat bij duizenden

Volgens Tachmy heb je bij een script alle edge cases goed te behandelen. Hij heeft het vaker gedaan. Bij 10 beelden werkt het prima, bij 50 ook. Hij heeft ook batches gedaan van 1000 en 2000 beelden, en dan zie je dat er hele vreemde dingen gebeuren. De verklaring die hij geeft is dat AI-modellen non-deterministisch zijn. Een beeld dat je 10 keer laat draaien kan 10 keer goed zijn, maar elke keer net anders. Dat is een eigenschap van generatieve modellen: de uitkomst hangt van willekeur af.

Controle inbouwen

Zijn oplossing is controle. Je kunt het AI-model laten checken of een beeld binnen je stijl valt, en daarna een handmatige check doen voor je publiceert. Direct publiceren naar een site zonder dat het AI-model of jijzelf ernaar heeft gekeken is volgens hem vandaag nog niet goed. Een praktische opzet: laat het script een logboek bijhouden, laat het model elke afbeelding beoordelen en leg alleen de twijfelgevallen aan een mens voor. Zo blijft het werk beheersbaar als het aantal groeit. Jop noemt dat je dit eerst met 10 beelden test, zoals Tachmy zelf deed, voordat je de stap naar honderden zet.

Hoeveel techniek is dit?

Jop vraagt of dit lastig is voor iemand zonder codeerervaring die een collega zoekt die kan coderen. Tachmy denkt van niet: in een paar uurtjes moet het draaien, en volgens hem zelfs sneller. Dat is zijn inschatting. Reken er wel op dat de eerste versie niet de laatste is. Test op 10 beelden, dan op 50, en kijk pas dan naar honderden. De API-documentatie van OpenAI noemt ook dat meer complexiteit in een opdracht latency en ongewenste wijzigingen kan geven, dus houd een script per taak eenvoudig.

Probeer dit deze week

  1. Test je flow eerst op 10 beelden, dan op 50, en noteer wat er bij elke stap misgaat.
  2. Laat een model elk beeld beoordelen op je stijlregels en leg alleen twijfelgevallen aan een mens voor.
  3. Vraag een collega met codeerervaring een uur om een eenvoudig script op te zetten.

Begrippen

Non-deterministisch
Dezelfde invoer geeft niet elke keer dezelfde uitkomst.
Edge case
Een uitzonderlijke situatie waar een script niet op gebouwd is en die toch voorkomt.
Batch
Een groep opdrachten die in 1 keer wordt verwerkt.
Script
Een programma dat opdrachten automatisch achter elkaar uitvoert.

Verdiep je in de gids

Transcriptie

Uitgeschreven uit de audio van dit fragment. Stopwoorden en herhalingen zijn weggelaten. Waar [onverstaanbaar] staat, is de opname niet te verstaan.

Vervolgens heb je een lijst met plaatjes gegenereerd. Dan kan je die nog een keer door het model laten controleren bijvoorbeeld. Om dan te checken van is dit volledig binnen onze stijl of niet. En vervolgens kan je ze dan ook nog met een handmatige check bekijken van ik zou dit toch nog willen aanpassen. Zodat je daarna wel het plaatje hebt wat je op je website zou willen publiceren Ik wil je als het heel even samenpakken. Je liet nou eigenlijk een... In eerste instantie heb je een methode zien waar je één of twee plaatjes gewoon heel goed kan genereren. En wat je zojuist liet zien is eigenlijk een methode wat je kan inzetten als je honderden plaatjes wil genereren. toch? Ja, precies. Dus zodra je echt hier een... Als je een eenmalige flow hebt, is dat eigenlijk gewoon prima om dat stuk voor stuk te doen. Sterker nog, als je vijf of tien plaatjes, dan kan zo'n ChatGPT dat prima vanuit de reguliere ChatGPT-omgeving maken. Op een gegeven moment, als je een groot volume er doorheen wil doen, dan houdt ChatGPT gewoon op. Omdat dat gemaximaliseerd is op het aantal tokens wat die kan verwerken. En dan moet je eigenlijk echt met de scripting aan de slag gaan, om dan plaatjes te laten genereren met een wat groter volume. Daarvoor moet je dus wel echt heel goed al die edge cases ook goed hebben behandeld. Want vaak wat wij zien is dat we, ik heb dat vaker gedaan voor plaatjes, Dus als je er 10 maakt, werkt het prima. Maak je er 50, gaat het ook prima. We hebben ook batches gedaan van 1000, 2000 plaatjes. En dan zie je wel echt dat er hele vreemde dingen ook weer gebeuren. Omdat AI-modellen zijn non-deterministisch, heet dat dan. Dus een plaatje, als je dat 10 keer draait, dan kan die 10 keer een goed resultaat geven. en elke keer misschien net wat anders. En dat zijn dan echt de cases waar je dan toch wellicht het AI-model weer moet gebruiken om controle te doen. en dat we gewoon nog steeds direct publiceren naar een site zonder naar gekeken te hebben, of door het AI-model of door jezelf, is vandaag gewoon nog niet goed. Ja, precies. En als je nou helemaal geen ervaring hebt met coderen, en je zoekt een collega op die goed kan coderen, dan is het niet overdreven moeilijk om dit te doen, toch? Dan moet je in een paar uurtjes toch wel draaiend kunnen krijgen. Ja, ik denk nog wel veel sneller.

Spreker: Tachmy Dilmy, eCommerce AI Club

Bronnen

Meer over AI Implementatie