Gaat je data naar ChatGPT? Zo werkt text-to-SQL
Kim Baas, Insight First
Uit de sessie: Specialists: Dashboards
In de Specialists-sessie over dashboards van december 2025 beantwoordt Kim Baas van Insight First een vraag die klanten vaak stellen: gooi ik mijn data in ChatGPT? Ze legt uit hoe text-to-SQL werkt, wat er wel en niet naar het taalmodel gaat en welke kosten je daarbij in je data warehouse krijgt.
Voor wie: Je twijfelt over AI op je bedrijfsdata en wilt weten wat er precies naar een taalmodel gaat.
Waarom dit ertoe doet
Datasecurity is vaak de eerste vraag bij AI op bedrijfsdata. Kim legt uit dat bij de tool die haar team koos, Dot, alleen je tabelschema's en je vraag naar het onderliggende taalmodel gaan. Het model stuurt een query terug en die draait in je eigen data warehouse. De data zelf gaat dus niet naar het model, al kan het per tool verschillen en moet je dat altijd controleren. Wat je ook moet weten: elke vraag is een query op je warehouse, en die kosten zitten niet in de prijs van de tool. Wie veel vragen laat stellen, ziet dat terug op de rekening van zijn warehouse, bijvoorbeeld bij BigQuery of Snowflake.
Belangrijkste inzichten
- Kim Baas legt uit dat bij Dot alleen de tabelschema's en je vraag naar het taalmodel gaan.
- De gegenereerde query draait in je eigen data warehouse; de data zelf gaat niet naar het model.
- De antwoorden worden wel in Dot opgeslagen.
- De queryrekenkracht zit niet in de prijs van de tool en komt op je warehouse-rekening.
- Kim zegt dat dit per tool kan verschillen: controleer het altijd.
Hoe text-to-SQL werkt
Bij text-to-SQL zet het taalmodel een vraag in gewone taal om in een SQL-query. Kim beschrijft de werking van Dot in drie stappen. De tool geeft je tabelschema's en je vraag aan het onderliggende taalmodel. Het model stuurt een query terug. Die query wordt uitgevoerd in je data warehouse. De antwoorden worden wel in Dot opgeslagen, maar de data gaat niet naar het taalmodel.
Wat je moet controleren
Kim zegt zelf dat dit per tool kan verschillen en dat je het altijd moet nagaan. Vraag een leverancier waar vragen, antwoorden en schema's worden opgeslagen, welk taalmodel ze gebruiken, wie toegang heeft en of je data wordt gebruikt voor training. Let op de uitkomst: een antwoord kan getallen bevatten, die in de tool worden bewaard. Dat zijn dan ook gegevens over je bedrijf. Stel daarom ook voor de antwoordopslag toegang in. Weet ook wie in je organisatie een vraag mag stellen over omzet of marges. Als je tool 20 mensen toegang geeft, zijn er 20 mensen die dezelfde cijfers kunnen opvragen. Beperk dat tot wie ze nodig heeft en bekijk eens per kwartaal wie de tool gebruikt.
De verborgen kosten
Elke vraag wordt een query in je data warehouse en dat kost rekenkracht. Kim zegt dat die kosten niet bij de prijs van de tool zitten. Bij veel gebruik kan dat oplopen, vooral als de tool grote tabellen telkens volledig doorzoekt. Zet daarom een budgetmelding in je warehouse, beperk de tabellen waar de tool bij mag en let op eenvoudige queries, zoals Jop eerder in de sessie liet zien.
Keuze voor Dot
Kims team koos uiteindelijk voor Dot. Wobby en Dot lagen dicht bij elkaar, maar Dot had volgens haar net een fijnere setup. Ze noemt dat persoonlijke smaak. Dot is een Berlijns bedrijf dat volgens Y Combinator in 2021 startte en antwoorden in Slack en Teams geeft. De beslissing voor jouw organisatie hangt af van je eigen data en eisen. Maak een lijst met 6 vragen voor elke leverancier die je overweegt: waar draait het model, wat gaat erheen, wat wordt opgeslagen, wie kan meekijken, wat kost het per query en hoe schakel je het uit. Stel dezelfde vragen aan elke partij, zodat je de antwoorden naast elkaar kunt leggen. Bewaar de antwoorden, want je kunt er bij een audit of een klantvraag op terugvallen.
Probeer dit deze week
- Vraag aan 1 leverancier schriftelijk wat er naar het taalmodel gaat en waar antwoorden worden bewaard.
- Stel in je data warehouse een budgetmelding in op bijvoorbeeld 100 euro per maand voor queryverbruik.
- Geef een chatagent alleen leestoegang tot de 5 tabellen die hij echt nodig heeft.
Begrippen
- Text-to-SQL
- Een taalmodel zet een vraag in gewone taal om in een SQL-query.
- Tabelschema
- De beschrijving van een tabel: veldnamen en datatypes, zonder de inhoud.
- Data warehouse
- Centrale opslag waarin je data uit verschillende bronnen bewaart en bevraagt.
Verdiep je in de gids
Transcriptie
Uitgeschreven uit de audio van dit fragment. Stopwoorden en herhalingen zijn weggelaten. Waar [onverstaanbaar] staat, is de opname niet te verstaan.
Nog een stukje over security, want dat is een vraag die wij ook wel veel hebben gekregen van klanten, is hoe zit dat nou, ben ik dan al mijn data in ChatGPT eigenlijk aan het gooien? Nou, dat is niet zo, dus met deze tools, en dit is misschien per tool wel verschillend, dus altijd goed om te checken als je hiermee gaat werken. Maar de data, wij hebben uiteindelijk gekozen voor Dot, Dot en Wobby lagen wel dicht bij elkaar, maar wij vonden Dot net een iets fijnere setup hebben, Dat is denk ik wel persoonlijke smaak. Maar de data wordt daar niet in opgeslagen. Dus wat, het is eigenlijk text to SQL, dus wat Dot eigenlijk doet is, hij voedt je tabelschema's aan de onderliggende LLM met je vraag. Dan komt er een query terug en die query wordt uitgevoerd in je data warehouse. Dus het is ook wel goed om te realiseren dat daar ook kosten mee gemoeid zijn. Dus als je dit heel veel gaat gebruiken, worden er heel veel queries uitgevoerd in je data warehouse. en die kosten zitten niet in de kosten van zo'n Dot inbegrepen. De antwoorden worden wel in dot opgeslagen, maar je data gaat dus niet naar de LLM. Dus wat dat betreft, security-wise, is wel fijn om te weten, denk ik.
Spreker: Kim Baas, Insight First
Bronnen
Meer over Security & Beleid
Duur 1:20Wat NOOIT te delen met AI
Jop van Hooft, eCommerce AI Club
API-keys worden net zo makkelijk gedeeld als lunchplannen, en dat is gevaarlijk
Duur 1:37Te ruime toegangsrechten bij AI-agents
Joey van Griethuijsen, HumanAgent
n8n's eigen website gaf een AI-agent onnodig toegang tot Entra en Jira
Duur 1:42Data classificatie: hash, postcode en deep links
Jop van Hooft, eCommerce AI Club
Hash je e-mails, bewaar 4 cijfers postcode, deep-link naar Magento