Techzine Talks
In Techzine Talks duiden we de zakelijke IT-markt. Het hele jaar door analyseren we IT-oplossingen, strategieën en trends. IT-bedrijven nodigen ons graag uit om te vertellen waar ze aan werken en wat ze op de markt gaan brengen. Hierdoor weten we hoe veel technologieën werken. Of hoe ze horen te werken. Daarnaast horen we vanuit de markt ook waar bedrijven behoefte aan hebben of waar ze mispakken.Dit alles geeft ons een goed overzicht van de markt en alle trends in tech die daarbij horen. In deze podcast leggen we innovaties uit, duiden we nieuwe IT-begrippen en proberen we met praktische voorbeelden ingewikkelde technologie begrijpelijk te maken voor iedereen. Waar nodig, halen we er experts bij om zaken nog duidelijker te krijgen.Het doel is om IT-professionals, decision makers en andere luisteraars te helpen om IT-ontwikkelingen beter te begrijpen, maar ook te helpen in hun zoektocht naar nieuwe oplossingen voor hun bedrijf en niet te blijven hangen buzzwords en one-liners.
Techzine Talks
Hoe hou je AI onder controle, zowel binnen als buiten het SOC?
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
In deze aflevering van Techzine Talks gaan we met gasten Erik de Jong (Chief Research Officer, Tesorion) en Eric van Gent (CEO, Tesorion) diep in op waar AI en cybersecurity elkaar raken. Aanleiding zijn onder andere de recente incidenten waarbij OpenAI-agents op eigen houtje de sandbox verlieten en naar Hugging Face gingen, en waarbij Claude-agents van Anthropic doelbewust een echt bedrijf benaderden terwijl ze wisten dat het geen fictief testbedrijf was. Wat zeggen die incidenten over de volwassenheid van AI-beveiliging bij de grootste spelers?
De twee gasten geven niet alleen hun mening over wat er allemaal gebeurt op het gebied van AI en cybersecurity. Ze vertellen ook hoe Tesorion AI inzet in het eigen Security Operations Center (SOC). Denk aan de inzet van een eigen getraind model in een eigen tenant, waarbij de analist altijd eerst zelf een analyse doet en die vervolgens verifieert met de LLM-output.
De discussie gaat ook over Shadow AI, prompt security, de keuze tussen gesloten en open-weight modellen, soevereine modellen in Europa, en de gevaren van 'platformization' waarbij niet-securitybedrijven ineens managed detection & response gaan aanbieden op basis van AI-tools waar ze geen controle over hebben. Tot slot bespreken we met onze gasten hoe het zit met de financiële kant van AI.
Een eerlijk, technisch en praktisch gesprek over wat AI nu al kan in security, wat gevaarlijk is, en hoe je als organisatie controle behoudt.
• OpenAI-agents ontsnappen uit sandbox via een zero-day in een proxy
• Claude-agents benaderen een echt bedrijf terwijl ze wisten dat het geen testomgeving was
• Shadow AI blokkeren werkt niet: 20% vindt altijd een omweg, faciliteer het gecontroleerd
• Prompt security als oplossing om inzicht te krijgen in wat medewerkers in AI-tools stoppen
• Hoe gaat Tesorion zelf om met AI in het SOC?
• Automatisch ingrijpen als tegenwicht tegen de dalende time-to-exploit
• Soevereine, in Europa gehoste modellen worden steeds relevanter voor autonomie
• Tokenomics en inferencing-kosten kunnen dienstverlening onverwacht duur maken
• Niet-securitybedrijven die AI-gebaseerde MDR aanbieden zijn een zorgelijke ontwikkeling
• Kwaliteitsbewaking van AI-output in het SOC blijft de grootste uitdaging
0:07 Introductie: AI en security
1:07 OpenAI-agents ontsnappen uit de sandbox
3:56 Claude-agents en het gevaar van rogue AI
9:49 Shadow AI: controleren in plaats van blokkeren
13:24 Gesloten vs. open modellen en soevereiniteit
20:55 AI in het SOC: use cases en kwaliteitsbewaking
25:52 Automatisch ingrijpen en zero trust
40:00 Kosten van AI en tokenomics