“Bedrijven hebben AI hard nodig om AI-risico’s te beperken”, zegt Pieter Jansen, Senior Vice President of Cyber Innovation, Darktrace. Ursula von der Leyen, de voorzitter van de Europese Commissie, wil graag een mondiaal adviesorgaan oprichten dat gaat nadenken over de kansen en risico’s van kunstmatige intelligentie (AI). Als je kijkt naar cyberbeveiliging, hangen deze nauw met elkaar samen. Ironisch genoeg moeten bedrijven vertrouwen op AI om de risico’s die door AI ontstaan te kunnen inperken.
Generatieve AI in 2023: Toegankelijkheid en Verantwoordelijkheid in Balans
Mensen zijn in 2023 wereldwijd massaal gaan experimenteren met generatieve AI-tools zoals ChatGPT. Uit onze eigen data blijkt dat 74 procent van onze actieve klantimplementaties werknemers hebben die generatieve AI-tools gebruiken. Generatieve AI is zeer toegankelijk en intuïtief. En daarin schuilt ook het gevaar dat mensen er niet op een verantwoorde manier mee omgaan. Alle informatie die ze invoeren in hun “prompts” (de vragen en instructies die mensen invoeren in ChatGPT) wordt opgeslagen in de datasets van het bedrijf van de tool. Met die gegevens traint het onderliggende Large Language Model (LLM) van de AI zichzelf, waardoor het steeds ‘slimmer’ wordt. En als gevolg daarvan kan het die informatie ook gebruiken in output voor andere mensen.
Beveiliging van Generatieve AI: Essentieel voor Databescherming
Bij Darktrace zag men dat een klant meer dan 1 GB aan data probeerde up te loaden naar generatieve AI. Dat wisten ze toen op tijd te verhinderen. Wanneer die persoon bijvoorbeeld privacygevoelige informatie van zijn of haar werkgever invoert zonder dat diegene zich daarvan bewust is, ontstaat het risico op verlies van intellectueel eigendom en datalekken. Bedrijven moeten daarom beschikken over een door AI gestuurde beveiligingsoplossing om het interne gebruik van generatieve AI-tools door medewerkers te monitoren en, indien nodig, erop te reageren. Zo kunnen medewerkers de kansen die AI hen biedt benutten, zonder dat bedrijven zich zorgen hoeven te maken over de potentiële beveiligingsrisico’s.