Europese AI Act maakt transparantie de nieuwe standaard voor AI

Op 2 augustus treden de transparantieverplichtingen uit de Europese AI Act in werking. Daarmee zet de Europese Unie een volgende stap in de regulering van kunstmatige intelligentie. Waar de afgelopen jaren vooral in het teken stonden van snelle AI-adoptie, verschuift de aandacht steeds meer naar transparantie, governance en verantwoord gebruik. Organisaties moeten duidelijk maken wanneer en hoe AI wordt ingezet en ervoor zorgen dat bepaalde AI-gegenereerde of AI-gemanipuleerde content als zodanig herkenbaar is.

Wat betekenen deze veranderingen voor organisaties? We vroegen verschillende experts uit de technologiesector hoe zij kijken naar de volgende fase van de AI Act en welke impact zij verwachten op de ontwikkeling, inzet en het beheer van AI binnen organisaties.

De volgende fase van AI draait om governance

“Met de AI Act verschuift de aandacht van AI bouwen naar AI beheersen”, zegt Luis Blando, Chief Product & Technology Officer bij OutSystems. "Nu AI-agents steeds vaker bedrijfskritische processen ondersteunen, wordt inzicht in hun werking, besluitvorming en de momenten waarop menselijk toezicht nodig is essentieel.”

“Toch ontbreekt bij bijna twee derde van de organisaties nog altijd een centrale aanpak voor AI-governance. Een belangrijke oorzaak is dat het voldoen aan governance-eisen net zo afhankelijk is van de onderliggende IT-architectuur als van beleid. Tegelijkertijd proberen veel organisaties AI-oplossingen te bouwen op legacy-systemen die nooit zijn ontworpen om de zichtbaarheid, traceerbaarheid en controleerbaarheid te bieden die de AI Act vraagt.”

“Governance kan daarom niet achteraf als extra laag worden toegevoegd. Het moet vanaf het begin onderdeel zijn van de architectuur, zodat organisaties AI-systemen centraal kunnen beheren, monitoren en orkestreren, ook wanneer deze op grote schaal worden ingezet.”

Succes met AI begint bij vertrouwen, niet bij compliance

"Met het inwerking treden van de AI Act wordt AI steeds meer een onderdeel van het digitale fundament waarop bedrijven dagelijks vertrouwen," zegt Bilal Ahmed, Chief AI & Data Officer bij team.blue. "Net zoals de AVG een gemeenschappelijk kader heeft gecreëerd om op een verantwoorde manier om te gaan met persoonsgegevens, legt de AI Act de basis voor betrouwbare AI in Europa."

"Voor het mkb draait het niet alleen om naleving van de wetgeving. Het gaat erom dat zij erop kunnen vertrouwen dat de AI die zij gebruiken transparant, verantwoord en geschikt is voor het beoogde doel. De AI Act zou de adoptie van AI dan ook niet moeten afremmen, maar bedrijven juist moeten stimuleren om AI bewuster in te zetten. Uiteindelijk komt succes met AI niet voort uit het omarmen van iedere nieuwe tool, maar uit het bouwen aan een betrouwbare digitale basis die bedrijven helpt zich aan te passen, zichtbaar te blijven en met vertrouwen te groeien in een door AI-gedreven economie."

Transparantie wordt een essentieel onderdeel van cybersecurity

"De aankomende update van de AI Act markeert een belangrijke stap richting een betere balans tussen innovatie en veiligheid in Europa", zegt Anouck Teiller, Deputy CEO bij HarfangLab. "Nu AI steeds dieper wordt geïntegreerd in bedrijfsprocessen, is het niet langer voldoende om alleen te kijken naar wat een AI-systeem kan. Organisaties moeten ook kunnen uitleggen hoe AI wordt gebruikt, welke risico's ermee gepaard gaan en waar menselijk toezicht plaatsvindt. Dat niveau van transparantie is essentieel om vertrouwen in AI op te bouwen."

"Voor cybersecuritybedrijven is dit een logische ontwikkeling. AI speelt inmiddels een cruciale rol aan beide kanten van het cybersecuritylandschap: aanvallers gebruiken de technologie om cyberaanvallen sneller, overtuigender en geavanceerder uit te voeren, terwijl beveiligingsteams AI inzetten om dreigingen eerder te detecteren en incidenten effectiever af te handelen. AI is geen op zichzelf staande innovatie. De technologie heeft invloed op bestaande cybersecurityprocessen en moet vanaf het ontwerp worden meegenomen in beveiligingsstrategieën. AI ondersteunt zowel aanvallers als beveiligingsteams en geeft tegelijkertijd vorm aan een nieuw domein binnen cybersecurity: AI Detection and Response."

"De AI Act benadrukt dat organisaties niet alleen verantwoordelijkheid dragen voor de inzet van AI, maar ook voor het zorgvuldig integreren van AI in bestaande processen en het transparant en verantwoord beheren van deze systemen. Uiteindelijk draait betrouwbare AI om sterke governance, inzicht in hoe AI-modellen worden gebruikt en blijvend menselijk toezicht."

AI-governance wordt een concurrentievoordeel

"Nu AI steeds verder wordt geïntegreerd in de dagelijkse bedrijfsprocessen, wordt vertrouwen net zo belangrijk als de technologie zelf", zegt Marija Nakevska, Chief Product & Technology Officer bij Pleo. "De AI Act is een belangrijke mijlpaal omdat de wet organisaties stimuleert om verder te kijken dan alleen AI-adoptie. Bedrijven moeten steeds beter begrijpen waar AI wordt ingezet, hoe beslissingen tot stand komen en waar menselijk toezicht essentieel blijft. Dat is met name belangrijk binnen finance, waar iedere geautomatiseerde handeling transparant, uitlegbaar en controleerbaar moet zijn."

"De volgende generatie AI zal steeds vaker zelfstandig taken uitvoeren namens financiële teams. Dat biedt enorme kansen om routinetaken te automatiseren, zodat finance professionals zich kunnen richten op strategische besluitvorming. Maar meer autonomie vraagt ook om sterkere governance. Organisaties die vanaf het begin investeren in transparantie, duidelijke audit trails en menselijk toezicht, zijn beter voorbereid op de AI Act, bouwen meer vertrouwen op en halen uiteindelijk meer waarde uit AI."

Naleving van nieuwe regels

Hoewel de accenten verschillen, zijn de experts het over één punt eens: de volgende fase van de Europese AI Act draait om meer dan alleen naleving van nieuwe regels. Transparantie, governance en menselijk toezicht worden volgens hen bepalend voor het verantwoord en succesvol inzetten van AI. Organisaties die daar nu in investeren, leggen de basis voor compliance en versterken daarmee ook het vertrouwen in AI.