‘Bedrijven moeten zich voorbereiden op AI Act’

“Nu de EU haar steun heeft uitgesproken voor de EU AI Act, is het vrijwel zeker dat de wetgeving werkelijkheid wordt. Veel organisaties zullen zich afvragen wat ze moeten doen om zich voor te bereiden tijdens de twee jaar durende transitieperiode, die waarschijnlijk in de komende maanden van start gaat. Op basis van de vastgestelde richtlijnen lijkt het erop dat de EU haar regelgeving heeft gericht op het verminderen van de geopolitieke risico’s van AI, maar niet op de bedrijfsrisico’s. Als gevolg hiervan zal de meerderheid van de organisaties waarschijnlijk gaan werken met wat de EU definieert als AI-modellen met ‘minimaal tot geen risico’. Deze modellen vallen niet direct onder de invloed van de AI Act, maar de EU moedigt organisaties aan om zich te committeren aan vrijwillige gedragscodes om hun risico’s beter te beheersen. Het is essentieel dat zij dit advies vervolgens serieus nemen. Anders bestaat de kans dat organisaties zichzelf blootstellen aan risico’s, ondanks dat zij op papier ‘compliant’ zijn”, aldus Greifeneder.

‘Niet alle AI is gelijk’

“Bij het ontwikkelen van eigen gedragscodes is het belangrijk dat organisaties erkennen dat niet alle AI gelijk is. Sommige typen brengen namelijk een groter risico met zich mee dan andere, meer bewezen modellen. Vaak zijn dit niet-deterministische benaderingen zoals generatieve AI. Business leaders moeten hun AI daarom categoriseren op basis van hun eigen risicoparameters. Hierbij is het belangrijk dat ze rekening houden met de potentiële impact op omzet, reputatie en relaties met belanghebbenden. Als onderdeel hiervan moeten ze nagaan hoe AI beslissingen neemt, of het transparant is en tot welke processen het toegang en controle heeft.”

Greifeneder: “Organisaties moeten vaststellen of de uitkomsten deterministisch zijn of dat AI conclusies trekt uit willekeurige en gesloten gegevens. Een deterministische aanpak is afgeleid van relevante en contextuele gegevens die in realtime worden bijgewerkt en resulteert in zeer nauwkeurige voorspellingen. Terwijl de andere aanpak gevoelig is voor fouten en hallucinaties. Zonder een classificatieraamwerk dat deze kenmerken duidelijk in kaart brengt, is het moeilijker om AI veilig te gebruiken. Ongeacht of organisaties compliant zijn of niet.”