Het is waar dat er veel werk is verzet door de Europese Commissie sinds president Ursula Von der Leyen en haar team aan de macht zijn gekomen. In december 2019 werd al een “wetgevingsvoorstel” over AI beloofd – wat in februari werd opgeleverd was een AI-witboek. Hoewel dit weliswaar geen wetgevingsvoorstel is, is het wel een document dat het debat over menselijke en ethische AI, het gebruik van Big Data en de manier waarop deze technologieën kunnen worden gebruikt om welvaart voor de samenleving en het bedrijfsleven te creëren, op gang heeft gebracht.
Het Witboek van de Commissie benadrukt het belang van het vaststellen van een uniforme aanpak van AI in de 27 lidstaten van de EU, waar verschillende landen hun eigen benadering van regelgeving zijn gaan volgen en dus mogelijk barrières opwerpen voor de interne markt van de EU. Ook, belangrijk voor Huawei, wordt gesproken over plannen voor een risicogebaseerde aanpak bij het reguleren van AI.
Bij Huawei hebben we het Witboek met belangstelling bestudeerd, en samen met (meer dan 1,250!) andere belanghebbenden hebben we bijgedragen aan de openbare raadpleging van de Commissie, die op 14 juni werd afgesloten, waarbij we onze inbreng en ideeën gaven als deskundigen die op dit gebied werkzaam zijn.
De balans vinden
Het belangrijkste punt dat we tegenover de Commissie hebben benadrukt, is de noodzaak om het juiste evenwicht te vinden tussen het toestaan van innovatie en het garanderen van adequate bescherming van burgers.
In het bijzonder hebben we ons gericht op de noodzaak om toepassingen met een hoog risico te reguleren binnen een duidelijk juridisch kader, en hebben we ideeën voorgesteld voor wat de definitie van AI zou moeten zijn. In dit opzicht zijn wij van mening dat de definitie van AI neer moet komen op de toepassing ervan, waarbij risicobeoordelingen zich moeten concentreren op het beoogde gebruik van de toepassing en het soort impact dat voortvloeit uit de AI-functie. Als er gedetailleerde beoordelingslijsten en procedures bestaan waarmee bedrijven hun eigen zelfbeoordelingen kunnen uitvoeren, zal dit de kosten van de initiële risicobeoordeling – die moet aansluiten bij sectorspecifieke vereisten – verlagen.
We hebben de Commissie aanbevolen om te onderzoeken of consumentenorganisaties, de academische wereld, de lidstaten en het bedrijfsleven bij elkaar worden gebracht om te beoordelen of een AI-systeem mogelijk als een hoog risico kan worden aangemerkt. Er bestaat al een gevestigde instantie die zich met dit soort zaken bezighoudt: de permanente Technische Commissie High Risk Systems (TCRAI). Wij zijn van mening dat dit orgaan AI-systemen zowel juridisch als technisch kan beoordelen en evalueren op basis van risicovolle criteria. Als dit orgaan enige controle zou overnemen, gecombineerd met een vrijwillig etiketteringssysteem, zou er een bestuursmodel ontstaan dat:
• Houdt rekening met de gehele supply chain;
• stelt de juiste criteria en richt zich op het beoogde doel van transparantie voor consumenten/bedrijven;
• stimuleert de verantwoorde ontwikkeling en inzet van AI, en;
• creëert een ecosysteem van vertrouwen.
Buiten de risicovolle toepassingen van AI hebben we tegenover de Commissie verklaard dat het bestaande wettelijke kader, gebaseerd op op fouten gebaseerde en contractuele aansprakelijkheid, voldoende is – zelfs voor geavanceerde technologieën zoals AI, waar er sprake zou kunnen zijn van een vrezen dat nieuwe technologie nieuwe regels vereist. Extra regelgeving is echter niet nodig; het zou te belastend zijn en de adoptie van AI ontmoedigen.
Uit wat we weten van het huidige denken binnen de Commissie lijkt het erop dat zij ook van plan is een op risico’s gebaseerde aanpak te hanteren bij het reguleren van AI. Concreet stelt de Commissie voor om zich op de korte termijn te concentreren op AI-toepassingen met een hoog risico – dat wil zeggen sectoren met een hoog risico (zoals de gezondheidszorg) of gebruik met een hoog risico (bijvoorbeeld of dit juridische of soortgelijke significante gevolgen heeft voor de rechten van een individu).
Wat gebeurt er daarna?
De Commissie heeft nog veel werk te doen om alle antwoorden op de raadpleging door te krijgen, waarbij rekening wordt gehouden met de behoeften van het bedrijfsleven, het maatschappelijk middenveld, beroepsverenigingen, NGO's en anderen. De extra last die gepaard gaat met het doorstaan van de coronaviruscrisis heeft de zaken niet geholpen, nu het formele antwoord van de Commissie nu pas in het eerste kwartaal van 1 wordt verwacht.
Het coronavirus heeft uiteraard een grote verandering teweeggebracht in het gebruik van technologie in de gezondheidszorg, en zal ongetwijfeld een impact hebben op het denken van de Commissie op dit gebied. Er wordt al jaren gesproken over termen als ‘telegeneeskunde’, maar de crisis heeft virtuele consultaties werkelijkheid gemaakt – bijna van de ene op de andere dag.
Naast de gezondheidszorg zien we dat de inzet van AI voortdurend wordt uitgerold op gebieden als de landbouw en bij de inspanningen van de EU om de klimaatverandering te bestrijden. We zijn er bij Huawei trots op deel uit te maken van deze voortdurende digitale ontwikkeling in Europa – een regio waarin en waarvoor we al 20 jaar werken. De ontwikkeling van digitale vaardigheden vormt hierbij de kern, die toekomstige generaties niet alleen uitrust met de instrumenten om het potentieel van AI te benutten, maar die de huidige beroepsbevolking ook in staat zal stellen actief en wendbaar te zijn in een steeds veranderende wereld: er is een Er is behoefte aan een inclusieve, op een leven lang leren gebaseerde en innovatiegedreven aanpak van AI-onderwijs en -opleiding, om mensen te helpen naadloos van baan te wisselen. De arbeidsmarkt is zwaar getroffen door de crisis en er zijn snelle oplossingen nodig.
Wat valt er nog meer te zeggen over AI in Europa, terwijl we wachten op het formele antwoord van de Commissie op het Witboek? Betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productie, slimme landbouw en goedkopere en duurzamere energiebronnen: dit zijn slechts enkele van de voordelen die AI kan opleveren voor onze samenlevingen en voor de EU als geheel. Huawei zal samenwerken met EU-beleidsmakers en ernaar streven dat de regio het juiste evenwicht vindt: innovatie gecombineerd met consumentenbescherming.
