Europese AI-act niet toekomstbestendig volgens experts

Met het wetsvoorstel moeten onder meer risico’s van de inzet van AI worden aangepakt met aanvullende en flexibele regels. Experts noemen de voorgestelde wet 'niet toekomstbestendig' omdat het onvoldoende rekening houdt met krachtige nieuwe AI-systemen die voor meerdere verschillende taken kunnen worden ingezet, zo meldt ScienceBusiness.

Basismodellen voor AI, die bijvoorbeeld door Google worden ontwikkeld, leren van enorme datasets die onder meer tekst, afbeeldingen en geluiden bevatten. Deze basismodellen worden door kleinere bedrijven weer gebruikt om specifieke toepassingen te maken. De wet is, zoals hij nu is ingericht, te veel gericht op die specifieke toepassingen van AI, vinden experts.

Een van de experts die de wet niet toekomstbestendig vindt is Max Tegmark, natuurkunde- en AI-specialist aan het Massachusetts Institute of Technology. Een consequentie van de wet is dat de aansprakelijkheid voor het gebruik van AI verschuift naar de Europese bedrijven die het gebruiken in specifieke toepassingen, zo meldt Tegmark aan Sciencebusiness. De Amerikaanse of Chinese bedrijven die eigenaar zijn van de onderliggende AI-systemen waarop deze toepassingen zijn gebaseerd, blijven zo mogelijk buiten schot.

Niets weten over de motor

Hij schetst een voorbeeld: “Stel je voor dat je Airbus bent, en je koopt ergens anders een motor, en je mag niets weten over hoe de motor werkt, je mag er niet in kijken”, zegt Tegmark. “Maar als het vliegtuig dan crasht door een motorstoring, ben jij de enige die aansprakelijk is. Dat is geen goede uitgangspositie."

Stuart Russell, hoogleraar computerwetenschappen aan de University of California, sluit daarbij aan. “Als je naar zaken als nauwkeurigheid en redelijkheid wilt kijken, is het beter om dat bij de bron te doen, en dat zijn de grootschalige leveranciers van onderliggende AI-systemen. Die beschikken immers over de gegevens en ontwerpinformatie om conformiteitsbeoordelingen uit te voeren, terwijl kleinere, Europese integratiepartijen dat niet hebben.”

Het eerste concept van de Europese richtlijnen voor AI werd in april 2021 gelanceerd. De goedkeuring van het Europees Parlement wordt in november 2022 verwacht, waarna het overleg met EU-lidstaten begint . Dat kan nog anderhalf jaar duren.