'AI kan niet zonder architectuur'
Kunstmatige intelligentie is niet zomaar de volgende toevoeging aan de gereedschapskist van ontwikkelaars. Het gaat om een complex samenspel van functies en componenten met bovendien juridische implicaties. Daarom is het belangrijk na te denken over een architectuur waar AI een rol in speelt. Het is een ontwerpproces waarin juristen een duidelijke rol moeten hebben.
Deze oproep klonk vorige week op het congres Digital Architecture Design Day 2023 en kwam van Art Ligthart, Chief Digital Information bij Y. Digital. Hij constateert dat er een grote behoefte is aan een betere transparantie van hoe kunstmatige intelligentie tot antwoorden komt, bijvoorbeeld om discriminatie te voorkomen. Maar er moet ook meer duidelijkheid komen over met welke gegevens large language models worden getraind om problemen met privacy en auteursrechten te voorkomen. "De Europese Unie is daar in toenemende mate mee bezig onder meer in de AI Act. De grote vraag is: hoe dan. Als je met AI aan de gang gaat kun je eigenlijk niet anders dan er juristen bij betrekken", stelt Ligthart.
Meer transparantie nodig
Een van de manieren om meer transparantie te krijgen, is het opdelen van de processen die zich onder de motorkap afspelen. "Dat is precies de rol van architecten - die moeten het vormgeven. AI is geen black box, maar een platform met allerlei functies en componenten die je moet uitdenken en 'architectureren'."
Hoe toon je compliancy aan?
Daarnaast pleit hij voor een betere standaardisering. "Als je AI open pelt, kom je terecht in een platform met heel veel componenten, workflow, opslag en talloze keuzes die je kunt maken. Je moet eigenlijk, zoals wij altijd vinden als architect, werken vanuit eisen en richtinggevende principes. Je moet integrale uitwerkingen kunnen maken en maatregelen nemen zodat je je platform kunt laten certificeren. Dat is nodig om straks ook compliancy aan te kunnen tonen met de eisen die er aan zo'n platform worden gesteld, in de AI Act, maar ook in de Nederlandse wet- en regelgeving."
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee