‘Intelligent agents’ moeten rechten en plichten krijgen

Zo langzamerhand lijkt dit beeld echter te veranderen. Er komen steeds meer concrete toepassingen van systemen die zelfstandig beslissingen nemen. Dit niet alleen in de industriële praktijk (productierobots voor bouwen, lassen et cetera) maar ook in de professionele dienstverlening (servicerobots voor medische ingrepen, bewaking, schoonmaken et cetera) en in de huiselijke sfeer (grasmaairobots, stofzuigrobots, entertainmentrobots). Dergelijke systemen worden veelal aangeduid als ‘intelligent agents’. Volgens een gezaghebbende definitie kan zo’n agent kort worden beschreven als een computersysteem dat zonder directe tussenkomst van de gebruiker kan opereren (autonomie) en zelf het initiatief tot een actie kan nemen (proactief). Daarbij vindt er interactie plaats met andere intelligente agenten of mensen (sociale vaardigheden) en de omgeving (reactivity). Ook als niet aan alle vier eisen wordt voldaan blijken er nog voldoende interessante toepassingen te bestaan voor zelfhandelende systemen. De ontwikkelingen die nu plaatsvinden op dit terrein laten zien dat intelligente systemen niet alleen een grote intellectuele uitdaging voor onderzoekers zijn, maar dat daarvoor ook een markt bestaat of in ontwikkeling is. Het lijkt dan ook gerechtvaardigd te verwachten, dat intelligente agenten een deel van onze maatschappelijke werkelijkheid zullen gaan worden. Als dergelijke apparaten zich zelfstandig gaan bewegen in computernetwerken, in bedrijven, ziekenhuizen, woningen of zelfs op straat, dan is het onontkoombaar dat er ook aandacht zal worden geschonken aan de juridische aspecten van die gedragingen. Kortom: de rechten en plichten rond intelligente agenten en andere intelligente systemen. Met de ontwikkeling, productie, distributie en toepassing van agents kan een scala aan juridische aandachtspunten worden verbonden. Dit varieert van de juridische titel van aanschaf of de omvang van een gebruiksrecht, tot aspecten als de rol van agents in contractvorming, aansprakelijkheidsvragen, intellectuele­eigendomskwesties, privacy­aspecten en de beveiliging van agents (zie ook www.softwareagents.nl). Intelligente koelkast In de nabije toekomst zullen er steeds meer agents komen die in staat zijn een transactie aan te gaan. Een voorbeeld is de al in ontwikkeling zijnde ‘intelligente koelkast’. De agent die de inhoud van de koelkast controleert kan op basis van verschillen tussen de gewenste en actuele inhoud zelfstandig bestellingen doen bij een supermarkt en de gewenste aanvullingen laten thuisbezorgen. De agent kan daarbij uitgaan van een voorgeprogrammeerde standaardinhoud van de koelkast, maar het is ook denkbaar dat er dynamischer inhoudsbeheer plaatsvindt waarbij bijvoorbeeld productaanbiedingen, weersomstandigheden, de agenda van de gebruiker et cetera, een rol spelen in het beslissingsproces van de agent. Het sluiten van overeenkomsten met behulp van agents leidt op juridisch terrein tot een aantal vragen. De basisvraag is of er met behulp van agents wel rechtsgeldig kan worden gecontracteerd. Voor het totstandkomen van een contract dient er sprake te zijn van een aanbod, gedaan door de ene partij en aanvaard door de andere partij. Aanbod en aanvaarding zijn beide een rechtshandeling. Voorwaarde daarvoor is dat er sprake is van een op een rechtsgevolg gerichte wil, die zich door een verklaring heeft geopenbaard (artikel 3:33 Burgerlijk Wetboek). De agent kan worden gebruikt als hulpmiddel om de wil van de gebruiker over te brengen. Hoe kan echter worden vastgesteld dat de wil van de gebruiker overeenstemt met de verklaring die door de agent is overgebracht? Het gaat bij een intelligent systeem immers niet sec om de overbrenging van een bericht van de gebruiker. Als de agent bijvoorbeeld ingaat op een aanbod dat is geplaatst op een website, zal de gebruiker daarvan de inhoud niet steeds op voorhand kennen. De meerwaarde van de agent is immers mede gelegen in het vinden van aanbiedingen die de gebruiker nog niet kent. De kernvraag is dan of uit de instructies die hij van de gebruiker heeft meegekregen, mag worden afgeleid dat de gebruiker zich daadwerkelijk wil binden. Eén van de mogelijke oplossingen voor dit probleem is aan te nemen dat er sprake is van een algemene wil van de gebruiker van een agent om gebonden te zijn aan de verklaringen die door middel daarvan worden afgelegd. In juridische kring is de discussie hierover echter zeker nog niet afgerond. Vrijmoedig Het wordt nog interessanter als de agent zich niet houdt aan de instructies van de gebruiker of als er ondanks deze instructies een transactie plaatsvindt tegen de wens van de gebruiker in. Stel dat een agent 25 broden bestelt bij een onlinesupermarkt zonder dat de gebruiker van de agent dit uitdrukkelijk heeft opgedragen. De oorzaak van dit vrijmoedige gedrag van de agent kan bijvoorbeeld zijn gelegen in een programmafout in de agent of in een verandering in het programma als gevolg van een virus. Komt dit voor het risico van de gebruiker of moet de supermarkt ­ nu deze door agents geplaatste bestellingen accepteert ­ het risico dragen? Er mag immers van worden uitgegaan dat de exploitant van de onlinesupermarkt weet dat agents fouten (kunnen) bevatten en dat zij in een dergelijke omgeving bepaalde risico’s lopen. Vervangen wij de agent door bijvoorbeeld een medewerker van een bedrijf die een verkeerde bestelling plaatst, dan is volgens de geldende regels van het Burgerlijk Wetboek onder meer de vraag van belang of de supermarktexploitant in redelijkheid kon vertrouwen op de verklaring van de betrokken medewerker. Om die vraag te beantwoorden dienen dan de omstandigheden van het geval nader te worden gewogen. Daarbij is ook relevant of de supermarkt mogelijk nader onderzoek had moeten doen. De techniek speelt daarbij uiteraard een belangrijke rol. Naarmate bijvoorbeeld agents beter beschermd kunnen worden tegen virussen, zal de gebruiker van een niet of slecht beveiligde agent mogelijk eerder het risico dragen voor fouten die als gevolg van een virusbesmetting zijn veroorzaakt. De bovenbeschreven vragen zijn uiteraard niet exclusief voor de digitale omgeving, maar spelen ook een rol in de offlinewereld. De vraag waar juristen zich voor gesteld zien is, of de regels die worden toegepast in de offlinewereld ook van toepassing kunnen zijn in die gevallen waar niet­menselijke actoren een rol spelen bij een transactie. De discussie over deze vraag is al wel op gang gekomen, maar wordt nog niet in brede kring gevoerd. Eén van de mogelijke posities in die discussie is dat zelfhandelende systemen bij het doen van transacties ook dragers van rechten en plichten moeten kunnen zijn, net als natuurlijke personen en organisaties met rechtspersoonlijkheid, zoals de besloten vennootschap. Los van de problemen die een dergelijke benadering oproept (bijvoorbeeld: welke sancties moeten er dan tegen een agent worden genomen?) is het de vraag of, voor het vinden van een werkbare oplossing van de hier geschetste problemen, een dergelijke fundamentele ingreep in ons rechtssysteem wel nodig is. Onze voorkeur gaat ernaar uit eerst na te gaan of de toepassing van de bestaande regels tot bevredigende resultaten kan leiden. Eén van de opties daarbij is de verantwoordelijkheid voor het gedrag van de agent, en derhalve ook de daarmee verbonden risico’s, primair neer te leggen bij degene die een agent gebruikt. Dit overeenkomstig de benadering die is gekozen in de Amerikaanse wetgeving. Privacy Agents kunnen op verschillende manieren de privacy in gevaar brengen. Hierbij kan met name gedacht worden aan het door agents verzamelen van persoonsgegevens zonder toestemming van de betrokkene. Technieken als datamining en het monitoren van netwerkverkeer kunnen daarvoor worden toegepast. Ook is voorstelbaar dat de privacy van de gebruiker van een agent in gevaar komt omdat de daarin opgenomen gegevens, zoals aankoopinstructies, productvoorkeuren of transactiegegevens, al dan niet via malversaties (hacking), aan anderen ter beschikking worden gesteld. Dit laatste zou bijvoorbeeld kunnen gebeuren als de gebruiker de controle verliest over de agent. In onderzoek (1999) dat is verricht door de Registratiekamer (het huidige College Bescherming Persoonsgegevens), TNO en de Canadese Information and Privacy Commissioner is een aantal grondbeginselen geformuleerd dat door ontwikkelaars, leveranciers en gebruikers van intelligent agents vanuit privacyperspectief in ogenschouw zou moeten worden genomen bij de ontwikkeling en toepassing van intelligent agents. Dit betreft onder meer: purpose specification (specifiek, expliciet en rechtmatig doel vereist), accountability (er moet een verantwoordelijke kunnen worden aangewezen), security, data quality (verzamelde gegevens moeten onder meer adequaat en relevant zijn), proportionality (gegevensverwerking moet noodzakelijk zijn en in verhouding staan met het vooraf geïdentificeerde doel). Deze beginselen zijn ontleend aan de nationale en internationale privacyregelgeving. Bij toepassing in Nederland dient met name met de Wet bescherming persoonsgegevens (Wbp) rekening te worden gehouden. Hulpmiddel Agents zijn een uitstekend hulpmiddel voor het verzamelen, kopiëren en verspreiden van auteursrechtelijk beschermde werken zoals muziek­ en videobestanden. Zij kunnen worden geprogrammeerd om bestanden automatisch te zoeken, te downloaden, te reproduceren en te verspreiden. Bij ruildiensten, zoals Gnutella en KaZaA, wordt agent(achtige) software gebruikt voor het uitwisselen van bestanden tussen ‘aangesloten’ pc’s. Indien een agent muziek­ of videobestanden gaat verzamelen op internet is het relevant dat hij onderscheid kan maken tussen bestanden die vrij gekopieerd mogen worden, bestanden die alleen onder bepaalde voorwaarden (zoals betaling of het afsluiten van een licentie) of niet gekopieerd mogen worden. Een beoordeling van de juridische status van een bepaald bestand zal alleen mogelijk zijn als er breed geaccepteerde standaarden zijn voor het op een zodanige manier labelen van bestanden dat agents de betreffende informatie kunnen vinden, herkennen en vertalen naar handelingen. De ontwikkelingen rond ‘digital rights management’ laten zien dat de ontwikkeling van dergelijke standaarden een moeizaam proces is; op termijn mag niettemin worden verwacht dat zij beschikbaar komen. Daarmee zijn dan overigens nog niet alle problemen opgelost omdat agents ook rekening zullen moeten houden met de uitzonderingen die het auteursrecht kent, zoals het wettelijk toegestane gebruik voor onderwijsdoeleinden, bibliotheken, musea, en voor bepaalde vormen van privé­ gebruik. Aan een echt bruikbare agent die binnen de grenzen van de wet kan opereren worden derhalve hoge eisen gesteld. Problematiek Dat de juridische problematiek rond agents niet louter theorie is blijkt uit de Amerikaanse rechtszaak EBay versus Bidder’s Edge Inc. (2000). Bidder’s Edge Inc gebruikte web crawlers om informatie met betrekking tot goederen die worden aangeboden op de veilingsite van eBay, te verzamelen en in zijn databanken op te slaan. eBay stelde dat Bidder’s Edge Inc. 1,1 procent van het totale dataverkeer door zijn zoeken in beslag nam. Dit zou, aldus eBay, zijn systeem langzamer maken en kunnen laten crashen. De inbreuk van Bidder’s Edge Inc. en de vrees voor schade door het zoeken van informatie heeft de rechter ertoe bewogen Bidder’s Edge Inc. voorlopig te verbieden zich toegang te verschaffen tot eBays computersystemen door middel van geautomatiseerde programma’s, robots, web crawlers of gelijkaardige systemen, tenzij eBay hiervoor geschreven toestemming verleent. De Verenigde Staten lopen niet alleen voorop als het gaat om rechtspraak over dit onderwerp. Noch in Nederland, noch op Europees niveau bestaat er op dit moment regelgeving die specifieke bepalingen bevat met betrekking tot het gebruik van agents. In de VS bestaan er wel enkele modelwetten die specifiek bepalingen omtrent agents bevatten. Dit zijn de Uniform Computer Information Transaction Act (Ucita), de Uniform Electronic Transaction Act (UETA) en de Electronic Signatures Act (E­Sign). Alle drie modelwetten geven, op enkele nuances na, dezelfde definitie van een agent. In deze wetten wordt gesproken over een ‘electronic agent’, waaronder wordt verstaan een computerprogramma of elektronisch of geautomatiseerd middel, dat onafhankelijk wordt gebruikt om een handeling te initiëren, of om op een elektronisch bericht of handeling te reageren voor een persoon zonder dat op dat moment controle of handelingen van een individu plaatsvinden (art. 102 (27) Ucita, art. 2 (6) UETA, art. 106 (3) E­Sign). ‘Electronic agents’ kunnen volgens deze modelwetten gebruikt worden om op rechtsgeldige wijze contracten af te sluiten. Dit zowel bij de interactie tussen twee agents onderling als die tussen een individu en een agent. Deze bepaling is opgenomen om de discussie over de bij de gebruiker vereiste wil, hetgeen niet alleen in Nederland maar ook onder Amerikaans recht een voorwaarde is, de pas af te snijden. De vereiste wil volgt uit het programmeren en gebruiken van de agent. Uitdrukkelijk is bepaald dat ook in het geval een overeenkomst tot stand wordt gebracht door twee agents, de rechter kan bepalen dat in gevallen van fraude, ‘electronic mistake’ of een vergelijkbare omstandigheid de overeenkomst niet bindend is. Hoewel van een agent zelf niet gezegd kan worden dat deze is misleid of zich heeft vergist, worden via deze bepaling de gebruikers uiteindelijk toch beschermd. De Amerikaanse modelwetten bieden interessante aanknopingspunten voor de Nederlandse discussie over dit onderwerp. De relatie tussen het recht en agents is tweeledig. Enerzijds moet bij de ontwikkeling, de productie en het gebruik van agents rekening worden gehouden met de geldende wet­ en regelgeving, anderzijds vormt de opkomst van agents een uitdaging voor het recht en dienen de geldende regels mogelijk te worden aangevuld. Prof.mr.drs. C. Stuurman is als hoogleraar ‘Normering van informatietechnologie’ verbonden aan het Centrum voor Recht, Bestuur en Informatisering (CRBI) van de Universiteit van Tilburg. Voorts is hij als advocaat partner bij Landwell advocaten en notarissen, Sectie Intellectuele Eigendom en Informatietechnologie (c.stuurman@uvt.nl). Mr. H.J. Geurts is als Aio verbonden aan het CRBI en doet promotieonderzoek naar de juridische aspecten van intelligent agents (h.j.geurts@uvt.nl).Het CRBI werkt nauw samen met de Vrije Universiteit in een project dat tot doel heeft het in kaart brengen van de juridische eisen waaraan zelfhandelende systemen moeten voldoen.