Overslaan en naar de inhoud gaan

ChatGPT maakt onveilige code, en verzwijgt dat

Huidige AI-toepassingen zoals het bekende ChatGPT van OpenAI kunnen niet alleen antwoorden in chatconversaties geven, maar ook complete code voor applicaties. Net zoals bij de correctheid van tekstantwoorden kan er wat aan te merken zijn op de kwaliteit van AI-geschreven software. Wetenschappers concluderen na onderzoek dat ChatGPT grotendeels onveilige code afgeeft én dat het gebruikers niet waarschuwt voor zijn fouten.
shocked developer
© Shutterstock
Shutterstock

De wetenschappelijke paper 'How Secure is Code Generated by ChatGPT?' belicht de mogelijkheden en beperkingen van zogeheten grote taalmodellen (large language models, LLM's) door ChatGPT aan de tand te voelen. Het onderzoek heeft zich gericht op de vraag hoe veilig code is die ChatGPT genereert. "De resultaten waren zorgwekkend", schrijven de vier wetenschappers verbonden aan de Université du Québec, in Canada.

Tegen 'beter weten' in

Zij hebben ontdekt dat de code die ChatGPT schreef in diverse gevallen ver onder de maat was. De AI-gegenereerde software viel ruim onder minimale securitystandaarden die van toepassing waren voor de bewuste context van de geschreven applicaties. In het uitgevoerde experiment zijn eenentwintig programma's en scripts gemaakt, in uiteenlopende talen. Daaronder naast C en C++ ook Python en Java.

ChatGPT is zelf wél in staat om fouten in code, inclusief wat het zelf heeft gemaakt, op te sporen en aan te geven. De wetenschappers hebben dit getoetst door de AI concreet te vragen of de zojuist geschreven code wel veilig was. ChatGPT wist dan te antwoorden dat de code niet veilig is. De onderzoeksresultaten geven dus aan dat ChatGPT zich bewust is van potentiële kwetsbaarheden, maar desondanks vaak broncode genereert die niet bestand is tegen bepaalde aanvallen, aldus de wetenschappers in hun paper.

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in