Luister

Voorlopig NWO-standpunt over generatieve AI in het aanvraag- en beoordelingsproces

Het toenemende gebruik van kunstmatige intelligentie (artificial intelligence, of AI) heeft allerlei gevolgen voor de samenleving. In het afgelopen jaar is met name het beschikbaar komen voor het grote publiek van generatieve AI-modellen voor tekst- en beeldcreatie (ChatGPT, Perplexity, DALL-E, Stable Diffusion etc.) een belangrijke ontwikkeling geweest. Deze ontwikkeling gaat gepaard met kansen en risico’s.

AI-technologieën hebben ook invloed op de wetenschap en het onderzoeksveld. Deze ontwikkeling staat nog in de kinderschoenen als het gaat om generatieve AI-modellen (hierna: generatieve AI). Er is meer kennis nodig om de relevante kansen en potentiële risico’s voor de wetenschap in de volle breedte te kunnen beoordelen. NWO volgt de ontwikkelingen op de voet.

Tegelijkertijd is deze ontwikkeling volop gaande en wil NWO duidelijkheid scheppen over het gebruik van generatieve AI in zowel het aanvraag- als beoordelingsproces bij NWO. Daarom werkt NWO aan beleid voor het gebruik van generatieve AI in deze processen. Vooruitlopend hierop neemt NWO een voorlopig standpunt in. Dit standpunt is gebaseerd op bestaand beleid en wet- en regelgeving (waaronder de Algemene Verordening Gegevensbescherming, de Algemene wet bestuursrecht, de Nederlandse Gedragscode Wetenschappelijke Integriteit, het intellectueel eigendomsrecht en de geheimhoudingsplicht voor referenten en commissieleden).

Uitgangspunten

NWO hanteert de volgende uitgangspunten voor het gebruik van generatieve AI in het onderzoeksproces in het algemeen:

  • Het gebruik van generatieve AI in de context van onderzoekswerk wordt niet uitgesloten, gezien de mogelijkheden en het ontwikkelingspotentieel van generatieve AI.
  • De transparantie en controleerbaarheid van het onderzoeksproces en -resultaten zijn essentiële basisprincipes van wetenschap en onderzoek. Wetenschappelijke integriteit blijft het uitgangspunt, ook bij het gebruik van generatieve AI. Elke wetenschapper die onderzoek doet op basis van een NWO-subsidie dient de Gedragscode Wetenschappelijke Integriteit te volgen.

Richtlijnen binnen aanvraag- en beoordelingsproces

In afwachting van het beleid dat NWO ontwikkelt, stelt NWO de volgende voorlopige richtlijnen op voor transparant en integer gebruik van generatieve AI binnen haar aanvraag- en beoordelingsproces. Dit voorlopig standpunt van NWO dient als richtlijn voor onderzoekers bij het aanvragen van NWO-financiering en ook voor allen die betrokken zijn bij het beoordelingsproces (onder wie referenten, leden van beoordelingscommissies en jury’s):

  • Binnen het aanvraagproces geldt bij het schrijven van subsidieaanvragen met behulp van generatieve AI -modellen de Gedragscode Wetenschappelijke Integriteit als uitgangspunt (kernwaarden: eerlijkheid, zorgvuldigheid, transparantie, onafhankelijkheid en verantwoordelijkheid).
  • Het gebruik van generatieve modellen is vooralsnog in het gehele beoordelingsproces ontoelaatbaar. Alle documenten die ter beoordeling liggen bij referenten, commissieleden of juryleden zijn vertrouwelijk en vallen onder de geheimhoudingsverplichting. Daarom mag niets uit het onderzoeksvoorstel door de beoordelaars worden ingevoerd in generatieve AI-modellen.