Ethische commissie
De Ethische commissie Digitalisering is een groep onafhankelijke professionals die meedenkt met de gemeente Zwolle over ethische vragen bij de inzet van digitale (slimme) technologieën en dataverwerking.
Met de oprichting van de Ethische commissie Digitalisering wil de gemeente input creëren voor het gesprek over gebruik van data en nieuwe technologieën. Met deze input zullen het gemeentebestuur en de gemeentelijke organisatie de keuzes rond digitalisering transparanter en beter uitlegbaar maken.
Gehighlighte tekst: Met vragen over de Ethische commissie kunt u terecht bij de secretaris van de commissie: o.rachtchoupkina@zwolle.nl.
Doel van de Ethische commissie
De Ethische commissie is een groep professionals, bestaande uit leden van buiten de gemeentelijke organisatie, die het bestuur en de ambtelijke organisatie helpen om kennis en bewustwording te vergroten over de ethische kant bij gebruik van data en nieuwe technologieën.
Wat is de Ethische commissie?
De Ethische commissie bestaat uit 4 professionals van buiten de gemeentelijke organisatie, die onafhankelijk van het gemeentebestuur en de organisatie fungeert. De commissie helpt de gemeente om kennis en bewustwording te vergroten over de ethische kant bij gebruik van data en digitale (slimme) technologieën. Hiermee vormt de commissie een klankbord en kennisplatform voor de gemeente voor moreel, ethische vragen die spelen rondom digitale innovaties in Zwolle.
De commissie is geen advies- of besluitvormend orgaan maar is bedoeld om een dialoog over de wenselijkheid van nieuwe technologie op gang te brengen.
De samenstelling van de Ethische commissie is gebaseerd op een profiel dat door het College van Burgemeester en Wethouders is vastgesteld bij het besluit tot de oprichting van een Ethische commissie.
Klankbord en kennisplatform
De Ethische commissie is een klankbord en kennisplatform voor de gemeente en gaat ook reflecteren op moreel, ethische vragen die spelen rondom digitale innovaties in Zwolle. De samenstelling van de Ethische commissie is gebaseerd op een profiel dat door het College van Burgemeester en Wethouders is vastgesteld bij het besluit tot de oprichting van een Ethische commissie.
Wat doet de Ethische commissie?
Bij het werken aan de opgaven van de stad maken we steeds groter gebruik van data en digitale (slimme) technologieën. De Ethische commissie helpt de gemeente om kennis en bewustwording over de ethische kant daarvan te vergroten. Willen we echt alle mogelijkheden die technologie biedt benutten? Wat vinden wij fatsoenlijk, moreel en ethisch toelaatbaar?
De commissie kan gevraagd en ongevraagd reflecteren op datagebruik en inzet van digitale (slimme) technologieën in Zwolle. Deze reflecties gebruikt gemeente als input bij het maken van afwegingen. Hiermee blijft de verantwoordelijkheid voor het nemen van besluiten (en ook hoe wij omgaan met de publieke waarden) bij het gemeentelijk bestuur.
Tot nu toe is er nog onvoldoende of impliciet aandacht besteed aan ethische vragen bij digitale innovaties.
Wie zijn de leden?
Leden van de Ethische commissie zijn op persoonlijke titel lid. Zij vertegenwoordigen geen organisatie, maar zetten zich in voor Zwolle. Leden zijn voor twee jaar lid, met de mogelijkheid om daarna de termijn met nog twee jaar te verlengen.
| Naam | Rol en expertise |
|---|---|
| Jos Knaapen | Programmamanager/ Innovatiefiguur bij Zorggroep Noordwest-Veluwe Voorzitter van de commissie. Expertise: innovatiemanagement, strategische samenwerking, toepassing van RPA, AI en overige digitale technologieën bij innovatie in de zorg en impact ervan op zorg en betrokkenen. |
| Sanne Mulder | Lid van de commissie Juridisch adviseur bij Nationale Politie Expertise: compliance, AVG, WPG, wetgeving rond diverse technologieën; afweging van belangen en oog voor impact van technologieën. |
| Margaux Morssink | Lid van de commissie Senior beleidsmedewerker Digitale Economie bij ministerie van Economische zaken Expertise: frequentiebeleid, digitale infrastructuur, duurzame digitalisering, afweging van belangen, handelen binnen politiekgevoelige omgeving |
| Saar van der Spek | Lid van de commissie. Trendstrateeg/ toekomstverkenner/ stadmaker. Expertise: trendanalyse en toekomstverkenning op het snijvlak van mens - democratie - digitalisering. |
| Robert Helder | Lid van de commissie. Docent aan Universiteit Utrecht/ jurist/ doctor of Philosophy Expertise: juridisch/ notarieel, cyber criminaliteit, veiligheid in omgaan met data; politievrijwilliger/specialist. |
Documenten en verslagen
Reflectie gebruik camera's en beeldherkenning (23 februari 2023)
Het gebruik van camera’s en geautomatiseerde beeldherkenning neemt steeds toe, ook binnen het werkveld van de gemeente. De camera’s hangen in de openbare ruimte voor het borgen van de veiligheid in het uitgangsgebied, camera’s op de scanauto’s helpen on parkeren te handhaven enz.
In de loop van 2022 was de gemeente bezig met verkenning van camera inzet voor twee nieuwe vraagstukken, namelijk de bodycam en Eyebike. Dit heeft geleid tot een themabespreking van deze technologie in de Ethische commissie met als onderwerp ‘Gebruik van camera en beeldherkenning’.
Wij vinden het ook belangrijk om te luisteren naar onze inwoners en hun input mee te nemen in onze besluiten. Dit hebben we aan de commissie als aandachtspunt meegegeven.
Voor de bespreking van dit thema heeft de commissie aan de inwoners van Zwolle gevraagd hoe zij tegen het gebruik van slimme technologie door de gemeente aankijken. Hiervoor is een korte online peiling onder het Burgerpanel van de gemeente uitgevoerd. De beschouwing van de commissie over dit onderwerp, samen met de uitkomsten van de peiling hebben geresulteerd in een reflectie die aan het College is aangeboden. Het College stelt de reflectie zeer op prijs en zal op korte termijn daarop reageren.
De reflectie is openbaar(externe link) (agendapunt 7) .
Verslag Ethische commissie Digitalisering (20 juni 2022)
Aanwezig: voltallige commissie
Geaccordeerd door voorzitter: 14 oktober 2022
- Opening en toelichting agenda
De opzet van de agenda wordt toegelicht, punten 1, 4, 5 en 6 zijn vaste agendapunten. De agenda indeling wordt vervolgens vastgesteld. - Uitgangspunten werkwijze Ethische commissie
De uitgangspunten vormen de basis voor het functioneren van de commissie. Commissieleden kunnen erop aangesproken worden.
De uitgangspunten worden vastgesteld. - Werkwijze Ethische commissie
De voorzitter licht de voorgestelde werkwijze toe. Afhankelijk van de vraag aan de commissie kunnen er ook andere vragen in het gesprek aan bod komen. Deze werkwijze is bedoeld als een leidraad en wordt na verloop van de tijd geëvalueerd en indien nodig bijgesteld. De werkwijze bestaat uit 3 stappen: oriëntatie, afweging en conclusie.
De commissieleden reageren positief op de werkwijze.
De voorgestelde werkwijze wordt vervolgens vastgesteld. - Onderwerp van de vergadering: Gebruik van camera’s en beeldherkenning in de openbare ruimte
Met welke ethische aspecten moet de gemeente rekening houden bij gebruik van deze technologieën?
Als input voor het gesprek wordt de toepassing van deze technologieën geïllustreerd met 3 actuele casussen vanuit de gemeente: Eyebikes, Bodycam’s voor BOA’s en Cameratoezicht (informatie in bijlagen meegestuurd).
Voorafgaand aan de bespreking wordt één casus mondeling toegelicht en er is gelegenheid om verhelderende vragen te stellen.
De commissie bespreekt de vragen uit de ‘oriëntatie’ fase en verkent de mogelijke positieve en negatieve effecten van de technologie.
Vanwege de tijd wordt het gesprek hierna stilgelegd.
De commissie zal dit gesprek in de volgende vergadering voortzetten. De overwegingen en uitkomsten van het gesprek (van beide vergaderingen) zullen in de vorm van een reflectie worden uitgewerkt. De reflectie zal op de site van de Ethische commissie worden gepubliceerd. - Toetsing effecten van technologie bij inwoners
Welke vraag willen we aan de inwoners voorleggen?
Op welke manier willen we dit doen?
De commissie verwacht dat er veel spanning zit op het gebruik van de camera’s omdat de technologie steeds meer kan, vooral in combinatie met Artificial Intelligence (AI). Daarom wil de EC een beeld krijgen hoe een Zwollenaar tegen het gebruik van de slimme technologie aankijkt, welke toepassing vindt hij/zij wenselijk. Dit vanuit het uitgangspunt dat slimme technologie wordt ingezet om bij te dragen aan een veilige en leefbare samenleving in Zwolle.
De commissie verzoekt de gemeente om een korte online peiling te faciliteren onder het Zwolse burgerpanel. Twee commissieleden zullen input leveren voor deze peiling.
De secretaris van de commissie zorgt voor verbinding met het onderzoeksteam van de gemeente voor de uitvoering van de peiling. - Rondvraag en afsluiting
Er wordt een voorstel besproken om een bibliotheek voor de commissieleden aan te leggen. Boeken over relevante ontwikkelingen kunnen onder het beheer van de gemeente gerouleerd worden onder de commissieleden. Dit voorstel wordt akkoord bevonden.
De vergadering wordt afgesloten.
Reflectie Dashboards als instrument voor datagedreven besluitvorming (13 december 2023)
De gemeente Zwolle maakt al langere tijd gebruik van diverse dashboards. Tegelijkertijd groeit de hoeveelheid registraties en toepassingen van (big) data binnen de gemeente. Het lijkt erop dat de dashboards een steeds belangrijker en wellicht prominentere rol gaan spelen in de besluitvorming binnen de gemeente Zwolle.
Het college heeft de Ethische Commissie daarom de volgende vraag gesteld: Met welke ethische aspecten moeten we rekening houden bij gebruik van dashboards voor besluitvorming binnen de gemeente?
De commissie heeft haar bevindingen weergegeven in het document Reflectie Dashboards als instrument voor datagedreven besluitvorming(externe link)
Reflectie Acquisitie dataproducten
In deze tijd van toenemende digitalisering en datagedreven besluitvorming gebruikt de gemeente grote hoeveelheden data. Hierbij gaat het om eigen data (data uit de gemeentelijke registraties) en om data van de samenwerkingspartners en externe databronnen. De laatste tijd doet de gemeente aanvullend steeds meer beroep op data die door externe - vaak commerciële – partijen wordt verzameld en/ of bewerkt. Het stelt de gemeente in staat om toegang te krijgen tot externe gegevensbronnen die anders niet direct beschikbaar zouden zijn.
Vraag aan de ethische commissie:
Welke ethische voorwaarden moet de gemeente stellen bij acquisitie van data en
dataproducten van externe partijen?
Reflectie en reactie op reflectie van de ethische commissie:
Reflectie Risicoprioriteringstool OD IJsselland
De Omgevingsdienst IJsselland (OD) werkt aan de implementatie van een risicotool. Het doel van deze risicotool is om in kaart te brengen welke bedrijven de grootste milieurisico's met zich meebrengen, en het ondersteunen van de OD bij het prioriteren van toezicht. Dit betekent dat er meer aandacht zal worden besteed aan bedrijven met hogere risico's, terwijl bedrijven met lagere risico's minder frequent toezicht zouden krijgen. De ambitiekeuzes daarin moeten nog door de bevoegde organen worden vastgesteld.
Het bestuur van de OD signaleerde dat het gebruik van een dergelijke risicotool /
risicoprioriteringsinstrument (RPI) ethische vragen met zich mee brengt. Om na te gaan of er nog ongeadresseerde ethische vragen zijn, heeft Arjan Spaans, de
portefeuillehouder milieu van gemeente Zwolle aangeboden om de vraag aan de
Ethische commissie Digitalisering voor te leggen.
Vragen aan de ethische commissie:
- Met welke ethische aspecten moet de OD rekening houden bij het RPI en bij de
toepassing hiervan? - Hoe kan de OD ervoor zorgen dat de toepassing van het RPI ethisch verantwoord is?
- Zijn er bepaalde risico's (op ethisch gebied) die de OD over het hoofd ziet?
Reflectie en reactie op reflectie van de ethische commissie:
Reflectie Verantwoord gebruik GenAI
De snelle opkomst van generatieve AI (GenAI) is veelvuldig aanwezig in het publiek debat. Generatieve toepassingen - zoals ChatGPT en Copilot - bieden medewerkers een digitale assistent die kan ondersteunen bij uiteenlopende taken: van het aandragen van nieuwe ideeën, het schrijven van teksten tot het genereren van analyses en adviezen. Deze technologische vooruitgang opent nieuwe mogelijkheden voor snellere en betere dienstverlening, maar brengt ook belangrijke vragen en verantwoordelijkheden met zich mee.
Na het raadsdebat op 27 mei 20241 heeft de wethouder Spaans toegezegd de omgang met generatieve AI (Artificial Intelligence) als onderwerp in te brengen bij de Ethische commissie. De raad heeft aangegeven dat hij digitale innovatie belangrijk vindt, vooral met inzet van AI. Tegelijkertijd heeft de raad een zorg geuit over grote energieverbruik voor de werking en training van de AI-modellen en voor het runnen van datacentra. Daarnaast heeft hij vraagtekens gezet over betrouwbaarheid van data en auteursrechten.
Vraag aan de ethische commissie:
Gebruik van generatieve AI zoals Copilot en ChatGPT in Zwolle: Wat zijn de ethische beperkingen van ChatGPT en Copilot toepassingen bij
dagelijks gebruik?
Reflectie en reactie op reflectie van de ethische commissie:
Reflectie Richtlijn AI-gebruik gemeenteraad
Naar aanleiding van signalen uit het presidium over het toenemende gebruik van AI door raadsleden, heeft de Raadsgriffie een opdracht gekregen om richtlijn voor AI-gebruik in de gemeenteraad, op te stellen. Een conceptversie van de richtlijn is voorgelegd aan de Ethische commissie met het verzoek om daarop te reflecteren.
In de commissievergadering van 11 november heeft de opsteller de conceptrichtlijn toegelicht en vragen van de commissieleden beantwoord. Daarna heeft de commissie zich over de richtlijnen gebogen in een besloten setting. Standpunten van de commissie over het gebruik van AI-tool in de raad, voorzien van kritische vragen, vormen de reflectie. De vragen zijn bedoeld als input voor de afwegingen en het vervolggesprek met de raad.