Blog: De veiligheid van innovaties: kans- versus gevolgbenadering

30 augustus 2021

“Door hulpverleners te informeren over de veiligheidsaspecten van innovaties en door hun handelingsperspectieven te bieden, dragen we enerzijds bij aan de veiligheid en anderzijds aan het draagvlak voor die innovaties”, blogt lector Energie- en transportveiligheid Nils Rosmuller.

Zo net terug van vakantie werd mijn aandacht getrokken door een nieuwsbericht van de NOS [1]: VS onderzoekt zelfrijdende functie Tesla na ongelukken met hulpverleners. De kern van het bericht, en ik citeer, luidt: “De Amerikaanse overheid is een onderzoek begonnen naar de zelfrijdende functie van Tesla’s. Reden is dat er meldingen zijn binnengekomen over problemen met het herkennen van geparkeerde voertuigen van hulpdiensten.” 

Relevantie voor mijn lectoraat

Dit bericht is om meerdere redenen interessant voor mijn lectoraat Energie en transportveiligheid [2]:

• Omdat wij als lectoraat onderzoek uitvoeren naar de veiligheidsgevolgen van innovaties [3]  in de energie- en transportsector.
• Omdat in het lectoraat het Kenniscentrum Voorrangsvoertuigen [4] is ingebed en alle veiligheidsaspecten rondom voorrangsvoertuigen daarom relevant zijn.
• Omdat technische oplossingen/middelen/systemen in de veiligheid veelal de voorkeur verdienen boven menselijk handelen, vanwege de geringere foutfrequentie (lees: betere voorspelbaarheid en controle ten opzichte van menselijk gedrag).
• Omdat innovaties in de energie- en transportsector zo snel gaan dat negatieve veiligheidsaspecten zich pas gaandeweg de introductie/gebruiksfase ‘openbaren’. 

Ik ga hieronder kort in op de derde en vierde reden, omdat deze een mechanisme representeren waarmee we in ons lectoraat frequent van doen hebben, namelijk de kans- versus gevolgbenadering van een ontwikkeling of innovatie.

Techniek is ook niet onfeilbaar

Tesla’s zijn volledig elektrische auto’s, en naar de veiligheidsaspecten van elektrische auto’s hebben we behoorlijk wat onderzoek uitgevoerd [5]: brandveiligheid parkeergarages, incidentonderzoek en incidentbestrijdingstactieken. Tesla en steeds meer andere autofabrikanten werken aan de functionaliteit van autonoom rijden. Er zijn branchebreed vijf niveaus van autonoom rijden gedefinieerd waarbij in toenemend cijfer de menselijke assistentie afneemt. Bij level 1 gaat het om assistentie van bijvoorbeeld adaptieve cruisecontrol. Op het hoogste niveau (level 5) heeft de auto geen impulsen van de bestuurder meer nodig. Over het algemeen wordt de mens nogal eens gezien als een zwakke schakel bij veiligheidsvraagstukken. Een menselijke fout wordt gezien als meest voorkomende oorzaak van ongelukken [6]. Meer techniek in plaats van menselijk gedrag zou dan ten goede komen aan de veiligheid [7]. In het NOS-artikel blijkt de technologie ook niet onfeilbaar. Een niet voorzien faalmechanisme openbaart zich langzamerhand, namelijk dat stilstaande of geparkeerde voertuigen van hulpdiensten niet altijd goed worden waargenomen.

Dat brengt me tot de kern van dit blog. Als wij aandacht vragen voor de veiligheidsaspecten van een innovatie wordt ons nogal eens verweten ‘doemdenkers’ te zijn, ontwikkelingen en innovaties te stagneren en ‘niet wetenschappelijk’ te zijn. En in het verlengde hiervan wordt opgemerkt dat wij geen cijfers hebben om te onderbouwen dat een innovatie onveiliger zou zijn dan de traditionele technologieën. Dat we de kansen en/of cijfers niet kennen maakt het juist erg belangrijk de nieuwe effecten te signaleren. Zodat er preventieve en repressieve maatregelen kunnen worden ontwikkeld, want misgaan doet het altijd een keer.

Mogelijke veiligheidsrisico’s van innovaties beperken

Dat we nogal eens de cijfers niet hebben klopt, maar dat laatste is wel de omgekeerde wereld. De ontwikkelaar zal moeten aantonen dat zijn/haar product ‘veilig’ is. Echter, data over kansen en faalmechanisme vanuit de praktijk komen pas na jaren beschikbaar. Die zijn er dus op voorhand niet, en dus zal het voor ontwikkelaars lastig zijn om die op te leveren (anders hadden ze het heus wel gedaan). Wij als kennisinstituut voor met name de veiligheidsregio’s focussen daarom minder op de faalkansen en -frequenties en de vergelijkbaarheid met andersoortige systemen (bv. elektrisch versus fossiel aangedreven voertuigen of rijden met versus zonder niveaus van autonoom rijden)[8]. We leggen de focus veel meer op de mogelijke gevolgen van innovaties en de bestrijdbaarheid van mogelijke incidenten. Faalcijfers en betrouwbare datasets zijn bij innovaties sowieso amper voorhanden. Begrip van de faalmechanismen en inzicht in gevolgen en /effecten van andersoortige risico’s zijn er ten dele (let op: ik spreek hier niet meer over (on)veilig(er)).

En dat laatste is waar we als lectoraat juist bijdragen aan de ontwikkelingen en innovaties. Door hulpverleners te informeren over onze kennis over (de gevolgen van) andersoortige risico’s en door hun handelingsperspectieven te bieden, zijn we in staat de gevolgen te beperken van mogelijke ongelukken waarmee die innovaties gepaard gaan. Dit draagt enerzijds bij aan de veiligheid en anderzijds aan het draagvlak voor die innovaties. 

Hulpverleners voorzien van informatie en kennis

Tot slot terug naar het onderzoek dat men in de VS gaat uitvoeren naar de Tesla’s en het missen van geparkeerde voertuigen van hulpdiensten. We kunnen de hulpdiensten in Nederland informeren over dit boven water gekomen faalmechanisme, opdat zij bij het parkeren van hun voertuigen, in- en uitstappen en pakken van materieel hiermee rekening houden (lees: extra aandacht voor het overige verkeer). Hoewel er een dataset ten grondslag ligt aan de erkenning van dit faalmechanimse, zouden we dit advies ook kunnen verstrekken als we die cijfers zouden ontberen. Maar gelukkig zijn die cijfers er in dit geval, wat zeker helpt bij het beoordelen van de relevantie van dit faalmechanisme en bij het overbrengen van de boodschap aan hulpverleners. En daar is het ons om te doen. Hulpverleners die er zijn om anderen te helpen zo goed mogelijk voorzien van informatie en kennis, opdat ze niet zelf slachtoffer worden bij de uitvoering van hun nobele taak.

Nils Rosmuller
lector Energie- en transportveiligheid

[1] https://nos.nl/artikel/2394093-vs-onderzoekt-zelfrijdende-functie-tesla-na-ongelukken-met-hulpverleners 

[2] En nog iets recenter (27 augustus), en redelijk vergelijkbaar, is het bericht van het ongeluk op de paralympische spelen waar een elektrische zelfrijdende bus in botsing kwam met een sporter.

[3] Zie mijn lectorale rede

[4] Zie Kenniscentrum Voorrangsvoertuigen

[5] Zie de themapagina Energietransitie

[6] Je zou ook kunnen zeggen dat dan in het ontwerp (lees: de techniek) onvoldoende is geanticipeerd op menselijk gedrag (de gebruiker van de techniek). Waar vervolgens dan weer op gereageerd kan worden dat de door de mens ontworpen techniek niet goed is, en alsnog sprake is van de menselijke fout (i.c. de ontwerper).

[7] Daarnaast wordt vanuit de theorie van risicohomeostase (Wilde, 1981) gesteld dat mensen zich onveiliger gedragen naarmate ze zich veiliger voelen. Denk hierbij aan de introductie van het antibloksysteem (ABS) in auto’s en de verminderde volgafstand van chauffeurs van auto’s die hiermee zijn uitgerust.

[8] Waarbij we zeker niet blind zijn voor die frequenties/kansen. Integendeel, als er betrouwbare datasets beschikbaar zijn, dient dit kansaspect van het begrip ‘risico’ serieus in de totale beoordeling van een innovatie meegenomen te worden.