Kunnen we bouwen op ICT?

1. Kunnen we bouwen op ICT? De kwetsbaarheid van de informatiesamenleving Paul ‘t Hoen

2. Foto: Rineke Dijkstra

3. Definitie Kwetsbaarheid is een uitdrukking van de functionele problemen die een systeem ondervindt wanneer het wordt getroffen door een ongewenste gebeurtenis, alsmede van de problemen die het systeem zal hebben met het herstellen van zijn werking na de gebeurtenis. Kwetsbaarheid is gekoppeld aan een mogelijk verlies van waarde. (-) Kwetsbaarheid is in hoge mate “self-inflicted”. Het kan worden beïnvloed, begrensd of verminderd. (Naar: Norges Offentlige Utredninger 2000)

4. Hoe kwetsbaar zijn we eigenlijk? • “Het valt allemaal best mee” • Degenen die verder kijken dan de techniek alleen • Degenen die een economisch belang vertegenwoordigen • “Het is vijf voor twaalf” • Degenen die bang zijn voor de techniek • Degenen die begrijpen hoe de techniek werkt

5. De onzekerheidstrog

6. Hoofdstelling • Kwetsbare ICT kan leiden tot een kwetsbare samenleving, maar die lijkt vrij robuust en weerbaar • Echter: perceptie van kwetsbare ICT en verwachtingen rond maatschappelijke effecten kan leiden tot een gebrek aan vertrouwen in ICT • Dat leidt tot suboptimale inzet en maatschappelijk achterblijven bij de mogelijkheden

7. Kernpunt: vertrouwen • Beantwoordt het systeem aan mijn verwachtingen? • Zo niet, wie kan ik daar dan op aanspreken? • Hoe afhankelijk ben ik van het systeem?

8. Risico acceptatie criteria 10-4 10-6 10-8 10-10 Aantal slachtoffers

9. Verknoping van netwerken • telecommunicatie (vast, mobiel, internet) • energie (gas, electriciteit) • drinkwater, riolering • verkeer en vervoer (logistiek) • financiële netwerken (banken, beurs, betaalsystemen) • openbaar bestuur, incl. politie en hulpdiensten • media (omroep, pers) • gezondheidszorg • sociale netwerken

10. Verknoping

11. Tijdsaspect Hinder “coping” Duur van de storing

12. Paradox 1 Hoe betrouwbaarder een systeem, hoe moeilijker het wordt om je aan te passen bij uitval/verstoring/misbruik.

13. De 3 basiselementen • Beschikbaarheid • verlies van connectiviteit • verlies van functies • Integriteit • vervalsing of verlies van gegevens • Vertrouwelijkheid • misbruik van gegevens (privacy)

14. Positie van de gebruiker • Krijgt steeds meer verantwoordelijkheid • maatregelen (virusscanner, firewall, back-ups, browser instelling) • gedrag (“geen attachments openen”) • Kan steeds moeilijker iemand aansprakelijk stellen • Heeft informatie en kennis nodig om verantwoordelijkheid te kunnen nemen • Hoever willen we gaan?

15. Gebruikersverantwoordelijkheid

16. Wat is waar?

17. Is het nog te beheersen? • Complexiteit door verknoping • Teveel mogelijke toestanden vraagt om • robuuste ontwerp beginselen • testen • analyse van feitelijke gebeurtenissen

18. Ontwerpbeginselen • Veilgheid geïntegreerd, niet toegevoegd • Altijd in de context van de omgeving en het gebruik • is meer dan een technisch probleem • vraagt brede blik, procesinzicht, interdisciplinariteit • er is altijd dynamiek • Toepassen van intelligente bouwblokken, verminderen van centrale sturing • lessen uit de natuur

19. Paradox 2 • Hoe minder homogeniteit, hoe robuuster de infrastructuur, • maar hoe meer standaardisatie, hoe gemakkelijker het is om storingen op te vangen.

20. Testen • Systeemfalen steeds minder veroorzaakt door componentfalen, • maar door interactie tussen componenten en door interactie tussen systeem en gebruiker (en beheerder) • Testen nodig maar nooit voldoende • Murphy was een optimist

21. Stelling 1 Het uitschakelen van het netwerk van KPNQwest zou een prachtige test zijn geweest van de kwetsbaarheid van het Internet, en van de daaraan verbonden maatschappelijke kwetsbaarheid.

22. Kenmerken van uitval • Meestal geografisch begrensd • Tenzij “Denial of Service Attack” • Hersteltijd relatief kort • Soms zijn er alternatieven • “Single points of failure” blijven een probleem

23. Stelling 2 Uitval van netwerken is vooral een gevolg van de interne dynamiek: uitbreiding, modernisering, vervanging, onderhoud.

24. Verlies van integriteit • “Onzichtbare” gegevensdiefstal • Of verandering van gegevens • Of valse gegevens • wat is waar? • Of gegevensverlies • virussen • Kan zeer ontwrichtend werken

25. Verlies van vertrouwelijkheid • Slordigheid • Misbruik • Vaak niet (meer) te traceren • Spanning overheid en burger (encryptie) • Creëert veel argwaan en onzekerheid

27. Hoe zit het met de feedback? • Er is geen informatieplicht • Er is geen informatiebundeling • Er is daardoor geen systematische analyse mogelijk van feitelijke incidenten • Er is dus geen goede overall feedback (alleen component of subsysteem feedback) ten behoeve van ontwerpers, beheerders en gebruikers, en voor de markt • Wel deelanalyses en theoretische studies

28. Het belang van transparantie Een centraal informatie- en analysepunt (en een informatieplicht) zijn noodzakelijk voor • vermindering van de kwetsbaarheid • en vergroting van de weerbaarheid • (denk aan Stoomwezen, Ongevallenraad etc.) • Dat is meer dan een CERT(Computer Emergency Response Team)

29. Stelling 3 Er komt pas een “Raad voor de ICT veiligheid” als er door ICT-storingen doden zijn gevallen.

30. Conclusie 1 • Verbetering van de werking van digitale systemen (betrouwbaar, integer, vertrouwd) is niet alleen van belang voor de vermindering van de kwetsbaarheid van de samenleving • Het is ook van groot belang om de acceptatie, en daarmee de positieve effecten, van ICT in de samenleving te maximaliseren

31. Conclusie 2 • In de huidige stand van ICT toepassing (vooral enabling) is systeemuitval vooral een economisch probleem • Maatschappelijke ontwrichting dreigt bij aantasting van de Integriteit en Vertrouwelijkheid

32. Conclusie 3 • Voor vermindering van de kwetsbaarheid van digitale systemen vindt plaats in de ontwerp-, de test- en de beheerfase is interdisciplinariteit noodzakelijk • het gaat om meer dan techniek • Volledige en transparante informatie uitwisseling zijn essentieel voor voortdurende verbetering

33. Foto: Rineke Dijkstra