Digitalisierung | Z01 - Digitale Transformation und Datenkompetenz

Passwörter im Team teilen?

Mon, 14 Feb 2022 00:00:00 +0000

Ein Berner Geschäftsführer kam mit folgendem Problem auf mich zu: Sein Team muss verschiedene Passwörter zeitgleich teilen. Für die Sicherheit wird eine Zwei-Faktor-Authentifizierung benötigt, die sich aber nicht auf ein Gerät/Smartphone beschränkt.

Möglich wird dies mit “Time-based One-time Passwords” oder kurz TOTP. Dabei werden Einmalkennwörter basierend auf einer kryptographischen Hash-Funktion generiert, die maximal 30 Sekunden lang gültig sind. Diese Lösung wurde von der “Initiative for Open Authentification” entwickelt und im 2011 von der Internet Engineering Task Force veröffentlicht.

Nun hatte sein Team zweierlei Probleme:

Die gemeinsamen geheimen Schlüssel lagen unverschlüsselt auf Trello.
Der Prozess war mühsam: Die Mitarbeitenden mussten den geheimen Schlüssel in eine App eintippen, um dann ein Einmalkennwort zu generieren, der dann wiederum auf der Zielwebsite eingefügt wird.

Da es auf Trello keine Power-Up für TOTP gab, fragte er mich, ob es möglich wäre eine zu entwickeln?

Eine Power-Up für Trello

Die Entwicklung einer eigenen Power-Up hat mich gereizt: Schliesslich kann zumindest ein Team von solch einer Entwicklung direkt profitieren - und vielleicht haben sogar andere Teams ähnliche Probleme?

Somit habe ich ein simples UI als spezielle TOTP-Trello-Task gemacht. Darin kann man die geheimen Schlüssel verschlüsselt abspeichern und mit dem Team im gleichen Trello-Board teilen. Es werden darin laufend die neusten Einmal-Codes generiert.

Wenn man ein Code benötigt, kann man einfach auf “copy” klicken, und den Code im Zielfenster einfügen. Folgend zeigt die authentifizierung auf Dockerhub:

Sicherheit und Kontrolle

Das Power-Up wurde von den Trello-Entwicklern Atlassian kritisch überprüft. Es gab mehrere Runden mit Feedbacks, die zu Verbesserungen des Power-Ups geführt haben. Insgesamt hat es zwei Monate gedauert, um das grüne Licht aus den USA zu bekommen.

Alle gespeicherten Secrets werden auf dem Board verschlüsselt und benötigen ein Team-Passwort, welches die Werte vollständig kryptographisch verschlüsselt. Das bedeutet, dass man ohne das Team-Passwort nicht auf die Secrets zugreifen kann.

Serverseitig werden absolut keine Nutzerdaten gepeichert, und es findet kein sensitiver Datenaustausch mit dem Server statt.

Sofort ausprobieren

—> Man kann das power-up “TOTP Generator” kostenlos ausprobieren!

Auf Feedbacks bin ich gespannt!

Browser-Erweiterungen - Eine Lösung für akzeptable Lock-Ins?

Fri, 04 Feb 2022 00:00:00 +0000

Wenn ein Unternehmen oder eine Verwaltung von einem Lock-In durch eine Software beeinträchtigt wird, können die daraus entstandenen negativen Effekte zumindest abgemildert werden. Durch Browser-Erweiterungen von Drittanbietern können Funktionalitäten der bereits gekauften Software erweitert werden. Die Idee wird anhand eines praktischen Use-Cases basierend auf einem Simulationsspiel vorgestellt.

Hin zu einem akzeptablen Lock-In

Lock-Ins oder IT-Abhängigkeiten gehören zu den grössten digitalen Problemen von Verwaltungen und Firmen: Indem man sich für gewisse Software oder Systeme entscheidet, schafft man nachträglich eine Situation aus der man schwer wieder herausfindet, weil ein Wechsel mit hohen Kosten verbunden ist. Diese Kosten können durch Pfadabhängigkeiten entstehen, aber auch durch bereits aufgebautes Know-How, durch Training in eine neue Software, durch Anschaffungskosten, durch Installationskosten usw. Das Buch ‘Digitizing Government’ gibt einen sehr guten Einblick in die Problematik seitens Verwaltungen¹. Wenn die Benutzenden neue Funktionalitäten benötigen oder die bisherige Software umständlich ist, lässt sich die Herstellerfirma eine Weiterentwicklung fürstlich entlohnen.

Die hier dargestellte Idee soll es ermöglichen von einem Lock-In in einen akzeptierten Lock-In zu wechseln wie im unten stehenden Bild dargestellt. Das Ideal sieht natürlich anders aus (hust open source hust).

Bild: Vier-Felder-Matrix zur Ermittlung des Lock-In-Risikos.

Eine Browser-Erweiterung,auch Extensions oder Add-Ons genannt, sind Zusatzfunktionalitäten für Ihren Browser (Chrome; Firefox; Edge usw.). Wenn Sie in Ihrem Browser auf Extensions oder Add-Ons klicken, dann können Sie meistens vorprogrammierte Erweiterungen installieren. Häufig blockiert die hauseigene IT-Abteilung die Installation zusätzlicher Erweiterungen, da es tatsächlich ein hohes Risiko ist, wenn fremde Anbieter Code auf Ihrem Browser ausführen. Man kann damit sehr viel Nutzen stiften aber auch sehr viel Schaden anrichten.

Das Simulationsspiel

Das verwendete Simulationsspiel simuliert ein Logistikunternehmen, bei dem man LKWs mit Frachten quer durch Europa schicken muss, um Geld zu verdienen. Die Steuerung ist über den Browser konzipiert. Daten z.B. zu verschiedenen Routen werden auf verschiedenen Unterseiten dargestellt. Der User verwaltet seinen Fuhrpark, setzt strategisch Aufträge um, stellt die richtigen Mitarbeitenden ein usw.

Bild: Bild mit Abfahrtsort Toulouse aus der Simulation Logitycoon.com von van Dieren Media

Einen zusätzlichen Mehrwert aus den Daten generieren

Nehmen wir an, dass die verwendete Software Daten auf verschiedenen Seiten aufzeigt aber sie nicht gewinnbringend ausgewertet und logisch sinnvoll verknüpft. So kann ein Nutzender auf verschiedene Seiten der Applikation sich Routen aus verschiedenen Startpunkten anzeigen lassen wie im obigen Bild dargestellt. Aber es gibt keine Information wie man vom Startpunkt zum gewünschten Endpunkt kommt. Das Simulationsspiel sieht es hier vor, dass man nur durch zufällige “Sprünge” ans Ziel kommt - und als besondere Schwierigkeit reicht es nicht, wenn man bloss in die richtige Richtung fährt, weil es in eine Sackgasse führen kann.

So könnte man mit einer Browser-Extension folgendes tun: Man lädt alle Datenseiten (hier sind es 150 verschiedene Städteseiten) und verknüpft diese in eine laufend aktualisierte Datenbank. Dadurch kann der Nutzende nun in der Erweiterung ein Start- und Zielort eingeben (zusammen mit der gewünschten Frachtart).

Bild: Bild zeigt die sehr simple Benutzeroberfläche. Keep it simple, nicht wahr? ;-)

Als Resultat spuckt die Browser-Extension die verfügbaren Routen aus und man kann als Nutzender direkt die Route mit den dazugehörenden “Sprüngen” planen - also hier z.b. Von Genua nach Nantes über Venedig und München.

Oder ist vielleicht die Route über Paris sinnvoller?

Je nach Nutzendenbedürfnisse, kann man natürlich auch weitere Auswertungen einbauen. Beispielsweise ist die zweite Fahrt 12% kürzer als die erste. Gleichzeitig verdient man bei der zweiten Fahrt durch die verkaufte Fracht insgesamt zwar weniger, aber wenn man es pro Kilometer berechnet so ist der Gewinn in der gleichen Zeit dann doch 6.5% höher. Wenn sich dies nun um einen echten Use-Case handelt, dann hat sich die Investition in eine Browser-Erweiterung bereits gewinnbringend gelohnt.

Automatisierung

Eine weitere Möglichkeit sind Automatisierungen von Prozessen. Im Simulationsspiel müssen die LKWs händisch bedient werden: Auftanken, Mitarbeitende mit den richtigen Qualifikationen zuordnen, laden, reparieren, Reifen wechseln, abladen und die Buchhaltung abwickeln. Das alles sind Klicks, die relativ mühsam sind, da es repetitive Aufgaben sind, die eigentlich keinen Mehrwert bringen.

Bild: Verschiedene Schritte müssen händisch erledigt werden wie laden und abladen - Logitycoon.com con van Dieren Media

Die erste Möglichkeit durch die Browser-Extension ist es einen Knopf einzubauen, um die verschiedenen Schritte bei dem ausgewählten LKW auszuführen. Das kann auch über eine praktische Tastenkombination erfolgen, die bei erstaunlich vielen Software-Lösungen von Grossunternehmen fehlen, obwohl es eine Zeitersparnis für die Nutzenden bedeutet.

Eine weitere Möglichkeit ist aber diese Schritte komplett zu automatisieren. So kann man die Browser-Erweiterung auch in einem Tab gewisse Übersichtsseiten kontrollieren lassen, und dann alle mühsamen Schritte automatisch ausführen lassen.

Bild: Alle LKWs sind aktiv und generieren Umsatz - Logitycoon.com con van Dieren Media

Interessant dabei ist aus technischer nicht nur, dass durch Browser-Extensions eine gewisse “Robotik” ermöglicht wird - also, dass das Programm z.B. auf gewisse Elemente klickt oder gewissen Text automatisiert eingibt. Mit solchen Extensions kann man auch den Code beziehungsweise die Funktionen vom Hersteller direkt ausführen. So braucht das Programm nicht zu “klicken” sondern kann die Funktionen direkt kontrollieren (z.B. Daten aus einer Datenbank holen; APIs mit vordefinierten Parametern ansteuern usw.).

Schlussbemerkungen

Wenn Sie in einem browserbasierten Lock-In sind (hust SAP hust), dann könnte eine Entwicklung einer Browser-Erweiterung eine Lösung sein, insbesondere wenn der Hersteller Sie als Monopolist in der Lock-In-Falle sieht. Die Programmierung einer Extension durch eine Drittfirma schafft somit wieder marktübliche Bedingungen mit entsprechenden Entwicklungspreisen.

Somit kann eine Verwaltung oder ein Unternehmen eine Situation unternehmens- und nutzendenfreundlich weiterentwickeln. Auch, entschuldigen Sie das Buzz-Wort, “agil”, da die Software konstant zu fairen Preisen angepasst werden kann.

Die Lage mit Browser-Erweiterungen ist dabei sehr situationsbedingt. Einerseits sind die Möglichkeiten mit Browser-Extensions ziemlich beeindruckend, da man damit theoretisch ganze Benutzeroberflächen und Benutzerschnittstellen verbessern kann. Andererseits ist es sehr situativ, ob man und wie man die Extensions verwenden kann. Wenn z.B. eine Anwendung grösstenteils serverseitig funktioniert, kann einer nutzerseitigen Extension Vieles im Wege stehen. In einigen Fällen erweitert es somit die Optionen für Weiterentwicklung.

“Digitizing Government: Understanding and Implementing New Digital Business Models”, 2014, Brown, A.; Fishenden, J.; Thompson, M., Palgrave Macmillan. ↩︎

Offene Machine Learning Modelle in der Verwaltung

Fri, 10 Dec 2021 00:00:00 +0000

Der Bedarf nach rechtlichen und ethischen Leitplanken im Umgang mit Machine Learning (ML) Algorithmen wächst bei staatlichen Akteuren rasant. Diese haben zunehmend nicht nur die Regulierung von Unternehmen im Blick, sondern sind auch selbst Technologienutzende geworden. Das Gebot nach Transparenz findet man in allen Leitlinien und Studien dazu, da es für das Vertrauen in den öffentlichen Sektor zentral ist. Das Vertrauen beruht auf Grundpfeilern wie Nichtdiskriminierung, Legalität und Legitimität des staatlichen Handelns. Doch fehlen konkrete Vorgaben, wie eine solche Transparenz genau erreicht werden kann. Folgend wird ein mehrstufiges praxisnahes Konzept vorgeschlagen¹.

Dieser Beitrag lehnt sich dabei in theoretischer Hinsicht stark an die Studie «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche² und ethische Fragen»³ an, die eine wichtige Lücke schliesst. Der ethische Teil der Studie behandelt sieben ethische Grundsätze – einer davon ist Transparenz.

Bild: Titelseite der genannten Studie der Uni Basel und von Algorithm Watch Schweiz

Die Studie erwähnt dabei vier unterschiedliche Transparenztheorien⁴:

Eine davon ist die Stärkung der kollektiven Autonomie, die für die öffentliche Debatte in demokratischen Prozessen essenziell ist. Das ist auch eine Grundauffassung, die man in Leitlinien der OECD und der Europäischen Kommission findet: Transparenz ermöglicht den Bürger*innen nachzuvollziehen wie «ML-basierte Entscheidungen zustande kommen, um diese anfechten zu können»⁵. Nachverfolgbarkeit und Erklärbarkeit ⁶ machen dadurch einen wichtigen Teil der Transparenz aus.
Transparenz kann auch eine Rolle als «Desinfektionsmittel» haben (Die Studie zitiert dabei Louis Brandeis: «Sonne ist das beste Desinfektionsmittel»⁷). Wenn ein Prozess offengelegt ist, dann führt dies zu einer Vermeidung von unethischen Verhalten aber auch zu einer generellen Schadensvermeidung durch unbeabsichtigte Elemente.
Transparenz kann auch zu technologischer Optimierung durch den aktiven Einbezug eines grösseren Netzwerks führen. Experten und Laien können dadurch Verbesserungen vorschlagen.
Zuletzt kann Transparenz, neben der erstgenannten kollektiven Autonomie, auch die individuelle Autonomie stärken, da das Individuum durch Information eine fundierte Entscheidung treffen kann.

Berechtigt könnte man kritisieren, dass ein Blick auf die Transparenz allein andere wichtige Grundprinzipien ausser Acht lässt. Ich würde aber behaupten, dass es ohne Transparenz nicht geht: diese ist notwendig aber nicht ausreichend um die ethischen Bedürfnisse abzudecken. Dazu kommt, dass die oben genannten vier Transparenzdimensionen sich stark mit den anderen sechs Grundsätzen der Studie überschneiden. Ohne diese Grundsätze hier im Detail zu beschreiben möchte ich einige Beispiele geben:

«Schadensvermeidung» und «Benefizienz»: Man kann ein ML-Algorithmus am besten entwickeln, wenn der gesamte Prozess transparent ist. So kann man auch ungewollten Schaden abwenden, da Fehler, Biases u.ä. früh erkannt werden. Die «Möglichkeit, mithilfe von KI-Systemen Gutes zu tun»⁸, lässt sich mit Transparenz besser bewerkstelligen, da man vor, während und nach der Implementierung überprüfen kann, ob man wirklich Gutes tut.
«Gerechtigkeit und Fairness»: Je transparenter der gesamte Prozess ist, desto wahrscheinlicher wird es, dass «nur faire und gerechte Datensätze verwendet werden», dass «angemessene Funktionen, Prozesse und analytische Strukturen in die Modellarchitektur aufgenommen werden», dass «das System [keine] diskriminierende Auswirkungen hat», und dass «das System unvoreingenommen implementiert» wird⁹.
«Autonomie»: Deckt sich sehr stark sowohl mit der kollektiven wie auch mit der individuellen Autonomie, die oben beschrieben wurde.
«Kontrolle» und «Rechenschaftspflicht»: Beide instrumentellen und aufsichtsrechtlichen Elemente bedingen, dass man kontrollieren kann und für etwas rechenschaftspflichtig sein kann. Transparenz erscheint mir da wie eine wichtige Voraussetzung dafür.

Wie könnte nun eine praxisnahe Umsetzung aussehen, um die ethischen Erwartungen auch zu erfüllen?

STUFE 1

Die aktuelle Praxis in einigen Ländern stellt die Kommunikation und Offenlegung der verwendeten Algorithmen in den Mittelpunkt. Dabei gibt es zwei Alternativen. Ein technischerer Ansatz in Grossbritannien sieht neu einen «Algorithmic transparency data standard»¹⁰ vor, mit welchem man sehr detailliert eine möglichst genaue Dokumentation von im öffentlichen Sektor verwendeten Algorithmen erstellen kann.

Statt eines technischen Zielpublikums lässt sich auch eine grössere Öffentlichkeit erreichen: u.a. Amsterdam und Helsinki haben dies mit einem Register erreicht, in dem jeder Algorithmus in einigen Paragraphen mit Ziel und Zweck erläutert wird¹¹.

Transparenz wird dabei bloss als Kommunikation verstanden. Dabei kann man durchaus auch detailliert erklären, welche Überlegungen und Massnahmen man z.B. gegen Nichtdiskriminierung oder zur Schadensminimisierung durchgeführt hat. Aber es bleibt bei einer Dokumentation, die man nicht nachprüfen oder nachrechnen kann. Nichtsdestotrotz ist es ein absolutes Minimum ein solches Register mit öffentlich zugänglichen Informationen zu haben.

STUFE 2

In einer zweiten Stufe könnte man sowohl Computercode als auch Machine Learning Modelle offenlegen. Das ist zwar eine technische Forderung, aber sie ermöglicht zivilgesellschaftlichen und privaten Akteuren den vollständigen Zugang zum Algorithmus. Und in der Regel dürfte es kein Problem für Verwaltungen darstellen beides zu veröffentlichen.

Die Formel aus dem Modell¹² ermöglicht die exakte Nachberechnung eines Resultats: Man setzt die Inputwerte ein, und erhält das berechnete Output des Algorithmus. Ein «Modell» kann man sich auch als eine Datei vorstellen: In der Praxis kann beim Trainieren eines Algorithmus eine Datei abgespeichert werden, die dann zur Berechnung verwendet werden kann. Man könnte diese Datei öffentlich zugänglich machen.

Neben dem offenen Computercode und den offenen Modellen, stellt sich auch die Frage nach offenen Behördendaten. Hier setzt sich in der Verwaltung bereits das Prinzip «open by default» durch, welches besagt, dass alle nicht schützenswerten Daten veröffentlicht werden sollen.

Falls es sich um solche schützenswerten Daten handelt, könnte man drei Sachen andenken. Einerseits kann man mittels Datenschutzverträge in bestimmten vordefinierten Fällen den Zugriff darauf erhalten. Zweitens könnte man in einer «AI Sandbox» oder geschützten Umgebung einen Zugang dazu bekommen, wie das in Grossbritannien, Norwegen und Frankreich gerade versucht wird¹³. Drittens könnte man einen Beispieldatensatz mit synthetischen Daten mitliefern, so dass zumindest die Schwelle für die Nachvollziehbarkeit möglichst gering ist – aber da ‘Bias’ auch als Muster in den Daten selbst entstehen kann, ist dies nicht die geeignetste Variante.

Bild: CC0 / Pixabay / Elchinator

STUFE 3

Eine weitere Stufe der Transparenz wäre erreicht, wenn der Lebenszyklus eines Algorithmus vollständig erfasst werden würde. Dies bedingt zwei Elemente.

Erstens, und zusätzlich zur Veröffentlichung der Modelle und des Computercodes, stellt sich die Frage nach einer strikten Versionierung. Was bei Computercode geläufig ist, wird in der Industrie auch teilweise bei ML-Modellen angewandt. Denn nur so kann man rückwirkend vollständig nachvollziehen, welcher Algorithmus in welchem Moment verwendet wurde. In der Praxis werden die Modelle häufig aktualisiert oder verändert. So kann diese dynamische Komponente mitberücksichtigt werden.

Zweitens braucht es eine regelmässig stattfindende Kontrolle – ein Monitoring, welches öffentlich ist und mindestens jährlich stattfindet. Ähnlich dem britischen «algorithmic data transparency standard», könnte man sich auch hier eine Art Standardprotokoll überlegen. Dieses Monitoring ermöglicht auch zu erkennen, ob die Ziele und der gewünschte Nutzen erreicht wurden.

STUFE 4

Ein offenes ML-Modell bleibt eine «black box», da man das innere eines komplexen Algorithmus nicht menschlich simpel nachvollziehen kann. Diese Problematik basiert auf «Ockhams Dilemma»: man kann entweder Algorithmen mit sehr genauen Vorhersagen oder menschlich verständliche/interpretierbare Algorithmen haben, aber nicht beides gleichzeitig¹⁴. Beispielsweise werden simplere Regressionen in der Wissenschaft verwendet, da dort die Erklärbarkeit und nicht die genauste Vorhersage im Mittelpunkt stehen. Eine weitere Stufe wäre deshalb begleitende simplere Algorithmen (z.B. lineare Modelle oder Ceteris-Paribus Annahmen¹⁵) parallel dazu zu trainieren und zu veröffentlichen.

Ein solcher Ansatz wurde im Bundesamt für Statistik im Pilotprojekt Plausi++ versucht: der komplexe Algorithmus war für die genauste Berechnung der Plausibilisierung zuständig, während ein simples Modell eine menschlich verständliche Erklärung für die Entscheidung der Plausibilisierung liefern soll¹⁶.

Technisch könnte es sein, dass dies nicht in allen Anwendungsfällen möglich oder zu guten Resultaten führt. Aber selbst bei Bilddaten kann man mit linearen Modellen Erklärungsansätze für die Entscheidungen bekommen: So kann man beispielsweise den Bildabschnitt gezeigt bekommen, der für die Vorhersage am relevantesten war¹⁷.

Bild: S.18 aus Schlussbericht Plausi++, Abbildung zeigt Ceteris-Paribus Ansatz, um die berüchtigte black box zu öffnen

Die oben vorgestellten vier Stufen stellen einen neuen praxisnahen Vorschlag für eine vollständige Transparenz dar. Wie oben erwähnt, denke ich, dass Transparenz eine notwendige aber nicht ausreichende Bedingung ist, um die in der Theorie behandelten ethischen Erwägungen ganzheitlich zu erfüllen. Somit müssen zwangsläufig weitere Überlegungen angestellt werden.

Beispielsweise kann Transparenz einen diskriminierenden Effekt eines Algorithmus sichtbar machen, aber dadurch ist die dadurch entstandene Diskriminierung noch nicht beseitigt: – «Diskriminierung kann auch transparent, nachvollziehbar und verstehbar erfolgen»¹⁸.

Des Weiteren gibt es Fälle, wo «bias» nicht vermieden werden können¹⁹. Prof. Rayid Ghani zeigt beispielsweise an einer Präsentation an der EPFL Anwendungsfälle auf, bei dem ein Algorithmus entweder auf Effizienz, Gleichheit oder Gleichwertigkeit optimiert werden kann - mit unmittelbaren Nachteilen für die jeweils anderen beiden Dimensionen ²⁰.

Ein weiteres Puzzleteilchen, Bild: CC0 / Pixabay / Alexas_Fotos

Ein solches Transparenzverständnis ist in der öffentlichen Verwaltung gerade im Bereich der Datenbewirtschaftung nicht neu: So haben sich offene Behördendaten und Prinzipien wie «open by default» durchgesetzt. Eine vollständige Transparenz im Einsatz von ML-Algorithmen ist somit ein weiteres Puzzleteil in diesem bereits existierenden Selbstverständnis. Das zeugt auch, dass man bestehende Grundprinzipien in der Datenbewirtschaftung auf eine angepasste Weise auch auf Algorithmen anwenden könnte, ohne das Rad neu zu erfinden. Beispielsweise CARE²¹:

Collective Benefit: Machine Learning Ansätze müssen einen öffentlichen und öffentlich legitimierten Nutzen haben.
Authority to Control: Die Stärkung der kollektiven wie auch individuellen Autonomie.
Responsibility: Verantwortung im Umgang mit den Modellen, Prozessen, Daten.
Ethics: Schadensvermeidung und Benefizienz im gesamten Lebenszyklus eines Algorithmus.

Ich bedanke mich sehr herzlich bei allen Personen, die Feedbacks zu diesem Blogartikel gegeben haben! ↩︎
Nachtrag am 20.12.2021 aufgrund von juristisches Feedback zur Präzisierung des Begriffs Transparenz: Juristisch kann hier Transparenz “am ehestens… i.S. des Öffentlichkeitsgesetzes verstanden werden, nämlich dahingehend, dass breite Kreise (Zivilgesellschaft, Medien, Interessierte etc.) Zugang zu den Informationen erhalten. Eine andere Form der Transparenz verlangt das Datenschutzgesetz (nämlich die Transparenz über die Nutzung der eigenen Daten). Und noch einmal etwas anderes ist die Tranparenz i.S. der verfassungsrechtlichen Begründungspflicht (bei staatlichem ADM), welche die grds. Nachvollziehbarkeit einer Entscheidung im Einzelfall fordert”. Vielen Dank an Nadja Braun Binder für diese Präzisierung! ↩︎
«Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen», Juristische Fakultät der Universität Basel und Algorithm Watch Schweiz – siehe S. 72 ff. https://www.zh.ch/content/dam/zhweb/bilder-dokumente/themen/politik-staat/kanton/digitale-verwaltung-und-e-government/projekte_digitale_transformation/ki_einsatz_in_der_verwaltung_2021.pdf ↩︎
ibid. ↩︎
AI-Principles der OECD 2018, übersetzt durch Autor, https://www.oecd.org/going-digital/ai/principles/ ↩︎
Ethik-Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission, 2018, siehe z..B. Seite 17, https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html ↩︎
Op. Cit.: S. 72 ↩︎
Op. Cit.: S. 70 ↩︎
Op. Cit.: S. 68 ↩︎
https://www.gov.uk/government/publications/algorithmic-transparency-data-standard ↩︎
Siehe z.B.Amsterdam https://algoritmeregister.amsterdam.nl/en/ai-register/ oder Helsininki https://ai.hel.fi/en/ai-register/ ↩︎
Auch wenn eine Formel hier sprichwörtlich gemeint ist, ist ein Modell wortwörtlich tatsächlich eine Art komplexe Formel ↩︎
Siehe beispielsweise https://www.eipa.eu/publications/briefing/sandboxes-for-responsible-artificial-intelligence/ oder https://www.huntonprivacyblog.com/2021/02/25/regulatory-sandboxes-are-gaining-traction-with-european-data-protection-authorities/ ↩︎
Siehe z.B. S.6 und ff. https://unece.org/fileadmin/DAM/stats/documents/ece/ces/ge.44/2018/T4_Switzerland_RUIZ_Paper.pdf ↩︎
Siehe z.B. das Buch von Christoph Molnar https://christophm.github.io/interpretable-ml-book ↩︎
Siehe Bericht dazu https://www.bfs.admin.ch/bfs/de/home.assetdetail.9847917.html ↩︎
https://towardsdatascience.com/interpretable-machine-learning-for-image-classification-with-lime-ea947e82ca13 ↩︎
Präsentation von Prof. Bettina Berendt anlässlich der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» ↩︎
Wie es z.B. in der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» mehrmals erwähnt wurde ↩︎
https://z01.ch/post/2021-01-26-amld-ai-democracy/ ↩︎
Siehe z.B. Seite 9, Kommunikation mit Daten, Matthias Mazenauer, Statistisches Amt Kanton Zürich, https://docs.google.com/presentation/d/17b7yOEEclFejydFpE1- AdaSRrgvSp7sq/edit#slide=id.p1 ↩︎

Digitales Neuland

Mon, 01 Feb 2021 00:00:00 +0000

Dieser Blog hat nun eine vierjährige Geburt hinter sich und fing zunächst mit einem faszinierenden Paradox an. “Digitalisierung” birgt unbestritten viel Potenzial. Hingegen klaffen fast überall Lücken zwischen diesem Potenzial und der Wirklichkeit - selbst bei Unternehmen, die “digitalisierungswillig” sind. Wie kann man diese paradoxale Lücke erklären und vielleicht sogar schliessen? Und wieso sind solche Lücken nichts Neues? Es gibt sie nämlich schon seit mindestens den 80-er Jahren und unter verschiedenen Konzepten: Online Government, E-Government, transformational Government und nun digital government. Wieso ist das digitale Neuland so unnahbar, und was braucht es um dahin zu gelangen?

Die Suche nach den Antworten

Auf meiner Suche bin ich seitdem auf mehr Fragen als auf Antworten gestossen. Der Auslöser für die Lancierung dieses Blogs war schlussendlich die Lektüre des Buchs “Data Literacy” von David Herzog. Eines der raren Bücher, welches Grundlagen in “Datenkompetenz” bereitzustellen versucht. Das Buch hat jedoch meine Erwartungen an ein Buch zu moderner Data Literacy enttäuscht. Dabei ist es noch das Geringste, dass ich meine ehemalige Lateinlehrerin versteinert und mit weit offenem Mund vor Augen habe, wenn der Autor im allerersten Satz erklärt, dass das Wort “Data” aus dem Griechischen käme.

Sein Buch spricht von einer Data Literacy, die etwa der der 90-er Jahre entspricht: Das Pivotieren einer Excel-Tabelle ist ein grosses Highlight des Buches. Dabei geht es in Datenkompetenz sicher nicht um den letzten Schrei, die neueste Programmiersprache oder SAP O/7SUSANNA. Ein ausgezeichneter Beitrag zu Data Literacy ist zweifelsohne “Future Skills: Ein Framework für Data Literacy” von Katharina Schüller et al. 2019. Die folgende Abbildung aus jenem Artikel zeigt, wie umangreich Data Literacy verstanden werden kann: Sowohl seitens der Mehrwertgenerierung von Daten, über Informationen zu Wissen (die Data Literacy Pyramide), wie auch das Verstehen von Informationen und Visualisierungen, um daraus Handlungen ableiten zu können, aber auch Ethik und “Haltungen” (Schüller et al. 2019).

Bildquelle: Schüller et al. 2019: Seite 25, CC BY-SA 4.0

Dabei geht es um fundamentale Elemente, die nicht nur technischer Natur sind, denn das Wort “digital” trügt. Es geht ebenfalls um kulturelle Elemente, um ethische Fragen, und sogar um eine komplette Neuausrichtung von Prozessen und Organisationen (siehe z.B. Hoerl, Kuonen und Redman 2020).

Der Mensch im Mittelpunkt

Dabei ist der Mensch stets im Mittelpunkt: Als Mitarbeitende, die in “digitalisierten Prozessen” einen Mehrwert erzeugen, als Beschaffende von Technologie, als vernetzt und medienbruchfrei arbeitende Arbeitskollegen, als KundIn mit hohen Erwartungen, Als BürgerIn mit datenschutzrechtlichen Anforderungen oder als ProgrammiererIn unter Zeitdruck.

Denn das Wichtigste bei einer zwischenmenschlichen Beziehung, egal ob in Form zwischen Verwaltung und Bürgern, oder zwischen Firmen und Kunden oder innerhalb von demokratischen Prozessen, ist Vertrauen. Dass Vertrauen in die Gesellschaft das eigene Verhalten beeinflusst, ist bei Soziologen und Politikwissenschaftler nichts Neues. Aber auch Vertrauen im Sinne, dass das Internet morgen noch läuft. Vertrauen, dass mein postalisch eingereichtes Formular auch ungeöffnet beim Staat ankommt [Sic!]. Vertrauen, dass meine Daten nicht missbraucht werden.

Bildquelle: gettyimages von Natasa Adzic, CC BY-SA 4.0

Niklas Luhmann definierte Vertrauen als “Zutrauen zu eigenen Erwartungen”, welches “elementarer Bestandteil des sozialen Lebens” sei (Luhmann 1968: 8). Vertrauen ist somit nicht ohne zwischenmenschliche Beziehung, die Erwartungen weckt. Also auch die Erwartungen an den “Staat” oder an die Dienstleistungen einer “Firma”. Dabei handelt es sich bei “Staat” und “Firma” nicht um gesichtslose Monolithen: Es sind Menschen dahinter, welche die Dienstleistungen anbieten, Prozesse durchführen, menscheln, Interessen haben und strategische sowie operative Entscheidungen treffen.

Diese Erwartungen führen auch dazu, dass wir mit den neuen “digitalen” Möglichkeiten, das Potenzial auch möglichst ausschöpfen möchten: Automatisierung, medienbruchfreie Prozesse, kundenzentrierte Dienstleistungen, schlankere Organisationen, schnellere Entscheidungen usw. Und auch, dass Menschen unzufrieden sind, wenn dieses Potenzial nicht ausgeschöpft wird: Natürlich kann man zur Zeiterfassung weiterhin Stempelkarten händisch unterschreiben - das hatte man früher ja auch gemacht - man könnte aber die freiwerdenden Ressourcen auch für andere Zwecke einsetzen, beziehungsweise die zusätzlichen Erwartungen der Kunden und BürgerInnen erfüllen, um das Vertrauen nicht zu verlieren.

Stempelkarte. Bildquelle: Wikipedia ohne Copyrightangabe

Der Blog als bescheidener Teilbeitrag

Wenn man das alles sieht, dann merkt man, dass es kein Buch zu Datenkompetenz braucht, sondern gleich ein gesamtes Bücherregal mit Büchern zu den einzelnen Teilaspekten. Vielleicht deckt die Pivotierung von Excel-Tabellen tatsächlich viele Bedürfnisse in Verwaltungen und Firmen ab. Aber es gibt noch weit mehr “digitaler” Möglichkeiten. Und darum soll es in diesem Blog gehen: Es soll eine bescheidene Sammlung mit konkreten “digitalen” Möglichkeiten werden, die möglichst untechnisch, auf hoher Flugebene, ohne Hype und sachlich präsentiert werden sollen. Möglichkeiten, die der einen oder anderen Verwaltung oder Firma hoffentlich einen Mehrwert bieten könnte, um die Lücken zu schliessen.

Dabei bin ich gespannt mit Ihnen ins Gespräch zu kommen, denn auch das Schreiben dieser verschiedenen Blogbeiträge ist eine iterative Reise im digitalen Neuland. Es gibt so viele Sichten auf diese Digitalisierungslücken, dass es nicht anders geht als mit möglichst vielen Personen zu sprechen und aus deren Erfahrungen zu lernen und die Probleme aus verschiedenen Perspektiven zu betrachten. Sie können mir daher jederzeit gerne schreiben oder die Themen auf den sozialen Medien diskutieren. Abonnieren Sie auch den Newsletter, um auf dem laufenden zu bleiben.

A propos “Digitales Neuland”: Nein, ich lache nicht mehr über Merkel, die es verstanden hatte, dass die Kaskaden an Neuerungen durch das Internet seit den 90-er Jahren nicht nur technologischer Natur sind, und unsere Gesellschaften und politischen System tiefgreifend verändert haben und es auch weiterhin unentwegt tun. Es ist auch jetzt noch schwer abzuschätzen wohin diese Reise führt. Die konkreten Möglichkeiten, die vorgestellt werden, sollen jedoch auf dieser Reise ins digitale Neuland möglichst unterstützen.