Z01 - Digitale Transformation und Datenkompetenz

Emergency Communication in case of an Outage

Sun, 24 Jul 2022 00:00:00 +0000

It seems that the scenario of an electricity and internet outage became a realistic scenario for the upcoming Swiss winter ¹. How would an emergency communication with the people in your workplace or neighborhood look like when the internet and telephone lines are out? Would such a scenario mean the come-back of radio-based solutions such as walkie-talkies? In my latest blog, I am discussing a rather unknown and imperfect technology called Wi-Fi Direct that could however be a cheap and easy alternative that everyone with an Android mobile phone could use in such a situation.

During my time as an intern in Albania in 2008, electricity-shortages occurred on a weekly basis. It happened usually in the morning at work, as the steel-works and industries were requiring a lot of power then. It was thus less the romantic picture of a blackout at night with candle light. The workplace was equipped with auxiliary diesel-generators that jumped in surprisingly well: The computers back then rarely went black.

Today we are very dependent on electricity and the internet. If the electricity and therewith the internet would have an outage, then communication would be abruptly stopped. The normal telephone lines would not work ², the mobile communication transmitters would be without energy, and the landline routing servers would also be out ³ .

There is of course no need to paint a black picture of such a case. And while it might be exaggerated to go full-scale “prepper”, it would be nevertheless wise to think such a case through and to be prepared with at least a minimum plan.

Very likely the first reaction is physical communication and gatherings at the workplaces and on the streets or hallways in case of your neighborhood. However, communication in such an emergency situation is nevertheless necessary: I guess that not all the elevators have an auxiliary power-supply yet and there are people needing assistance. Coordination might be in some cases required beyond an oral distance.

Walkie-talkies or other radio equipment can in such cases work on batteries, if a company plans to invest early in such equipment. But there is also a cheaper and easier, although quite imperfect alternative: Not many people know that mobile phones can also communicate directly among themselves without routers or antennas in between. It is called Wi-Fi Direct ® ⁴, which is an open standard and enables communication between devices that is over ten times faster than bluetooth. The technology is currently almost only used for fast file transfers and for sending documents to printers.

As shown in the following picture, it was not difficult to make a simple app that can transmit messages between devices ⁵. The devices make peer-to-peer connections without needing to specify the server and client roles, and it can be extended to as many peers as available in range.

Picture from own simple chat app over WiFi-Direct technology

The technology has two larger downsides, which is likely why the technology is so unknown in the first place. First, it is restricted to the distance of its internal Wi-Fi antenna – usually 100 meters in the open space minus connectivity-loss by obstacles such as walls, floors etc. Nevertheless, I think that one should keep in mind a broadcasting possibility that would work like a human chain: if many devices are used, they can re-transmit messages so that larger peer-to-peer networks get established in such a situation.

Extend the range by broadcasting through the participants. Picture by Stefan Schweihofer from Pixabay

A second downside is that Apple, a large manufacturer of mobile devices, did not include the technology and instead uses an own proprietary wireless ad hoc service for sending files between Apple devices (iPhone, Macs etc.). The fact that Apple does not use the open Wi-Fi Direct standard makes it impossible to send and receive messages from and to other operating systems such as Android or Windows.

Nevertheless, if you think in case of an emergency, a cheap and easy solution for quick communication around you (without radio equipment) could be useful. The installation of an app (in non-outage times of course) would suffice for that.

There might be other interesting use-cases of such a technology. One would be in the case of communicating anonymously with other people around you. For example in countries where you get arrested when publicly displaying an empty protest sign ⁶ , or in countries where the entire internet connectivity is taken offline by the regime⁷. In such cases, apps like Telegram might not be reliable anymore. The technology, used together with “MAC randomization” that is now installed in every Android device, could be used as a means of communication in places such as the metro or public squares.

What do you think about this technology? Would such a technology be of use? Send me a message or comment on social media.

Passwörter im Team teilen?

Mon, 14 Feb 2022 00:00:00 +0000

Ein Berner Geschäftsführer kam mit folgendem Problem auf mich zu: Sein Team muss verschiedene Passwörter zeitgleich teilen. Für die Sicherheit wird eine Zwei-Faktor-Authentifizierung benötigt, die sich aber nicht auf ein Gerät/Smartphone beschränkt.

Möglich wird dies mit “Time-based One-time Passwords” oder kurz TOTP. Dabei werden Einmalkennwörter basierend auf einer kryptographischen Hash-Funktion generiert, die maximal 30 Sekunden lang gültig sind. Diese Lösung wurde von der “Initiative for Open Authentification” entwickelt und im 2011 von der Internet Engineering Task Force veröffentlicht.

Nun hatte sein Team zweierlei Probleme:

Die gemeinsamen geheimen Schlüssel lagen unverschlüsselt auf Trello.
Der Prozess war mühsam: Die Mitarbeitenden mussten den geheimen Schlüssel in eine App eintippen, um dann ein Einmalkennwort zu generieren, der dann wiederum auf der Zielwebsite eingefügt wird.

Da es auf Trello keine Power-Up für TOTP gab, fragte er mich, ob es möglich wäre eine zu entwickeln?

Eine Power-Up für Trello

Die Entwicklung einer eigenen Power-Up hat mich gereizt: Schliesslich kann zumindest ein Team von solch einer Entwicklung direkt profitieren - und vielleicht haben sogar andere Teams ähnliche Probleme?

Somit habe ich ein simples UI als spezielle TOTP-Trello-Task gemacht. Darin kann man die geheimen Schlüssel verschlüsselt abspeichern und mit dem Team im gleichen Trello-Board teilen. Es werden darin laufend die neusten Einmal-Codes generiert.

Wenn man ein Code benötigt, kann man einfach auf “copy” klicken, und den Code im Zielfenster einfügen. Folgend zeigt die authentifizierung auf Dockerhub:

Sicherheit und Kontrolle

Das Power-Up wurde von den Trello-Entwicklern Atlassian kritisch überprüft. Es gab mehrere Runden mit Feedbacks, die zu Verbesserungen des Power-Ups geführt haben. Insgesamt hat es zwei Monate gedauert, um das grüne Licht aus den USA zu bekommen.

Alle gespeicherten Secrets werden auf dem Board verschlüsselt und benötigen ein Team-Passwort, welches die Werte vollständig kryptographisch verschlüsselt. Das bedeutet, dass man ohne das Team-Passwort nicht auf die Secrets zugreifen kann.

Serverseitig werden absolut keine Nutzerdaten gepeichert, und es findet kein sensitiver Datenaustausch mit dem Server statt.

Sofort ausprobieren

—> Man kann das power-up “TOTP Generator” kostenlos ausprobieren!

Auf Feedbacks bin ich gespannt!

Browser-Erweiterungen - Eine Lösung für akzeptable Lock-Ins?

Fri, 04 Feb 2022 00:00:00 +0000

Wenn ein Unternehmen oder eine Verwaltung von einem Lock-In durch eine Software beeinträchtigt wird, können die daraus entstandenen negativen Effekte zumindest abgemildert werden. Durch Browser-Erweiterungen von Drittanbietern können Funktionalitäten der bereits gekauften Software erweitert werden. Die Idee wird anhand eines praktischen Use-Cases basierend auf einem Simulationsspiel vorgestellt.

Hin zu einem akzeptablen Lock-In

Lock-Ins oder IT-Abhängigkeiten gehören zu den grössten digitalen Problemen von Verwaltungen und Firmen: Indem man sich für gewisse Software oder Systeme entscheidet, schafft man nachträglich eine Situation aus der man schwer wieder herausfindet, weil ein Wechsel mit hohen Kosten verbunden ist. Diese Kosten können durch Pfadabhängigkeiten entstehen, aber auch durch bereits aufgebautes Know-How, durch Training in eine neue Software, durch Anschaffungskosten, durch Installationskosten usw. Das Buch ‘Digitizing Government’ gibt einen sehr guten Einblick in die Problematik seitens Verwaltungen¹. Wenn die Benutzenden neue Funktionalitäten benötigen oder die bisherige Software umständlich ist, lässt sich die Herstellerfirma eine Weiterentwicklung fürstlich entlohnen.

Die hier dargestellte Idee soll es ermöglichen von einem Lock-In in einen akzeptierten Lock-In zu wechseln wie im unten stehenden Bild dargestellt. Das Ideal sieht natürlich anders aus (hust open source hust).

Bild: Vier-Felder-Matrix zur Ermittlung des Lock-In-Risikos.

Eine Browser-Erweiterung,auch Extensions oder Add-Ons genannt, sind Zusatzfunktionalitäten für Ihren Browser (Chrome; Firefox; Edge usw.). Wenn Sie in Ihrem Browser auf Extensions oder Add-Ons klicken, dann können Sie meistens vorprogrammierte Erweiterungen installieren. Häufig blockiert die hauseigene IT-Abteilung die Installation zusätzlicher Erweiterungen, da es tatsächlich ein hohes Risiko ist, wenn fremde Anbieter Code auf Ihrem Browser ausführen. Man kann damit sehr viel Nutzen stiften aber auch sehr viel Schaden anrichten.

Das Simulationsspiel

Das verwendete Simulationsspiel simuliert ein Logistikunternehmen, bei dem man LKWs mit Frachten quer durch Europa schicken muss, um Geld zu verdienen. Die Steuerung ist über den Browser konzipiert. Daten z.B. zu verschiedenen Routen werden auf verschiedenen Unterseiten dargestellt. Der User verwaltet seinen Fuhrpark, setzt strategisch Aufträge um, stellt die richtigen Mitarbeitenden ein usw.

Bild: Bild mit Abfahrtsort Toulouse aus der Simulation Logitycoon.com von van Dieren Media

Einen zusätzlichen Mehrwert aus den Daten generieren

Nehmen wir an, dass die verwendete Software Daten auf verschiedenen Seiten aufzeigt aber sie nicht gewinnbringend ausgewertet und logisch sinnvoll verknüpft. So kann ein Nutzender auf verschiedene Seiten der Applikation sich Routen aus verschiedenen Startpunkten anzeigen lassen wie im obigen Bild dargestellt. Aber es gibt keine Information wie man vom Startpunkt zum gewünschten Endpunkt kommt. Das Simulationsspiel sieht es hier vor, dass man nur durch zufällige “Sprünge” ans Ziel kommt - und als besondere Schwierigkeit reicht es nicht, wenn man bloss in die richtige Richtung fährt, weil es in eine Sackgasse führen kann.

So könnte man mit einer Browser-Extension folgendes tun: Man lädt alle Datenseiten (hier sind es 150 verschiedene Städteseiten) und verknüpft diese in eine laufend aktualisierte Datenbank. Dadurch kann der Nutzende nun in der Erweiterung ein Start- und Zielort eingeben (zusammen mit der gewünschten Frachtart).

Bild: Bild zeigt die sehr simple Benutzeroberfläche. Keep it simple, nicht wahr? ;-)

Als Resultat spuckt die Browser-Extension die verfügbaren Routen aus und man kann als Nutzender direkt die Route mit den dazugehörenden “Sprüngen” planen - also hier z.b. Von Genua nach Nantes über Venedig und München.

Oder ist vielleicht die Route über Paris sinnvoller?

Je nach Nutzendenbedürfnisse, kann man natürlich auch weitere Auswertungen einbauen. Beispielsweise ist die zweite Fahrt 12% kürzer als die erste. Gleichzeitig verdient man bei der zweiten Fahrt durch die verkaufte Fracht insgesamt zwar weniger, aber wenn man es pro Kilometer berechnet so ist der Gewinn in der gleichen Zeit dann doch 6.5% höher. Wenn sich dies nun um einen echten Use-Case handelt, dann hat sich die Investition in eine Browser-Erweiterung bereits gewinnbringend gelohnt.

Automatisierung

Eine weitere Möglichkeit sind Automatisierungen von Prozessen. Im Simulationsspiel müssen die LKWs händisch bedient werden: Auftanken, Mitarbeitende mit den richtigen Qualifikationen zuordnen, laden, reparieren, Reifen wechseln, abladen und die Buchhaltung abwickeln. Das alles sind Klicks, die relativ mühsam sind, da es repetitive Aufgaben sind, die eigentlich keinen Mehrwert bringen.

Bild: Verschiedene Schritte müssen händisch erledigt werden wie laden und abladen - Logitycoon.com con van Dieren Media

Die erste Möglichkeit durch die Browser-Extension ist es einen Knopf einzubauen, um die verschiedenen Schritte bei dem ausgewählten LKW auszuführen. Das kann auch über eine praktische Tastenkombination erfolgen, die bei erstaunlich vielen Software-Lösungen von Grossunternehmen fehlen, obwohl es eine Zeitersparnis für die Nutzenden bedeutet.

Eine weitere Möglichkeit ist aber diese Schritte komplett zu automatisieren. So kann man die Browser-Erweiterung auch in einem Tab gewisse Übersichtsseiten kontrollieren lassen, und dann alle mühsamen Schritte automatisch ausführen lassen.

Bild: Alle LKWs sind aktiv und generieren Umsatz - Logitycoon.com con van Dieren Media

Interessant dabei ist aus technischer nicht nur, dass durch Browser-Extensions eine gewisse “Robotik” ermöglicht wird - also, dass das Programm z.B. auf gewisse Elemente klickt oder gewissen Text automatisiert eingibt. Mit solchen Extensions kann man auch den Code beziehungsweise die Funktionen vom Hersteller direkt ausführen. So braucht das Programm nicht zu “klicken” sondern kann die Funktionen direkt kontrollieren (z.B. Daten aus einer Datenbank holen; APIs mit vordefinierten Parametern ansteuern usw.).

Schlussbemerkungen

Wenn Sie in einem browserbasierten Lock-In sind (hust SAP hust), dann könnte eine Entwicklung einer Browser-Erweiterung eine Lösung sein, insbesondere wenn der Hersteller Sie als Monopolist in der Lock-In-Falle sieht. Die Programmierung einer Extension durch eine Drittfirma schafft somit wieder marktübliche Bedingungen mit entsprechenden Entwicklungspreisen.

Somit kann eine Verwaltung oder ein Unternehmen eine Situation unternehmens- und nutzendenfreundlich weiterentwickeln. Auch, entschuldigen Sie das Buzz-Wort, “agil”, da die Software konstant zu fairen Preisen angepasst werden kann.

Die Lage mit Browser-Erweiterungen ist dabei sehr situationsbedingt. Einerseits sind die Möglichkeiten mit Browser-Extensions ziemlich beeindruckend, da man damit theoretisch ganze Benutzeroberflächen und Benutzerschnittstellen verbessern kann. Andererseits ist es sehr situativ, ob man und wie man die Extensions verwenden kann. Wenn z.B. eine Anwendung grösstenteils serverseitig funktioniert, kann einer nutzerseitigen Extension Vieles im Wege stehen. In einigen Fällen erweitert es somit die Optionen für Weiterentwicklung.

“Digitizing Government: Understanding and Implementing New Digital Business Models”, 2014, Brown, A.; Fishenden, J.; Thompson, M., Palgrave Macmillan. ↩︎

Daily Gnossi Info

Wed, 29 Dec 2021 18:00:00 +0000

Mit der “Daily Gnossi Info” bekommen Sie eine E-Mail sobald auf einer Genossenschaftsseite ein neue freie Wohnung publiziert wird. Das automatische Programm geht aktuell 39 Zürcher (mehrheitlich städtische) Genossenschaften mehrmals täglich an Wochentagen durch.

Die Seite der E-Vermietungen der Stadt Zürich ist auch auf der Liste und erweist sich als sehr nützlich, da sie häufig aktualisiert wird - hier können Sie einen guten Nutzen erhalten.

Gleichzeitig verschickt das Programm auch weniger interessante Meldungen, wenn andere Änderungen auf der Webseite stattfinden oder beispielsweise Parkplätze frei werden. Es findet eine ständige Entwicklung des Programms statt, um den Anteil an solchen uninteressanten Meldungen zu reduzieren, aber bei dieser grossen Menge an Websites ist es praktisch unmöglich diese Fehlmeldungen ganz zu reduzieren.

Zu den Allgemeinen Geschäftsbedingungen (AGB) gehört deshalb, dass man einverstanden ist mit einer grösseren Anzahl an automatischen Falschmeldungen. Ebenfalls gehört zu den AGB, dass keine Gewähr gegeben werden kann, ob interessante Objekte aufgeschaltet werden, da dies im Ermessen der Genossenschaften liegt. Ebenfalls beinhaltet es auch den Ausschluss jeglicher Haftung, da diese Mailingliste nach bestem Wissen und Gewissen erstellt wurde und weiterentwickelt wird.

Sie können die E-Mail-Liste 10 Tage lang kostenlos testen. Die App kostet danach 5CHF pro Monat (quartalsweise). Aufschaltung kann bis zu 48 Stunden dauern.

Klicken Sie hier, wenn Sie mit den oben genannten AGB einverstanden sind, und probieren Sie es aus!

Offene Machine Learning Modelle in der Verwaltung

Fri, 10 Dec 2021 00:00:00 +0000

Der Bedarf nach rechtlichen und ethischen Leitplanken im Umgang mit Machine Learning (ML) Algorithmen wächst bei staatlichen Akteuren rasant. Diese haben zunehmend nicht nur die Regulierung von Unternehmen im Blick, sondern sind auch selbst Technologienutzende geworden. Das Gebot nach Transparenz findet man in allen Leitlinien und Studien dazu, da es für das Vertrauen in den öffentlichen Sektor zentral ist. Das Vertrauen beruht auf Grundpfeilern wie Nichtdiskriminierung, Legalität und Legitimität des staatlichen Handelns. Doch fehlen konkrete Vorgaben, wie eine solche Transparenz genau erreicht werden kann. Folgend wird ein mehrstufiges praxisnahes Konzept vorgeschlagen¹.

Dieser Beitrag lehnt sich dabei in theoretischer Hinsicht stark an die Studie «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche² und ethische Fragen»³ an, die eine wichtige Lücke schliesst. Der ethische Teil der Studie behandelt sieben ethische Grundsätze – einer davon ist Transparenz.

Bild: Titelseite der genannten Studie der Uni Basel und von Algorithm Watch Schweiz

Die Studie erwähnt dabei vier unterschiedliche Transparenztheorien⁴:

Eine davon ist die Stärkung der kollektiven Autonomie, die für die öffentliche Debatte in demokratischen Prozessen essenziell ist. Das ist auch eine Grundauffassung, die man in Leitlinien der OECD und der Europäischen Kommission findet: Transparenz ermöglicht den Bürger*innen nachzuvollziehen wie «ML-basierte Entscheidungen zustande kommen, um diese anfechten zu können»⁵. Nachverfolgbarkeit und Erklärbarkeit ⁶ machen dadurch einen wichtigen Teil der Transparenz aus.
Transparenz kann auch eine Rolle als «Desinfektionsmittel» haben (Die Studie zitiert dabei Louis Brandeis: «Sonne ist das beste Desinfektionsmittel»⁷). Wenn ein Prozess offengelegt ist, dann führt dies zu einer Vermeidung von unethischen Verhalten aber auch zu einer generellen Schadensvermeidung durch unbeabsichtigte Elemente.
Transparenz kann auch zu technologischer Optimierung durch den aktiven Einbezug eines grösseren Netzwerks führen. Experten und Laien können dadurch Verbesserungen vorschlagen.
Zuletzt kann Transparenz, neben der erstgenannten kollektiven Autonomie, auch die individuelle Autonomie stärken, da das Individuum durch Information eine fundierte Entscheidung treffen kann.

Berechtigt könnte man kritisieren, dass ein Blick auf die Transparenz allein andere wichtige Grundprinzipien ausser Acht lässt. Ich würde aber behaupten, dass es ohne Transparenz nicht geht: diese ist notwendig aber nicht ausreichend um die ethischen Bedürfnisse abzudecken. Dazu kommt, dass die oben genannten vier Transparenzdimensionen sich stark mit den anderen sechs Grundsätzen der Studie überschneiden. Ohne diese Grundsätze hier im Detail zu beschreiben möchte ich einige Beispiele geben:

«Schadensvermeidung» und «Benefizienz»: Man kann ein ML-Algorithmus am besten entwickeln, wenn der gesamte Prozess transparent ist. So kann man auch ungewollten Schaden abwenden, da Fehler, Biases u.ä. früh erkannt werden. Die «Möglichkeit, mithilfe von KI-Systemen Gutes zu tun»⁸, lässt sich mit Transparenz besser bewerkstelligen, da man vor, während und nach der Implementierung überprüfen kann, ob man wirklich Gutes tut.
«Gerechtigkeit und Fairness»: Je transparenter der gesamte Prozess ist, desto wahrscheinlicher wird es, dass «nur faire und gerechte Datensätze verwendet werden», dass «angemessene Funktionen, Prozesse und analytische Strukturen in die Modellarchitektur aufgenommen werden», dass «das System [keine] diskriminierende Auswirkungen hat», und dass «das System unvoreingenommen implementiert» wird⁹.
«Autonomie»: Deckt sich sehr stark sowohl mit der kollektiven wie auch mit der individuellen Autonomie, die oben beschrieben wurde.
«Kontrolle» und «Rechenschaftspflicht»: Beide instrumentellen und aufsichtsrechtlichen Elemente bedingen, dass man kontrollieren kann und für etwas rechenschaftspflichtig sein kann. Transparenz erscheint mir da wie eine wichtige Voraussetzung dafür.

Wie könnte nun eine praxisnahe Umsetzung aussehen, um die ethischen Erwartungen auch zu erfüllen?

STUFE 1

Die aktuelle Praxis in einigen Ländern stellt die Kommunikation und Offenlegung der verwendeten Algorithmen in den Mittelpunkt. Dabei gibt es zwei Alternativen. Ein technischerer Ansatz in Grossbritannien sieht neu einen «Algorithmic transparency data standard»¹⁰ vor, mit welchem man sehr detailliert eine möglichst genaue Dokumentation von im öffentlichen Sektor verwendeten Algorithmen erstellen kann.

Statt eines technischen Zielpublikums lässt sich auch eine grössere Öffentlichkeit erreichen: u.a. Amsterdam und Helsinki haben dies mit einem Register erreicht, in dem jeder Algorithmus in einigen Paragraphen mit Ziel und Zweck erläutert wird¹¹.

Transparenz wird dabei bloss als Kommunikation verstanden. Dabei kann man durchaus auch detailliert erklären, welche Überlegungen und Massnahmen man z.B. gegen Nichtdiskriminierung oder zur Schadensminimisierung durchgeführt hat. Aber es bleibt bei einer Dokumentation, die man nicht nachprüfen oder nachrechnen kann. Nichtsdestotrotz ist es ein absolutes Minimum ein solches Register mit öffentlich zugänglichen Informationen zu haben.

STUFE 2

In einer zweiten Stufe könnte man sowohl Computercode als auch Machine Learning Modelle offenlegen. Das ist zwar eine technische Forderung, aber sie ermöglicht zivilgesellschaftlichen und privaten Akteuren den vollständigen Zugang zum Algorithmus. Und in der Regel dürfte es kein Problem für Verwaltungen darstellen beides zu veröffentlichen.

Die Formel aus dem Modell¹² ermöglicht die exakte Nachberechnung eines Resultats: Man setzt die Inputwerte ein, und erhält das berechnete Output des Algorithmus. Ein «Modell» kann man sich auch als eine Datei vorstellen: In der Praxis kann beim Trainieren eines Algorithmus eine Datei abgespeichert werden, die dann zur Berechnung verwendet werden kann. Man könnte diese Datei öffentlich zugänglich machen.

Neben dem offenen Computercode und den offenen Modellen, stellt sich auch die Frage nach offenen Behördendaten. Hier setzt sich in der Verwaltung bereits das Prinzip «open by default» durch, welches besagt, dass alle nicht schützenswerten Daten veröffentlicht werden sollen.

Falls es sich um solche schützenswerten Daten handelt, könnte man drei Sachen andenken. Einerseits kann man mittels Datenschutzverträge in bestimmten vordefinierten Fällen den Zugriff darauf erhalten. Zweitens könnte man in einer «AI Sandbox» oder geschützten Umgebung einen Zugang dazu bekommen, wie das in Grossbritannien, Norwegen und Frankreich gerade versucht wird¹³. Drittens könnte man einen Beispieldatensatz mit synthetischen Daten mitliefern, so dass zumindest die Schwelle für die Nachvollziehbarkeit möglichst gering ist – aber da ‘Bias’ auch als Muster in den Daten selbst entstehen kann, ist dies nicht die geeignetste Variante.

Bild: CC0 / Pixabay / Elchinator

STUFE 3

Eine weitere Stufe der Transparenz wäre erreicht, wenn der Lebenszyklus eines Algorithmus vollständig erfasst werden würde. Dies bedingt zwei Elemente.

Erstens, und zusätzlich zur Veröffentlichung der Modelle und des Computercodes, stellt sich die Frage nach einer strikten Versionierung. Was bei Computercode geläufig ist, wird in der Industrie auch teilweise bei ML-Modellen angewandt. Denn nur so kann man rückwirkend vollständig nachvollziehen, welcher Algorithmus in welchem Moment verwendet wurde. In der Praxis werden die Modelle häufig aktualisiert oder verändert. So kann diese dynamische Komponente mitberücksichtigt werden.

Zweitens braucht es eine regelmässig stattfindende Kontrolle – ein Monitoring, welches öffentlich ist und mindestens jährlich stattfindet. Ähnlich dem britischen «algorithmic data transparency standard», könnte man sich auch hier eine Art Standardprotokoll überlegen. Dieses Monitoring ermöglicht auch zu erkennen, ob die Ziele und der gewünschte Nutzen erreicht wurden.

STUFE 4

Ein offenes ML-Modell bleibt eine «black box», da man das innere eines komplexen Algorithmus nicht menschlich simpel nachvollziehen kann. Diese Problematik basiert auf «Ockhams Dilemma»: man kann entweder Algorithmen mit sehr genauen Vorhersagen oder menschlich verständliche/interpretierbare Algorithmen haben, aber nicht beides gleichzeitig¹⁴. Beispielsweise werden simplere Regressionen in der Wissenschaft verwendet, da dort die Erklärbarkeit und nicht die genauste Vorhersage im Mittelpunkt stehen. Eine weitere Stufe wäre deshalb begleitende simplere Algorithmen (z.B. lineare Modelle oder Ceteris-Paribus Annahmen¹⁵) parallel dazu zu trainieren und zu veröffentlichen.

Ein solcher Ansatz wurde im Bundesamt für Statistik im Pilotprojekt Plausi++ versucht: der komplexe Algorithmus war für die genauste Berechnung der Plausibilisierung zuständig, während ein simples Modell eine menschlich verständliche Erklärung für die Entscheidung der Plausibilisierung liefern soll¹⁶.

Technisch könnte es sein, dass dies nicht in allen Anwendungsfällen möglich oder zu guten Resultaten führt. Aber selbst bei Bilddaten kann man mit linearen Modellen Erklärungsansätze für die Entscheidungen bekommen: So kann man beispielsweise den Bildabschnitt gezeigt bekommen, der für die Vorhersage am relevantesten war¹⁷.

Bild: S.18 aus Schlussbericht Plausi++, Abbildung zeigt Ceteris-Paribus Ansatz, um die berüchtigte black box zu öffnen

Die oben vorgestellten vier Stufen stellen einen neuen praxisnahen Vorschlag für eine vollständige Transparenz dar. Wie oben erwähnt, denke ich, dass Transparenz eine notwendige aber nicht ausreichende Bedingung ist, um die in der Theorie behandelten ethischen Erwägungen ganzheitlich zu erfüllen. Somit müssen zwangsläufig weitere Überlegungen angestellt werden.

Beispielsweise kann Transparenz einen diskriminierenden Effekt eines Algorithmus sichtbar machen, aber dadurch ist die dadurch entstandene Diskriminierung noch nicht beseitigt: – «Diskriminierung kann auch transparent, nachvollziehbar und verstehbar erfolgen»¹⁸.

Des Weiteren gibt es Fälle, wo «bias» nicht vermieden werden können¹⁹. Prof. Rayid Ghani zeigt beispielsweise an einer Präsentation an der EPFL Anwendungsfälle auf, bei dem ein Algorithmus entweder auf Effizienz, Gleichheit oder Gleichwertigkeit optimiert werden kann - mit unmittelbaren Nachteilen für die jeweils anderen beiden Dimensionen ²⁰.

Ein weiteres Puzzleteilchen, Bild: CC0 / Pixabay / Alexas_Fotos

Ein solches Transparenzverständnis ist in der öffentlichen Verwaltung gerade im Bereich der Datenbewirtschaftung nicht neu: So haben sich offene Behördendaten und Prinzipien wie «open by default» durchgesetzt. Eine vollständige Transparenz im Einsatz von ML-Algorithmen ist somit ein weiteres Puzzleteil in diesem bereits existierenden Selbstverständnis. Das zeugt auch, dass man bestehende Grundprinzipien in der Datenbewirtschaftung auf eine angepasste Weise auch auf Algorithmen anwenden könnte, ohne das Rad neu zu erfinden. Beispielsweise CARE²¹:

Collective Benefit: Machine Learning Ansätze müssen einen öffentlichen und öffentlich legitimierten Nutzen haben.
Authority to Control: Die Stärkung der kollektiven wie auch individuellen Autonomie.
Responsibility: Verantwortung im Umgang mit den Modellen, Prozessen, Daten.
Ethics: Schadensvermeidung und Benefizienz im gesamten Lebenszyklus eines Algorithmus.

Ich bedanke mich sehr herzlich bei allen Personen, die Feedbacks zu diesem Blogartikel gegeben haben! ↩︎
Nachtrag am 20.12.2021 aufgrund von juristisches Feedback zur Präzisierung des Begriffs Transparenz: Juristisch kann hier Transparenz “am ehestens… i.S. des Öffentlichkeitsgesetzes verstanden werden, nämlich dahingehend, dass breite Kreise (Zivilgesellschaft, Medien, Interessierte etc.) Zugang zu den Informationen erhalten. Eine andere Form der Transparenz verlangt das Datenschutzgesetz (nämlich die Transparenz über die Nutzung der eigenen Daten). Und noch einmal etwas anderes ist die Tranparenz i.S. der verfassungsrechtlichen Begründungspflicht (bei staatlichem ADM), welche die grds. Nachvollziehbarkeit einer Entscheidung im Einzelfall fordert”. Vielen Dank an Nadja Braun Binder für diese Präzisierung! ↩︎
«Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen», Juristische Fakultät der Universität Basel und Algorithm Watch Schweiz – siehe S. 72 ff. https://www.zh.ch/content/dam/zhweb/bilder-dokumente/themen/politik-staat/kanton/digitale-verwaltung-und-e-government/projekte_digitale_transformation/ki_einsatz_in_der_verwaltung_2021.pdf ↩︎
ibid. ↩︎
AI-Principles der OECD 2018, übersetzt durch Autor, https://www.oecd.org/going-digital/ai/principles/ ↩︎
Ethik-Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission, 2018, siehe z..B. Seite 17, https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html ↩︎
Op. Cit.: S. 72 ↩︎
Op. Cit.: S. 70 ↩︎
Op. Cit.: S. 68 ↩︎
https://www.gov.uk/government/publications/algorithmic-transparency-data-standard ↩︎
Siehe z.B.Amsterdam https://algoritmeregister.amsterdam.nl/en/ai-register/ oder Helsininki https://ai.hel.fi/en/ai-register/ ↩︎
Auch wenn eine Formel hier sprichwörtlich gemeint ist, ist ein Modell wortwörtlich tatsächlich eine Art komplexe Formel ↩︎
Siehe beispielsweise https://www.eipa.eu/publications/briefing/sandboxes-for-responsible-artificial-intelligence/ oder https://www.huntonprivacyblog.com/2021/02/25/regulatory-sandboxes-are-gaining-traction-with-european-data-protection-authorities/ ↩︎
Siehe z.B. S.6 und ff. https://unece.org/fileadmin/DAM/stats/documents/ece/ces/ge.44/2018/T4_Switzerland_RUIZ_Paper.pdf ↩︎
Siehe z.B. das Buch von Christoph Molnar https://christophm.github.io/interpretable-ml-book ↩︎
Siehe Bericht dazu https://www.bfs.admin.ch/bfs/de/home.assetdetail.9847917.html ↩︎
https://towardsdatascience.com/interpretable-machine-learning-for-image-classification-with-lime-ea947e82ca13 ↩︎
Präsentation von Prof. Bettina Berendt anlässlich der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» ↩︎
Wie es z.B. in der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» mehrmals erwähnt wurde ↩︎
https://z01.ch/post/2021-01-26-amld-ai-democracy/ ↩︎
Siehe z.B. Seite 9, Kommunikation mit Daten, Matthias Mazenauer, Statistisches Amt Kanton Zürich, https://docs.google.com/presentation/d/17b7yOEEclFejydFpE1- AdaSRrgvSp7sq/edit#slide=id.p1 ↩︎

Digitales Neuland

Mon, 01 Feb 2021 00:00:00 +0000

Dieser Blog hat nun eine vierjährige Geburt hinter sich und fing zunächst mit einem faszinierenden Paradox an. “Digitalisierung” birgt unbestritten viel Potenzial. Hingegen klaffen fast überall Lücken zwischen diesem Potenzial und der Wirklichkeit - selbst bei Unternehmen, die “digitalisierungswillig” sind. Wie kann man diese paradoxale Lücke erklären und vielleicht sogar schliessen? Und wieso sind solche Lücken nichts Neues? Es gibt sie nämlich schon seit mindestens den 80-er Jahren und unter verschiedenen Konzepten: Online Government, E-Government, transformational Government und nun digital government. Wieso ist das digitale Neuland so unnahbar, und was braucht es um dahin zu gelangen?

Die Suche nach den Antworten

Auf meiner Suche bin ich seitdem auf mehr Fragen als auf Antworten gestossen. Der Auslöser für die Lancierung dieses Blogs war schlussendlich die Lektüre des Buchs “Data Literacy” von David Herzog. Eines der raren Bücher, welches Grundlagen in “Datenkompetenz” bereitzustellen versucht. Das Buch hat jedoch meine Erwartungen an ein Buch zu moderner Data Literacy enttäuscht. Dabei ist es noch das Geringste, dass ich meine ehemalige Lateinlehrerin versteinert und mit weit offenem Mund vor Augen habe, wenn der Autor im allerersten Satz erklärt, dass das Wort “Data” aus dem Griechischen käme.

Sein Buch spricht von einer Data Literacy, die etwa der der 90-er Jahre entspricht: Das Pivotieren einer Excel-Tabelle ist ein grosses Highlight des Buches. Dabei geht es in Datenkompetenz sicher nicht um den letzten Schrei, die neueste Programmiersprache oder SAP O/7SUSANNA. Ein ausgezeichneter Beitrag zu Data Literacy ist zweifelsohne “Future Skills: Ein Framework für Data Literacy” von Katharina Schüller et al. 2019. Die folgende Abbildung aus jenem Artikel zeigt, wie umangreich Data Literacy verstanden werden kann: Sowohl seitens der Mehrwertgenerierung von Daten, über Informationen zu Wissen (die Data Literacy Pyramide), wie auch das Verstehen von Informationen und Visualisierungen, um daraus Handlungen ableiten zu können, aber auch Ethik und “Haltungen” (Schüller et al. 2019).

Bildquelle: Schüller et al. 2019: Seite 25, CC BY-SA 4.0

Dabei geht es um fundamentale Elemente, die nicht nur technischer Natur sind, denn das Wort “digital” trügt. Es geht ebenfalls um kulturelle Elemente, um ethische Fragen, und sogar um eine komplette Neuausrichtung von Prozessen und Organisationen (siehe z.B. Hoerl, Kuonen und Redman 2020).

Der Mensch im Mittelpunkt

Dabei ist der Mensch stets im Mittelpunkt: Als Mitarbeitende, die in “digitalisierten Prozessen” einen Mehrwert erzeugen, als Beschaffende von Technologie, als vernetzt und medienbruchfrei arbeitende Arbeitskollegen, als KundIn mit hohen Erwartungen, Als BürgerIn mit datenschutzrechtlichen Anforderungen oder als ProgrammiererIn unter Zeitdruck.

Denn das Wichtigste bei einer zwischenmenschlichen Beziehung, egal ob in Form zwischen Verwaltung und Bürgern, oder zwischen Firmen und Kunden oder innerhalb von demokratischen Prozessen, ist Vertrauen. Dass Vertrauen in die Gesellschaft das eigene Verhalten beeinflusst, ist bei Soziologen und Politikwissenschaftler nichts Neues. Aber auch Vertrauen im Sinne, dass das Internet morgen noch läuft. Vertrauen, dass mein postalisch eingereichtes Formular auch ungeöffnet beim Staat ankommt [Sic!]. Vertrauen, dass meine Daten nicht missbraucht werden.

Bildquelle: gettyimages von Natasa Adzic, CC BY-SA 4.0

Niklas Luhmann definierte Vertrauen als “Zutrauen zu eigenen Erwartungen”, welches “elementarer Bestandteil des sozialen Lebens” sei (Luhmann 1968: 8). Vertrauen ist somit nicht ohne zwischenmenschliche Beziehung, die Erwartungen weckt. Also auch die Erwartungen an den “Staat” oder an die Dienstleistungen einer “Firma”. Dabei handelt es sich bei “Staat” und “Firma” nicht um gesichtslose Monolithen: Es sind Menschen dahinter, welche die Dienstleistungen anbieten, Prozesse durchführen, menscheln, Interessen haben und strategische sowie operative Entscheidungen treffen.

Diese Erwartungen führen auch dazu, dass wir mit den neuen “digitalen” Möglichkeiten, das Potenzial auch möglichst ausschöpfen möchten: Automatisierung, medienbruchfreie Prozesse, kundenzentrierte Dienstleistungen, schlankere Organisationen, schnellere Entscheidungen usw. Und auch, dass Menschen unzufrieden sind, wenn dieses Potenzial nicht ausgeschöpft wird: Natürlich kann man zur Zeiterfassung weiterhin Stempelkarten händisch unterschreiben - das hatte man früher ja auch gemacht - man könnte aber die freiwerdenden Ressourcen auch für andere Zwecke einsetzen, beziehungsweise die zusätzlichen Erwartungen der Kunden und BürgerInnen erfüllen, um das Vertrauen nicht zu verlieren.

Stempelkarte. Bildquelle: Wikipedia ohne Copyrightangabe

Der Blog als bescheidener Teilbeitrag

Wenn man das alles sieht, dann merkt man, dass es kein Buch zu Datenkompetenz braucht, sondern gleich ein gesamtes Bücherregal mit Büchern zu den einzelnen Teilaspekten. Vielleicht deckt die Pivotierung von Excel-Tabellen tatsächlich viele Bedürfnisse in Verwaltungen und Firmen ab. Aber es gibt noch weit mehr “digitaler” Möglichkeiten. Und darum soll es in diesem Blog gehen: Es soll eine bescheidene Sammlung mit konkreten “digitalen” Möglichkeiten werden, die möglichst untechnisch, auf hoher Flugebene, ohne Hype und sachlich präsentiert werden sollen. Möglichkeiten, die der einen oder anderen Verwaltung oder Firma hoffentlich einen Mehrwert bieten könnte, um die Lücken zu schliessen.

Dabei bin ich gespannt mit Ihnen ins Gespräch zu kommen, denn auch das Schreiben dieser verschiedenen Blogbeiträge ist eine iterative Reise im digitalen Neuland. Es gibt so viele Sichten auf diese Digitalisierungslücken, dass es nicht anders geht als mit möglichst vielen Personen zu sprechen und aus deren Erfahrungen zu lernen und die Probleme aus verschiedenen Perspektiven zu betrachten. Sie können mir daher jederzeit gerne schreiben oder die Themen auf den sozialen Medien diskutieren. Abonnieren Sie auch den Newsletter, um auf dem laufenden zu bleiben.

A propos “Digitales Neuland”: Nein, ich lache nicht mehr über Merkel, die es verstanden hatte, dass die Kaskaden an Neuerungen durch das Internet seit den 90-er Jahren nicht nur technologischer Natur sind, und unsere Gesellschaften und politischen System tiefgreifend verändert haben und es auch weiterhin unentwegt tun. Es ist auch jetzt noch schwer abzuschätzen wohin diese Reise führt. Die konkreten Möglichkeiten, die vorgestellt werden, sollen jedoch auf dieser Reise ins digitale Neuland möglichst unterstützen.

AI & Democracy

Tue, 26 Jan 2021 00:00:00 +0000

Die “Applied Machine Learning Days” an der EPFL haben sich in den letzten Jahren zu einem Schweizer Schlüsselevent mit internationaler Strahlkraft entwickelt. Technologie ist dabei nur eine Seite der Medaille: Die Themen umfassen soziale, politische und wirtschaftliche Aspekte im Zusammenhang mit Machine Learning. Dieses Jahr finden die Applied Machine Learning Days nicht wie sonst während einer gesamten Woche statt, sondern über das gesamte Jahr verteilt. Der erste Tag begann gestern mit dem spannenden Thema “AI and Democracy”. Das ausgezeichnete Grundsatzreferat hat dabei neue Standards gesetzt. Auch bei den anderen Beiträgen hat man gemerkt, dass ausserhalb der Schweiz viele spannende und lehrreiche Projekte zu “AI und Democracy” stattfinden.

Prof. Rayid Ghani von der Carnegie Mellon University hielt sein Grundsatzreferat zum Thema Einsatz von Data Science, um Fairness und gleichwertige Behandlung bei sozialen/politischen Anwendungen zu erzielen. Dabei fing Rayid mit drei Beispiele seiner beruflichen Laufbahn an, wie Data Science Politik positiv beeinflussen kann. Diese Beispiele sind ein guter Einstieg, um die darauffolgenden Überlegungen besser in einen Kontext setzen zu können.

So hat er beispielsweise mitgeholfen ein System zu entwickeln, welches vorhersagt in welchen Häusern am wahrscheinlichsten noch bleihaltige Farbe an den Wänden ist. Das ist ein grosses Gesundheitsproblem und führt in den USA dazu, dass besonders viele Babys mit Bleivergiftungen in die Spitäler eingeliefert werden, da sie den giftigen Staub einatmen. Mit einem solchen Algorithmus kann die Regierung solche Einwohnerinnen und Einwohner präventiv kontaktieren, um staatlich finanzierte Kontrollen und Baumassnahmen durchzuführen - und schlimmeres noch vor der Geburt des Nachwuchses zu verhindern.

Ein weiteres Beispiel ist die Auswertung von Polizeireports, um Polizisten gezielt präventiv zu identifizieren, die (wieder) gewalttätig werden könnten. Somit können Ressourcen in psychologischer Unterstützung frühzeitig einzusetzen werden, um Polizeigewalt zu verhindern.

Ein letztes Beispiel war der Einsatz bei den 10 Millionen Häftlingen, die jedes Jahr in den USA in Haft kommen. Eine grosse Gruppe von Häftlingen hat mentale Probleme und kehren immer wieder in Haft zurück. Durch die Unterstützung von Algorithmen wird nun gezielt nach gewissen Persönlichkeitsmustern gesucht, die mit psychologischer Hilfe unterstützt werden können, damit diese den Kreislauf des Wiederkehrenden Aufenthalts in Haft durchbrechen können.

Zu diesen Eingangsbeispielen gehören immer jeweils drei Elemente dazu: Verstehen was das Problem ist, Vorhersage von gewissen Ereignissen und zuletzt auch die aktive Beeinflussung der Lage. Dabei sind die Ressourcen begrenzt und deshalb wird eine Abwägung zwischen Gleichwertigkeit, Effizient und Effektivität notwendig: Möchte man beispielsweise so vielen Leuten wie möglich helfen? Oder fokussiert man sich zunächst auf die Personen, die man am leichtesten/günstigsten erreichen kann? Wenn man beispielsweise Covid-Testzentren zentral aufstellt, dann spart dies Ressourcen, aber Personen in der Peripherie haben einen schlechteren Zugang.

Rayid meint, dass sie bisherige Diskussion im Bezug auf Machine Learning sich stets auf die Frage fokussiert hat, ob ein rechnerisches Modell fair ist. Aber in Wirklichkeit geht es darum das gesamte System und die Outcomes fair zu gestalten - und das ist eine inhärent soziale Frage, die unbedingt zunächst definiert werden muss. Dabei zeigt das Institut von Rayid auch auf, dass es durchaus möglich ist solche Outcomes zu definieren, Abwägungen bezüglich den Zielen zu treffen und dann konkret zu messen. Nur dann kann man den Entscheidern ein “Policy Menu” (Bild unten) präsentieren, in welchem die verschiedenen Aspekte und Optionen sichtbar werden. In dieser Illustration führt die effizienteste Lösung zu einem grösseren Graben zwischen Weissen und Hispanics. Der Grund könnte darin liegen, dass es in dieser Intervention günstiger is an Weisse Teilnehmenden zu gelangen. Eine Lösung die auf gleiche Behandlung durch die Intervention beruht, würde 2% mehr kosten. Die Linien verlaufen dort parallel, da beide Gruppen gleich viel profitieren. Eine Politik, die aber darauf abzielt, eine Situation der Gleichwertigkeit zu schaffen, muss einen Zusatzeffort bei den Hispanics machen, damit dann beide Linien an einem gemeinsamen Punkt kongruieren - mit weiteren 2% Kosten.

Um überhaupt zu wissen, welche Metriken man bei der Erstellung der Szenarien priorisieren soll, hat sein Institut folgende “fairness tree” vorbereitet, welches dabei hilft die im jeweiligen Anwendungsfall relevanten sozialen “Bias Measures” zu identifizieren. Somit können Algorithmen gezielt eingesetzt werden, um die vordefinierten Ziele den Ressourcen entsprechend zu optimieren.

Weitere interessante Beiträge

Facebook fordert in den Nutzungsbedingungen, dass politische Werbungen als solche deklariert werden müssen. Aber wird das respektiert? Die Frage ist schwierig zu beantworten, da Facebook keine Daten dazu veröffentlicht. Die brasilianische Wissenschaftlerin Oana Goga und ihr Team haben ein add-on für Browser entwickelt, damit freiwillige Helfer dieses installieren können und somit Daten über die Werbungen an eine Datenbank geschickt werden können. Das Team konnte somit für die Präsidentschaftswahlen 2018 rund 239 Tausend Werbungen von 40 Tausend Werbenden sammeln. 2% der Werbungen, die gezeigt wurden, waren politische Werbungen, die aber nicht als solche deklariert wurden. Der Anteil der korrekt deklarierten politischen Werbungen beträgt etwa 2-4%. Der Anteil der nicht-deklarierten Werbungen ist somit sehr gross.

Oana Goga hat aber auch die interessante Frage der Definition einer politischen Werbung diskutiert. So betrachten Facebook und TikTok auch themenbezogene Werbungen als politisch, wenn sie in eine Liste von politischen Themen fallen. Das ist auch konform mit dem “EU Code of Practice on Disinformation”. Twitter und Google machen dies wiederum nicht. Bei themenbezogenen Werbungen ist es aber schwierig eine saubere Grenze zu ziehen. Folgend zwei Beispiele aus ihren Slides, die unterschiedlich beantwortet werden:

Mit offenen und grossen Datenmengen Korruption bekämpfen - so könnte man die Präsentation von Irio Musskopf bezeichnen. Sein Team hat veröffentlichte Finanzdaten untersucht, um Anomalien zu finden. Zu den Beispielen gehören Sandwiches die über 50$ gekostet haben, Abrechnungen in Brasilien während die Parlamentarier angeblich gerade in Grossbritannien auf Instagram ein Bild gepostet haben, oder 3 ungefähr gleichzeitige Lunch-Abrechnungen, die aber über 4000km weit entfernt voneinander sind.

Ein interessanter Input kam von Christine Choirat vom Swiss Data Science Center mit dem Titel “Big Problem, Big Data (And Vice Versa). Bei einer Studie zu Luftqualität in den USA ist sie mit dem amerikanischen “HONEST Act” konfrontiert worden. Dieses fordert, dass Rohdaten, Computercodes und alles weitere von Umweltstudien veröffentlicht werden muss. Open Science ist natürlich zu begrüssen, aber hier wurden sensible Patientendaten von “Medicare” verwendet, die nicht veröffentlicht werden können. Somit darf momentan mit dem HONEST Act gar keine Umweltstudie veröffentlicht werden, wenn nicht alle Rohdaten veröffentlicht werden.

Diese Erfahrung ist im Swiss Data Science Center in die Plattformen Renku und insbesondere in das gesicherte “Swiss Data Custodian” geflossen, wo Wissenschaftler miteinander kollaborieren können, aber sensible Daten nur Befugten zugänglich sind. Somit kann man den Spagat zwischen Open Science (mit Komponenten wie Reproduzierbarkeit) und der Verwendung von besonders schützenswerten Daten erreichen.

Arianna Ornaghi lieferte einen spannenden Beitrag zu einer Analyse anhand von Natural Language Processing (NLP) von Richtersprüchen nach “gender bias”. Sie fand ein Weg, um Richter mit einem “gender slant” per NLP zu identifizieren, und kam zum Ergebnis, dass Richter mit “Gender slant” häufiger Urteile von untergeordneten Instanzen aufheben, wenn es durch weibliche Richterinnen gefällt wurden.

Zusammengefasst gab es an diesem AMLD-Tag zu “AI und Democracy” sehr viele neue Dinge zu lernen. Ich freue mich schon auf die weiteren Tage mit Themen wie nachhaltige Energie, Einsatz von AI im Zusammenhang mit Covid (siehe auch das Bild oben mit den vielfältigen Anwendungen), klinischer Einsatz und Städten.

Ich bedanke mich sehr herzlich bei allen die Feedbacks zu diesem Blogartikel gegeben haben!