Aktualität | Z01 - Digitale Transformation und Datenkompetenz

Emergency Communication in case of an Outage

Sun, 24 Jul 2022 00:00:00 +0000

It seems that the scenario of an electricity and internet outage became a realistic scenario for the upcoming Swiss winter ¹. How would an emergency communication with the people in your workplace or neighborhood look like when the internet and telephone lines are out? Would such a scenario mean the come-back of radio-based solutions such as walkie-talkies? In my latest blog, I am discussing a rather unknown and imperfect technology called Wi-Fi Direct that could however be a cheap and easy alternative that everyone with an Android mobile phone could use in such a situation.

During my time as an intern in Albania in 2008, electricity-shortages occurred on a weekly basis. It happened usually in the morning at work, as the steel-works and industries were requiring a lot of power then. It was thus less the romantic picture of a blackout at night with candle light. The workplace was equipped with auxiliary diesel-generators that jumped in surprisingly well: The computers back then rarely went black.

Today we are very dependent on electricity and the internet. If the electricity and therewith the internet would have an outage, then communication would be abruptly stopped. The normal telephone lines would not work ², the mobile communication transmitters would be without energy, and the landline routing servers would also be out ³ .

There is of course no need to paint a black picture of such a case. And while it might be exaggerated to go full-scale “prepper”, it would be nevertheless wise to think such a case through and to be prepared with at least a minimum plan.

Very likely the first reaction is physical communication and gatherings at the workplaces and on the streets or hallways in case of your neighborhood. However, communication in such an emergency situation is nevertheless necessary: I guess that not all the elevators have an auxiliary power-supply yet and there are people needing assistance. Coordination might be in some cases required beyond an oral distance.

Walkie-talkies or other radio equipment can in such cases work on batteries, if a company plans to invest early in such equipment. But there is also a cheaper and easier, although quite imperfect alternative: Not many people know that mobile phones can also communicate directly among themselves without routers or antennas in between. It is called Wi-Fi Direct ® ⁴, which is an open standard and enables communication between devices that is over ten times faster than bluetooth. The technology is currently almost only used for fast file transfers and for sending documents to printers.

As shown in the following picture, it was not difficult to make a simple app that can transmit messages between devices ⁵. The devices make peer-to-peer connections without needing to specify the server and client roles, and it can be extended to as many peers as available in range.

Picture from own simple chat app over WiFi-Direct technology

The technology has two larger downsides, which is likely why the technology is so unknown in the first place. First, it is restricted to the distance of its internal Wi-Fi antenna – usually 100 meters in the open space minus connectivity-loss by obstacles such as walls, floors etc. Nevertheless, I think that one should keep in mind a broadcasting possibility that would work like a human chain: if many devices are used, they can re-transmit messages so that larger peer-to-peer networks get established in such a situation.

Extend the range by broadcasting through the participants. Picture by Stefan Schweihofer from Pixabay

A second downside is that Apple, a large manufacturer of mobile devices, did not include the technology and instead uses an own proprietary wireless ad hoc service for sending files between Apple devices (iPhone, Macs etc.). The fact that Apple does not use the open Wi-Fi Direct standard makes it impossible to send and receive messages from and to other operating systems such as Android or Windows.

Nevertheless, if you think in case of an emergency, a cheap and easy solution for quick communication around you (without radio equipment) could be useful. The installation of an app (in non-outage times of course) would suffice for that.

There might be other interesting use-cases of such a technology. One would be in the case of communicating anonymously with other people around you. For example in countries where you get arrested when publicly displaying an empty protest sign ⁶ , or in countries where the entire internet connectivity is taken offline by the regime⁷. In such cases, apps like Telegram might not be reliable anymore. The technology, used together with “MAC randomization” that is now installed in every Android device, could be used as a means of communication in places such as the metro or public squares.

What do you think about this technology? Would such a technology be of use? Send me a message or comment on social media.

Passwörter im Team teilen?

Mon, 14 Feb 2022 00:00:00 +0000

Ein Berner Geschäftsführer kam mit folgendem Problem auf mich zu: Sein Team muss verschiedene Passwörter zeitgleich teilen. Für die Sicherheit wird eine Zwei-Faktor-Authentifizierung benötigt, die sich aber nicht auf ein Gerät/Smartphone beschränkt.

Möglich wird dies mit “Time-based One-time Passwords” oder kurz TOTP. Dabei werden Einmalkennwörter basierend auf einer kryptographischen Hash-Funktion generiert, die maximal 30 Sekunden lang gültig sind. Diese Lösung wurde von der “Initiative for Open Authentification” entwickelt und im 2011 von der Internet Engineering Task Force veröffentlicht.

Nun hatte sein Team zweierlei Probleme:

Die gemeinsamen geheimen Schlüssel lagen unverschlüsselt auf Trello.
Der Prozess war mühsam: Die Mitarbeitenden mussten den geheimen Schlüssel in eine App eintippen, um dann ein Einmalkennwort zu generieren, der dann wiederum auf der Zielwebsite eingefügt wird.

Da es auf Trello keine Power-Up für TOTP gab, fragte er mich, ob es möglich wäre eine zu entwickeln?

Eine Power-Up für Trello

Die Entwicklung einer eigenen Power-Up hat mich gereizt: Schliesslich kann zumindest ein Team von solch einer Entwicklung direkt profitieren - und vielleicht haben sogar andere Teams ähnliche Probleme?

Somit habe ich ein simples UI als spezielle TOTP-Trello-Task gemacht. Darin kann man die geheimen Schlüssel verschlüsselt abspeichern und mit dem Team im gleichen Trello-Board teilen. Es werden darin laufend die neusten Einmal-Codes generiert.

Wenn man ein Code benötigt, kann man einfach auf “copy” klicken, und den Code im Zielfenster einfügen. Folgend zeigt die authentifizierung auf Dockerhub:

Sicherheit und Kontrolle

Das Power-Up wurde von den Trello-Entwicklern Atlassian kritisch überprüft. Es gab mehrere Runden mit Feedbacks, die zu Verbesserungen des Power-Ups geführt haben. Insgesamt hat es zwei Monate gedauert, um das grüne Licht aus den USA zu bekommen.

Alle gespeicherten Secrets werden auf dem Board verschlüsselt und benötigen ein Team-Passwort, welches die Werte vollständig kryptographisch verschlüsselt. Das bedeutet, dass man ohne das Team-Passwort nicht auf die Secrets zugreifen kann.

Serverseitig werden absolut keine Nutzerdaten gepeichert, und es findet kein sensitiver Datenaustausch mit dem Server statt.

Sofort ausprobieren

—> Man kann das power-up “TOTP Generator” kostenlos ausprobieren!

Auf Feedbacks bin ich gespannt!

Offene Machine Learning Modelle in der Verwaltung

Fri, 10 Dec 2021 00:00:00 +0000

Der Bedarf nach rechtlichen und ethischen Leitplanken im Umgang mit Machine Learning (ML) Algorithmen wächst bei staatlichen Akteuren rasant. Diese haben zunehmend nicht nur die Regulierung von Unternehmen im Blick, sondern sind auch selbst Technologienutzende geworden. Das Gebot nach Transparenz findet man in allen Leitlinien und Studien dazu, da es für das Vertrauen in den öffentlichen Sektor zentral ist. Das Vertrauen beruht auf Grundpfeilern wie Nichtdiskriminierung, Legalität und Legitimität des staatlichen Handelns. Doch fehlen konkrete Vorgaben, wie eine solche Transparenz genau erreicht werden kann. Folgend wird ein mehrstufiges praxisnahes Konzept vorgeschlagen¹.

Dieser Beitrag lehnt sich dabei in theoretischer Hinsicht stark an die Studie «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche² und ethische Fragen»³ an, die eine wichtige Lücke schliesst. Der ethische Teil der Studie behandelt sieben ethische Grundsätze – einer davon ist Transparenz.

Bild: Titelseite der genannten Studie der Uni Basel und von Algorithm Watch Schweiz

Die Studie erwähnt dabei vier unterschiedliche Transparenztheorien⁴:

Eine davon ist die Stärkung der kollektiven Autonomie, die für die öffentliche Debatte in demokratischen Prozessen essenziell ist. Das ist auch eine Grundauffassung, die man in Leitlinien der OECD und der Europäischen Kommission findet: Transparenz ermöglicht den Bürger*innen nachzuvollziehen wie «ML-basierte Entscheidungen zustande kommen, um diese anfechten zu können»⁵. Nachverfolgbarkeit und Erklärbarkeit ⁶ machen dadurch einen wichtigen Teil der Transparenz aus.
Transparenz kann auch eine Rolle als «Desinfektionsmittel» haben (Die Studie zitiert dabei Louis Brandeis: «Sonne ist das beste Desinfektionsmittel»⁷). Wenn ein Prozess offengelegt ist, dann führt dies zu einer Vermeidung von unethischen Verhalten aber auch zu einer generellen Schadensvermeidung durch unbeabsichtigte Elemente.
Transparenz kann auch zu technologischer Optimierung durch den aktiven Einbezug eines grösseren Netzwerks führen. Experten und Laien können dadurch Verbesserungen vorschlagen.
Zuletzt kann Transparenz, neben der erstgenannten kollektiven Autonomie, auch die individuelle Autonomie stärken, da das Individuum durch Information eine fundierte Entscheidung treffen kann.

Berechtigt könnte man kritisieren, dass ein Blick auf die Transparenz allein andere wichtige Grundprinzipien ausser Acht lässt. Ich würde aber behaupten, dass es ohne Transparenz nicht geht: diese ist notwendig aber nicht ausreichend um die ethischen Bedürfnisse abzudecken. Dazu kommt, dass die oben genannten vier Transparenzdimensionen sich stark mit den anderen sechs Grundsätzen der Studie überschneiden. Ohne diese Grundsätze hier im Detail zu beschreiben möchte ich einige Beispiele geben:

«Schadensvermeidung» und «Benefizienz»: Man kann ein ML-Algorithmus am besten entwickeln, wenn der gesamte Prozess transparent ist. So kann man auch ungewollten Schaden abwenden, da Fehler, Biases u.ä. früh erkannt werden. Die «Möglichkeit, mithilfe von KI-Systemen Gutes zu tun»⁸, lässt sich mit Transparenz besser bewerkstelligen, da man vor, während und nach der Implementierung überprüfen kann, ob man wirklich Gutes tut.
«Gerechtigkeit und Fairness»: Je transparenter der gesamte Prozess ist, desto wahrscheinlicher wird es, dass «nur faire und gerechte Datensätze verwendet werden», dass «angemessene Funktionen, Prozesse und analytische Strukturen in die Modellarchitektur aufgenommen werden», dass «das System [keine] diskriminierende Auswirkungen hat», und dass «das System unvoreingenommen implementiert» wird⁹.
«Autonomie»: Deckt sich sehr stark sowohl mit der kollektiven wie auch mit der individuellen Autonomie, die oben beschrieben wurde.
«Kontrolle» und «Rechenschaftspflicht»: Beide instrumentellen und aufsichtsrechtlichen Elemente bedingen, dass man kontrollieren kann und für etwas rechenschaftspflichtig sein kann. Transparenz erscheint mir da wie eine wichtige Voraussetzung dafür.

Wie könnte nun eine praxisnahe Umsetzung aussehen, um die ethischen Erwartungen auch zu erfüllen?

STUFE 1

Die aktuelle Praxis in einigen Ländern stellt die Kommunikation und Offenlegung der verwendeten Algorithmen in den Mittelpunkt. Dabei gibt es zwei Alternativen. Ein technischerer Ansatz in Grossbritannien sieht neu einen «Algorithmic transparency data standard»¹⁰ vor, mit welchem man sehr detailliert eine möglichst genaue Dokumentation von im öffentlichen Sektor verwendeten Algorithmen erstellen kann.

Statt eines technischen Zielpublikums lässt sich auch eine grössere Öffentlichkeit erreichen: u.a. Amsterdam und Helsinki haben dies mit einem Register erreicht, in dem jeder Algorithmus in einigen Paragraphen mit Ziel und Zweck erläutert wird¹¹.

Transparenz wird dabei bloss als Kommunikation verstanden. Dabei kann man durchaus auch detailliert erklären, welche Überlegungen und Massnahmen man z.B. gegen Nichtdiskriminierung oder zur Schadensminimisierung durchgeführt hat. Aber es bleibt bei einer Dokumentation, die man nicht nachprüfen oder nachrechnen kann. Nichtsdestotrotz ist es ein absolutes Minimum ein solches Register mit öffentlich zugänglichen Informationen zu haben.

STUFE 2

In einer zweiten Stufe könnte man sowohl Computercode als auch Machine Learning Modelle offenlegen. Das ist zwar eine technische Forderung, aber sie ermöglicht zivilgesellschaftlichen und privaten Akteuren den vollständigen Zugang zum Algorithmus. Und in der Regel dürfte es kein Problem für Verwaltungen darstellen beides zu veröffentlichen.

Die Formel aus dem Modell¹² ermöglicht die exakte Nachberechnung eines Resultats: Man setzt die Inputwerte ein, und erhält das berechnete Output des Algorithmus. Ein «Modell» kann man sich auch als eine Datei vorstellen: In der Praxis kann beim Trainieren eines Algorithmus eine Datei abgespeichert werden, die dann zur Berechnung verwendet werden kann. Man könnte diese Datei öffentlich zugänglich machen.

Neben dem offenen Computercode und den offenen Modellen, stellt sich auch die Frage nach offenen Behördendaten. Hier setzt sich in der Verwaltung bereits das Prinzip «open by default» durch, welches besagt, dass alle nicht schützenswerten Daten veröffentlicht werden sollen.

Falls es sich um solche schützenswerten Daten handelt, könnte man drei Sachen andenken. Einerseits kann man mittels Datenschutzverträge in bestimmten vordefinierten Fällen den Zugriff darauf erhalten. Zweitens könnte man in einer «AI Sandbox» oder geschützten Umgebung einen Zugang dazu bekommen, wie das in Grossbritannien, Norwegen und Frankreich gerade versucht wird¹³. Drittens könnte man einen Beispieldatensatz mit synthetischen Daten mitliefern, so dass zumindest die Schwelle für die Nachvollziehbarkeit möglichst gering ist – aber da ‘Bias’ auch als Muster in den Daten selbst entstehen kann, ist dies nicht die geeignetste Variante.

Bild: CC0 / Pixabay / Elchinator

STUFE 3

Eine weitere Stufe der Transparenz wäre erreicht, wenn der Lebenszyklus eines Algorithmus vollständig erfasst werden würde. Dies bedingt zwei Elemente.

Erstens, und zusätzlich zur Veröffentlichung der Modelle und des Computercodes, stellt sich die Frage nach einer strikten Versionierung. Was bei Computercode geläufig ist, wird in der Industrie auch teilweise bei ML-Modellen angewandt. Denn nur so kann man rückwirkend vollständig nachvollziehen, welcher Algorithmus in welchem Moment verwendet wurde. In der Praxis werden die Modelle häufig aktualisiert oder verändert. So kann diese dynamische Komponente mitberücksichtigt werden.

Zweitens braucht es eine regelmässig stattfindende Kontrolle – ein Monitoring, welches öffentlich ist und mindestens jährlich stattfindet. Ähnlich dem britischen «algorithmic data transparency standard», könnte man sich auch hier eine Art Standardprotokoll überlegen. Dieses Monitoring ermöglicht auch zu erkennen, ob die Ziele und der gewünschte Nutzen erreicht wurden.

STUFE 4

Ein offenes ML-Modell bleibt eine «black box», da man das innere eines komplexen Algorithmus nicht menschlich simpel nachvollziehen kann. Diese Problematik basiert auf «Ockhams Dilemma»: man kann entweder Algorithmen mit sehr genauen Vorhersagen oder menschlich verständliche/interpretierbare Algorithmen haben, aber nicht beides gleichzeitig¹⁴. Beispielsweise werden simplere Regressionen in der Wissenschaft verwendet, da dort die Erklärbarkeit und nicht die genauste Vorhersage im Mittelpunkt stehen. Eine weitere Stufe wäre deshalb begleitende simplere Algorithmen (z.B. lineare Modelle oder Ceteris-Paribus Annahmen¹⁵) parallel dazu zu trainieren und zu veröffentlichen.

Ein solcher Ansatz wurde im Bundesamt für Statistik im Pilotprojekt Plausi++ versucht: der komplexe Algorithmus war für die genauste Berechnung der Plausibilisierung zuständig, während ein simples Modell eine menschlich verständliche Erklärung für die Entscheidung der Plausibilisierung liefern soll¹⁶.

Technisch könnte es sein, dass dies nicht in allen Anwendungsfällen möglich oder zu guten Resultaten führt. Aber selbst bei Bilddaten kann man mit linearen Modellen Erklärungsansätze für die Entscheidungen bekommen: So kann man beispielsweise den Bildabschnitt gezeigt bekommen, der für die Vorhersage am relevantesten war¹⁷.

Bild: S.18 aus Schlussbericht Plausi++, Abbildung zeigt Ceteris-Paribus Ansatz, um die berüchtigte black box zu öffnen

Die oben vorgestellten vier Stufen stellen einen neuen praxisnahen Vorschlag für eine vollständige Transparenz dar. Wie oben erwähnt, denke ich, dass Transparenz eine notwendige aber nicht ausreichende Bedingung ist, um die in der Theorie behandelten ethischen Erwägungen ganzheitlich zu erfüllen. Somit müssen zwangsläufig weitere Überlegungen angestellt werden.

Beispielsweise kann Transparenz einen diskriminierenden Effekt eines Algorithmus sichtbar machen, aber dadurch ist die dadurch entstandene Diskriminierung noch nicht beseitigt: – «Diskriminierung kann auch transparent, nachvollziehbar und verstehbar erfolgen»¹⁸.

Des Weiteren gibt es Fälle, wo «bias» nicht vermieden werden können¹⁹. Prof. Rayid Ghani zeigt beispielsweise an einer Präsentation an der EPFL Anwendungsfälle auf, bei dem ein Algorithmus entweder auf Effizienz, Gleichheit oder Gleichwertigkeit optimiert werden kann - mit unmittelbaren Nachteilen für die jeweils anderen beiden Dimensionen ²⁰.

Ein weiteres Puzzleteilchen, Bild: CC0 / Pixabay / Alexas_Fotos

Ein solches Transparenzverständnis ist in der öffentlichen Verwaltung gerade im Bereich der Datenbewirtschaftung nicht neu: So haben sich offene Behördendaten und Prinzipien wie «open by default» durchgesetzt. Eine vollständige Transparenz im Einsatz von ML-Algorithmen ist somit ein weiteres Puzzleteil in diesem bereits existierenden Selbstverständnis. Das zeugt auch, dass man bestehende Grundprinzipien in der Datenbewirtschaftung auf eine angepasste Weise auch auf Algorithmen anwenden könnte, ohne das Rad neu zu erfinden. Beispielsweise CARE²¹:

Collective Benefit: Machine Learning Ansätze müssen einen öffentlichen und öffentlich legitimierten Nutzen haben.
Authority to Control: Die Stärkung der kollektiven wie auch individuellen Autonomie.
Responsibility: Verantwortung im Umgang mit den Modellen, Prozessen, Daten.
Ethics: Schadensvermeidung und Benefizienz im gesamten Lebenszyklus eines Algorithmus.

Ich bedanke mich sehr herzlich bei allen Personen, die Feedbacks zu diesem Blogartikel gegeben haben! ↩︎
Nachtrag am 20.12.2021 aufgrund von juristisches Feedback zur Präzisierung des Begriffs Transparenz: Juristisch kann hier Transparenz “am ehestens… i.S. des Öffentlichkeitsgesetzes verstanden werden, nämlich dahingehend, dass breite Kreise (Zivilgesellschaft, Medien, Interessierte etc.) Zugang zu den Informationen erhalten. Eine andere Form der Transparenz verlangt das Datenschutzgesetz (nämlich die Transparenz über die Nutzung der eigenen Daten). Und noch einmal etwas anderes ist die Tranparenz i.S. der verfassungsrechtlichen Begründungspflicht (bei staatlichem ADM), welche die grds. Nachvollziehbarkeit einer Entscheidung im Einzelfall fordert”. Vielen Dank an Nadja Braun Binder für diese Präzisierung! ↩︎
«Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen», Juristische Fakultät der Universität Basel und Algorithm Watch Schweiz – siehe S. 72 ff. https://www.zh.ch/content/dam/zhweb/bilder-dokumente/themen/politik-staat/kanton/digitale-verwaltung-und-e-government/projekte_digitale_transformation/ki_einsatz_in_der_verwaltung_2021.pdf ↩︎
ibid. ↩︎
AI-Principles der OECD 2018, übersetzt durch Autor, https://www.oecd.org/going-digital/ai/principles/ ↩︎
Ethik-Leitlinien für eine vertrauenswürdige KI der Europäischen Kommission, 2018, siehe z..B. Seite 17, https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html ↩︎
Op. Cit.: S. 72 ↩︎
Op. Cit.: S. 70 ↩︎
Op. Cit.: S. 68 ↩︎
https://www.gov.uk/government/publications/algorithmic-transparency-data-standard ↩︎
Siehe z.B.Amsterdam https://algoritmeregister.amsterdam.nl/en/ai-register/ oder Helsininki https://ai.hel.fi/en/ai-register/ ↩︎
Auch wenn eine Formel hier sprichwörtlich gemeint ist, ist ein Modell wortwörtlich tatsächlich eine Art komplexe Formel ↩︎
Siehe beispielsweise https://www.eipa.eu/publications/briefing/sandboxes-for-responsible-artificial-intelligence/ oder https://www.huntonprivacyblog.com/2021/02/25/regulatory-sandboxes-are-gaining-traction-with-european-data-protection-authorities/ ↩︎
Siehe z.B. S.6 und ff. https://unece.org/fileadmin/DAM/stats/documents/ece/ces/ge.44/2018/T4_Switzerland_RUIZ_Paper.pdf ↩︎
Siehe z.B. das Buch von Christoph Molnar https://christophm.github.io/interpretable-ml-book ↩︎
Siehe Bericht dazu https://www.bfs.admin.ch/bfs/de/home.assetdetail.9847917.html ↩︎
https://towardsdatascience.com/interpretable-machine-learning-for-image-classification-with-lime-ea947e82ca13 ↩︎
Präsentation von Prof. Bettina Berendt anlässlich der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» ↩︎
Wie es z.B. in der Veranstaltung «KI: Rechtliche Rahmenbedingungen für die künstliche Intelligenz in der Schweiz» mehrmals erwähnt wurde ↩︎
https://z01.ch/post/2021-01-26-amld-ai-democracy/ ↩︎
Siehe z.B. Seite 9, Kommunikation mit Daten, Matthias Mazenauer, Statistisches Amt Kanton Zürich, https://docs.google.com/presentation/d/17b7yOEEclFejydFpE1- AdaSRrgvSp7sq/edit#slide=id.p1 ↩︎

AI & Democracy

Tue, 26 Jan 2021 00:00:00 +0000

Die “Applied Machine Learning Days” an der EPFL haben sich in den letzten Jahren zu einem Schweizer Schlüsselevent mit internationaler Strahlkraft entwickelt. Technologie ist dabei nur eine Seite der Medaille: Die Themen umfassen soziale, politische und wirtschaftliche Aspekte im Zusammenhang mit Machine Learning. Dieses Jahr finden die Applied Machine Learning Days nicht wie sonst während einer gesamten Woche statt, sondern über das gesamte Jahr verteilt. Der erste Tag begann gestern mit dem spannenden Thema “AI and Democracy”. Das ausgezeichnete Grundsatzreferat hat dabei neue Standards gesetzt. Auch bei den anderen Beiträgen hat man gemerkt, dass ausserhalb der Schweiz viele spannende und lehrreiche Projekte zu “AI und Democracy” stattfinden.

Prof. Rayid Ghani von der Carnegie Mellon University hielt sein Grundsatzreferat zum Thema Einsatz von Data Science, um Fairness und gleichwertige Behandlung bei sozialen/politischen Anwendungen zu erzielen. Dabei fing Rayid mit drei Beispiele seiner beruflichen Laufbahn an, wie Data Science Politik positiv beeinflussen kann. Diese Beispiele sind ein guter Einstieg, um die darauffolgenden Überlegungen besser in einen Kontext setzen zu können.

So hat er beispielsweise mitgeholfen ein System zu entwickeln, welches vorhersagt in welchen Häusern am wahrscheinlichsten noch bleihaltige Farbe an den Wänden ist. Das ist ein grosses Gesundheitsproblem und führt in den USA dazu, dass besonders viele Babys mit Bleivergiftungen in die Spitäler eingeliefert werden, da sie den giftigen Staub einatmen. Mit einem solchen Algorithmus kann die Regierung solche Einwohnerinnen und Einwohner präventiv kontaktieren, um staatlich finanzierte Kontrollen und Baumassnahmen durchzuführen - und schlimmeres noch vor der Geburt des Nachwuchses zu verhindern.

Ein weiteres Beispiel ist die Auswertung von Polizeireports, um Polizisten gezielt präventiv zu identifizieren, die (wieder) gewalttätig werden könnten. Somit können Ressourcen in psychologischer Unterstützung frühzeitig einzusetzen werden, um Polizeigewalt zu verhindern.

Ein letztes Beispiel war der Einsatz bei den 10 Millionen Häftlingen, die jedes Jahr in den USA in Haft kommen. Eine grosse Gruppe von Häftlingen hat mentale Probleme und kehren immer wieder in Haft zurück. Durch die Unterstützung von Algorithmen wird nun gezielt nach gewissen Persönlichkeitsmustern gesucht, die mit psychologischer Hilfe unterstützt werden können, damit diese den Kreislauf des Wiederkehrenden Aufenthalts in Haft durchbrechen können.

Zu diesen Eingangsbeispielen gehören immer jeweils drei Elemente dazu: Verstehen was das Problem ist, Vorhersage von gewissen Ereignissen und zuletzt auch die aktive Beeinflussung der Lage. Dabei sind die Ressourcen begrenzt und deshalb wird eine Abwägung zwischen Gleichwertigkeit, Effizient und Effektivität notwendig: Möchte man beispielsweise so vielen Leuten wie möglich helfen? Oder fokussiert man sich zunächst auf die Personen, die man am leichtesten/günstigsten erreichen kann? Wenn man beispielsweise Covid-Testzentren zentral aufstellt, dann spart dies Ressourcen, aber Personen in der Peripherie haben einen schlechteren Zugang.

Rayid meint, dass sie bisherige Diskussion im Bezug auf Machine Learning sich stets auf die Frage fokussiert hat, ob ein rechnerisches Modell fair ist. Aber in Wirklichkeit geht es darum das gesamte System und die Outcomes fair zu gestalten - und das ist eine inhärent soziale Frage, die unbedingt zunächst definiert werden muss. Dabei zeigt das Institut von Rayid auch auf, dass es durchaus möglich ist solche Outcomes zu definieren, Abwägungen bezüglich den Zielen zu treffen und dann konkret zu messen. Nur dann kann man den Entscheidern ein “Policy Menu” (Bild unten) präsentieren, in welchem die verschiedenen Aspekte und Optionen sichtbar werden. In dieser Illustration führt die effizienteste Lösung zu einem grösseren Graben zwischen Weissen und Hispanics. Der Grund könnte darin liegen, dass es in dieser Intervention günstiger is an Weisse Teilnehmenden zu gelangen. Eine Lösung die auf gleiche Behandlung durch die Intervention beruht, würde 2% mehr kosten. Die Linien verlaufen dort parallel, da beide Gruppen gleich viel profitieren. Eine Politik, die aber darauf abzielt, eine Situation der Gleichwertigkeit zu schaffen, muss einen Zusatzeffort bei den Hispanics machen, damit dann beide Linien an einem gemeinsamen Punkt kongruieren - mit weiteren 2% Kosten.

Um überhaupt zu wissen, welche Metriken man bei der Erstellung der Szenarien priorisieren soll, hat sein Institut folgende “fairness tree” vorbereitet, welches dabei hilft die im jeweiligen Anwendungsfall relevanten sozialen “Bias Measures” zu identifizieren. Somit können Algorithmen gezielt eingesetzt werden, um die vordefinierten Ziele den Ressourcen entsprechend zu optimieren.

Weitere interessante Beiträge

Facebook fordert in den Nutzungsbedingungen, dass politische Werbungen als solche deklariert werden müssen. Aber wird das respektiert? Die Frage ist schwierig zu beantworten, da Facebook keine Daten dazu veröffentlicht. Die brasilianische Wissenschaftlerin Oana Goga und ihr Team haben ein add-on für Browser entwickelt, damit freiwillige Helfer dieses installieren können und somit Daten über die Werbungen an eine Datenbank geschickt werden können. Das Team konnte somit für die Präsidentschaftswahlen 2018 rund 239 Tausend Werbungen von 40 Tausend Werbenden sammeln. 2% der Werbungen, die gezeigt wurden, waren politische Werbungen, die aber nicht als solche deklariert wurden. Der Anteil der korrekt deklarierten politischen Werbungen beträgt etwa 2-4%. Der Anteil der nicht-deklarierten Werbungen ist somit sehr gross.

Oana Goga hat aber auch die interessante Frage der Definition einer politischen Werbung diskutiert. So betrachten Facebook und TikTok auch themenbezogene Werbungen als politisch, wenn sie in eine Liste von politischen Themen fallen. Das ist auch konform mit dem “EU Code of Practice on Disinformation”. Twitter und Google machen dies wiederum nicht. Bei themenbezogenen Werbungen ist es aber schwierig eine saubere Grenze zu ziehen. Folgend zwei Beispiele aus ihren Slides, die unterschiedlich beantwortet werden:

Mit offenen und grossen Datenmengen Korruption bekämpfen - so könnte man die Präsentation von Irio Musskopf bezeichnen. Sein Team hat veröffentlichte Finanzdaten untersucht, um Anomalien zu finden. Zu den Beispielen gehören Sandwiches die über 50$ gekostet haben, Abrechnungen in Brasilien während die Parlamentarier angeblich gerade in Grossbritannien auf Instagram ein Bild gepostet haben, oder 3 ungefähr gleichzeitige Lunch-Abrechnungen, die aber über 4000km weit entfernt voneinander sind.

Ein interessanter Input kam von Christine Choirat vom Swiss Data Science Center mit dem Titel “Big Problem, Big Data (And Vice Versa). Bei einer Studie zu Luftqualität in den USA ist sie mit dem amerikanischen “HONEST Act” konfrontiert worden. Dieses fordert, dass Rohdaten, Computercodes und alles weitere von Umweltstudien veröffentlicht werden muss. Open Science ist natürlich zu begrüssen, aber hier wurden sensible Patientendaten von “Medicare” verwendet, die nicht veröffentlicht werden können. Somit darf momentan mit dem HONEST Act gar keine Umweltstudie veröffentlicht werden, wenn nicht alle Rohdaten veröffentlicht werden.

Diese Erfahrung ist im Swiss Data Science Center in die Plattformen Renku und insbesondere in das gesicherte “Swiss Data Custodian” geflossen, wo Wissenschaftler miteinander kollaborieren können, aber sensible Daten nur Befugten zugänglich sind. Somit kann man den Spagat zwischen Open Science (mit Komponenten wie Reproduzierbarkeit) und der Verwendung von besonders schützenswerten Daten erreichen.

Arianna Ornaghi lieferte einen spannenden Beitrag zu einer Analyse anhand von Natural Language Processing (NLP) von Richtersprüchen nach “gender bias”. Sie fand ein Weg, um Richter mit einem “gender slant” per NLP zu identifizieren, und kam zum Ergebnis, dass Richter mit “Gender slant” häufiger Urteile von untergeordneten Instanzen aufheben, wenn es durch weibliche Richterinnen gefällt wurden.

Zusammengefasst gab es an diesem AMLD-Tag zu “AI und Democracy” sehr viele neue Dinge zu lernen. Ich freue mich schon auf die weiteren Tage mit Themen wie nachhaltige Energie, Einsatz von AI im Zusammenhang mit Covid (siehe auch das Bild oben mit den vielfältigen Anwendungen), klinischer Einsatz und Städten.

Ich bedanke mich sehr herzlich bei allen die Feedbacks zu diesem Blogartikel gegeben haben!