Organisationen entwickeln Annahmen über die Zukunft, um Entscheidungen zu treffen. Immer häufiger werden solche Annahmen nicht „aus dem Bauch“ entwickelt, sondern an Verfahren der algorithmischen Vorhersage delegiert. Das zentrale Versprechen der algorithmischen Vorhersage besteht darin, vielfältige Datenquellen zu verbinden und in den vernetzten Daten aussagekräftige Muster zu erkennen, aus denen sich Entscheidungen ableiten lassen. Algorithmische Vorhersage ist von einer Aura der Abstraktion und Neutralität umgeben, weshalb sie besonders dann zum Einsatz kommt, wenn Entscheidungen mit weitreichenden sozialen Konsequenzen getroffen werden müssen. Die Entstehungsgeschichte dieser Verfahren wirft jedoch oftmals Zweifel an der Vorstellung einer abstrakten und neutralen Entscheidungshilfe auf. Vielmehr wird deutlich, dass Algorithmen oft für sehr spezifische Probleme entwickelt und anschließend für andersartige Probleme „recycelt“ wurden. Ein Blick in die Vergangenheit der vernetzenden Vorhersage bringt eine Vernetzung der Vorhersage zum Vorschein.
Um zu verstehen, wie algorithmische Vorhersage die Form des Entscheidens in Organisationen verändert, ist es wichtig, eine Sensibilität für deren vernetzte Entstehungsgeschichte zu entwickeln. In der COVID-19 Pandemie wurde deutlich, dass vor allem zwischen dem Gesundheitssektor und dem Polizeiwesen seit Jahrzehnten ein reger Austausch von Vorhersageverfahren stattfindet. Werden diese Verfahren von einem Bereich in den anderen übertragen, besteht jedes Mal auch die Möglichkeit, dass implizite Annahmen und Entscheidungsprämissen mitwandern. Im Folgenden beschreibe ich drei Momente dieser Übertragung. Weiterführende Details zu jedem der Momente finden sich in einer frei zugängliche Studie zu diesem Thema (gemeinsam mit Simon Egbert und Elena Esposito).

Von der Epidemiologie zur Polizeiarbeit
Die Übertragung von Vorhersageverfahren aus der Epidemiologie in die Polizeiarbeit reicht bis in die Anfänge des 20. Jahrhunderts zurück. Bereits in den 1920er Jahren kamen kriminologische Forschungsarbeiten zu dem Schluss, dass Muster von krimineller Aktivität in Großstädten deutliche Ähnlichkeiten zu den Mustern aufweisen, nach denen sich Virusinfektionen ausbreiten. Hieraus entwickelte sich die Überzeugung, dass Kriminalität „ansteckend“ sei und folglich mit ähnlichen Verfahren wie denen der öffentlichen Gesundheitsvorsorge vorhergesagt und präventiv „behandelt“ werden können.
Diese frühe Vernetzung zwischen Epidemiologie und Polizeiarbeit wurde in jüngerer Vergangenheit in algorithmische Vorhersageverfahren („Predictive Policing“) übertragen. Ein besonders eindrückliches Beispiel ist die Strategic Subject List, die bereits 2013 von der Polizei in Chicago eingeführt wurde. Im Kern des Verfahrens steht die Annahme, dass sich Gewaltverbrechen wie ein Virus verbreiten und sich zukünftige Verbrechen daher aus Daten über vergangene Delikte vorhersagen lassen. Das algorithmische Verfahren errechnet für bereits polizeilich erfasste Personen einen Risikowert. Überschreitet der Risikowert einer Person den Grenzwert wird diese per Brief oder Hausbesuch darüber informiert. Ziel dieses Vorgehens ist es, durch diese Kontaktaufnahme Personen davon abzuhalten, weitere Gewalttaten zu begehen und Personen im direkten Umfeld durch das eigene Gewaltpotenzial „anzustecken“.

Von der Terrorabwehr zum Gesundheitsamt
Das Beispiel der Strategic Subject List zeigt wie Vorhersageverfahren aus der Epidemiologie in den Bereich der Polizeiarbeit übertragen wurden. Im Verlauf der COVID-19 Pandemie wurde eine weitere Übertragung in die Gegenrichtung deutlich. Diesmal wurden komplexe Softwaresysteme und algorithmische Verfahren, die ursprünglich für die Terrorabwehr und den Einsatz von Geheimdiensten entwickelt wurden, in den Bereich der öffentlichen Gesundheitsversorgung übertragen. Einer der wichtigsten Anbieter solcher Vorhersagesoftware und Triebfeder dieser Vernetzung ist das US-Unternehmen Palantir. Palantirs Software ermöglicht es Nutzer*innen äußerst heterogene und unstrukturierte Datenquellen miteinander zu verknüpfen und so neue Muster in diesen Daten zu entdecken. Im Zuge der Pandemie bot Palantir seine Softwaredienstleistungen nicht mehr nur Akteur*innen aus dem Sicherheitssektor, sondern erstmals auch staatlichen Akteur*innen aus dem Gesundheitsbereich an. Im März 2020 kündigte beispielsweise die britische Regierung eine Kooperation mit Palantir an, um pandemiebezogene Daten aus dem öffentlich finanzierten Gesundheitssystem (NHS) besser integrieren und analysieren zu können. Es ist weder überraschend noch fragwürdig, dass Regierungen in Situationen dringender Gesundheitsbedrohungen versuchen, Informationsströme zu zentralisieren und zu verbinden, um besser und schneller entscheiden zu können (oder zumindest die Fähigkeit dazu zu signalisieren). Dennoch wirft die Entscheidung der britischen Regierung, keine eigenen Verfahren zu entwickeln, sondern sich auf einen Anbieter wie Palantir zu verlassen, Fragen auf. Infiziert die Übertragung von technologischen Infrastrukturen zwischen Terrorabwehr und öffentlicher Gesundheit auch letztere mit den Annahmen, Werten und Verfahren der ersteren?

Von der Selbstverantwortung zur Überwachung
Die Frage, ob Regierungen mit Firmen wie Palantir zusammenarbeiten sollen, wird öffentlich diskutiert. Letztlich sind Regierungen jedoch – vor allem in Krisensituationen – in der Lage, sich über solche öffentlichen Kontroversen recht unbeschadet hinwegzusetzen. Deutlich unmittelbarer wirkt sich jedoch die Sorge um staatliche Überwachung und Kontrolle auf Maßnahmen der Pandemiebekämpfung aus, die auf die Kooperation und Selbstverantwortung von Bürger*innen angewiesen sind. Da die manuelle Rückverfolgung von Kontakten zwischen infizierten Personen und anderen Personen äußerst kostspielig ist, haben viele Länder Apps entwickelt, durch die die Rückverfolgung schneller, günstiger und genauer vollzogen werden soll. In den meisten Ländern haben sich diese Apps jedoch – aus Sicht des staatlichen Pandemiemanagements – als Flop erwiesen, da zu wenige Bürger*innen die Anwendungen heruntergeladen oder konsequent genutzt haben.
Einer der Gründe für diese Zurückhaltung scheint die Sorge um eine zu enge Vernetzung zwischen medizinischer und polizeilicher Nutzung der erhobenen Daten zu sein. Vor allem im deutschen Kontext wurden im Zuge der Entwicklung der Corona-Warn-App die Fragen des Datenschutzes ausgiebig und kontrovers diskutiert. Anders als im Fall der britischen Kooperation mit Palantir hat die Kontroverse um die Corona-Warn-App zu konkreten Anpassungen im Entwicklungs-prozess der Anwendung geführt. An diesem Beispiel zeigt sich somit, dass nicht nur die konkrete, sondern auch die potenzielle Vernetzung von algorithmischen Vorhersageverfahren einen Einfluss auf deren Gestalt und Nutzung haben kann.

Vergangenheit und Zukunft der Vorhersage
Die Vergangenheit der algorithmischen Vorhersage zeigt deren bewegte Geschichte zwischen öffentlicher Gesundheit und öffentlicher Sicherheit. Was lässt sich aus der Vergangenheit der Vorhersage für deren Zukunft lernen? Indem wir die Vernetzung der Vorhersage in den Blick nehmen, können wir ein besseres Verständnis für die „versteckten“ Entscheidungsprämissen dieser Verfahren entwickeln. Dieses vergleichende Verfahren scheint besonders wichtig in Situationen, in denen algorithmische Vorhersage Entscheidungen mit weitreichenden sozialen Konsequenzen beeinflusst, in denen ein unmittelbarer Blick in den Prozess der Entwicklung und Anwendung dieser Systeme aber nicht (Strategic Subject List und Palantir) oder nur eingeschränkt (Corona-Warn-App) möglich ist.