Featured

Algorithmen dürfen nicht undurchsichtig bleiben

Binary code in 3D

Algorithmen sind Teil der digitalen Welt und in dieser unverzichtbar. Aber welche Daten sammeln und werten sie aus? Kann dies dem Nutzer auch Nachteile bringen? Und wie funktionieren die Algorithmen eigentlich? Dass alles mit rechten Dingen zugeht, will die Initiative AlgorithmWatch überwachen.

Die Gründer Lorena Jaume-Palasí, Lorenz Matzat, Matthias Spielkamp und Prof. Dr. Katharina Anna Zweig sind überzeugt, dass die Prozesse nicht „dem Blick derjenigen entzogen werden, die davon betroffen sind“, heisst es im ADM-Manifest. Sie wollen Transparenz schaffen und auf fehlerhafte Algorithmen aufmerksam machen, die Ergebnisse mit negativen Effekten liefern. Denn solche Algorithmen werden nicht nur von Google und Facebook zum besseren Sortieren der Ergebnisse eingesetzt. Sie finden inzwischen auch bei der Polizei Einsatz, um beispielsweise kriminelle Brandherde leichter zu ermitteln. Sind allerdings fehlerhafte Daten enthalten oder die Algorithmen noch nicht ausgereift, können unschuldige Bürger plötzlich im Visier der Ermittler stehen. Nicht ganz so dramatisch: der Ergebnis-Algorithmus von Google. Er entscheidet, welche Seiten zuerst in den Ergebnissen angezeigt werden. Da die wenigsten sich bis Suchergebnis 1’235 durchklicken, können diese Ergebnisse durchaus Einfluss auf den Suchenden und seine Meinung geben. Vor dem Hintergrund „Fake News“-Debatte kein unwesentlicher Fakt.

Die Forderungen von AlgorithmWatch sind daher klar formuliert:

  1. „Die Schöpfer von ADM-Prozessen sind verantwortlich für ihre Resultate. ADM-Prozesse werden nicht nur von ihren Entwicklern erschaffen.
  2. ADM-Prozesse müssen nachvollziehbar sein, damit sie demokratischer Kontrolle unterworfen werden können.
  3. Demokratische Gesellschaften haben die Pflicht, diese Nachvollziehbarkeit herzustellen: durch eine Kombination aus Technologien, Regulierung und geeigneten Aufsichtsinstitutionen.
  4. Wir müssen entscheiden, wie viel unserer Freiheit wir an ADM übertragen wollen.“

Die Initiatoren setzen sich dafür ein, dass die komplexe Technik wieder nachvollziehbar und einsehbar wird. Sie legen den Fokus daher auf die algorithmische Entscheidungsfindung, die gesellschaftlich von Bedeutung ist, das heisst Algorithmen die menschliche Entscheidungen automatisieren oder menschliches Handeln vorbestimmen.

Die Initiative geht bei ihrer Arbeit nach eigenen Angaben wie folgt vor:

  • Beobachten

AlgorithmWatch analysiert die Auswirkungen algorithmischer Entscheidungsfindungsprozesse auf menschliches Verhalten und zeigt ethische Konflikte auf.

  • Erläutern

AlgorithmWatch erläutert die Eigenschaften und Auswirkungen komplexer Prozesse algorithmischer Entscheidungsfindung für eine breite Öffentlichkeit.

  • Verknüpfen

AlgorithmWatch ist eine Plattform, die Experten verschiedener Kulturen und Disziplinen zusammenbringt, die sich mit der Analyse algorithmischer Entscheidungsfindung und ihrer gesellschaftlichen Auswirkungen beschäftigen.

  • Mitgestalten

Um den Nutzen algorithmischer Entscheidungsfindung für das Gemeinwohl zu maximieren, unterstützt AlgorithmWatch dabei, Ideen und Strategien zu entwickeln, die eine Nachvollziehbarkeit der Prozesse ermöglichen – mit einem Mix aus Technologie, Regulierung und geeigneten Aufsichtsinstitutionen.

 

Die vier Gründer selbst stammen aus der Digitalbranche, die sich schon intensiv mit den Rechten im Internet befasst haben. Vorerst wird die Initiative als Blog betrieben. Künftig soll sie aber mittels Crowd Sourcing bestückt werden. Das heisst, freiwillige User können sich mit Erfahrungen, Expertisen, Ideen und Anregungen einbringen. Die Finanzierung ist noch offen. Da AlgorithmWatch unabhängig bleiben will, sind Gelder über Stiftungsanfragen und Spendenaufrufe geplant.

www.algorithmwatch.org

Kommentar verfassen