Das interdisziplinäre Grundlagenprojekt untersucht Möglichkeiten und Grenzen des Einsatzes von algorithmischen Entscheidungssysteme am Beispiel ihres Einsatzes in Rechtssystemen.
Entscheidungen über, durch und zusammen mit algorithmischen Entscheidungssystemen gewinnt auch im Bereich öffentlicher Kommunikation zunehmend an Bedeutung. Das HBI hat sich daher an einen interdisziplinären Grundlagenprojekt zu diesem Thema beteiligt, das von der Volkswagenstiftung in der Förderlinie "Künstliche Intelligenz - Ihre Auswirkungen auf die Gesellschaft von morgen" für vier Jahre gefördert wird.
Die Algorithmen des maschinellen Lernens werden verwendet, um Entscheidungsregeln aus Daten zu abstrahieren, die dann beispielsweise in Entscheidungsbäumen oder neuronalen Netzwerken gespeichert werden (algorithmic decision making; ADM). Mit der Zeit verbessert sich das System, indem es aus den Konsequenzen seiner vorherigen Entscheidungen lernt.
Die große Frage des Projekts ist, ob es Grenzen dieser Art von ADM gibt. ADM-Systeme werden immer beliebter, insbesondere in den notorisch unterbesetzten Strafjustizsystemen der Welt. In westlichen Systemen, insbesondere denen der USA und in Großbritannien, werden diese Werkzeuge in verschiedenen Phasen des Strafrechtsprozesses genutzt, um insbesondere das Rückfälligkeitsrisiko von Angeklagten zu bewerten. In den USA haben sich sogar die großen Menschenrechtsorganisationen wie die ACLU dafür eingesetzt, dass diese Werkzeuge in allen Phasen des Strafrechtsprozesses eingesetzt werden, um mögliche menschliche Vorurteile zu vermeiden.
Das Projekt untersucht vor diesem Hintergrund die Fragen:
- Wie entscheiden Menschen über Menschen und – verglichen damit – wie entscheiden Maschinen über Menschen?
- Wie entscheiden Menschen zusammen mit Maschinen über Menschen?
- Wo sollten Maschinen überhaupt Entscheidungen über Menschen treffen?
- Wie sollten Staaten darüber entscheiden, ob ADM-Systeme in ihren Rechtssystemen verwendet werden?
