Grundlage für das technische Teilprojekt ist ein bestehendes KI-System, welches das Risiko von Nierentransplantationspatient:innen für Transplantatverlust, Abstoßungen und Infektionen innerhalb der. Das System, das auf einem Gradient Boosted Regression Tree (GBRT) basiert, wurde an retrospektiven Daten getestet und konnte unabhängig in einem experimentellen Aufbau getestet werden. Im einer ersten Phase wird das System gemeinsam mit Ärzt:innen weiter optimiert und dann so modifiziert, dass es direkt in die klinische Routine integriert und Informationen zur Laufzeit verarbeitet werden können. In einem retrospektiven Aufbau war dies bisher nicht notwendig. Danach wird das System sowie das KI-Dashboard so verändert, dass Ärzt:innen das Risikovorhersagesystem nach ihren Präferenzen konfigurieren können, was das Entfernen oder die Verstärkung bestimmter Funktionen oder einen Fokus auf Präzision oder Recall (d.h. das Auffinden möglichst vieler kritischer Patient:innen) bedeuten kann. Im Zuge dessen wird das derzeitige Dashboard dahingehend erweitert, dass Ärzt:innen bestimmte Parameter verschiedener Patient:innen ändern können, um die Auswirkungen auf das System mit einer Art kontrafaktischer Anfrage an das System zu untersuchen. Zum Beispiel: „Was wäre, wenn der Blutdruck niedriger wäre?“ Auf diese Weise haben die Ärzt:innen eine weitere Möglichkeit, das „Verhalten“ des KI-basierten Systems zu untersuchen. In der dritten Phase schließlich werden weitere Möglichkeiten erforscht, die Empfehlungen des Systems zu erklären und zu begründen. Insbesondere werden verschiedene Formen von Erklärungen und Einsichten über das System erforscht und getestet, die je nach den Präferenzen der Ärzt:innen modifiziert werden können, wozu auch Erklärungen in Form von natürlicher Sprache gehören. Diese werden dynamisch aus Mustern generiert, die aus realen Erklärungen von Ärzt:innen stammen, welche während unserer früheren Studie gesammelt wurden.