Blick in die Blackbox 08.12.2022, 14:26 Uhr

Millionenförderung für verständliche Softwaresysteme

Viele moderne Softwaresysteme sind so komplex geworden, dass kein Experte mehr nachvollziehen kann, ob, wie und warum sie funktionieren. Der Sonderforschungsbereich verständliche Softwaresysteme erhält eine zweistellige Millionenförderung.
(Quelle: Universität Saarland, Oliver Dietze)
Wissenschaftler der Universität des Saarlandes, des Max-Planck-Instituts für Softwaresysteme, des CISPA Helmholtz-Zentrums für Informationssicherheit und der Technischen Universität Dresden forschen gemeinsam an Mechanismen, die das Verhalten komplexer Softwaresysteme für jedermann verständlich machen sollen. Die DFG hat dieses Grossprojekt nun um vier Jahre verlängert und fördert es mit weiteren rund 13 Millionen Euro.
Komplexe Softwaresysteme sind längst Bestandteil unseres Alltags. Und solange sie funktionieren, erleichtern sie uns das Leben. Problematisch wird es, wenn es zu Fehlfunktionen kommt, wenn zum Beispiel ein autonom fahrendes Fahrzeug einen Fussgänger anfährt. Denn spätestens dann muss lückenlos nachvollziehbar sein, wieso es zu einem Fehler kam, wie dieser behoben und bestenfalls zukünftig verhindert werden kann und, wer im Zweifelsfall haftbar ist.
"In Fachkreisen verwendet man für viele moderne Softwaresysteme das Bild einer 'Blackbox', also eines abgeschlossenen Behälters, der nicht einsehbar ist. Das liegt teilweise auch daran, dass der Inhalt das geistige Eigentum des Herstellers der Software ist. In der Box passieren wundersame Dinge, die in der Regel zum gewünschten Ergebnis führen", erklärt Holger Hermanns, Informatik-Professor der Universität des Saarlandes, die derzeitige Situation. In dem nun verlängerten Sonderforschungsbereich "Grundlagen verständlicher Softwaresysteme" arbeitet Hermanns gemeinsam mit den Kolleginnen und Kollegen in Saarbrücken und Dresden in 14 Teilprojekten daran, Methoden zu entwickeln, um diese "Blackbox" zu öffnen, zu verstehen, was in deren Inneren vorgeht und diese Vorgänge verständlich zu erklären – oder besser noch, die Software dazu zu ermächtigen, ihr Verhalten selbst nachvollziehbar darzulegen. Eines der bereits erzielten Ergebnisse ist eine App, die es Autofahrern erlaubt in das Innere der Software ihrer Autos zu schauen und so zum Beispiel bei Dieselfahrzeugen in Echtzeit die Abgaswerte einzusehen.
Verstehen zu wollen, warum sich ein Softwaresystem auf eine bestimmte Art verhält, erscheint auf den ersten Blick ein rein technisches "Informatiker-Problem" zu sein. Diese Betrachtungsweise sei jedoch viel zu kurz gegriffen, mahnt Professor Holger Hermanns: "Wir behandeln Fragestellungen von ganz fundamentaler, gesellschaftlicher Bedeutung. Der weltweite Digitalisierungsgrad nimmt täglich zu, unser Leben wird immer stärker durch Informationstechnologie bestimmt. Diese Entwicklung wird sich fortsetzen, denken Sie nur an die ‚Smart Cities‘ der Zukunft, in denen vernetzte Autos selbstständig den Verkehr regeln, oder in denen Künstliche Intelligenzen bestimmen, mit wem welche Stelle besetzt wird, wer welchen Krankenkassen-Beitrag zahlen muss oder wer einen Kredit bekommt und wer nicht", sagt Professor Holger Hermanns.
Ob so eine Welt überhaupt erstrebenswert ist, sei schon eine Frage für sich. "Ganz sicher ist sie aber nicht erstrebenswert, wenn man den Entscheidungen dieser Systeme machtlos ausgeliefert ist, weil man nicht nachvollziehen kann, wie sie dazu gekommen sind und somit bei Falschentscheidungen nicht intervenieren kann", sagt Hermanns. Digitale Mündigkeit könne nur aus dem Verständnis der Systeme erwachsen: "Welche Systeme will man als Individuum überhaupt verwenden und welche nicht? Ist es moralisch vertretbar, ein bestimmtes System zu verwenden? Sind die Entscheidungen des Systems so nachvollziehbar, dass klar ersichtlich ist, wer bei Fehlfunktionen haftbar ist? Nur durch vollumfängliches Verstehen komplexer Softwaresysteme kann es künftig digital mündige Bürger geben," sagt der Saarbrücker Informatik-Professor Hermanns.
Weitere Informationen finden Sie hier sowie auf dieser Seite.

Bernhard Lauer
Autor(in) Bernhard Lauer


Das könnte Sie auch interessieren