© pixabay/geralt

Mehr Transparenz

Künstliche Intelligenz

Ob selbstfahrende Autos oder die Steuerung von Industrieanlagen: Künstliche Intelligenz spielt eine immer größere Rolle in unserer Gesellschaft. Die TH Köln untersucht gemeinsam mit der Ruhr-Universität Bochum in einem Promotionstandem, wie Künstliche Intelligenz transparenter und verständlicher gemacht werden kann. Das Projekt „(RL)3 Repräsentations-, Reinforcement- und Regel-Lernen“ wird im Rahmen des Graduiertenkollegs „Data-NInJA“ vom Ministerium für Kultur und Wissenschaft NRW mit insgesamt 500.000 Euro gefördert.

„Künstliche Intelligenz kann viel, aber es mangelt ihr noch an Transparenz, da nicht sichtbar ist, was sie dazu bringt, eine bestimmte Handlung auszuführen. Das möchten wir ändern, indem wir sie erklärbarer und dadurch auch vertrauenswürdiger machen“, sagt Prof. Dr. Wolfgang Konen vom Institut für Informatik der TH Köln über das Ziel des Projekts „(RL)3 Repräsentations-, Reinforcement- und Regel-Lernen“.

Gemeinsam mit Prof. Dr. Laurenz Wiskott vom Institut für Neuroinformatik der Ruhr-Universität Bochum betreut er die Doktoranden Moritz Lange und Raphael Engelhardt. Moritz Lange von der Ruhr-Universität Bochum beschäftigt sich in seiner Dissertation mit dem Repräsentations-Lernen. Repräsentationen sind extrahierte Informationen, auf denen das Reinforcement-Lernen aufbaut und die diesen Prozess erleichtern. „Wie gut die relevanten Informationen aus den Daten ablesbar sind, ist entscheidend für die Fähigkeiten eines Algorithmus, daraus zu lernen“, sagt Lange. Gute Repräsentationen seien zusätzlich auch wichtig, um analysieren zu können, wie ein Algorithmus auf verschiedene Szenarien reagiert. Um dieses Verständnis entwickeln zu können, müssen komplexe Datensätze so dargestellt werden, dass sie durchschaubar sind. {…}

Das Graduiertenkolleg „Trustworthy AI for Seamless Problem Solving: Next Generation Intelligence Joins Robust Data Analysis”, kurz Data-NInJA NRW, widmet sich Forschungsthemen rund um Künstliche Intelligenz und wird vom Ministerium für Kultur und Wissenschaft Nordrhein-Westfalen mit insgesamt fünf Millionen Euro gefördert. Die Gesamtkoordination des Graduiertenkollegs, in dem 14 Promotionen bewilligt wurden, übernimmt die Universität Bielefeld. Das Kolleg soll den Promovierenden ermöglichen, neben der technologischen Qualifizierung auch Kompetenzen zu gesellschaftlichen, sozioökonomischen und politischen Effekten der künstlichen Intelligenz zu erwerben.

Vollständige Quelle: TH Köln/idw