Automatisierte und simulationsbasierte Fabriklayoutplanung mittels Reinforcement Learning

Automated and simulation-based factory layout planning using reinforcement learning

  • Die Fabriklayoutplanung ist ein auf Expertenwissen basierender, kreativer und zeitintensiver Prozess, der einen erheblichen Einfluss auf die Wirtschaftlichkeit und den Betrieb des Produktionssystems hat, sodass in der frühen Layoutplanungsphase häufig automatisierte Methoden als Unterstützungswerkzeug eingesetzt werden. Diese erfordern jedoch häufig eine analytische und vereinfachende Beschreibung des Produktionssystems, wodurch dynamische und layoutbestimmende Effekte unberücksichtigt bleiben. Mittels einer Materialflusssimulation (EDS) können diese Einflüsse realitätsnah abgebildet werden. Entwicklungen im Bereich des Reinforcement Learning (RL) zeigen, dass RL in der Lage ist, selbstständig Lösungsstrategien für komplexe Problemstellungen zu erlernen, deren Systemverhalten analytisch nicht vollständig beschreibbar ist. Die Kopplung von RL und EDS bietet somit das Potential, durch eine realitätsnahe Planungsgrundlage automatisiert optimierte Layoutvarianten zu erzeugen. Außerdem können Erklärbarkeitsansätze (XRL) genutzt werden, um Einblicke in das Lösungsverhalten des RL-Ansatzes zu erlangen. Ziel dieser Dissertation ist es, durch die kombinierte Nutzung von RL, EDS und XRL die Qualität in der frühen Layoutplanungsphase zu erhöhen. Hierzu findet eine konzeptionelle Entwicklung des RL-Ansatzes statt, die eine Modellierung des Entscheidungsproblems, der Aktionsräume, der Zustandsinformationen, der Belohnungsfunktion und der XRL-Ansätze umfasst. Anschließend wird der RL-Ansatz implementiert und es werden Experimente zur Leistungssteigerung durchgeführt, bevor er auf zwei Validierungsszenarien angewendet wird. Der Vergleich mit konventionellen Planungsansätzen zeigt, dass die Qualität der generierten Lösung durch RL gesteigert werden kann und dass die XRL-Ansätze eine detaillierte Analyse des Lösungsprozesses ermöglichen.
  • Factory layout planning is a creative and time-consuming process based on expert knowledge that has a significant impact on the profitability and operation of the resulting manufacturing system. As a result, automated approaches are often used to support the early layout planning phase. However, these often require an analytical and simplified description of the production system, so that dynamic and layout-determining effects are not considered. These effects can be represented with the help of a discrete-event material flow simulation (DES). Besides, developments in the field of reinforcement learning (RL) show that RL can independently learn solution strategies for complex decision-making problems even in cases in which the system behavior cannot be fully described analytically. The coupling of RL and DES thus offers the potential to automatically generate realistic and optimized layout variants. In addition, explainability approaches (XRL) can be used to gain insights into the solution strategy of the RL approach. This dissertation aims to increase the quality of the early layout planning phase through the combined use of RL, EDS, and XRL. For this purpose, a conceptual development of the RL approach takes place first, which includes modeling the decision-making problem, the action space, the state information, the reward function, and the XRL approaches. The RL approach is implemented and experiments are conducted to improve the performance before it is applied to two validation scenarios. The comparison with conventional layout planning approaches shows that the quality of the generated solution can be increased using RL and that the XRL approaches allow a detailed analysis of the training and solution process.

Download full text files

Export metadata

Metadaten
Author:Matthias KlarORCiD
URN:urn:nbn:de:hbz:386-kluedo-82643
DOI:https://doi.org/10.26204/KLUEDO/8264
ISBN:978-3-95974-226-9
Series (Serial Number):Produktionstechnische Berichte aus dem FBK (02/2024)
Advisor:Jan C. Aurich
Document Type:Doctoral Thesis
Cumulative document:No
Language of publication:German
Date of Publication (online):2024/06/13
Year of first Publication:2024
Publishing Institution:Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau
Granting Institution:Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau
Acceptance Date of the Thesis:2024/05/06
Date of the Publication (Server):2024/06/24
Tag:Fabrikplanung; Machine Learning; Maschinelles Lernen; Produktionssystem
Factory planning; Production Systems
Page Number:VI, 138
Faculties / Organisational entities:Kaiserslautern - Fachbereich Maschinenbau und Verfahrenstechnik
DDC-Cassification:6 Technik, Medizin, angewandte Wissenschaften / 620 Ingenieurwissenschaften und Maschinenbau
Licence (German):Creative Commons 4.0 - Namensnennung, nicht kommerziell, keine Bearbeitung (CC BY-NC-ND 4.0)