검색 : [ keyword: Deep Q-Network ] (3)

전기식 RTO 에너지 소모 최소화를 위한 PFD 시뮬레이터 기반 심층 강화학습

모지식, 김명호

http://doi.org/10.5626/JOK.2025.52.6.490

본 논문에서 제안한 방법은 데이터를 수집하기 어려운 환경에서 시뮬레이터를 활용하여 데이터를 생성하고, 생성한 데이터를 바탕으로 심층 강화학습 에이전트를 훈련시켜, 전기식 축열식 소각설비(Regenerative Thermal Oxidizer, RTO)를 안정적으로 유지하고 에너지 소모를 최소화하는 학습을 하는 것을 목표로 한다. 이를 위해 실제 장비의 공정흐롬도(Process Flow Diagram, PFD) 및 현장의 운용 방법을 바탕으로 만들어진 시뮬레이터 기반으로 데이터를 생성하여, 상태, 행동, 보상이 적용된 환경을 구축하여 심층 강화학습 에이전트를 훈련한다. 성능 평가 결과는 이 방식으로 학습된 심층 강화학습 에이전트를 통한 제어가, 기존의 운영 방식을 적용했을 때보다 전기식 RTO를 안정적으로 운용하면서 동시에 전력 소모를 최대 약 9% 절감할 수 있음을 보인다.

LNGC 환경 예측 모델을 이용한 심층 강화학습 기반 에너지-효율적 공조 제어 방법

채영은, 김재성, 옥진성, 서영균

http://doi.org/10.5626/JOK.2022.49.12.1062

본 논문은 건조 중인 LNG 화물창 환경을 안정적으로 유지하고 에너지를 최소화하기 위한 심층 강화학습 기반 공조 제어 방법을 제안한다. 건조 중인 화물창 내부와 같은 특수한 환경은 여러 요인에 의해 영향받기 쉬우므로, 정보를 정확히 예측하여 에너지 소모가 많은 공조 시스템을 자동으로 제어하기 어렵다. 이러한 문제를 완화하기 위해, 우리는 심층 강화 학습 모델을 통해 훈련된 공조 제어 에이전트를 통해 실내 환경을 안정적으로 제어하는 최신 방법을 제안한다. 이 방법에서는 운영 상황에 대한 전문지식 없이, 수집된 데이터의 상관 분석을 기반으로 실내 환경 상태 예측 모델을 구성하고, 모델을 기반으로 상태와 행동을 정의한 후 보상 기능을 통해 정책으로 훈련된 에이전트를 구축한다. 제안한 방법의 유효성을 확인하기 위하여, 우리는 실제 LNG 화물창 내부 공조 시스템에서 수집한 데이터를 이용하여 구축한 시뮬레이션 환경에서 HVAC 제어 성능 평가를 수행한다. 우리의 시뮬레이션 결과는 본 논문에서 고려하였던 3종의 강화학습 모델 중 Double DQN 모델이 공조 제어에 가장 효과적임을 보인다. 또한, 그 결과는 학습된 에이전트가 사용자-지정 온도 내에서 화물창 내부 환경을 안정적으로 유지 시키면서 일 평균 28.2%까지 전력 소모를 줄일 수 있음을 보인다.

멀티코어 기반 차량용 임베디드 시스템의 타임-트리거드 아키텍처 설계와 구현

배재현, 유민수

http://doi.org/10.5626/JOK.2022.49.12.1043

최근 차량용 임베디드 시스템은 안전성과 성능 향상을 위해 멀티코어를 사용한다. 하지만 코어간 데이터 통신 시 발생하는 Spinning 시간은 태스크의 응답시간 지연을 초래한다. 이에 본 논문에서는 Time Triggered Architecture (TTA)를 이용하여 AUTOSAR 멀티코어 환경에서 스케줄링 최적화하는 방법을 제시한다. 각 태스크의 스케줄링 가능성을 확보하기 위해, DQN (Deep Q-Network) 강화학습을 이용한 태스크 할당 알고리즘을 제시하여 코어 간 부하 균등화를 최적화한다. 또한 태스크 Harmonic Period 설정하는 방법과 태스크 Offset, Deadline 설정 알고리즘을 설명한다. 이후 런타임에서 다른 코어의 타이밍 오류로 인한 문제 발생을 감지하는 방법에 대해 설명한다. 연료전지제어기 모델에 적용 결과, 부하 균등화 정도가 94% 개선되었으며 태스크의 실행구간이 상호 배제가 강제됨과 각 알고리즘이 잘 적용됨을 확인하였다. 또한 태스크 할당 알고리즘은 최적의 값 대비 약 78% 이상의 확장성을 보였다.


Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr