Can We Trust AI-Written Software?

We study AI coding technologies used in real development: how agents remember, review, and verify code, and what breaks when that memory is stale, shared, or handed over badly.

AI 코딩 에이전트가 코드를 어떻게 기억하고 검토하고 검증하는지, 그 기억이 오래되거나 공유되거나 잘못 인계될 때 무엇이 깨지는지를 연구합니다.

Research Program

AI가 작성한 소프트웨어를 무엇으로 신뢰할 것인가

SELAB은 실무 개발 현장에서 쓰이는 AI 코딩 기술, 그중에서도 LLM과 코딩 에이전트의 ‘기억’을 연구합니다. 사람의 기억이 피로 같은 조건에서 흐려지듯, LLM의 기억도 어떤 조건에서 왜곡되고 오래되고 약해지는지를 묻고, 그것이 코드 리뷰·유지보수·검증 같은 실제 개발 작업에서 어떤 결과로 이어지는지를 함께 봅니다. 테스트를 통과했지만 결함이 남은 경험이 다음 코드로 전파되는지, 같은 기록을 공유한 검증자들이 같은 결함을 함께 놓치는지, 같은 근거를 어떤 형식과 순서로 넘기느냐가 결과를 바꾸는지, 코드가 바뀐 뒤 과거 검증을 언제 다시 해야 하는지, 요구사항이 빠졌을 때 판정을 확정할 수 있는지, 한정된 예산을 기억 정리와 사후 검증 중 어디에 써야 하는지를 각각 통제된 실험의 연구 질문으로 다룹니다.

AI는 이미 개발 현장에서 소프트웨어를 빠르게 만들어냅니다. 우리 연구실은 그 기술을 실무에서 믿고 쓰려면 무엇이 필요한지를 연구합니다.

How We Work

Evidence Before Claims

Study Design

  • 연구 질문과 성공·실패 판정 기준을 실험 전에 고정하고, 결과를 본 뒤에 바꾸지 않습니다.
  • 한 번의 실행을 결론으로 쓰지 않고, 반복 실행에서 나타나는 분산을 함께 보고합니다.
  • AI가 만든 변경을 사람이 만든 변경, 기존 도구가 만든 변경과 같은 기준으로 비교합니다.

Evidence & Artifacts

  • 실행 추적, 실패 사례, 구성요소 ablation을 남겨 주장의 근거를 되짚을 수 있게 만듭니다.
  • 정확도뿐 아니라 비용, 지연, 실패 전파, 사람의 개입 지점을 함께 측정합니다.
  • 공개 가능한 범위에서 데이터와 스크립트를 정리해, 제3자 재현을 전제로 실험을 설계합니다.

Research Infrastructure

SELAB의 AI R&D 인프라는 멀티-컴퓨트 노드로 운영됩니다. 아래 합계는 클러스터 전체의 통합 자원입니다.

CPU
276 Threads 208 physical cores
RAM
832 GB installed four node groups (384 + 192 + 192 + 64 GB)
GPU
11 NVIDIA GPUs RTX 4090 ×7 · RTX 5090 ×3 · RTX PRO 6000 ×1 · 360 GB VRAM
SSD
17 TB SSD physical total, HDD excluded

Conference

ACM SAC 2027

Join us at The 42nd ACM/SIGAPP Symposium on Applied Computing in Gwangju, South Korea (April 5 - 9, 2027). Connect with global researchers and shape the future of applied computing.

View Details