서울디지털재단 AI일상화 프로젝트

이상행동 감지 추적시스템 등 개발

CCTV 영상 문자화 기술 접목 확대

서울디지털재단이 26일 오전 11시 서울 마포구 서울스마트시티센터에서 기자설명회를 열고 ‘생성형 AI기반 이상행동 탐지 추적 시스템’ 기술을 시연하고 있다. /사진: 서용원기자 anton@

[대한경제=서용원 기자]최근 연이은 묻지마 칼부림 사건으로 시민들이 불안에 떠는 가운데 서울시가 범죄 예방에 기여할 수 있는 AI 혁신기술을 선보였다.

서울디지털재단(이사장 강요식, 이하 재단)은 26일 오전 11시 마포구 서울스마트시티센터에서 ‘2023 프레스데이’를 열고 ‘서울시민 AI 일상화 3대 프로젝트’를 공개했다.

프로젝트는 안전ㆍ대중화ㆍ윤리 세 가지 키워드를 중심으로 △(AI안전) 생성형 AI기반 이상행동 탐지 추적 시스템 개발 △(AI대중화) 공공 sLLM을 통한 어르신 디지털 상담 챗봇 개발 △(AI윤리) AI 윤리가이드라인 개발 등이 추진된다.

특히, ‘생성형 AI기반 이상행동 탐지 추적 시스템’이 기대를 모은다.

현재 개발 중인 이 시스템은 디지털재단의 AI 혁신 기술을 접목한 CCTV가 사람 행동의 ‘맥락’을 파악해 이상행동을 감지하는 기술이다.

현재 운용되는 CCTV는 특정 상황을 탐지해서 그 상황이 어떤 상황인지를 설명할 수 있는 수준에 그친다. 예컨데, 칼을 들고 거리를 활보하는 사람은 현재 CCTV가 발견할 수 있지만, 범인이 흉기를 옷 속 등에 감추면 CCTV가 인지하지 못한다.

재단이 이번에 공개한 ‘생성형 AI기반 이상행동 탐지 추적 시스템’은 특정 상황을 넘어 행동의 ‘맥락’을 포착, 누군가가 칼을 들고 가다가 품속에 감추더라도 이를 인지할 수 있는 기능이 있어 묻지마 칼부림 범죄 등을 보다 효과적으로 방지할 수 있다는 게 재단 측 설명이다.

재단 관계자는 “이미지 전체 맥락을 파악해 실제 이상행동인지 아닌지를 AI가 스스로 판단해 설명하는 것”이라며 “칼을 들고가다가 숨기는 행위뿐 아니라, 사람들이 비명 지르고 도망가는 행위 등의 맥락도 파악해 관제실에 알려줄 수 있다”고 말했다.

또 시스템에는 공공기관 최초로 CCTV 영상을 문자화하는 기술도 있어, 효율적인 CCTV 기록물 관리도 가능하다. 개인정보보호법에 따라 현재 CCTV영상은 최장 30일까지만 보관할 수 있지만, 문자 기록은 더 낮은 용량으로 반영구적 보관이 가능해 시간이 많이 지난 사건을 추적할 때도 큰 도움이 될 것으로 보인다.

재단은 올해 말까지 이 시스템 개발을 완료할 계획이다. 이후 서울교통공사와 협력해 2024년에는 5호선 1개 역사에서 실증, 2025년에는 모든 역사의 CCTV에 해당 기술을 접목할 예정이다.

AI 대중화 분야인 ‘공공sLLM (sLLM: small Large Language Model)을 통한 어르신 디지털 상담 챗봇 개발’은 민간 LLM 서비스 이용 시 발생하는 다양한 부작용을 없애고자 공공기관 최초로 개발한 sLLM 모델이다. 재단은 해당 모델로 ‘어르신 디지털 상담 챗봇’서비스를 만들어 2024년 하반기 시민에게 공개할 계획이다.

‘서울시 생성형 AI 윤리가이드라인 개발’은 전 사회적 AI 열풍과 함께 드러나는 부작용을 예방하고자 지자체 최초로 기획한 가이드라인이다. 이용자 중심, 지속가능성, 위험 예방 등 3대 기본원칙을 토대로 △인공지능 윤리 소양 △이용자 검증 역량 △책임성 등 9대 핵심요건을 제시했다.

강요식 이사장은 “정부의 디지털 권리장전 및 AI일상화 계획에 발맞춰 서울시민의 안전ㆍ편의를 높이기 위한 첨단 AI공공서비스 개발ㆍ확산에도 앞장서겠다”고 말했다.

서용원 기자 anton@

〈ⓒ 대한경제신문(www.dnews.co.kr), 무단전재 및 수집, 재배포금지〉