오픈소스 활용으로 대규모언어모델(LLM) 구축

기업 내부 서버(온프레미스)에 설치해 사용 … 보안성 강화

사진=삼성전자
사진=삼성전자

[월요신문=주윤성 기자]LG CNS는 코드 생성형 AI에 최적화된 대규모언어모델(Large Language Model, 이하 LLM)을 공개했다고 31일 밝혔다.

LG CNS는 지난해 6월 챗GPT 기반의 코드 생성형 AI 서비스인 'AI 코딩'을 개발해 다수의 사내 시스템 운영뿐만 아니라 고객사 'SI'프로젝트에도 활용 중이다. LG CNS는 'AI 코딩'을 금융·증권사 등 데이터의 외부 유출에 민감한 기업들도 활용할 수 있도록 'AI 코딩'의 두뇌 역할을 하는 LLM까지도 자체 개발했다고 소개했다.

고객사는 보유중인 서버, 클라우드 등 인프라에 LG CNS의 LLM을 설치하고 'AI 코딩'을 플러그인 방식으로 연결하면 된다. 이는 고객사가 가진 자체 인프라를 활용하기 때문에 소스코드 및 개인정보 유출에 대한 보안이 안정적이라고 회사측은 설명했다.

이번에 공개한 LLM과 'AI 코딩'을 도입하고자 하는 고객사를 위해 최적의 프롬프트(Prompt)를 구성하는 컨설팅도 진행한다.

프롬프트는 LLM의 답변 정확도를 높일 수 있도록 질문하는 노하우를 담아 질문을 최적화하는 기능이다. LG CNS의 프롬프트 엔지니어 등 생성형 AI 전문가들이 '코딩 표준·시스템 개발 환경·성능 기준' 등 고객사의 정보를 담은 프롬프트를 사전 구성함으로써 고객사가 즉시 'AI 코딩'을 활용할 수 있도록 한다.

'오케스트레이터'는 LLM이 고객사 데이터를 기반으로 사용자에게 답변하도록 연계해주는 도구로 정보 유출 방지 기능도 담겨있다. 금융사의 개발자가 고객이름, 생년월일, 자산규모 등 개인정보를 실수로 입력하더라도, 오케스트레이터가 이를 감지하고 마스킹 하는 등 가명정보 처리해 정보가 유출되지 않도록 하는 방식이다.

'AI 코딩'는 개발자의 요구사항에 따라 '코드변환·코드생성·코드추천·코드 품질검사' 등 다양하게 사용할 수 있다. 코드변환은 과거의 코드를 현재 시스템 버전에 맞는 코드로 변환해주며, 코드생성은 개발자가 자연어로 명령하는 내용에 따라, 기존 코드의 맥락을 분석해 자동으로 코드를 생성해준다.

김선정 LG CNS CTO 전무는 "고객사가 보유한 인프라 환경에도 설치해 사용할 수 있도록 AI 코딩에 최적화된 LLM을 확보했다"며, "AI 코딩을 통해 고객사가 디지털 서비스의 개발 생산성을 혁신할 수 있도록 할 것"이라고 강조했다.

저작권자 © 월요신문 무단전재 및 재배포 금지